TUNING】

深度学习一点通：chatGPT 用到的RLHF流程，和 fine tuning有何区别？

想知道RLHF方法与微调方法之间的区别是什么？微调实际上是RLHF方法的第一步。继续阅读。利用来自人类反馈的强化学习（RLHF）已被证明是一种有效的方法，可以使基础模型与人类偏好相一致。这种技术涉及对模型进行微调，在最近人工智能的进展中发挥了关键作用，如OpenAI的ChatGPT模型和Anthropic的Claude模型的成功所示。RLHF的实施在模型的可用性和性能方面带来了微妙但重要的改进。这
robot_learner·2023-06-22 07:39

Linux 增加TCP吞吐量

参考文档:https://www.rabbitmq.com/networking.html#tuning-for-large-number-of-connectionshttps://fasterdata.es.net
唯米天空·2023-06-21 15:44

零样本参考图像分割 ReCLIP: A Strong Zero-Shot Baseline for Referring Expression Comprehension 论文阅读笔记

AStrongZero-ShotBaselineforReferringExpressionComprehension论文阅读笔记一、Abstract二、引言三、背景3.1问题描述3.2预训练的模型架构3.3ColorfulPromptTuning
乄洛尘·2023-06-20 16:32

大模型高效调参—PEFT库（ Parameter-Efficient Fine-Tuning）

介绍在面对特定的下游任务时，如果进行FullFineTuning（即对预训练模型中的所有参数都进行微调），太过低效；而如果采用固定预训练模型的某些层，只微调接近下游任务的那几层参数，又难以达到较好的效果
桂花很香,旭很美·2023-06-20 12:59

通俗易懂的LLM

目录前言一、Tuning1、Fine-Tuning（微调）2、Prompt-Tuning（提示微调）2.1In-contextlearning（上下文学习）2.2Pattern-Verbalizer-Pair
长竹Danko·2023-06-20 12:58

大模型-DeltaTuning：①增量式（原模型参数不变，插入可微调参数层）、②指定式（原模型参数冻结一部分参数，微调一部分参数）、③重参数化式（将原模型参数层改造，比如插入低秩）

TowardsaUnifiedViewofParameter-EfficientTransferLearning》GitHub-thunlp/PromptPapers:Must-readpapersonprompt-basedtuningforpre-trainedlanguagemodels.GitHub-thunlp
u013250861·2023-06-20 12:28

大模型-微调技术：PEFT库

project/peft/目前peft0.3.0code地址：GitHub-huggingface/peft:PEFT:State-of-the-artParameter-EfficientFine-Tuning
u013250861·2023-06-20 12:28

大模型-DeltaTuning-重参数式：LoRA（Low-Rank Adaptation）

但随着模型规模的不断扩大，微调模型的所有参数（所谓fullfine-tuning）的可行性变得越来越低。以GPT-3的175B参数为例，每增加一个新领域就需要完整微调一个新模型，代价和成本很高。
u013250861·2023-06-20 12:28

让天下没有难Tuning的大模型：PEFT技术简介

©作者|风飏单位|阿里巴巴研究方向|AIOps/NLP来自|PaperWeekly进NLP群—>加入NLP交流群最近，深度学习的研究中出现了许多大型预训练模型，例如GPT-3、BERT等，这些模型可以在多种自然语言处理任务中取得优异的性能表现。而其中，ChatGPT模型因为在对话生成方面的表现而备受瞩目，成为了自然语言处理领域的热门研究方向。然而，这些大型预训练模型的训练成本非常高昂，需要庞大的计
zenRRan·2023-06-20 12:27

让天下没有难Tuning的大模型-PEFT（参数效率微调）技术简介

singleDoc#《让天下没有难Tuning的大模型-PEFT技术简介》最近，深度学习的研究中出现了许多大型预训练模型，例如GPT-3、BERT等，这些模型可以在多种自然语言处理任务中取得优异的性能表现
AI生成曾小健·2023-06-20 12:25

GPT大语言模型Vicuna本地化部署实践（效果秒杀Alpaca） | 京东云技术团队

总体感觉其实并不是特别理想，原始Alpaca-lora模型对中文支持并不好，用52k的中文指令集对模型进行fine-tuning之后，效果依然达不到网上说的媲美GPT-3.5的推理效果，验证了那句话：“
·2023-06-20 10:24

[Arxiv 2023] SpecInfer:Accelerating LLM Serving with Speculative Inference + Token Tree Verification

ContentsIntroductionMethodSpeculativeInferenceCollectiveBoost-TuningLearning-basedSpeculativeSchedulerTokenTreeVerifierTreeAttentionVerificationOptimizationsEvaluationReferencesIntroductionLLMs
连理o·2023-06-20 09:43

ChatGPT的预训练模型是基于什么原理和方法？

ChatGPT是一个基于自然语言处理的对话生成模型，采用了预训练-微调（Pre-trainingandFine-tuning）的思想。
心似浮云️·2023-06-20 09:53

【论文精读ACL_2021】Prefix-Tuning: Optimizing Continuous Prompts for Generation

【论文精读ACL_2021】Prefix-Tuning:OptimizingContinuousPromptsforGeneration0、前言Abstract1Introduction2RelatedWork2.1Fine-tuningfornaturallanguagegeneration
旋转的油纸伞·2023-06-19 21:49

【论文精读】InstructUIE: Multi-task Instruction Tuning for Unified Information Extraction

InstructUIE:Multi-taskInstructionTuningforUnifiedInformationExtraction前言Abstract1.Introduction2.Methodology2.1InstructionTuningBackground2.2Framework2.2.1TaskSchemaTaskInstructionOptionsTextOutput2.2
HERODING77·2023-06-19 07:03

【论文精读】HugNLP: A Unified and Comprehensive Library for Natural Language Processing

AUnifiedandComprehensiveLibraryforNaturalLanguageProcessing前言Abstract1.Introduction2.Background2.1Pre-trainedLanguageModels2.2Fine-tuningforPLMs3
HERODING77·2023-06-19 07:32

大模型微调方法调研

文章目录Freeze方法PT方法Lora方法AdaloraPromptTuningAdapterTuningPrefixtuning遗留问题Freeze方法对原始模型部分参数进行冻结操作，仅训练部分参数
YingJingh·2023-06-19 04:23

GPT与GPT-2

GPT与GPT-2GPT-2与GPT一样，都使用的是单向语言模型一、GPTGPT的底层架构是transformer，是由pre-training和fine-tuning两部分构成的。
还卿一钵无情泪·2023-06-18 20:02

【AIGC】16、Vision-Language 模型在视觉任务中的调研

文章目录一、简介二、基础知识2.1视觉任务的训练策略2.2VLM基础2.2.1网络结构2.2.2预训练目标函数2.2.3评估和下游任务2.3数据集三、迁移学习3.1使用prompttuning实现迁移学习
呆呆的猫·2023-06-18 12:24

2022 年 4 月 10篇 ML 研究论文推荐

1、TensorProgramsV:TuningLargeNeuralNe
·2023-06-18 10:47

多模态大模型综述: LLaVA, MiniGPT4

文章目录LLaVA一.简介1.1.摘要1.2.引言二.相关工作LLaVA一.简介题目:VisualInstructionTuning机构：微软论文:https://arxiv.org/pdf/2304.08485
猴猴猪猪·2023-06-18 10:40

【BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding 论文略读】

INFORMATIONAbstract1Introduction2RelatedWork2.1UnsupervisedFeature-basedApproaches2.2UnsupervisedFine-tuningApproaches2.3TransferLearningfromSupe
小白*进阶ing·2023-06-18 07:14

【Soft-prompt Tuning for Large Language Models to Evaluate Bias 论文略读】

Soft-promptTuningforLargeLanguageModelstoEvaluateBias论文略读INFORMATIONAbstract1Introduction2Relatedwork3Methodology3.1Experimentalsetup4Results5Discussion
小白*进阶ing·2023-06-18 07:11

大语言模型(LLMs)综合调研

目录简介现象涌现能力关键技术相关资源开源模型或API数据集开源库预训练数据选择数据预处理模型架构模型训练模型微调指令微调InstructionTuning人机对齐AlignmentTuning下游任务上下文学习
dra_p0p3n·2023-06-17 17:37

论文阅读：Towards a Unified View of Parameter-Efficient Transfer Learning对参数高效迁移学习的统一看法

2021年开始有越来越多的人关注这一方向并有不同的方法被提出，代表工作有prefixtuning,P-tuning,prompttuning,bitfit,LoRA等。本文中
若年封尘·2023-06-17 17:45

Prefix-Tuning: Optimizing Continuous Prompts for Generation

《Prefix-Tuning:OptimizingContinuousPromptsforGeneration》阅读笔记论文题目：Prefix-Tuning:OptimizingContinuousPromptsforGeneration
AI生成曾小健·2023-06-17 13:19

GPT大语言模型Vicuna本地化部署实践（效果秒杀Alpaca） | 京东云技术团队

总体感觉其实并不是特别理想，原始Alpaca-lora模型对中文支持并不好，用52k的中文指令集对模型进行fine-tuning之后，效果依然达不到网上说的媲美GPT-3.5的推理效果，验证了那句话：“
京东云技术团队·2023-06-17 11:18

Adapter Tuning：详细解读Parameter-Efficient Transfer Learning for NLP

DiffusionModels专栏文章汇总：入门与实战前言：大语言模型实在是太火了，各种技术日新月异，研究diffusionmodels的从LLMs中找一些研究灵感已经是基操了。当模型比较小的时候，微调全部参数还是可以的。但是现在的大预训练模型时代，微调所有参数不仅效果堪忧，对资源的消耗也非常恐怖，所以这就是做有效微调的初衷。为了研究清楚如何进行有效的大模型微调，我打算沿着AdapterTunin
沉迷单车的追风少年·2023-06-17 07:38

论文笔记 | 谷歌 Soft Prompt Learning ，Prefix-Tuning的 -＞ soft promt -＞ p tuning v2

论文笔记|谷歌SoftPromptLearningptuning->Prefix-Tuning->softpromt->ptuningv2"ThePowerofScaleforParameter-EfficientPromptTuning"EMNLP2021GoogleBrain
AI生成曾小健·2023-06-17 06:42

大模型入门（六）—— RLHF微调大模型

一、RLHF微调三阶段参考：https://huggingface.co/blog/rlhf1）使用监督数据微调语言模型，和fine-tuning一致。
柴神·2023-06-16 18:52

冻结LM微调Prompt: Prefix-tuning & Prompt-tuning & P-tuning

这一章我们介绍在下游任务微调中固定LM参数，只微调Prompt的相关模型。这类模型的优势很直观就是微调的参数量小，能大幅降低LLM的微调参数量，是轻量级的微调替代品。和前两章微调LM和全部冻结的prompt模板相比，微调Prompt范式最大的区别就是prompt模板都是连续型（Embedding），而非和Token对应的离散型模板。核心在于我们并不关心prompt本身是否是自然语言，只关心prom
AI生成曾小健·2023-06-16 15:45

陈丹琦团队提出低内存高效零阶优化器MeZO，单卡A100可训练300亿参数模型

本文旨在介绍一种用于fine-tuning语言模型（LM）的低内存优化器——MeZO，内存减少多达12倍。使用单个A100800GGPU，MeZO可以训练一个300亿参数的模型。
zenRRan·2023-06-16 14:38

【MeZO】《Fine-Tuning Language Models with Just Forward Passes》译读笔记

《Fine-TuningLanguageModelswithJustForwardPasses》MeZO是一种内存高效的零阶优化器，它可以用于微调大规模的语言模型，而不需要计算梯度。
songyuc·2023-06-16 13:37

Collections源码

java集合框架中的一个工具类，主要用于Collectiont提供的通用算法，比如：排序(sort)、二分查找(binarySearch)、洗牌(shuffle)、旋转(rotate)常量&变量/**Tuningparametersforalgorithms-ManyoftheListalgorithmshave
Dongguo丶·2023-06-16 09:17

从0到1复现ChatGLM的p-tuning和lora 微调

目录1、基础环境配置2、临时更改当前环境3、安装chatglm的使用环境1.安装Python3.82.安装各种包4、跑通原本的chatglm：5、p-tuning微调：6、lora微调1、基础环境配置下载
samoyan·2023-06-16 07:51

计算机控制系统的品质指标,过程控制系统的品质指标.PPT

这就是参数整定(Tuning)。过程控制系统的品质指标一个性能良好的过程控制系统，在受到外来扰动
urcarlllll·2023-06-16 03:50

XGBoost-Python完全调参指南-参数解释篇

在analyticsvidhya上看到一篇《CompleteGuidetoParameterTuninginXGBoostinPython》,写的很好。因此打算翻译一下这篇文章，也让自己有更深的印象。
hellozhxy·2023-06-15 14:28

XGBoost中参数调优的完整指南（含Python-3.X代码）

tab=repositories原文链接：https://www.analyticsvidhya.com/blog/2016/03/complete-guide-parameter-tuning-xgboost-with-codes-py
渔好学·2023-06-15 14:27

《论文阅读》连续前缀提示Prompt：table-to-text和摘要生成 ACL2021

今天为大家带来的是《Prefix-Tuning:Op
365JHWZGo·2023-06-15 13:47

oracle数据库sql调优,oracle SQL 调优（转载）

oracleSQL调优引自：http://bulo.aeeboo.com/group/topic/1815/ORACLESQLTUNING一．优化器模式ORACLE的优化器共有3种:a.RULE(基于规则
凉风祭·2023-06-15 06:38

李沐读论文笔记--大模型时代下做科研的四个思路

大模型时代下做科研的四个思路0.视频来源：1.提高效率（更快更小）1.1PEFT介绍(parameterefficientfinetuning)1.2作者的方法1.3AIM效果1.3.1AIM在K400
7个七·2023-06-15 00:29

【DL】LoRA的学习笔记

2源码学习2.1学习资料【视频】《[LLMs实践]04PEFT/LoRA源码分析》PEFT：由huggingface团队开发的参数高效微调（Parameter-EfficientFine-Tuning，
songyuc·2023-06-14 15:32

LLM：Prompt-Tuning微调新范式

背景Pre-training+Fine-tuning模式：先在Pre-training阶段通过一个模型在大规模无监督语料上预先训练一个预训练语言模型（Pre-trainedLanguageModel，PLM
-柚子皮-·2023-06-14 14:46

大模型微调开源项目整理||干货

liucongg/ChatGLM-Finetuning:基于ChatGLM-6B模型，进行下游具体任务微调，涉及Freeze、Lora、P-tuning等(github.com)mymusise/ChatGLM-Tuning
思考实践·2023-06-14 12:21

RV1126 isp开发文档记录

Rockchip_IQ_Tools_Guide_ISP2x_v1.3.pdf主要介绍：RKISP2.xTuner(以下简称Tuner)提供了一套便于用户调试ISP参数的工具,用户可以在Tuner中对所有ISP模块开展标定(Calibration)、调试(Tuning
xian0gang·2023-06-14 11:41

LLM 大模型

namemodelweightsnoteLLaMA7B,13B,33B,65BVicunavicuna-7bVicunavicuna-13bAlpacaAlpaca-7B基于LLaMA，使用LoRA做Fine-Tuning
法海你懂不·2023-06-14 09:36

DEBERTA: DECODING-ENHANCED BERT WITH DIS- ENTANGLED ATTENTION glue榜首论文解读

概览二、详细内容abstracta.两个机制来improvebert和robertaⅰ.disentangledattentionmechanismⅱ.enhancedmaskdecoderb.fine-tuning
HxShine·2023-06-14 08:31

脚踩Midjourney、Stable Diffusion，谷歌StyleDrop真要杀疯了！

脚踩Midjourney、StableDiffusion，谷歌StyleDrop真要杀疯了导语StyleDrop组件MuseMuse架构Muse图像生成实现流程适配器微调AdapterTuningMuse
羽林小王子·2023-06-14 02:27

基于chatGLM-6B模型预训练，添加自己的数据集微调（linux版）（ptuning & lora）

目录准备工作安装7zptuning预训练ChatGLM-6B-Ptuning.7z懒人包下载上传文件并解压缩拉取依赖进行训练启动服务注意事项（揽睿星舟云算力平台）lora预训练chatGLM-All-In-One
小生浩浩·2023-06-13 15:22

ssbuild大佬的chatglm_finetuning项目---data_utils.py代码解读

#@Time:2023/1/2216:22#@Author:tk#@FileName:data_utils.pyimportcopyimportjsonimportosimportrandomimporttypingfromenumimportEnumimportnumpyasnpimporttorchfromdeep_training.data_helperimportDataHelper,Mo
柴多多·2023-06-13 15:20
上一页 11 12 13 14 15 16 17 18 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他