fine-tuning 第2页

Fine-Tuning Language Models from Human Preferences

Abstract奖励学习（rewardlearning）可以将强化学习（RL）应用到由人类判断定义奖励的任务中，通过询问人类问题来构建奖励模型。奖励学习的大部分工作使用了模拟环境，但是关于价值的复杂信息经常是以自然语言的形式表达的。我们相信语言奖励学习是使强化学习在现实世界任务中实用且安全的关键。在本文中，我们基于语言模型生成式预训练方面的进展，将奖励学习应用于四种自然语言任务：continuin

chansonzhang·2023-12-31 07:54

工具系列：TimeGPT_(5)特定领域微调模型

Fine-tuning（微调）是一种更有效地利用TimeGPT的强大过程。基础模型在大量数据上进行预训练，捕捉广泛的特征和模式。然后可以将这些模型专门用于特定的上下文或领域。

愤斗的橘子·2023-12-30 03:40

【Kimi帮我看论文(二)】Parameter-Efficient Fine-Tuning Methods for Pretrained Language Models—Survey

一、论文信息1标题Parameter-EfficientFine-TuningMethodsforPretrainedLanguageModels:ACriticalReviewandAssessment2作者LinglingXu,HaoranXie,Si-ZhaoJoeQin,XiaohuiTao,FuLeeWang3研究机构HongKongMetropolitanUniversity,Hong

ZedKingCarry·2023-12-28 00:45

使用 PAI-Blade 加速 StableDiffusion Fine-Tuning

01背景StableDiffusion模型自从发布以来在互联网上发展迅猛，它可以根据用户输入的文本描述信息生成相关图片，用户也可以提供自己喜爱的风格的照片，来对模型进行微调。例如当我们输入"Aphotoofsksdoginabucket"，StableDiffusion模型会生成类似下面的图片：02PAI-Blade加速PyTorch训练PAI-Blade使用编译优化技术提高PyTorch程序的执

阿里云大数据AI技术·2023-12-27 00:49

【Active Learning - 02】Fine-tuning Convolutional Neural Networks for Biomedical Image Analysis...

主动学习系列博文：【ActiveLearning-00】主动学习重要资源总结、分享（提供源码的论文、一些AL相关的研究者）：https://blog.csdn.net/Houchaoqun_XMU/article/details/85245714【ActiveLearning-01】深入学习“主动学习”：如何显著地减少标注代价：https://blog.csdn.net/Houchaoqun_XM

Houchaoqun_XMU·2023-12-23 03:22

谷歌笔记应用Notebook LM，添加Gemini Pro模型并扩大应用范围；Fine-Tuning预训练模型

AI新闻谷歌更新AI笔记应用NotebookLM，添加GeminiPro模型并扩大应用范围摘要：谷歌在今年5月推出的AI笔记应用NotebookLM进行了更新，主要添加了最新的GeminiPro模型，并扩大了应用使用范围。NotebookLM可以为用户生成笔记摘要等内容，并基于用户笔记上下文产生见解。谷歌还表示，开发人员使用了一系列模型确保用户得到快速而妥当的响应。不过，谷歌强调NotebookL

go2coding·2023-12-17 23:43

为什么说人人都需要掌握ChatGPT技术和应用？

▼最近直播超级多，预约保你有收获今晚直播：《ChatGPT架构设计与应用案例实践》—1—ChatGPT架构设计剖析ChatGPT总体架构由三大部分构成：预训练（Pre-training）架构、微调（Fine-tuning

musicml·2023-12-15 16:14

从原理到实现教你搞定大模型在线推理架构

大模型在线推理架构设计与实践》—1—大模型在线推理工程架构设计LLM大模型整体架构由离线和在线两部分构成（架构如下图所示），离线部分主要是基于Transformer架构的预训练（Pre-training）和微调（Fine-tuning

musicml·2023-12-15 16:03

预训练（pre-learning）、微调（fine-tuning）、迁移学习（transfer learning）

预训练（pre-learning）搭建一个网络模型来完成一个特定的图像分类的任务。首先，你需要随机初始化参数，然后开始训练网络，不断调整参数，直到网络的损失越来越小。在训练的过程中，一开始初始化的参数会不断变化。当你觉得结果很满意的时候，你就可以将训练模型的参数保存下来，以便训练好的模型可以在下次执行类似任务时获得较好的结果。这个过程就是pre-training。预训练模型：预训练模型就是已经用数

可keke·2023-12-14 13:04

小白理解GPT的“微调“（fine-tuning）

然而，OpenAI提供了一种叫做"微调"（fine-tuning）的方法，让我们可以在预训练好的模型基础上进行进一步的训练，使模型适应特定的任务或领域。

chunmiao3032·2023-12-06 20:52

机器学习中Fine-tuning应用实例

Fine-tuning（微调）是机器学习中一种常见的训练策略，其主要作用是在一个已经在大规模数据上预训练的模型基础上，通过使用特定任务的小规模数据集来进行额外的训练。

金木讲编程·2023-12-06 04:51

P-Tuning v2论文概述

P-Tuningv2论文概述前言微调的限制性P-Tuning的缺陷P-Tuningv2摘要论文十问NLU任务优化点实验数据集预训练模型实验结果消融实验结论P-Tuningv2论文概述前言微调的限制性微调（fine-tuning

江小皮不皮·2023-12-04 00:40

Prefix-Tuning 论文概述

Prefix-Tuning论文概述前缀调优：优化生成的连续提示前言摘要论文十问实验数据集模型实验结论摘要任务泛化性能前缀调优：优化生成的连续提示前言大规模预训练语言模型(PLM)在下游自然语言生成任务中广泛采用fine-tuning

江小皮不皮·2023-12-04 00:39

【nlp】4.5 迁移学习实践项目（相关概念、中文分类、填空、句子关系、模型微调）

定义与基本思想1.2迁移学习的基本概念1.3迁移学习的类型1.4迁移学习的应用1.5迁移学习的优势1.6迁移学习的缺点1.7迁移学习有关概念1.7.1预训练模型(Pretrainedmodel)1.7.2微调(Fine-tuning

lys_828·2023-11-29 13:38

LLM Fine-Tuning大模型FT方法

Herewediscussfine-tuningLlama2withacoupleofdifferentrecipes.Wewillcovertwoscenarioshere:1.ParameterEfficientModelFine-TuningThishelpsmakethefine-tuningprocessmoreaffordableevenon1consumergradeGPU.Thes

WitsMakeMen·2023-11-29 11:20

2023.10DataWhale扩散模型学习笔记——Week2

diffusion-models-class/tree/main/unit2推荐阅读材料：《扩散模型-从原理到实战》第五章本文为大家介绍扩散模型的三种进阶操作方式：1.微调2.引导3.Conditioning微调（Fine-tuning

godlikesun97·2023-11-29 01:31

阅读笔记——《Removing RLHF Protections in GPT-4 via Fine-Tuning》

【参考文献】ZhanQ,FangR,BinduR,etal.RemovingRLHFProtectionsinGPT-4viaFine-Tuning[J].arXivpreprintarXiv:2311.05553,2023.【注】本文仅为作者个人学习笔记，如有冒犯，请联系作者删除。目录摘要一、介绍二、背景三、方法四、实验五、案例研究六、负责的公开七、结论摘要LLM公司为了减少它们的大语言模型产生

恣睢s·2023-11-27 21:48

3分钟探索生成式AI｜针对现有的大语言模型做微调

为什么需要模型微调（Fine-tuning）？什么是LoRA/QLoRA？谈谈人工智能的知识底座。

亚马逊云开发者·2023-11-26 07:44

033、微调

之——高级炼丹术目录之——高级炼丹术杂谈正文1.标注数据集是很贵的2.微调的思想3.尝试小结杂谈微调（Fine-tuning）是深度学习中的一种常见策略，它通常用于预训练模型在特定任务上的性能提升。

Here we are——wxl·2023-11-19 00:33

【论文】P-Tuning v2: Prompt Tuning Can Be Comparable to Fine-tuning Universally Across Scales and Tasks

1.论文介绍1.1之前的方法存在的局限性缺乏跨尺度的普遍性。模型参数较少时，远不如微调任务间缺乏通用性。有效性可能只能局限在一些特定的任务中1.2当前方法的改进如上图所示，不同层中的promote被添加为前缀令牌1.3优化与实现embeddingVSMLP重参数化作者的观点是：它的有用性取决于任务和数据集。（如上图Prompt长度一般来说，简单的分类任务喜欢较短的提示(少于20个);硬序列标记任务

weixin_50862344·2023-11-17 05:01

caffe使用step by step：caffe框架下的基本操作和分析

框架环境比较简单，但是完整的从数据准备->模型训练->调参数->合理结果需要一个比较长的过程，这个过程中你需要对caffe中很多东西，细节进行深入的理解，这样才可以知道为什么能有这样的结果，在训练或者fine-tuning

weixin_30699955·2023-11-14 17:38

Caffe使用step by step：caffe框架下的基本操作和分析

框架环境比较简单，但是完整的从数据准备->模型训练->调参数->合理结果需要一个比较长的过程，这个过程中你需要对caffe中很多东西，细节进行深入的理解，这样才可以知道为什么能有这样的结果，在训练或者fine-tuning

Omni-Space·2023-11-14 16:32

Caffe框架的基本操作和分析

框架环境比较简单，但是完整的从数据准备->模型训练->调参数->合理结果需要一个比较长的过程，这个过程中你需要对caffe中很多东西，细节进行深入的理解，这样才可以知道为什么能有这样的结果，在训练或者fine-tuning

LittleStudent12·2023-11-14 16:27

Fine-Tuning Paradigm

Fine-TuningParadigm（微调范式）是指在深度学习模型中，训练一个已经预训练过的模型，通过对其进行微调以适应新的任务。以下是一个通俗易懂的解释：想象一个预训练的深度学习模型就像一个学了些基本知识的学生。这个学生具备一定的知识，但可能还不够精通某个特定领域。在这种情况下，老师（我们）可以在这个学生已有的知识基础上，教他更多关于特定领域的知识。这个过程就相当于对学生的知识进行“微调”。在

chunmiao3032·2023-11-13 03:18

【文生图】Stable Diffusion XL 1.0模型Full Fine-tuning指南（U-Net全参微调）

文章目录前言重要教程链接以海报生成微调为例总体流程数据获取POSTER-TEXTAutoPosterCGL-DatasetPKUPosterLayoutPosterT80KMovie&TVSeries&AnimePosters数据清洗与标注模型训练模型评估生成图片样例宠物包商品海报护肤精华商品海报一些TipsMata：EMU（ExpressiveMediaUniverse）ideogramDALL

liuz_notes·2023-11-05 14:35

论文研读｜An Embarrassingly Simple Approach for Intellectual Property Rights Protection on RNNs

目录论文信息文章简介研究动机研究方法白盒水印水印信号构造黑盒水印触发集构造水印嵌入实验结果保真度&有效性鲁棒性抗移除攻击（RemovalAttack）抗模型剪枝（ModelPruning）抗微调攻击（Fine-Tuning

_Meilinger_·2023-11-04 02:22

LLM大语言模型训练中常见的技术：微调与嵌入

微调（Fine-Tuning）：微调是一种用于预训练语言模型的技术。在预训练阶段，语言模型（如GPT-3.5）通过大规模的文本数据集进行训练，从而学会了语言的语法、语义和世界知识。

MavenTalk·2023-11-02 15:07

2023-arxiv-LLaMA-Adapter Efficient Fine-tuning of Language Models with Zero-init Attention

2023-arxiv-LLaMA-AdapterEfficientFine-tuningofLanguageModelswithZero-initAttentionPaper:https://arxiv.org/pdf/2303.16199.pdfCode:https://github.com/OpenGVLab/LLaMA-Adapter/tree/v.1.0.0LLaMA-Adapter：使用

发呆的比目鱼·2023-11-01 11:38

2023-ICLR-Adaptive Budget Allocation for Parameter-Efficient Fine-Tuning

2023-ICLR-AdaptiveBudgetAllocationforParameter-EfficientFine-TuningPaper:https://openreview.net/forum?id=lq62uWRJjiYCode:https://github.com/QingruZhang/AdaLoRA自适应计算分配，实现参数高效微调为了实现动态地调节Lora的rank的大小，首先将

发呆的比目鱼·2023-11-01 11:54

2022-arxiv-P-Tuning v2 Prompt Tuning Can Be Comparable to Fine-tuning Universally Across Scales and

2022-arxiv-P-Tuningv2PromptTuningCanBeComparabletoFine-tuningUniversallyAcrossScalesandTasksP-Tuningv2：快速调优可以与跨规模和任务的普遍微调相媲美提示微调，只用一个冻结的语言模型来微调连续的提示，大大减少了训练时每个任务的存储和内存使用。然而，在NLU的背景下，先前的工作显示，提示微调对于正常大小

发呆的比目鱼·2023-10-30 11:00

【网安专题10.25】论文8：华为团队+静默漏洞检测（识别+多分类）+数据增强、样本扩充+对比学习+微调+结果分析（降到二维空间，分类错误样本的归纳，具体应用场景优势，有效性威胁分析）

写在最前面论文主要贡献启发论文主要工作对论文工作的一些启发摘要目标问题:静默依赖修复问题现有工作本文工作主要贡献Proposedapproach提出的方法PPT中"Proposedapproach"和"Methodology"的区别背景知识知识迁移微调（Fine-tuning

是Yu欸·2023-10-27 22:34

01_finetuning_and_guidance_CN

Fine-TuningandGuidance在这一节的笔记本中，我们将讲解两种主要的基于现有模型实现改造的方法：通过微调（fine-tuning），我们将在新的数据集上重新训练已有的模型，来改变它原有的输出类型通过引导

Mr_yuekitty·2023-10-27 06:55

GPT-1、GPT-2和GPT-3模型详解及其进化之路

GPT的核心思想是先通过无标签的文本去训练生成语言模型，再根据具体的NLP任务（如文本蕴涵、QA、文本分类等），来通过有标签的数据对模型进行fine-tuning。

-柚子皮-·2023-10-26 12:16

[BELLE] A comparative study between full-parameter and LoRA-based fine-tuning on chinese instruction

1.introduction在模型训练领域，两种广泛使用的方法是全参数微调和参数高效微调。2.experiments选择了BELLE-0.6M，BELLM-2M，BELLE-4M三个数据集。通过结合这三个数据集，旨在研究不同数据规模对基于lora的调优性能的影响。评估集包含了1000个经过严格的人工筛选和处理的数据条目，涵盖9个类别，包括翻译、开放型问答、封闭性问答、生成以及其他。2.1model

Kun Li·2023-10-26 08:58

tensorflow官方教程-高级-图像-迁移学习和微调,fine-tuning

colab链接数据预处理importmatplotlib.pyplotaspltimportnumpyasnpimportosimporttensorflowastffromtensorflow.keras.preprocessingimportimage_dataset_from_directory下载数据在本教程中，您将使用一个包含数千张猫和狗图像的数据集。下载并解压缩包含图像的zip文件，然

cvvoid·2023-10-24 08:54

XLNet

缺点是1、输入侧引入[Mask]标记，导致预训练阶段和Fine-tuning阶段不一致的问题。2、Bert是基于被Mask的token

京漂的小程序媛儿·2023-10-23 19:48

BERT要点理解

包含两个步骤：pre-training以及fine-tuning预训练阶段，使用无标签数据在不同的预训练任务上训练微调阶段，首先使用预训练的参数进行初始化，然后根据下游任务的标签数据进行微调，不同的下游任务有不同的微调模型

Unintented·2023-10-22 14:18

Parameter-Efficient Transfer Learning for NLP

然而在面临大量的下游任务是，fine-tuning是parameterinefficient的，因为每个下游任务都需要一整个模型。我们提出可以使用Adapter模块来进行迁移学习。

chansonzhang·2023-10-21 18:13

大模型LLM相关面试题整理-PEFT

微调（Fine-tuning）是一种迁移学习的技术，用于在一个已经预训练好的模型基础上，通过进一步训练来适应特定的任务或数据集。

zhurui_xiaozhuzaizai·2023-10-18 05:49

深度学习目标检测——anchor锚框

目录一：回顾二：生成锚框生成多个锚框：每个像素点生成不同的框所有项目代码+UI界面一：回顾上一节课我们了解了迁移学习中的微调（Fine-tuning）是指在已经预训练好的模型基础上，对部分或全部模型参数进行调整以适应新任务

QTreeY123·2023-10-17 23:04

OpenAI 为 GPT-3.5 Turbo 推出微调功能 (fine-tuning)

OpenAI为GPT-3.5Turbo推出微调功能(fine-tuning)。微调允许用户可以在自己的数据上训练模型并大规模运行。

深圳市晶立弘泰电子·2023-10-17 05:28

OpenAI开放gpt-3.5turbo微调fine-tuning测试教程

文章目录openai微调fine-tuning介绍openai微调地址jsonl格式数据集准备点击上传文件openai微调fine-tuning介绍openai微调地址网址：https://platform.openai.com

Cachel wood·2023-10-17 05:24

LLM-微调-全参数微调：Full-Param Fine-tuning（100% parameters）

fine-tuning的过程就是用训练好的参数（从已训练好的模型中获得）初始化自己的网络，然后用自己的数据接着训练，参数的调整方法与fromscratch训练过程一样（梯度下降）。

u013250861·2023-10-17 03:16

Pruning Pre-trained Language Models Without Fine-Tuning

本文是LLM系列文章，针对《PruningPre-trainedLanguageModelsWithoutFine-Tuning》的翻译。修剪未微调的预训练语言模型摘要1引言2相关工作3背景4静态模型剪枝5实验6分析7结论8局限性摘要为了克服预训练语言模型(PLMs)中的过度参数化问题，剪枝作为一种简单直接的压缩方法被广泛使用，它直接去除不重要的权重。先前的一阶方法成功地将plm压缩到极高的稀疏度

UnknownBody·2023-10-17 00:26

大模型-DeltaTuning-增量式03：Prompt-Tuning（连续型）（P-tuning v1）【只在输入层加入可训练参数层】

一、前言Bert时代，我们常做预训练模型微调（Fine-tuning），即根据不同下游任务，引入各种辅助任务loss和垂直领域数据，将其添加到预训练模型中，以便让模型更加适配下游任务的方式。

u013250861·2023-10-16 01:14

微调Yolov8动物姿势估计模型

本文主要以狗的姿势估计为例，展示如何对当下流行的YOLOv8姿势模型进行Fine-tuning，并附录完整代码。

穿着帆布鞋也能走猫步·2023-10-15 19:14

迁移学习中的常见技巧:微调（fine-tuning）

目录一：回顾二：微调2.1热狗识别获取数据集定义和初始化模型微调模型所有项目代码+UI界面一：回顾上一篇我们理解了深度学习中的跟RestNet结构很相似的网络——DenseNet，它是一种密集连接卷积神经网络，由李沐等人于2017年提出。与ResNet等传统卷积神经网络不同，DenseNet中每个层都直接与前面的所有层相连，这种直接的密集连接架构有助于信息和梯度在网络中的流通，从而在训练中提高了梯

QTreeY123·2023-10-13 13:51

LLaMA-Adapter: Efficient Fine-tuning of Language Models with Zero-into Attention论文解读

LLaMA-Adapter:EfficientFine-tuningofLanguageModelswithZero-intoAttention论文解读IntroductionLLaMA-AdapterLearnableAdaptionPromptsZero-initAttention实验Introduction作者之处最近大语言模型获得了学术界与工业界广泛的关注，LLMs展现出了很不错的能力。用

HanZee·2023-10-13 08:50

KDD 2022 | 图“预训练、提示、微调”范式下的图神经网络泛化框架

本文首次提出“Pre-training、Prompt、Fine-tuning”的概念将下游任务进行重构，使其具有与Prete

PaperWeekly·2023-10-13 07:36

轻量化微调 Parameter-Efficient Fine-Tuning

导读近年来，大规模预训练模型在自然语言处理任务上取得了巨大的成功。对预先训练好的语言模型进行微调是目前自然语言处理任务中的普遍范式，在许多下游任务上表现出了极好的性能。全参数微调，即对模型的所有参数进行训练，是目前将预训练模型应用到下游任务的最通用方法。然而，全微调的一大弊病是对于每一个任务，模型均需要保留一份大规模的参数备份，在下游任务量很大时这种做法会相当昂贵。在预训练模型越来越大，不断逼近到

还卿一钵无情泪·2023-10-10 12:26

推荐频道

fine-tuning

Fine-Tuning Language Models from Human Preferences

工具系列：TimeGPT_(5)特定领域微调模型

【Kimi帮我看论文(二)】Parameter-Efficient Fine-Tuning Methods for Pretrained Language Models—Survey

使用 PAI-Blade 加速 StableDiffusion Fine-Tuning

【Active Learning - 02】Fine-tuning Convolutional Neural Networks for Biomedical Image Analysis...

谷歌笔记应用Notebook LM，添加Gemini Pro模型并扩大应用范围；Fine-Tuning预训练模型

为什么说人人都需要掌握ChatGPT技术和应用？

从原理到实现教你搞定大模型在线推理架构

预训练（pre-learning）、微调（fine-tuning）、迁移学习（transfer learning）

小白理解GPT的“微调“（fine-tuning）

机器学习中Fine-tuning应用实例

P-Tuning v2论文概述

Prefix-Tuning 论文概述

【nlp】4.5 迁移学习实践项目（相关概念、中文分类、填空、句子关系、模型微调）

LLM Fine-Tuning大模型FT方法

2023.10DataWhale扩散模型学习笔记——Week2

阅读笔记——《Removing RLHF Protections in GPT-4 via Fine-Tuning》

3分钟探索生成式AI｜针对现有的大语言模型做微调

033、微调

【论文】P-Tuning v2: Prompt Tuning Can Be Comparable to Fine-tuning Universally Across Scales and Tasks

caffe使用step by step：caffe框架下的基本操作和分析

Caffe使用step by step：caffe框架下的基本操作和分析

Caffe框架的基本操作和分析

Fine-Tuning Paradigm

【文生图】Stable Diffusion XL 1.0模型Full Fine-tuning指南（U-Net全参微调）

论文研读｜An Embarrassingly Simple Approach for Intellectual Property Rights Protection on RNNs

LLM大语言模型训练中常见的技术：微调与嵌入

2023-arxiv-LLaMA-Adapter Efficient Fine-tuning of Language Models with Zero-init Attention

2023-ICLR-Adaptive Budget Allocation for Parameter-Efficient Fine-Tuning

2022-arxiv-P-Tuning v2 Prompt Tuning Can Be Comparable to Fine-tuning Universally Across Scales and

【网安专题10.25】论文8：华为团队+静默漏洞检测（识别+多分类）+数据增强、样本扩充+对比学习+微调+结果分析（降到二维空间，分类错误样本的归纳，具体应用场景优势，有效性威胁分析）

01_finetuning_and_guidance_CN

GPT-1、GPT-2和GPT-3模型详解及其进化之路

[BELLE] A comparative study between full-parameter and LoRA-based fine-tuning on chinese instruction

tensorflow官方教程-高级-图像-迁移学习和微调,fine-tuning

XLNet

BERT要点理解

Parameter-Efficient Transfer Learning for NLP

大模型LLM相关面试题整理-PEFT

深度学习目标检测——anchor锚框

OpenAI 为 GPT-3.5 Turbo 推出微调功能 (fine-tuning)

OpenAI开放gpt-3.5turbo微调fine-tuning测试教程

LLM-微调-全参数微调：Full-Param Fine-tuning（100% parameters）

Pruning Pre-trained Language Models Without Fine-Tuning

大模型-DeltaTuning-增量式03：Prompt-Tuning（连续型）（P-tuning v1）【只在输入层加入可训练参数层】

微调Yolov8动物姿势估计模型

迁移学习中的常见技巧:微调（fine-tuning）

LLaMA-Adapter: Efficient Fine-tuning of Language Models with Zero-into Attention论文解读

KDD 2022 | 图“预训练、提示、微调”范式下的图神经网络泛化框架

轻量化微调 Parameter-Efficient Fine-Tuning