sft

Prompt 设计与大语言模型微调，没有比这篇更详细的了吧！

本文主要介绍了Prompt设计、大语言模型SFT和LLM在手机天猫AI导购助理项目应用。
Python算法实战·2023-11-13 13:05

论文笔记--Baichuan 2: Open Large-scale Language Models

论文笔记--Baichuan2:OpenLarge-scaleLanguageModels1.文章简介2.文章概括3文章重点技术3.1预训练3.1.1预训练数据3.1.2模型架构3.2对齐3.2.1SFT3.2.2RewardModel
Isawany·2023-11-13 11:15

多语言SFT可以显著提高LLM数学推理能力

来自：NLP工作站写在前面今天给大家带来一篇《多语言SFT可以显著提高LLM数学推理能力》，来自知乎@promise（已授权）Paper: https://arxiv.org/abs/2310.20246Github
zenRRan·2023-11-09 08:40

0成本LLM微调上手项目，⚡️一步一步使用colab训练法律LLM，基于microsoft/phi-1_5，包含lora微调，全参微调

nameColabDatasets自我认知lora-SFT微调train_self_cognition.ipynbself_cognition.json法律问答lor
billvsme·2023-11-08 21:57

GFP-GAN论文阅读笔记

通过直接的潜在代码映射和几个通道分割空间特征变换（CS-SFT）层以从
是FL呀·2023-11-08 11:53

Bytedance揭秘OpenAI大模型: GPT-3到GPT-4进化路径

文章目录探秘GPT-3到GPT-4进化之路1、SFT：早期GPT进化的推动者2、RLHF和SFT：编码能力提升的功臣3、代码加入预训练，对推理帮助最大4、“跷跷板”现象论文地址项目链接ReferenceGPT-Fathom
猛码Memmat·2023-11-04 23:09

LLM系列 | 26：阿里千问Qwen模型解读、本地部署

引言简介预训练数据来源预处理分词模型设计外推能力模型训练实验结果部署实测对齐监督微调(SFT)RM模型强化学习对齐结果(自动和人工评估)自动评估人工评估部署实测总结引言人生自是有情痴，此恨不关风与月。
JasonLiu1919·2023-11-04 18:44

大语言模型(LLM)综述(四)：如何适应预训练后的大语言模型

5.1.3指导调优的效果5.1.4指导调优的实证分析5.2对齐调优5.2.1Alignment的背景和标准5.2.2收集人类反馈5.2.3根据人类反馈进行强化学习5.2.4无需RLHF的对齐5.2.5对于SFT
青云遮夜雨·2023-10-27 20:25

Prompt设计与大语言模型微调

本文主要介绍了Prompt设计、大语言模型SFT和LLM在手机天猫AI导购助理项目应用。
阿里巴巴淘系技术团队官网博客·2023-10-27 18:24

OPENCHAT: ADVANCING OPEN-SOURCE LANGUAGE MODELS WITH MIXED-QUALITY DATA

最近的发展结合了监督微调（SFT）和强化学习微调（RLFT
UnknownBody·2023-10-26 18:07

大语言模型在天猫AI导购助理项目的实践！

本文主要介绍了Prompt设计、大语言模型SFT和LLM在手机天猫AI导购助理项目应用。
机器学习社区·2023-10-26 07:01

序列的SFT(信号的频域分析)

一、序列SFT的定义二、基本序列的SFT三、序列SFT的性质四、时域序列的共轭对称分解定理五、频域连续函数的共轭对称分解六、实验1.时移和频移2.频谱搬移
渣渣小码·2023-10-26 00:36

SFT调优

SFT调优快速手册-千帆大模型平台|百度智能云文档人工智能大语言模型微调技术：SFT、LoRA、Freeze监督微调方法什么是SFT监督微调（SFT）是指采用预先训练好的神经网络模型，并针对你自己的专门任务在少量的监督数据上对其进行重新训练的技术
小草cys·2023-10-24 12:10

Conditional Batch Normalization 详解（SFT思路来源）

ConditionalBatchNormalization的概念来源于这篇文章：Modulatingearlyvisualprocessingbylanguage。后来又先后被用在cGANsWithProjectionDiscriminator和Self-AttentionGenerativeAdversarialNetworks。本文将首先简略介绍Modulatingearlyvisualpro
Arthur-Ji·2023-10-24 08:17

linux查看sftp连接日志,排查使用 SFTP 连接到 EC2 Linux 实例时出现的问题

简短描述通过SFT
JHAY·2023-10-22 01:19

Linux常用指令

管道过滤11.进程管理12.软件安装13.日志系统14.查看系统各种信息15.关机重启16.服务器为Linux系统16.1本地与Linux互传文件16.1.1lrzsz程序16.1.2scp命令16.1.3sft
緈福的街口·2023-10-21 19:22

面向大模型微调的instruction指令自动化生成技术：SELF-INSTRUCT指令自动化生成框架工作介绍...

然而，这种方法在很大程度上依赖于人类编写的指令数据，即SFT数据。而这些数据在数量、多样性和创造性方面都是有限的，因此阻碍了调整后的模型的通用性。
zenRRan·2023-10-21 15:11

Goland如何实现远程开发调试

Goland，请自行下载且解决破解码问题，百度一大把2.Linux开发环境，且安装go，参考：Go部署安装和配置-(jianshu.com)3.dlv，-写文章(jianshu.com)远程调试配置1.SFT
祁小彬·2023-10-16 08:55

LLMs之BELLE：源码解读(sft_train.py文件)源码解读(sft_train.py文件)采用LoRA微调模型—解析命令行参数→参数与日志初始化→初始化模型和标记器→模型优化(LoRA/梯

LLMs之BELLE：源码解读(sft_train.py文件)源码解读(sft_train.py文件)采用LoRA微调模型—解析命令行参数→参数与日志初始化→初始化模型和标记器→模型优化(LoRA/梯度检查点
一个处女座的程序猿·2023-10-10 22:35

Android Studio常用快捷键汇总（mac）

mac上按键符号⌥:option/alt⇧:shift⌃:control⌘:command⎋:esc（一）查找/查看相关搜索任意内容双击sft当前文件查找/替换cmd+F/cmd+R使用cmd+G，sft
四月天__·2023-10-09 20:07

大语言模型之十四-PEFT的LoRA

在《大语言模型之七-Llama-2单GPU微调SFT》和《大语言模型之十三LLama2中文推理》中我们都提到了LoRA（低秩分解）方法，之所以用低秩分解进行参数的优化的原因是为了减少计算资源。
shichaog·2023-10-03 20:52

[DeepSpeed]RuntimeError: output tensor must have the same type as input tensor

最近在跑chatglm2的sft的时候出现了下面的错误，我的运行方式是bf16,deepspeedzero3，因为担心fp16会有很多的nan.File"/home/suser/.conda/envs/
农民小飞侠·2023-10-02 10:39

【大家的项目】NFS > FUSE: 为什么我们用Rust实现了自己的NFS服务器

Fuse是大量文件系统客户端的基础，包括NTFS甚至像SFT
Rust语言中文社区·2023-10-02 04:49

【软路由】Gl-iNet SFT1200 原版OpenWrt固件编译并添加插件

最近购买了Gl-iNetSFT1200，这个路由器有点意思，自带定制版OpenWrt系统。官方的系统还是受到了一些限制，所幸Gl-iNet提供了固件源码，那么我们自己编译官方固件，并添加某S开头的插件。本文主要参考https://www.right.com.cn/forum/thread-7473327-1-1.html本文所需下载文件在这个地址也可下载到本文所需的所有文件下载地址为https:/
DCcsdnDC·2023-09-26 12:47

【chatGPT】

ChatGPT的成功离不开多类技术的积累，其中最为核心的是RLHF，此外还有SFT、IFT、CoT这些技术：
Chensan_·2023-09-26 12:25

LLM（二）| LIMA：在1k高质量数据上微调LLaMA1-65B，性能超越ChatGPT

目前大部分LLM都是decoder-only，通常是续写任务，有时候未必符合用户的需求，SFT是通过构造指令输入和期待的输出数据微调LLM，让LLM根据输入的指令输出期待的内容，这样微
wshzd·2023-09-23 08:56

FTP和SFT区别记录笔记

项目中，需要使用ftp服务器上传下载文件，之前做过sftp的文件上传下载，以为是一个东西，迅速的把之前的工具类拿过来使用，发现文件为空，特此记录一下二者的区别和工具类。SFTP（SecureFileTransferProtocol）和FTP（FileTransferProtocol）是两种用于文件传输的协议，它们之间有几个主要区别：安全性：SFTP是基于SSH（SecureShell）的协议，通过
焱童鞋·2023-09-22 10:48

人工智能大语言模型微调技术：SFT 监督微调、LoRA 微调方法、P-tuning v2 微调方法、Freeze 监督微调方法

人工智能大语言模型微调技术：SFT监督微调、LoRA微调方法、P-tuningv2微调方法、Freeze监督微调方法1.SFT监督微调1.1SFT监督微调基本概念SFT（SupervisedFine-Tuning
·2023-09-22 01:08

ChatGPT技术原理

Task03ChatGPT技术原理目录阶段一：有监督微调Supervisedfine-tuning(SFT)阶段二：训练回报模型（RewardModel,RM）阶段三：使用强化学习微调SFT模型ChatGPT
Runjavago·2023-09-21 05:19

揭秘英伟达A100、A800、H100、H800 GPU如何实现高性能大模型的百倍训练加速

Galactica；OPT；OPT-IML；BLOOM；BLOOMZ；GLM；Reddit；H100；H800；A100；A800；MI200；MI250；LaMA；OpenAI；GQA；RMSNorm；SFT
·2023-09-19 17:01

揭秘英伟达A100、A800、H100、H800 GPU如何实现高性能大模型的百倍训练加速

Galactica；OPT；OPT-IML；BLOOM；BLOOMZ；GLM；Reddit；H100；H800；A100；A800；MI200；MI250；LaMA；OpenAI；GQA；RMSNorm；SFT
高性能服务器·2023-09-18 12:32

如何在SAM时代下打造高效的高性能计算大模型训练平台

Prompt；CV；NLP；PLM；BERT；ZSL；task；zero-shot；data；H100、H800、A100、A800、LLaMA、Transformer、OpenAI、GQA、RMSNorm、SFT
高性能服务器·2023-09-18 12:01

[NLP] LLM---＜训练中文LLama2(五)＞对SFT后的LLama2进行DPO训练

当前关于LLM的共识大型语言模型（LLM）使NLP中微调模型的过程变得更加复杂。最初，当ChatGPT等模型首次出现时，最主要的方法是先训练奖励模型，然后优化LLM策略。从人类反馈中强化学习（RLHF）极大地推动了NLP的发展，并将NLP中许多长期面临的挑战抛在了一边。基于人类反馈的强化学习(ReinforcementLearningfromHumanFeedback，RLHF)事实上已成为GPT
舒克与贝克·2023-09-17 15:37

[NLP] LLM---＜训练中文LLama2(四)方式一＞对LLama2进行SFT微调

指令精调指令精调阶段的任务形式基本与StanfordAlpaca相同。训练方案也采用了LoRA进行高效精调，并进一步增加了可训练参数数量。在prompt设计上，精调以及预测时采用的都是原版StanfordAlpaca不带input的模版。对于包含input字段的数据，采用f"{instruction}+\n+{input}"的形式进行拼接。其中，StanfordAlpaca格式如下所示：[{"in
舒克与贝克·2023-09-17 10:34

大规模SFT微调指令数据的生成

前言想要微调一个大模型，前提是得有一份高质量的SFT数据，可以这么说其多么高质量都不过分，关于其重要性已经有很多工作得以验证，感兴趣的小伙伴可以穿梭笔者之前的一篇文章：《大模型时代下数据的重要性》：https
weixin_42001089·2023-09-16 20:15

[NLP]TRL 正式推出，来训练你的首个 RLHF 模型

从监督调优(SupervisedFine-tuningstep,SFT)，到训练奖励模型(RewardModeling)，再到近端策略优化(ProximalPolicyOp
舒克与贝克·2023-09-15 09:38

【linux命令讲解大全】098.网络文件传输协议介绍及常用命令

语法sftp-serversftp交互式的文件传输程序补充说明sft
全栈若城·2023-09-12 17:23

ColossalAI-Chat训练手册（RLHF）

2、环境安装3、训练&运行3.1、模型下载3.1、SFT(supervisedfine-tuning)3.2、训练奖励模型（Trainingrewardmodel）3.3、RL（TrainingmodelusingpromptswithRL
IT一氪·2023-09-11 23:26

大模型知道自己“不知道”哪些知识吗？

一种说法是，大模型的「幻觉」来自预训练和SFT时，我们总是在「鼓励模型说答案」，但我们并不确定「这些答案模型是否真的知道」，
zenRRan·2023-09-11 20:44

如何在SAM时代下打造高效的高性能计算大模型训练平台

Prompt；CV；NLP；PLM；BERT；ZSL；task；zero-shot；data；H100、H800、A100、A800、LLaMA、Transformer、OpenAI、GQA、RMSNorm、SFT
·2023-09-10 01:45

揭秘英伟达A100、A800、H100、H800 GPU如何实现高性能大模型的百倍训练加速

Galactica；OPT；OPT-IML；BLOOM；BLOOMZ；GLM；Reddit；H100；H800；A100；A800；MI200；MI250；LaMA；OpenAI；GQA；RMSNorm；SFT
·2023-09-10 01:44

Llama 2 论文《Llama 2: Open Foundation and Fine-Tuned Chat Models》阅读笔记

OpenFoundationandFine-TunedChatModels1.简介2.预训练2.1预训练数据2.2训练详情2.3LLAMA2预训练模型评估3.微调3.1supervisedFine-Tuning(SFT
chencjiajy·2023-09-09 19:50

大模型强化学习之奖励模型的训练

在之前的博客召唤神龙打造自己的ChatGPT_gzroy的博客-CSDN博客中，我介绍了如何用有监督微调训练（SFT）来训练一个GPT2的模型，使得模型具备对话问答的能力。
gzroy·2023-09-06 08:44

【LLM模型篇】LLaMA2 | Vicuna | EcomGPT等（更新中）

EvaluationResults3.更多参考alpaca模型其他大模型和peft高效参数微调二、垂直领域大模型MedicalGPT：医疗大模型ChatLaw：法律大模型TransGPT：交通大模型EcomGPT：电商领域大模型1.sft
山顶夕景·2023-09-03 18:27

大语言模型之七- Llama-2单GPU微调SFT

（T416G）模型预训练colab脚本在github主页面。详见Finetuning_LLama_2_0_on_Colab_with_1_GPU.ipynb在上一篇博客提到两种改进预训练模型性能的方法Retrieval-AugmentedGeneration(RAG)或者finetuning。本篇博客过一下模型微调。微调：这是采用预训练的LLM并在较小的特定数据集上进一步训练它以适应特定任务或提高
shichaog·2023-09-03 06:18

【电子取证篇】司法鉴定技术规范(SFZ)、司法行政行业标准(SFT)

【电子取证篇】-司法鉴定技术规范(SF/Z)、司法行政行业标准(SF/T)司法鉴定技术规范(SF/Z)、司法行政行业标准(SF/T)，有部分声像的录音和视频图片没包含进去—【suy】文章目录【电子取证篇】-司法鉴定技术规范(SF/Z)、司法行政行业标准(SF/T)（二）SF/Z、SF/T，（16项；现行16项）参考资料截止2021年06月，我国电子数据取证鉴定领域的各项标准与技术规范包括5项国家标
蘇小沐·2023-09-02 14:13

如何在Windows本地快速搭建SFTP文件服务器，并通过端口映射实现公网远程访问

2.2内网连接测试成功3使用cpolar内网穿透3.1创建SFTP隧道3.2查看在线隧道列表4.使用SFTP客户端，连接公网地址测试4.1添加新站点4.2以公网方式，连接sftp服务器成功总结：1.搭建SFT
大海里的番茄·2023-09-01 04:57

实现公网远程访问：Windows本地快速搭建SFTP文件服务器并配置端口映射

2.2内网连接测试成功3使用cpolar内网穿透3.1创建SFTP隧道3.2查看在线隧道列表4.使用SFTP客户端，连接公网地址测试4.1添加新站点4.2以公网方式，连接sftp服务器成功总结：1.搭建SFT
青山与你·2023-08-31 20:23

LLMs之dataset：大语言模型LLMs相关开源数据集的简介、下载、使用方法之详细攻略

LLMs之dataset：大语言模型LLMs相关开源数据集的简介、下载、使用方法之详细攻略目录LLMs相关开源数据集的简介1、SFT→RM+PPO三阶段关系梳理、数据集格式对比
一个处女座的程序猿·2023-08-28 02:15

DeepSpeed加速大模型训练

在之前的博客中我介绍了如何对GPT2模型进行SFT的训练，召唤神龙打造自己的ChatGPT_gzroy的博客-CSDN博客，我将基于之前的模
gzroy·2023-08-27 21:30
上一页 1 2 3 4 5 6 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他