fine

OpenAI开放gpt-3.5turbo微调fine-tuning测试教程

文章目录openai微调fine-tuning介绍openai微调地址jsonl格式数据集准备点击上传文件openai微调fine-tuning介绍openai微调地址网址：https://platform.openai.com
Cachel wood·2023-10-17 05:24

LLM-微调-全参数微调：Full-Param Fine-tuning（100% parameters）

fine-tuning的过程就是用训练好的参数（从已训练好的模型中获得）初始化自己的网络，然后用自己的数据接着训练，参数的调整方法与fromscratch训练过程一样（梯度下降）。
u013250861·2023-10-17 03:16

Pruning Pre-trained Language Models Without Fine-Tuning

本文是LLM系列文章，针对《PruningPre-trainedLanguageModelsWithoutFine-Tuning》的翻译。修剪未微调的预训练语言模型摘要1引言2相关工作3背景4静态模型剪枝5实验6分析7结论8局限性摘要为了克服预训练语言模型(PLMs)中的过度参数化问题，剪枝作为一种简单直接的压缩方法被广泛使用，它直接去除不重要的权重。先前的一阶方法成功地将plm压缩到极高的稀疏度
UnknownBody·2023-10-17 00:26

【实操】基于ChatGPT构建知识库

前言最近有些实践，因为后面要去研究fine-tune了，想着记录一下chatgpt+向量数据库构建知识库的一些实操经验，不记我很快就忘了，哈哈。首先，提一下为啥会出现向量数据库这个技术方案？
懒编程-二两·2023-10-16 07:52

大模型-DeltaTuning-增量式03：Prompt-Tuning（连续型）（P-tuning v1）【只在输入层加入可训练参数层】

一、前言Bert时代，我们常做预训练模型微调（Fine-tuning），即根据不同下游任务，引入各种辅助任务loss和垂直领域数据，将其添加到预训练模型中，以便让模型更加适配下游任务的方式。
u013250861·2023-10-16 01:14

【NLP经典论文精读】Prefix-Tuning: Optimizing Continuous Prompts for Generation

Prefix-Tuning:OptimizingContinuousPromptsforGeneration前言Abstract1.Introduction2.RelatedWork2.1Fine-tuningfornaturallanguagegeneration2.2Lightweightfine-tuning2.3Prompting2.4Controllablegeneration2.5P
HERODING77·2023-10-16 01:13

prefix-tuning: optimizing continuous prompt for generation

现有的方法fine-tune，参数量太大，GPT2774M，GPT3175B。
onlyxinbaby·2023-10-16 01:42

微调Yolov8动物姿势估计模型

本文主要以狗的姿势估计为例，展示如何对当下流行的YOLOv8姿势模型进行Fine-tuning，并附录完整代码。
穿着帆布鞋也能走猫步·2023-10-15 19:14

深度学习之微调

在现代深度学习领域，精细调整（Fine-tune）已经成为一种非常重要的技术手段。预训练模型在介绍finetune之前，先了解一下什么是预训练模型。
会的东西有点杂·2023-10-15 14:26

模型轻量化操作——剪枝

剪枝基本概念1.1什么是剪枝NetworkPruning删除权重小于一定阈值的连接或者神经元节点得到更加稀疏的网络1.2剪枝的不同粒度从单个神经元和连接到整个网络层非结构化剪枝(需要特殊硬件支持)权重级别(Fine-gained
氵文大师·2023-10-15 01:12

2022-5-26晨间日记

今天是什么日子Almost70days起床：6:40am就寝：11:00pm天气：rainy心情：Fine纪念日：NA任务清单昨日完成的任务，最重要的三件事：改进：锻炼身体trainingforheart
长夏碧玉·2023-10-14 23:19

《语音用户界面设计：对话式体验设计原则》第5章 语音用户界面设计进阶

不同类型的语音输入1.受限回复比如，英文单词“fine”这个词经常被误识别为“find”（与比较长的词组相比，短词更难进行语音识别的解读和处理，相较于“fine”而言，“I‘mfine”更容易被语音设备识别
Jacquelineliu·2023-10-14 17:45

大语言模型之十七-QA-LoRA

由于基座模型通常需要海量的数据和算力内存，这一巨大的成本往往只有巨头公司会投入，所以一些优秀的大语言模型要么是大公司开源的，要么是背后有大公司身影公司开源的，如何从优秀的开源基座模型针对特定场景fine-tune
shichaog·2023-10-13 17:06

迁移学习中的常见技巧:微调（fine-tuning）

目录一：回顾二：微调2.1热狗识别获取数据集定义和初始化模型微调模型所有项目代码+UI界面一：回顾上一篇我们理解了深度学习中的跟RestNet结构很相似的网络——DenseNet，它是一种密集连接卷积神经网络，由李沐等人于2017年提出。与ResNet等传统卷积神经网络不同，DenseNet中每个层都直接与前面的所有层相连，这种直接的密集连接架构有助于信息和梯度在网络中的流通，从而在训练中提高了梯
QTreeY123·2023-10-13 13:51

LLaMA-Adapter: Efficient Fine-tuning of Language Models with Zero-into Attention论文解读

LLaMA-Adapter:EfficientFine-tuningofLanguageModelswithZero-intoAttention论文解读IntroductionLLaMA-AdapterLearnableAdaptionPromptsZero-initAttention实验Introduction作者之处最近大语言模型获得了学术界与工业界广泛的关注，LLMs展现出了很不错的能力。用
HanZee·2023-10-13 08:50

KDD 2022 | 图“预训练、提示、微调”范式下的图神经网络泛化框架

本文首次提出“Pre-training、Prompt、Fine-tuning”的概念将下游任务进行重构，使其具有与Prete
PaperWeekly·2023-10-13 07:36

Excel 函数大全应用，包含各类常用函数

Office2021实战，Python数据分析，ETLInformatica案例实战Excel2021实操，函数大全，图表大全，大屏可视化制作加技巧500集数据分析可视化Tableau80集数据可视化Fine
阿里数据专家·2023-10-13 02:47

2022-7-11晨间日记

今天是继续努力日子起床：6:00就寝：1:00天气：sunny心情：fine纪念日：firstdayoftheholiday叫我起床的不是闹钟是梦想年度目标及关键点：excellentteacher本月重要成果
静静的007·2023-10-12 23:43

Everything gonna be fine!

熊娃小段子，初衷是写喜剧，写着写着就成了悲剧，这两个星期，熊大几乎崩溃了，我也崩溃了，我们经历了抑郁边缘，去公立医院看了心理医生，正在寻找靠谱私人心理医生的过程中。为人父母，真的好难，回顾熊大上初中以来的日子，作为熊二的奶源，这一路来跟熊大的奋斗，睡得比狗晚，起的比鸡早，跟着屁股后面看作业，没时间健身没时间睡觉的时光，突然发现自己能活下来已经是个奇迹了～每个人的命运都不同，每一对父母子女的缘分也不
yayaangel·2023-10-12 07:51

OpenAI更新不会代码也可进行模型微调

01通过微调截图可以看到 1.Fine-tuning：这是微调功能的主页面。
AI 研习所·2023-10-12 00:38

2021-08-06 - 草稿

朋友圈打造生活圈思想圈产品圈案例圈反馈圈（顾客改变对话截图客户见证老师点评对fine好评）勤奋简单了解客户需求对症解决。
瑜伽普拉提蓉蓉·2023-10-11 22:39

如何更好地回答"How are you"

“I’mfine,thanks,”isanokayanswer.Buttheseresponsesopenthedoorforadeeperconversation.除了"fine,thanks,andyou
欺枫·2023-10-10 22:54

轻量化微调 Parameter-Efficient Fine-Tuning

导读近年来，大规模预训练模型在自然语言处理任务上取得了巨大的成功。对预先训练好的语言模型进行微调是目前自然语言处理任务中的普遍范式，在许多下游任务上表现出了极好的性能。全参数微调，即对模型的所有参数进行训练，是目前将预训练模型应用到下游任务的最通用方法。然而，全微调的一大弊病是对于每一个任务，模型均需要保留一份大规模的参数备份，在下游任务量很大时这种做法会相当昂贵。在预训练模型越来越大，不断逼近到
还卿一钵无情泪·2023-10-10 12:26

Parameter-Efficient Fine-tuning 相关工作梳理

©PaperWeekly原创·作者|避暑山庄梁朝伟研究方向|自然语言处理背景随着计算算力的不断增加，以transformer为主要架构的预训练模型进入了百花齐放的时代。看到了大规模预训练的潜力，尝试了不同的预训练任务、模型架构、训练策略等等，在做这些探索之外，一个更加直接也通常更加有效的方向就是继续增大数据量和模型容量来向上探测这一模式的上界。首先这些经过海量数据训练的模型相比于一般的深度模型而言
PaperWeekly·2023-10-10 12:45

文献阅读：Raise a Child in Large Language Model: Towards Effective and Generalizable Fine-tuning

文献阅读：RaiseaChildinLargeLanguageModel:TowardsEffectiveandGeneralizableFine-tuning1.内容简介2.相关工作1.WeightDecay2.Top-KTuning3.Mixout4.RecAdam5.R3F3.优化方案1.ChildTuning-F2.ChildTuning-D4.实验设计&结果1.ChildTuning效果
Espresso Macchiato·2023-10-10 12:45

BitFit : Bias-term Fine-tuning

SimpleParameter-efficientFine-tuningforTranformer-basedMaskedLanguage-models（Bitfit：对于MLtransformer的简单fine-tuning
be_humble·2023-10-10 12:44

预训练语言模型fine-tuning近期进展概述

©作者｜AIBox来源｜RUCAIBox近年来，迁移学习改变了自然语言处理领域的范式，对预训练语言模型（PLM）进行微调（fine-tuning）已经成为了新的范式。
PaperWeekly·2023-10-10 12:44

LONGLORA: EFFICIENT FINE-TUNING OF LONGCONTEXT LARGE LANGUAGE MODELS

本文是LLM系列文章，针对《LONGLORA:EFFICIENTFINE-TUNINGOFLONGCONTEXTLARGELANGUAGEMODELS》的翻译。Longlora:长上下文大型语言模型的高效微调摘要1引言2相关工作3LongLoRA4实验5结论摘要我们提出了LongLoRA，一种有效的微调方法，以有限的计算成本扩展预训练的大型语言模型(llm)的上下文大小。通常，训练具有长上下文大小
UnknownBody·2023-10-10 12:35

小学英语1-6年级常用情景对话汇总（附练习）

5.Fine,thankyou/thanks.我很好，谢谢。6.Notbad,thankyou.不错，谢谢。7.Howdoyoudo?你好。8.Nicetomee
亦道云·2023-10-10 08:56

论文阅读：Fast Point R-CNN

这种方法的问题：无法利用fine-grained的信息
Allen的光影天地·2023-10-10 08:25

霍乱时期的爱情

Fine.Thankyou.Andyou."我刚开始没有看懂，最后的结尾。我没有发现，那是另一种爱情，两个老人最后的结合，跟着举着霍乱的旗帜的船航行，永生永世。
秦晴子·2023-10-10 03:23

吴恩达《微调大型语言模型》笔记

微调（fine-tuning）就是利用特有数据和技巧将通用模型转换为能执行具体任务的一种方式。例如，将GPT-3这种通用模型转换为诸如ChatGPT这样的专门用于聊天的模型。
小小白2333·2023-10-10 01:24

大型即时通讯系统微信、陌陌架构分析全记录！

作者：肉眼品世界出处：转载自微信公众号：肉眼品世界（ID：find_world_fine）导读:像QQ，微信，陌陌这样大的im,即时通讯量很大的，这个是长链接实现，一个长链接一个文件描述符，一台机器的长连接又有限
码农小光·2023-10-09 23:11

论文研读｜Protecting Intellectual Property of Deep Neural Networks with Watermarking

目录论文信息文章简介研究动机研究方法水印生成水印嵌入版权验证实验结果有效性（Effectiveness）高效性（ConvergeSpeed）保真度（Functionality）鲁棒性（Robustness）Anti-剪枝攻击（Pruning）Anti-微调攻击（Fine-tuning
_Meilinger_·2023-10-09 11:17

registerForActivityResult请求权限/拍照/选取视频图片/裁剪图片

权限相关//近似定位（模糊定位）Manifest.permission.ACCESS_COARSE_LOCATION//精确定位Manifest.permission.ACCESS_FINE_LOCATION
赵彼得·2023-10-08 23:26

微调GPT（fine-tune）与向量数据库结合-优化GPT

GPT回答问题GPT（GenerativePretrainedTransformer）是一种强大的预训练模型，它可以生成连贯且富有创造性的文本。然而，GPT并不是完美的，它在生成回答时存在一些问题：缺乏一致性：GPT可能会在不同的时间或在不同的上下文中给出不一致的回答。这是因为GPT是一个生成模型，它每次生成回答时都是从头开始的，没有记住之前的状态或回答。缺乏准确性：虽然GPT可以生成看起来很合理
小~小·2023-10-08 15:37

Prompt-Tuning（一)

这些模型采用了Transformer架构，并遵循了Pre-training和Fine-tuning的训练范式。通过预训练模型在大规模无标签数据上进行学习，可以使模型学习到丰富的语言知识和语境理解能力。
余生有烟火·2023-10-07 04:27

郑秀文原谅许志安：为什么女人总在婚姻里委曲求全？

#郑秀文原谅许志安#OK.Fine.其实说实话，看到这个的时候有点麻木了，不知道该用怎样的语言来表达自己的想法。毕竟原谅老公出轨的戏码我们也不是第一次看了。
彻夜胡闹·2023-10-06 23:32

微调（fine-tune）

迁移学习不是一种算法而是一种机器学习思想，应用到深度学习就是微调（Fine-tune)。
盐巴饭团193·2023-10-06 19:29

LLMs 用强化学习进行微调 RLHF: Fine-tuning with reinforcement learning

让我们把一切都整合在一起，看看您将如何在强化学习过程中使用奖励模型来更新LLM的权重，并生成与人对齐的模型。请记住，您希望从已经在您感兴趣的任务上表现良好的模型开始。您将努力使指导发现您的LLM对齐。首先，您将从提示数据集中传递一个提示。在这种情况下，“Adogis…”，传递给指导LLM，然后生成一个完成，这种情况下是"…afurryanimal."一只毛茸茸的动物。接下来，您将将此完成和原始提示
AI架构师易筋·2023-10-06 10:51

[1] Unit 1 Hello! Nice to meet you!

Fine,thankyou.Howareyou?
HelloNingNing·2023-10-06 01:53

『 冀教版』七年级英语上第一单元测试题

.-----_______.A.Fine,thanky
HellenJin·2023-10-05 19:57

GPT

在原论文中提出了半监督学习方法，即结合了无监督的预训练和有监督的fine-tuning。
jerrychenly·2023-10-05 04:34

YOLOv2解析 | 批归一化 锚 主干网

1.2HighResolutionClassifier更高分辨率的分类器1.3**ConvolutionalWithAnchorBoxes带锚盒的卷积**1.4DimensionClusters维度集群1.5更深更宽的主干网络1.6Fine-GrainedFeatures
Qodi·2023-10-05 03:34

大模型微调概览

文章目录微调和高效微调高效微调技术方法概述高效微调方法一：LoRA高效微调方法二:PrefixTuning高效微调方法三:PromptTuning高效微调方法四:P-Tuningv2基于强化学习的进阶微调方法RLHF训练流程微调和高效微调微调，Fine-Tuning
伊织code·2023-10-03 22:29

Swift之#function、#fine、#line

file:打印当前文件路径line:打印当前行号，整数function:打印当前函数或方法column:所在的列数printSome(lineStr:Int(#line),fileStr:String(#file),funStr:String(#function))funcprintSome(lineStr:Int=#line,fileStr:String=#file,funStr:String=
小羊爱学习·2023-10-03 11:56

【模型压缩】Distiller学习-初认识

Pytorch基础上安装压缩方法权重正则化方法权重剪枝方法训练后量化方法训练时量化方法条件计算低质分解方法知识蒸馏方法总体目录核心代码实现所有案例的配置文件举例初始化网络评价网络模型的参数重要性移除不重要的神经元fine-tuning
luzhoushili·2023-10-01 18:43

Fine yoga预售随想12/26

今天扫楼回来听了小伙伴的分享，特别受鼓舞，也很开心。不止一次想，如果是一个人单干，这事儿得有多难，得有多苦。而这两天新挑战的扫楼因为同伴，才更有意义起来～明天，期待！
Ccai_e0da·2023-09-30 18:11

本地部署 川虎 Chat

支持GPT-4·基于文件问答·LLM本地部署·联网搜索·Agent助理·支持Fine-tune2.Github地址https://github.com/GaiZhe
engchina·2023-09-30 15:12

人类的悲喜并不相通

bgm：我不需要-Fine乐团初次看到这句话的时候，我就深以为然的。因为每个人都是各自独立的，也有自己不一样的思想，所以在所难免。人的心情也是不一的，喜怒悲欢时而切换。
亭七七_·2023-09-27 17:51
上一页 3 4 5 6 7 8 9 10 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他