微调

作物模型狂奔：WOFOST(PCSE) 数据同化思路

去B吧，这里没图整体思路：PCSE-》敏感性分析-》调参-》同化0、准备工作0.0电脑环境我用的Win10啦，Linux、Mac可能得自己再去微调一下。
F_Dregs·2024-02-19 16:20

Flink部署——细粒度资源管理

对于希望根据对特定场景的了解来微调资源消耗的用户，Flink提供了细粒度的资源管理。本页介绍细粒度资源管理的用法、适用场景及其工作原理。
京河小蚁·2024-02-19 14:14

【论文精读】BERT

摘要以往的预训练语言表示应用于下游任务时的策略有基于特征和微调两种。
None-D·2024-02-19 12:03

【AIGC】Stable Diffusion之模型微调工具

推荐一款好用的模型微调工具，cybertronfurnace是一个lora训练整合包，提供训练lora模型的工具集或环境。
AIGCExplore·2024-02-19 12:56

4张图片就可以微调扩散模型

这时就需要我们进行手动的微调。微调可以根据相对较小的图像集向模型教授新的、独特的主题。我们今天使用DreamBooth在不影响模型原始功能的情况下实现微调过程。
·2024-02-19 12:29

预训练和微调在迁移学习中的作用

在机器学习和深度学习中，"pre-training"（预训练）和"fine-tuning"（微调）是两个常见且重要的概念，它们通常在迁移学习场景中使用，以提高模型在特定任务上的性能。
一条小小yu·2024-02-19 12:42

基于 InternLM 和 LangChain 搭建你的知识库(三)

基于InternLM和LangChain搭建你的知识库大模型开发范式Finetune在大型语言模型中，Finetune（微调）是一种技术，用于调整预训练的模型以提高其在特定任务或数据集上的表现。
骆驼穿针眼·2024-02-19 12:41

书生浦语-模型微调

大语言模型微调指令微调的流程LoRA(旁路分支微调)Xtuner微调框架微调训练作业微调作业需要多训练几个epoch，这里训练了16个epoch
SatVision炼金士·2024-02-19 11:28

NLP_GPT到ChatGPT

GPT运用单向自回归方法生成文本，先预训练大量无标签文本，再在特定任务上进行微调。GPT在多种NLP任务上取得了显著进步。GPT-2：2019年，OpenAI推出了GPT的升级版，拥有更多参数[15亿
you_are_my_sunshine*·2024-02-15 09:39

大模型微调大杂烩知识总结

1.前缀微调（Prefix-Tuning）前缀微调是一种针对预训练模型的微调方法，通过在模型输入前添加特定任务相关的连续前缀表示，从而引导模型生成适应特定任务的输出。
lichunericli·2024-02-15 09:56

Prompt Tuning：深度解读一种新的微调范式

阅读该博客，您将系统地掌握如下知识点：什么是预训练语言模型？什么是prompt？为什么要引入prompt？相比传统fine-tuning有什么优势？自20年底开始，prompt的发展历程，哪些经典的代表方法？面向不同种类NLP任务，prompt如何选择和设计？面向超大规模模型，如何借助prompt进行参数有效性训练？面向GPT3，什么是In-ContextLearning？什么是Chain-Of-
lichunericli·2024-02-15 09:55

（新人免费）基于PAI-EAS对Stable diffusion进行LoRA模型微调|阿里云

基于PAI-EAS对Stablediffusion进行微调|阿里云前提条件已开通EAS并创建默认工作空间部署Kohya服务PAI-EAS控制台>部署服务>新建服务>服务名称自定义>部署方式：镜像部署AI-Web
weixin_45597589·2024-02-14 22:34

stable diffusion模型微调实战

stablediffusion模型微调实战embeddings准备训练集网络找图片，10~20张，jpg、png、webp等都可以，放到一个文件夹中文件夹的命名为：repeat_文件名其中：repaeat
weixin_45597589·2024-02-14 22:33

L 先生说——如何做好读书笔记

从L先生说看到「知识卡片」的模板和范例，可执行，可实践，不求一劳永逸，在实践中不断微调。文中以图片形式展现，这里重新手写一次以加强理解。【主题】这条笔记是关
JeetChan·2024-02-14 22:41

css定位

position:fixed;left:100px;top:150px;};不会随着页面的滚动，而变化位置相对定位（position:relative);相对于自己的位置发生移动；相对于原位置发生偏移适合微调
chasing_dream·2024-02-14 09:27

使用LORA微调RoBERTa

模型微调是指在一个已经训练好的模型的基础上，针对特定任务或者特定数据集进行再次训练以提高性能的过程。微调可以在使其适应特定任务时产生显着的结果。
deephub·2024-02-14 08:15

《生成式AI与大模型核心技术开发与应用研修班》的培训通知

大模型和小模型的融合使用，或者以大模型为底座的小型化微调都是未来发展趋势。如何调用大模型开展自然语言处理、图像处理、文本识别的技术，成为目前人工智能领域人才的迫切需求。为帮助大家掌握大模型调用、
人工智能技术与咨询·2024-02-14 06:42

Snipaste：一个截图工具可以解决你的笔记焦虑？

前言一、Snipaste下载和安装二、截图功能1.开始截图2.回放截图记录3.微调截图区域4.画笔文字设置二、贴图功能1.开始贴图2.关闭、销毁和隐藏贴图3.选择、翻转和缩放贴图4.设置透明度5.缩列图模式三
mucherry·2024-02-14 03:16

扩展说明: 指令微调 Llama 2

这篇博客是一篇来自MetaAI，关于指令微调Llama2的扩展说明。旨在聚焦构建指令数据集，有了它，我们则可以使用自己的指令来微调Llama2基础模型。目标是构建一个能够基于输入内容来生成指令的模型。
·2024-02-13 21:53

大模型注入领域知识，模型体验和Token重复知识

迁移学习：使用预训练的LLM模型作为基础，然后在特定领域的数据上进行微调。这样可以利用预训练模型学到的通用知识，同时使其适应新领域。领域专家标
lichunericli·2024-02-13 19:26

大模型基础知识

GPT模型通过在大规模无标签文本上进行预训练，然后在特定任务上进行微调，具有很强的生成能力和语言理解能力。BERT（BidirectionalEncoderRepresentationsfromT
lichunericli·2024-02-13 13:46

大模型微调知识

在模型基础上做全参数微调，需要多少显存？要确定全参数微调所需的显存量，需要考虑以下几个因素：模型的大小：模型的大小是指模型参数的数量。通常，参数越多，模型的大小就越大。
lichunericli·2024-02-13 13:46

使用LORA微调RoBERTa

模型微调是指在一个已经训练好的模型的基础上，针对特定任务或者特定数据集进行再次训练以提高性能的过程。微调可以在使其适应特定任务时产生显着的结果。
·2024-02-13 12:15

深度学习基础

深度学习基础highvariance/datamismatchwhatisdatamismatchhowtosolvedatamismatchdatasynthesis数据合成迁移学习与预训练/微调什么时候用迁移学习
EEPI·2024-02-13 10:48

【冯钇嘉桐】令人期待的运动会

老师就让我们按之前跳舞的队形先站了一下，然后，老师给我们稍微调整了一下后，这个队形就算排完了。老师说让我们花束队儿的，就在头走到操场中间之前，要先从
磊磊的柠檬·2024-02-13 08:21

书生·浦语大模型第四课作业

基础作业：构建数据集，使用XTuner微调InternLM-Chat-7B模型,让模型学习到它是你的智能小助手，效果如下图所示，本作业训练出来的模型的输出需要将不要葱姜蒜大佬替换成自己名字或昵称！
查里王·2024-02-13 00:59

如何使用动态 ABAP 程序生成技术，对 ABAP 系统标准的报表行为进行微调试读版

笔者的知识星球里，有朋友提问，能不能从本地ABAP系统，提取某个标准ABAP程序的代码源，然后基于这些代码源进行微调，动态生成新的ABA
·2024-02-12 22:29

2022-12-4【日精进第77天】

姓名：李庆单位：郑州鹿野苑餐饮管理有限公司（朵家甜品厨房）每日定课（根据实际情况，每十天微调一次）：1，晨跑：5：20前，18分钟内跑完3公里；【未完成，隔离中】2，读书笔记：阅读30min+，笔记200
李庆是个做蛋糕的·2024-02-12 22:55

InternLM大模型实战-4.XTuner大模型低成本微调实战

文章目录前言笔记正文XTuner支持模型和数据集微调原理跟随文档学习快速上手自定义微调准备数据准备配置文件MS-Agent微调前言本文是对于InternLM全链路开源体系系列课程的学习笔记。
早上真好·2024-02-12 21:40

第四节课[XTuner微调]作业

文章目录前言作业基础作业-XTunerInternLM-Chat个人小助手认知微调实践前言XTuner做在第三节课LangChain作业之前，因为第三节课没想好找哪个领域，等第三节课作业做了一起部署。
早上真好·2024-02-12 21:40

第三节课[LangChain]作业

文章目录前言实践搭建向量知识库前言本次作业虽然是第三节课作业，但是在第四次作业之后才完成，所以用的是经过自我认知微调的小助手权重。
早上真好·2024-02-12 21:40

LLM的参数微调、训练、推理；LLM应用框架；LLM分布式训练

大模型基础主流的开源大模型有哪些？GPT-3：由OpenAI开发，GPT-3是一个巨大的自回归语言模型，拥有1750亿个参数。它可以生成文本、回答问题、翻译文本等。GPT-Neo：由EleutherAI开发，GPT-Neo是一个开源的、基于GPT架构的语言模型，拥有数十亿到百亿级的参数。GPT-J：也是由EleutherAI开发的，GPT-J是一个拥有60亿参数的开源语言模型。PaLM(Pathw
lichunericli·2024-02-12 19:27

3. ⼤语⾔模型深度学习背景知识

1.LLM⼤语⾔模型⼀般训练过程Step1.预训练阶段Step2.微调阶段⼤模型⾸先在⼤量的⽆标签数据上进⾏训练，预训练的最终⽬的是让模型学习到语⾔的统计规律和⼀般知识。
Andy_shenzl·2024-02-12 18:22

大语言模型ChatGLM + P-Tuning微调实践

大语言模型ChatGLM+P-Tuning微调实践文章目录大语言模型ChatGLM+P-Tuning微调实践LLM微调基础本次实践环境说明ChatGLM部署以及激活conda环境安装依赖禁用W&B训练数据集
North_D·2024-02-12 13:59

大语言模型langchain+ChatGLM3-6B+本地知识库实战

大语言模型langchain+ChatGLM3-6B+本地知识库实战文章目录大语言模型langchain+ChatGLM3-6B+本地知识库实战目标微调、本地知识库和Prompt基本概念1、环境准备2、
North_D·2024-02-12 13:29

书生谱语-全链条开发工具

书生·谱语全链条开发体系包含：数据、模型预训练、模型微调、模型量化部署、模型测评、模型场景应用全链路开发体系github链接通用大模型国内外大语言模型快速发展，涌现了大量的大语言模型以及一批创业公司深度学习模型的发展大模型利用多模态优势
SatVision炼金士·2024-02-12 11:21

20180928晨间日记

我看到了易效能的进步，每次开课都会有一些微调，更加适应社会的变化，跟住科技的脚步。通过这次学习，我调整了自己的目标，争取加入易效能的团队，把自己变得更加积极主动，早日实现线上人生！
张林春·2024-02-12 11:42

匠心精神

为了规整，一件行李的摆放姿势都得微调半天。关车门前，一定会保证所有的行李都码得整整齐齐。即使搬运了数十件沉重行李，他们的每一个动作都严谨如一，引得各国网友纷纷感慨。当行李落
艾欣老师·2024-02-12 10:22

【0809】《孙子兵法》之虚实（16/30）

同样地，自己在向别人表达自己的时候，也会有选择地在某些方面进行微调，但是度一定要把握好，最好让对方不易察觉。对方的虚实都知道，自己的虚实对方都不知道，这绝对就是“先胜后战”的实例，而
9c80a2f86c0f·2024-02-12 06:50

基于NSGA-II的深度迁移学习

深度迁移学习迁移学习是一种机器学习技术，它允许一个预训练的模型被用作起点，在此基础上进行微调以适应新的任务或数据。
代码缝合怪·2024-02-12 03:45

huggingface学习|用dreambooth和lora对stable diffusion模型进行微调

目录用dreambooth对stable-diffusion-v1-5模型进行微调（一）模型下载和环境配置（二）数据集准备（三）模型微调（四）运行微调后的模型用lora对stable-diffusion-v1
丁希希哇·2024-02-12 01:18

LoRA：语言模型微调的计算资源优化策略

编者按：随着数据量和计算能力的增加，大模型的参数量也在不断增加，同时进行大模型微调的成本也变得越来越高。全参数微调需要大量的计算资源和时间，且在进行切换下游任务时代价高昂。
·2024-02-11 20:51

Go内存优化与垃圾收集

Go提供了自动化的内存管理机制，但在某些情况下需要更精细的微调从而避免发生OOM错误。本文介绍了如何通过微调GOGC和GOMEMLIMIT在性能和内存效率之间取得平衡，并尽量避免OOM的产生。
·2024-02-11 18:44

全世界 LoRA 训练脚本，联合起来!

来自社区的SD-XLDreamboothLoRA微调最佳实践指南太长不看版我们把Replicate在SDXLCog训练器中使用的枢轴微调(PivotalTuning)技术与Kohya训练器中使用的Prodigy
·2024-02-11 18:48

InternLM大模型实战-1.书生浦语大模型全链路开源体系

文章目录前言笔记正文大模型成为热门关键词书生·浦语开源历程从模型到应用书生·浦语全链条开源开放体系数据预训练微调评测部署部署智能体LagentAgentLego总结前言本系列文章是参与书生浦语全链路开源体系学习的笔记文章
早上真好·2024-02-11 18:26

【书生浦语大模型全链路开源体系】

浦语大模型的发展2.1、书生·浦语大模型的开源历程2.2、书生·浦语大模型的系列三、从模型到应用四、书生·浦语全链条开源开放体系4.1、数据（书生·万卷）4.2、预训练（InternLM-Train）4.3、微调
G_Sheep·2024-02-11 18:54

浮木云随笔小记（5）---代码导出

之前刚介绍浮木云的时候，发现这个小众平台具有导出源代码的功能，开发人员可以将平台上的功能代码导出到自己的工作环境中进行二次开发和定制，无需从头开始编写，根据项目需要，进行一些微调和优化，以满足特定的业务需求
·2024-02-11 18:38

2023 re:Invent AI生成产品体验，从 Bedrock 到 Amazon Q

引如果你也有如下问题，那么接下来的文字会一一为你解答一套数据集，如何微调不同类型的开源大模型？——Bedrock如何只有产品说明书，如何构建一个智能问答机器人？
·2024-02-11 17:43

【论文精读】GPT2

目前在语言任务上表现最佳的多任务学习系统，利用了预训练和监督微调的结合，通用的预训练系统可以在微调后在多个任务上表现良好，但微调仍需要监督数据。故本文做出证明
None-D·2024-02-11 15:43

【论文精读】GPT1

针对这些问题，本文提出一种无监督预训练和有监督微调的组合的半监督方法，具体为：采用两阶段训练过程，首先使用语言建模目标在大量未标注数据上学习模型的初始参数，随后使用有监督目标微调预训练模型以适应目标任务模型架构使用
None-D·2024-02-11 15:42
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他