MOSS微调

2022-11-26控制情绪的毛病放在第一位进行改正

前天发生的事故，通过前天和昨天的反思，我认为自己当前最大的缺点不是说话上的得罪人，而是不能控制情绪，因此，从今天起，每天五次反思的重点顺序应该进行微调整，要把控制情况放到首位。
桂亘·2023-12-20 19:29

整理了上百个开源中文大语言模型，涵盖模型、应用、数据集、微调、部署、评测

尤其是以ChatGLM、LLaMA等平民玩家都能跑起来的较小规模的LLM开源之后，业界涌现了非常多基于LLM的二次微调或应用的案例。
Python算法实战·2023-12-20 17:53

国产AI大模型：智谱清言 vs. 文心一言

智谱清言基于智谱AI自主研发的中英双语对话模型ChatGLM2，通过万亿字符的文本与代码预训练，结合有监督微调技术，以通用对话的产品形态成为更懂用户的智能助手，在工作、学习和日常生活中赋能用户，解答用户各类问题
超级人工智能·2023-12-20 16:40

垂类大模型 研发方向与具体方案调研

垂类大模型研发方向与具体方案调研文章目录垂类大模型研发方向与具体方案调研一、研发方向调研初步汇总二、垂类大模型研发背景与策略选择1、垂类大模型研发背景2、垂类大模型研发策略选择（1）重新训练：（2）二次预训练：（3）基础大模型微调
风吹落叶花飘荡·2023-12-20 15:35

国货之光，复旦发布大模型训练效率工具 CoLLiE，效率显著提升

不管是追求高效的多GPU并行训练，还是想通过指令微调实现卓越性能，CoLLiE在效率方面都能够脱颖而出。论文题目:CoLLiE:Collabo
夕小瑶·2023-12-20 13:14

你为拱手让出的机会后悔吗？

那天我都没有读到诗的第三段，我刚读完第一段，老师说你念的有点平，稍微调整一下。我说好。然后我带着稿子请两个同学指教。我读时，其中一个人又打断了我，说我念的有问题。她给我讲了一些细节，还给我断句。
兔子_db1d·2023-12-20 10:15

基于ResNet模型微调的自定义图像数据分类

#Importnecessarypackages.importtorchimporttorch.nnasnnfromtorchvisionimportdatasets,models,transformsfromtorchsummaryimportsummaryimportnumpyasnpimportmatplotlib.pyplotaspltfromPILimportImageimporttim
AIHUBEI·2023-12-20 09:51

【提示工程】Chain-of-Thought Prompting Elicits Reasoning in Large Language Models

从头训练或微调模型，需要创建大量的高质量含中间步骤的数据集，成本过大。
辰阳星宇·2023-12-20 07:50

大模型多轮对话数据集构建

如需要使用多轮对话数据对模型进行微调，可以提供聊天历史，例如以下是一个三轮对话的训练数据：{“prompt”:“长城h3风扇不转。继电器好的。保险丝好的传感器新的风扇也新的这是为什么。
ASKCOS·2023-12-20 04:05

开源 AI 研发提效方案 Unit Mesh 总结

在这篇文章里，我们将总结UnitMesh的一系列项目，从国内最早开源的微调Llama、ChatGLM用于研发流程的Un
Phodal·2023-12-20 00:25

关于冰山理论的一些思考

有人根据现代的职场变化，对冰山模型做了微调，模型如下：修改后的模型我们可以看到冰山上的部分是知识和技能，如工控领域中的Pid控制就是一个知识点，用组态软件编写现
工控先生·2023-12-19 21:44

DALL-E 3: 管窥蠡测OpenAI open的一个文生图小口

DALL-E3DALL-E3总览摘要1引言2.1构建一个图像描述器2.1.1微调图像描述器DALL-E3总览题目:ImprovingImageGenerationwithBetterCaptions机构
猴猴猪猪·2023-12-19 21:21

情况明朗！女排东京奥运会12人阵容，这两个位置不会再用新人

这样的人员微调，也意味着主教练郎平心中的女排东京奥运会12人阵容，已经基本定型。其中接应和自由人两个位置，明年的奥运会应该不会再用新人。
老高说体育·2023-12-19 20:16

解锁 SEO 的竞争洞察：分步指南

研究什么对你的SEO竞争对手有效，并找出他们的弱点，可以帮助你微调自己的策略，以获得更大的竞争优势。这篇文章将教你如何分析竞争对
SEO_juper·2023-12-19 16:18

指责耗费不起，愿友谊理解万岁

哈哈哈，不过也是属于乐天派的，稍微调整了下心情，打电话给自己初中三年，高中三年的老同学，或者可以说是迄今为止还在联系的同学之一吧
户外旅行人渊龙博峰·2023-12-19 10:01

MetaGPT：使GPT扮演产品经理、架构师、项目经理、工程师，解决复杂项目问题

github.com/geekan/MetaGPT-中文介绍：https://github.com/geekan/MetaGPT/blob/main/README_CN.md-我们的最终目标是让GPT能够训练、微调
alexapollo·2023-12-19 10:17

C# 正则表达式参考工具类

下面内容是网上找的一篇写的比较全面的案例，可以用来做练习和参考，原文有点小错误，稍微调整了一下。代码实现usingSystem.Text;usingS
rjcql·2023-12-19 09:13

夏天【阅读＋日记打卡200天】131/200

只要稍微调整一下与孩子的相处方式，就可以提高他们的专注力和脑力，其也会逐渐地发挥出惊人的潜能。
夏天天的天·2023-12-19 08:10

LongLoRA 介绍

本文将介绍一篇关于使用局部注意力来微调长上下文LLM的文章。文章的要点如下：提出了一种新的局部注意力机制，称为ShiftShortAttention，它可以有效地减少LLM处理长上下文所需的计算量。
步子哥·2023-12-19 02:27

开源 LLM 微调训练指南：如何打造属于自己的 LLM 模型

一、介绍今天我们来聊一聊关于LLM的微调训练，LLM应该算是目前当之无愧的最有影响力的AI技术。尽管它只是一个语言模型，但它具备理解和生成人类语言的能力，非常厉害！
机器学习社区·2023-12-18 10:25

大模型——LLAMA模型

论文导读ChatGPT具有指令遵循能力和泛化性，论文对ChatGPT背后的指令微调和RLHF技术进行详细描述。
crush.,·2023-12-18 03:36

QLoRA论文概述

QLORA:EfficientFinetuningofQuantizedLLMsQLoRA论文概述前言（省流版本）摘要论文十问实验实验1数据集和模型实验结论实验2数据集和模型实验结论局限性模型尺度数据集其他微调方法
江小皮不皮·2023-12-18 03:06

Llama 架构分析

Llama架构分析分词网络主干DecoderLayerAttentionMLP下游任务因果推理文本分类Llama架构分析前言Meta开发并公开发布了Llama系列大型语言模型(LLM)，这是一组经过预训练和微调的生成文本模型
江小皮不皮·2023-12-18 03:35

NExT-GPT: Any-to-Any Multimodal LLM 阅读学习

提出新的模态切换指令微调(MosIT)方法与高质量数据集，赋予NExT-GPT复杂的跨模态理解与生成能力。
south020·2023-12-18 03:36

OpenAI开源超级对齐方法：用GPT-2，监督、微调GPT-4

12月15日，OpenAI在官网公布了最新研究论文和开源项目——如何用小模型监督大模型，实现更好的新型对齐方法。目前，大模型的主流对齐方法是RLHF（人类反馈强化学习）。但随着大模型朝着多模态、AGI发展，神经元变得庞大、复杂且难控制，RLHF便有点力不从心。做个不太恰当的比喻，就像是工厂的保安一样：一个20人的小工厂，3个保安就能应付；如果发展到5000人的大工厂呢？仅靠人工就不太行，需要摄像头
richerg85·2023-12-18 02:33

第二单元 测试计划

只要第一项和最后一项的位置是固定的，其他都可以微调位置2.2.1封面和测试目的封面：测试计划，编写人，编写时间等，可以表格，也可以文字描述目录：自动生成2.2.1.1测试目的编写结构1.目的的总体概
Coisini_1209·2023-12-18 01:26

Stable Diffusion 微调及推理优化实践指南

然而对于大部分人来说，训练扩散模型的门槛太高，对StableDiffusion进行全量微调也很难入手。
机器学习社区·2023-12-18 00:57

实时指令唤醒

同时还支持指令微调、提高指令的准确率。
夜雨飘零1·2023-12-17 20:54

Stable Video Diffusion: Scaling Latent Video Diffusion Models to Large Datasets

Stablevideodiffusion：将潜在视频扩散模型扩展到大型数据集可以做到：文本-视频的生成、（文本-）图像-视频的生成、通过图像-视频微调进行多视图合成摘要我们提出了Stablevideodiffusion
小闫奋斗史·2023-12-17 14:26

图片风控NSFW(not suit for work)-2 基于tf2模型微调

直接使用yahoo开源的模型open_nsfw，不能满足业务需求，需要对模型进行重新训练。本篇主要是对模型进行训练.（在上篇博客已经讲述了怎么将原始模型转换为tensorflow2模型）思路1将开源雅虎nsfw模型转换为tensorflow2，见tensorflow2模型重构2准备训练样本，正负样本（比例4:1~1:4之间）3数据增强4模型训练5模型保存6模型部署（java部署）1数据准备训练数据
晚点吧·2023-12-17 08:06

使用Pytorch从零开始构建LoRA

LoRA是Low-RankAdaptation或Low-RankAdapters的缩写，它提供了一种高效且轻量级的方法来微调预先存在的语言模型。
Garry1248·2023-12-17 07:47

大数据 | Hadoop、Hive、Spark的关系

服务器可以插6块硬盘，每块硬盘4T，共24T原始容量，再加上一些数据包的可用冗余，再加上一些格式化的损失，保守估计一台服务器至少可以有10T以上的可用容量，再加上128G内存和两颗CPU，装入DBMS，稍微调优
xyzhang2018·2023-12-17 06:58

Pytorch：模型的保存加载、模型微调、GPU的使用

目录一、模型的保存与加载1.1序列化与反序列化（1）torch.save（2）torch.load1.2保存加载模型基本用法1.2.1保存模型1.2.2加载模型1.3模型的断点续训练二、模型微调2.1TransferLearning
碧蓝的天空丶·2023-12-17 06:23

红外接收二极管制作遥控检测电路

Rp可用WH7型微调电阻器，其余电阻均用RTX-1/8W型碳膜电阻器。C1、C2可采用CD11-25V型电解电容器，C3要用CBB
梓德原·2023-12-17 06:11

【电路笔记】-电容器的种类

1、概述可用电容器的类型范围从用于振荡器或无线电电路的非常小的精密微调电容器，到用于高压功率校正和平滑电路的大功率金属罐型电容器。不同类型电容器之间的比较通常是根据极板之间使用的电介质进行的。
视觉&物联智能·2023-12-17 06:07

AI视频-stable-video-diffusio介绍

该模型通过在SVDImage-to-Video[14帧]的基础上进行微调而来,可以生成576x1024分辨率、25帧长度的视频。它使用了行业标准的f8解码器来实现视频的时间一致性。
Dlimeng·2023-12-17 05:47

小狐狸GPT付费2.4.9弹窗版学习源码介绍

该源码集成了多个先进的自然语言处理技术，包括预训练、微调、对话生成等，可以应用于多个领域，如机器翻译、文本生成、问答系统等。
骆驼&沙漠·2023-12-17 05:53

2018年度十大网络用语出炉

“2018年十大网络用语”是基于国家语言资源监测语料库（网络媒体部分），采用“以智能信息处理技术为主，以人工后期微调为辅”的方式提取获得的。
江湖人称王大大·2023-12-17 04:19

曾经的抑郁

我自认为是一个比较乐观的人，或者说会自己开解自己的人，哪怕受些委屈，稍微调整下也就过得去了。最终的结果是，那段时间，我确实没有患上产后抑郁症，但却有过一些抑郁情绪。
千允·2023-12-17 02:09

大模型微调技巧：在 Embeeding 上加入噪音提高指令微调效果

大家好，在去年分享过一篇ACL2022的文章，通过微调前给预训练模型参数增加噪音提高预训练语言模型在下游任务的效果方法。
深度学习算法与自然语言处理·2023-12-17 02:04

ChatGPT原理学习

区别：BERT：完形填空：中间扣空了预测；GPT：预测未来GPT1：先要有个预训练模型，然后基于具体的应用做fine-tune（下游任务做微调），才能用GPT2不搞fine-tune了，直接搞个大模型，
stevewongbuaa·2023-12-16 18:59

Chatglm2-6b-lora&ptuning微调实践2

Chatglm2-6B-lora&ptuning微调实践21.参考教程2.实践环境3.微调实战3.1环境安装3.2单gpu微调3.2.1lora微调**注意事项**1.lora微调代码2.lora微调代码所在位置
fengxiaoyangfeng·2023-12-16 16:33

【动手学深度学习】(十四)数据增广+微调

文章目录一、数据增强1.理论知识2.代码二、微调1.理论知识一、数据增强1.理论知识增加一个已有数据集，使得有更多的多样性在语言里面加入各种不同的背景噪音改变图片的颜色和形状使用增强数据训练翻转左右翻转上下翻转不总是可行切割从图片中切割一块
释怀°Believe·2023-12-16 14:49

最强开源大模型？Llama 2论文解读

标题简介模型预训练预训练设置硬件资源与碳排放模型评估模型微调有监督微调基于人工反馈的强化学习（RLHF）人类偏好数据的收集奖励模型迭代微调过程多轮对话控制RLHF结果模型回答的安全性  一直以来，Llama
长白山下大绵羊·2023-12-16 13:52

挑战自我

轮到我上台了，我稍作苁蓉地走上台，稍微调试了话筒，面向全体评委和老师，感觉自己目之所及，一
河北张海霞·2023-12-16 11:51

通义千问 Qwen-72B-Chat在PAI-DSW的微调推理实践

01引言通义千问-72B（Qwen-72B）是阿里云研发的通义千问大模型系列的720亿参数规模模型。Qwen-72B的预训练数据类型多样、覆盖广泛，包括大量网络文本、专业书籍、代码等。Qwen-72B-Chat是在Qwen-72B的基础上，使用对齐机制打造的基于大语言模型的AI助手。阿里云人工智能平台PAI是面向开发者和企业的机器学习/深度学习平台，提供包含数据标注、模型构建、模型训练、模型部署、
Python算法实战·2023-12-16 11:04

通用大模型训练过程必须经历的四个阶段！

从该图可知大模型训练主要有4步：Pretraining—预训练阶段SupervisedFinetuning（SFT）—监督微调，也叫指令微调阶段RewardModeling—奖励模型训练阶段ReinforcementLearning
Python算法实战·2023-12-16 11:03

ControlNet Adding Conditional Control to Text-to-Image Diffusion Models

它拷贝SD部分原权重作为一个新的分支进行微调训练，同时维持SD原权重分支不变，并在开始训练使用零卷积将二者相连。从而能利用已经
Adenialzz·2023-12-16 08:36

【期末复习向】长江后浪推前浪之ChatGPT概述

当时很多的特定领域的NLP任务（如情感分类，信息抽取，问答等）都是采用bert加上领域数据微调解决。
诺坎普的风间·2023-12-16 07:21

关于chatgpt一点肤浅认识

它是计算机更好地理解单词1、预训练–就是先训练一个模型，用于以后特定任务的微调，比如将BERT这个模型用于特定的NLP任务，比如情感分析2、one-hot:用只有一个元素是1，其他是0的向量表示物体。
The Straggling Crow·2023-12-16 07:18
上一页 15 16 17 18 19 20 21 22 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他