指令集微调

PEFT微调方式总结

PEFT微调方式总结PEFT微调方式总结PEFT介绍安装peft支持的微调方法和任务SEQ_CLSSEQ_2_SEQ_LMCAUSAL_LMTOKEN_CLS模型加载微调加载PROMPT_TUNING简介源码
江小皮不皮·2024-02-03 15:48

stable diffusion微调总结

stablediffusion微调总结stablediffusion模型类别：SDSD2SDXLSDXLLCM（潜在一致性模型）SDXLDistilledSDXLTurbo安装accelerate通过pip
江小皮不皮·2024-02-03 14:46

进程、线程的概念、区别和联系；并发、并行概念、区别和联系

程序和进程的主要区别：程序是一个静态的指令集合，进程则是正在系统中活动的指令集合。换句话说，运行中的程序就是进程。
程序员小伙伴·2024-02-03 14:43

基于RISC-V的CPU支持汽车功能安全

它具有使用32位RISC-V指令集架构(RV32IMAF)的单问题、有序四级流水线。它支持汽车应用所需的ISO26262ASILD功能安全，还支持AUTOSA
上帝出来见牛魔王·2024-02-03 12:20

大模型应用开发-实用开源项目汇总

大模型相关目录大模型，包括部署微调prompt/Agent应用开发、知识库增强、数据库增强、知识图谱增强、自然语言处理、多模态等大模型应用开发内容从0起步，扬帆起航。
写代码的中青年·2024-02-03 09:32

JVM简介

Java虚拟机包括一套字节码指令集、一组寄存器、一个栈、一个垃圾回收堆和一个存储方法域。
onlyHalfSoul·2024-02-03 09:17

一行命令实现docker一键部署最新模型无限制模型接近GPT4能力的微调ChatGLM3第三代大语言模型单机部署、量化部署、Mac 部署、单GPU部署及多GPU部署指南，附详细代码和步骤

一行命令实现docker一键部署最新模型无限制模型接近GPT4能力的微调ChatGLM3第三代大语言模型单机部署、量化部署、Mac部署、单GPU部署及多GPU部署指南，包含代码调用对话、API调用、网页对话
代码讲故事·2024-02-03 03:29

了解jvm，jre，jdk及它们之间的关系

JVM是Java平台的基础，和实际的机器一样，它也有自己的指令集，并且在运
裘马轻狂大帅·2024-02-03 02:20

AIGC专题：生成式AI（GenAI）赋能供应链之路

它是在一个基础上训练的--一个由来自多个来源的数十亿个单词组成的模型，并通过从人类反馈中得到的强化学习进行微调型号(LLM)：在大量文本上进行训练的La
人工智能学派·2024-02-03 02:07

用通俗易懂的方式讲解：一文详解大模型 RAG 模块

索引模块块优化滑动窗口从小到大元数据附加结构化组织层次化索引知识图谱文档组织预检索模块查询扩展多查询子查询CoVe查询转换重写HyDE查询路由元数据路由器/过滤器语义路由器查询构建检索模块检索模型选择稀疏检索器密集检索器检索器微调
Python算法实战·2024-02-03 01:43

【国产MCU】-认识CH32V307及开发环境搭建

加入单精度浮点指令集，扩充堆栈区，具有更高的运算性能。扩展串口UART数量到8组，电机定
视觉&物联智能·2024-02-02 21:01

关于JVM面试题汇总

Java代码转换成字节码（class文件），JVM首先需要把字节码通过一定的方式类加载器（ClassLoader）把文件加载到内存中运行时数据区（RuntimeDataArea）但是字节码文件是JVM的一套指令集规范
lose_rose777·2024-02-02 21:09

(新手亲测有效)bug解决：在用显存24G的3090采用LoRA微调ChatGLM-6B（FP16）时报错torch.OutOfMemoryError:CUDA out of Memory.

在采用LoRA对ChatGLM-6B（FP16）进行微调时，显存空间会占用到20G多一点（参考LLM-ChatGLM-6BLora微调与推理_chatglm2-6b训练lora-CSDN博客），按照这个情况
韬小志·2024-02-02 20:34

LLM - ChatGLM-6B Lora 微调与推理

目录一.引言二.环境准备三.ChatGLM-6BLora微调1.样本准备ByJson2.样本生成ByTokenizer3.模型生成ByTrainer四.ChatGLM-6BLora文本生成1.文本生成ByChat2
BIT_666·2024-02-02 20:33

（新手亲测有效）bug解决：ValueError: Attempting to unscale FP16 gradients. 反复出现的问题。

在新手在消费级GPU上本地部署chatGLM-6B-CSDN博客完成chatGLM-6B（FP16）的部署后，尝试对模型进行loRA微调，期间遇到并解决了一些bug，分享给大家，希望大家少走弯路！
韬小志·2024-02-02 20:02

【根据loss曲线看模型微调效果】如何使用loss曲线诊断机器学习模型性能

一、Loss曲线在模型的预训练或者微调过程中，我们一般通过观察loss曲线来得出模型对于数据集的学习效果等信息。那么我们如何根据loss曲线得到一些信息呢？
子非Yu@Itfuture·2024-02-02 19:11

2. ChatGLM开源⼤模型

为什么要学习开源⼤模型更⼤的微调空间：相⽐在线⼤模型，开源⼤模型可以使⽤更多微调框架进⾏模型微调，微调空间更⼤，更有可能快速完成定制化⼤模型训练；更加灵活的AI应⽤开发：相⽐封闭的在线模型，开源模型可以更加灵活便捷的嵌
Andy_shenzl·2024-02-02 19:53

为了这种可能性，咱们才如此地一如既往

为了这种可能性，咱们才如此地一如既往-----阿拉丁956“当你不想码字的时候，就继续码字”，把村上春树的“当你不想跑步的时候，就去跑步”稍微微调了一下，成为继续坚持码字的一种驱动力。
阿拉丁956·2024-02-02 18:52

车载语音交互赛道研究：大模型揭幕2.0时代 商业模式重塑

根据高工智能汽车研究院调研获取的信息，核心原因为：1.0时代，车载语音交互玩家可使用自身的小模型；2.0时代，很可能需基于通用大模型（训练成本极为高昂，某种程度上为基建工程），做一定的微调形成自身的行业大模型
高工智能汽车·2024-02-02 15:55

高手从不左顾右盼

他们从一开始就分析多方情报，审时度势，锁定目标，适时微调，砥砺前行。路途当用，经历种种，不过是磨砺心性，砥砺前行。当然，所有的高手不是天生就是高手的。
王蒲臣·2024-02-02 14:09

【王道】计算机组成原理 知识点总结4——指令系统

指令系统：一台计算机的所有指令的集合构成该机的指令系统，也称指令集。指令系统是指令集体系结构（ISA）中最核心的部分，ISA完整定义了软件和硬件之间的接口，是机器语言或汇编语言程序员所应熟悉的。
住在天上的云·2024-02-02 11:05

2024-01-06-AI 大模型全栈工程师 - 机器学习基础

a.什么是模型训练（Training）b.什么是模型预训练（Pre-Training）c.微调（Fine-Tuning）d.轻量化微调（ParameterEfficientFine-Tuning,PEFT
流雨声·2024-02-02 10:42

x86汇编常见语法(GNU格式)

x86汇编常见语法(GNU格式)目录x86汇编常见语法(GNU格式)1.寄存器1.1通用寄存器1.2标志寄存器EFLAGS(32位)1.3段寄存器1.4控制寄存器1.5指令指针寄存器2.指令集2.1操作数
lucky_goose·2024-02-02 08:03

2024-01-06-AI 大模型全栈工程师 - 机器学习基础

a.什么是模型训练（Training）b.什么是模型预训练（Pre-Training）c.微调（Fine-Tuning）d.轻量化微调（ParameterEfficientFine-Tuning,PEFT
流雨声·2024-02-02 07:06

【GitHub项目推荐--TTS】【转载】

少样本TTS：只需1分钟的训练数据，就可以微调模型，以提高语音相似度和真实感。跨语言支持：可以用与训练数据集不同的语言进行推理，目前支持英语、日语和中文。集成了一些
旅之灵夫·2024-02-02 06:10

【gRPC】Python建立服务端含接口映射

续之前《【gRPC】protoc文件转py文件》基于之前的目录结构，微调下：|-example#新增|-service|-api|-User.py|-configs.py|-example_proto|
陀螺蚁·2024-02-02 06:07

为什么RAG是件大事【检索增强生成】

一项关键技术是检索增强生成（RAG），它可以使LLM个性化，而无需昂贵的训练过程（“微调”）。
新缸中之脑·2024-02-02 06:04

选择GPT-3.5、还是微调Llama 2等开源模型？综合比较后答案有了

众所周知，对GPT-3.5进行微调是非常昂贵的。本文通过实验来验证手动微调模型是否可以接近GPT-3.5的性能，而成本只是GPT-3.5的一小部分。有趣的是，本文确实做到了。
程序员的店小二·2024-02-02 06:33

STM32入门100步（第1步～第3步）

ARM处理器是英国Acorn有限公司设计的低功耗成本的第一款RISC（精简指令集）微处理器。全称为AdvancedRISCMachine。ARM是一种性能出众的32位处理器的内核架构。
lune_one·2024-02-02 05:30

第2章 大模型的基础知识2.2 大模型的关键技术2.2.2 预训练与微调

v=bZQun8Y4L2A&t=339s1.背景介绍在本章节中，我们将深入探讨大模型中的关键技术之一：预训练与微调(Pre-trainingandFine-tuning)。
OpenChat·2024-02-02 05:09

进程和线程和协程区别

目录一、进程和线程二、线程上下文切换三、线程与协程区别一、进程和线程线程是可以由调度程序对立管理的最小程序指令集，而进程是程序运行的实例。
xingjigongsi·2024-02-02 03:10

iOS .framework （debug和release指令集合并）

/IJKMediaFramework2、查看指令集支持：lipoi
AZander·2024-02-02 02:39

【EVP】Explicit Visual Prompting for Low-Level Structure Segmentations

3.1整体结构3.2高频分量计算3.3显示视觉提示EVP4.实验4.1四种任务结果对比4.2不同可训练参数量结果对比4.3四种任务可视化结果4.4消融实验4.5参数选择对比结果4.6在四个不同任务上与其他微调方法对比
zy_destiny·2024-02-01 22:40

ChatGLM3-6B模型介绍及微调

文章目录ChatGLM3-6B的强大特性更强大的基础模型更完整的功能支持更全面的开源序列ChatGLM3-6B的部署basic版部署集成版部署ChatGLM3-6B-base微调ChatGLM3-6B-chat
dzysunshine·2024-02-01 20:24

ChatGLM-6B：自定义数据集和模型微调！

Datawhale干货开源：ChatGLM，编辑：Coggle数据科学ChatGLM-6B介绍ChatGLM-6B是一个开源的、支持中英双语问答的对话语言模型，基于GeneralLanguageModel(GLM)架构，具有62亿参数。具体代码和权重可以从获取：https://github.com/THUDM/ChatGLM-6B/https://huggingface.co/THUDM/chat
Datawhale·2024-02-01 20:52

ChatGLM-6B在法律数据集上微调

目录数据集训练和推理依赖训练推理数据集数据集：lawzhidao_filter.csv（工作台-Heywhale.com）处理：1）筛选'is_best'=1的行，删除'reply'为空的行，在'title'和'question'中选择描述长的列，最后csv文件只包含两列数据['title','reply']。2）转为json格式（和ChatGLM-6B中ptuning提供的AdvertiseGe
Luzichang·2024-02-01 20:50

前端CSS的相对定位、绝对定位、固定定位

相对定位position:relative相对定位，就是微调元素位置的。元素相对自己原来的位置，进行位置的微调。也就是说，如果一个盒子想进行位置调整，那么就要使用相对定位了。
王裕杰·2024-02-01 18:33

最强解套攻略+直击灵魂的思考

盘面分析一句话：微调，走势不变，包括美股，今夜大概率还会涨，明天的A股好好表现！（篇幅原因，不看板块，主要是没时间写，哈哈）最强解套攻略首先，为什么我说的是解套而不是盈利呢？
韶华解忧鋪·2024-02-01 18:23

Amazon Bedrock 的微调和持续预训练功能允许用户使用私有数据定制模型

通过微调，您可以通过私有的特定任务标注训练数据集来提高模型的准确性，进一步使基础模型（FM）专业化。借助持续预训练，您可以在安全的托管环境中使用私有未经标注的数据和客户管
亚马逊云开发者·2024-02-01 13:58

PHP和MySQL

分号是一种分隔符，用于把指令集区分开来。通过PHP，有两种在浏览器输出文本的基础指令：echo和print。
tency小七·2024-02-01 13:58

Transformer 自然语言处理（三）

NaturalLanguageProcessingwithTransformers译者：飞龙协议：CCBY-NC-SA4.0第八章：使transformers在生产中更高效在之前的章节中，您已经看到了transformers如何被微调以在各种任务上产生出色的结果
绝不原创的飞龙·2024-02-01 12:59

大模型增强大模型：通过融合扩展能力（Google DeepMind2024）

微调为什么不可行，组合为什么可行？答：因为训练大型模型在计算上是昂贵的，尤其是增强模型本身可能是在大规模数据集上训练的LLM。此外，由于隐私和组织边界的原因，处理来自多个
Ly大可爱·2024-02-01 11:53

对齐大型语言模型与人类偏好：通过表示工程实现

为了解决RL方法带来的上述挑战，提出了几种计算上轻量级的替代方案，在这些替代方案中，两个突出的范例包括对比学习和Hindsight指令重新标记（HIR），然而，无奖励微调容易受到训练集中包含的偏好注释响应对的嘈杂数据或不正确标签的影响
Ly大可爱·2024-02-01 11:53

YAYI-UIE: 一个用于通用信息提取的聊天增强的指令微调框架

3、主要方法：两步指令微调：第一步：在构建的对话语料库上对基础LLM进行微调，以获得可以聊天的LLM：Ddialogue=instruct
Ly大可爱·2024-02-01 11:53

CPU发展史和相关品牌介绍

1971年，Intel生产的4004微处理器将运算器和控制器集成在一个芯片上，标志着CPU的诞生；1978年，8086处理器的出现奠定了X86指令集架构，随后8086系列处理器被广泛应用于个人计算机终端
AydanLinux·2024-02-01 10:00

Linux下qemu的安装并搭建虚拟arm环境（带helloworld测试）【超详细】

busybox2、启动qemu（arm）3、helloworld测试1、准备工作1.1安装交叉汇编工具交叉编译器的作用就不需要详细解释了，因为我们是在x86平台上进行编译，而运行的平台是ARM系统，这2个平台的指令集不一样
电子科大不知名程序员·2024-02-01 10:24

企业级大模型的护城河：RAG + 微调

围绕LLM的炒作是前所未有的，但这是有道理的，生成式AI有潜力改变我们所知道的社会。在很多方面，LLM将使数据工程师变得更有价值——这令人兴奋！不过，向老板展示数据发现工具或文本到SQL生成器的炫酷演示是一回事，而将其与公司的专有数据（甚至更重要的客户数据）一起使用则是另一回事。很多时候，公司急于构建人工智能应用程序，却对其实验的财务和组织影响缺乏远见。这不是他们的错——高管和董事会应该为围绕这项
新缸中之脑·2024-02-01 09:18

CH32V003国产青稞32位RISC-V2A内核低成本MCU单片机

目录RISC架构优势CH32V003系列简介芯片特性CH32V003系列选型参考RISC架构优势RISC-V标准指令集开源，能够在此基础上进行设计研究。
dnsj5343·2024-02-01 08:14

泰迪智能科技大模型微调项目训练营已开营

泰迪智能科技大模型微调项目训练营开营跟张良均老师学大数据人工智能项目一：医疗诊疗对话意图识别项目二：中医问答系统项目三：某平台股票评论情感识别学习流程：项目一：医疗诊疗对话意图识别项目背景:“互联网+医疗
泰迪智能科技·2024-02-01 08:40

RISC-V指令格式

RISC-V指令格式1RISC-V指令集命名规范2RISC-V指令集组成2.1基础整数指令集2.2扩展指令集3RISC-V指令格式3.1指令表述3.2指令格式本文属于《RISC-V指令集基础系列教程》之一
百里杨·2024-02-01 06:43
上一页 4 5 6 7 8 9 10 11 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他