微调

【GitHub项目推荐--TTS】【转载】

少样本TTS：只需1分钟的训练数据，就可以微调模型，以提高语音相似度和真实感。跨语言支持：可以用与训练数据集不同的语言进行推理，目前支持英语、日语和中文。集成了一些
旅之灵夫·2024-02-02 06:10

【gRPC】Python建立服务端含接口映射

续之前《【gRPC】protoc文件转py文件》基于之前的目录结构，微调下：|-example#新增|-service|-api|-User.py|-configs.py|-example_proto|
陀螺蚁·2024-02-02 06:07

为什么RAG是件大事【检索增强生成】

一项关键技术是检索增强生成（RAG），它可以使LLM个性化，而无需昂贵的训练过程（“微调”）。
新缸中之脑·2024-02-02 06:04

选择GPT-3.5、还是微调Llama 2等开源模型？综合比较后答案有了

众所周知，对GPT-3.5进行微调是非常昂贵的。本文通过实验来验证手动微调模型是否可以接近GPT-3.5的性能，而成本只是GPT-3.5的一小部分。有趣的是，本文确实做到了。
程序员的店小二·2024-02-02 06:33

第2章 大模型的基础知识2.2 大模型的关键技术2.2.2 预训练与微调

v=bZQun8Y4L2A&t=339s1.背景介绍在本章节中，我们将深入探讨大模型中的关键技术之一：预训练与微调(Pre-trainingandFine-tuning)。
OpenChat·2024-02-02 05:09

【EVP】Explicit Visual Prompting for Low-Level Structure Segmentations

3.1整体结构3.2高频分量计算3.3显示视觉提示EVP4.实验4.1四种任务结果对比4.2不同可训练参数量结果对比4.3四种任务可视化结果4.4消融实验4.5参数选择对比结果4.6在四个不同任务上与其他微调方法对比
zy_destiny·2024-02-01 22:40

ChatGLM3-6B模型介绍及微调

文章目录ChatGLM3-6B的强大特性更强大的基础模型更完整的功能支持更全面的开源序列ChatGLM3-6B的部署basic版部署集成版部署ChatGLM3-6B-base微调ChatGLM3-6B-chat
dzysunshine·2024-02-01 20:24

ChatGLM-6B：自定义数据集和模型微调！

Datawhale干货开源：ChatGLM，编辑：Coggle数据科学ChatGLM-6B介绍ChatGLM-6B是一个开源的、支持中英双语问答的对话语言模型，基于GeneralLanguageModel(GLM)架构，具有62亿参数。具体代码和权重可以从获取：https://github.com/THUDM/ChatGLM-6B/https://huggingface.co/THUDM/chat
Datawhale·2024-02-01 20:52

ChatGLM-6B在法律数据集上微调

目录数据集训练和推理依赖训练推理数据集数据集：lawzhidao_filter.csv（工作台-Heywhale.com）处理：1）筛选'is_best'=1的行，删除'reply'为空的行，在'title'和'question'中选择描述长的列，最后csv文件只包含两列数据['title','reply']。2）转为json格式（和ChatGLM-6B中ptuning提供的AdvertiseGe
Luzichang·2024-02-01 20:50

前端CSS的相对定位、绝对定位、固定定位

相对定位position:relative相对定位，就是微调元素位置的。元素相对自己原来的位置，进行位置的微调。也就是说，如果一个盒子想进行位置调整，那么就要使用相对定位了。
王裕杰·2024-02-01 18:33

最强解套攻略+直击灵魂的思考

盘面分析一句话：微调，走势不变，包括美股，今夜大概率还会涨，明天的A股好好表现！（篇幅原因，不看板块，主要是没时间写，哈哈）最强解套攻略首先，为什么我说的是解套而不是盈利呢？
韶华解忧鋪·2024-02-01 18:23

Amazon Bedrock 的微调和持续预训练功能允许用户使用私有数据定制模型

通过微调，您可以通过私有的特定任务标注训练数据集来提高模型的准确性，进一步使基础模型（FM）专业化。借助持续预训练，您可以在安全的托管环境中使用私有未经标注的数据和客户管
亚马逊云开发者·2024-02-01 13:58

Transformer 自然语言处理（三）

NaturalLanguageProcessingwithTransformers译者：飞龙协议：CCBY-NC-SA4.0第八章：使transformers在生产中更高效在之前的章节中，您已经看到了transformers如何被微调以在各种任务上产生出色的结果
绝不原创的飞龙·2024-02-01 12:59

大模型增强大模型：通过融合扩展能力（Google DeepMind2024）

微调为什么不可行，组合为什么可行？答：因为训练大型模型在计算上是昂贵的，尤其是增强模型本身可能是在大规模数据集上训练的LLM。此外，由于隐私和组织边界的原因，处理来自多个
Ly大可爱·2024-02-01 11:53

对齐大型语言模型与人类偏好：通过表示工程实现

为了解决RL方法带来的上述挑战，提出了几种计算上轻量级的替代方案，在这些替代方案中，两个突出的范例包括对比学习和Hindsight指令重新标记（HIR），然而，无奖励微调容易受到训练集中包含的偏好注释响应对的嘈杂数据或不正确标签的影响
Ly大可爱·2024-02-01 11:53

YAYI-UIE: 一个用于通用信息提取的聊天增强的指令微调框架

3、主要方法：两步指令微调：第一步：在构建的对话语料库上对基础LLM进行微调，以获得可以聊天的LLM：Ddialogue=instruct
Ly大可爱·2024-02-01 11:53

企业级大模型的护城河：RAG + 微调

围绕LLM的炒作是前所未有的，但这是有道理的，生成式AI有潜力改变我们所知道的社会。在很多方面，LLM将使数据工程师变得更有价值——这令人兴奋！不过，向老板展示数据发现工具或文本到SQL生成器的炫酷演示是一回事，而将其与公司的专有数据（甚至更重要的客户数据）一起使用则是另一回事。很多时候，公司急于构建人工智能应用程序，却对其实验的财务和组织影响缺乏远见。这不是他们的错——高管和董事会应该为围绕这项
新缸中之脑·2024-02-01 09:18

泰迪智能科技大模型微调项目训练营已开营

泰迪智能科技大模型微调项目训练营开营跟张良均老师学大数据人工智能项目一：医疗诊疗对话意图识别项目二：中医问答系统项目三：某平台股票评论情感识别学习流程：项目一：医疗诊疗对话意图识别项目背景:“互联网+医疗
泰迪智能科技·2024-02-01 08:40

微调入门篇:大模型微调的理论学习

1、为什么大模型微调之前在《大模型这块蛋糕,想吃吗》介绍了普通人如何搭上大模型这块列车,其中有一个就是模型微调,这个也是未来很多IT公司需要发力的方向,以及在《垂直领域大模型的应用更亲民》中论述了为什么微调适合大家
程序猿小三·2024-01-31 19:21

Python数据可视化day07|使用API

我们将进行多个方面的定制,因此先来稍微调整代码的结构,创建一个配置对象,在其中包含要传递给Bar()的所有定制:➜python_repos_pygal.py--snip--#可视化my_style=LS
习惯芥末味·2024-01-31 17:01

情深不寿 纸短情长

我稍微调整了一下自己狼狈的状态，压低声音伏在死党耳边说到：“你又搞什么鬼
七年一梦·2024-01-31 16:54

MFTCoder 重磅升级 v0.3.0 发布，支持 Mixtral 等更多模型，支持收敛均衡，支持 FSDP

1.MFTCoder简介CodeFuse在2023年9月开源了一种多任务微调框架——MFTCoder，它可以实现在多个任务上同时并行地进行微调。
CodeFuse·2024-01-31 15:02

CodeFuse新开源模型荣登Big Code评测榜首！

使用多任务高效微调框架MFTCoder，以DeepSeek-Coder-33b模型为底座，微调获得的CodeFuse-DeepSeek-33b模型在BigCodeModelsLeaderboard代码大模型榜单上以
CodeFuse·2024-01-31 15:02

大模型技术关于硬件和操作系统的要求

硬件与操作系统要求一、硬件与软件的平衡在大模型微调技术的落地应用中，硬件和软件同等重要。用户需要根据具体的应用场景和需求，平衡硬件和软件资源的投入。
E寻数据·2024-01-31 13:14

大白话理解大语言模型预训练和微调

引言在人工智能的黄金时代，预训练模型已成为推动技术发展的驱动力。这些模型通过自回归和生成式的核心特性，为语言理解和生成开辟了新天地。本文将探讨这两种模型的特性及其对大模型预训练的影响。一、自回归模型的魔法自回归模型是预训练过程中的关键。这种模型通过考虑之前的所有输出来预测下一个词，就像我们填写完形填空题一样。它们是顺序模型，意味着它们一步步地构建序列，每一步只生成一个词。例如，考虑句子：“我喜欢吃
E寻数据·2024-01-31 13:14

大模型微调LoRA训练与原理

1.什么是LoRA？LoRA的全称是LOW-RANK-ADAPTATION。是一种实现迁移学习的技术手段。2.矩阵的秩？秩是一个向量空间的基向量的个数。例如：二维平面坐标系存在两个基向量，平面上任意的一个向量都可以使用这两个基向量进行线性表示，则秩为2。三维空间中则有3个基向量。3维空间存在很多对的基向量，而正交的基向量才是最简单的。秩是矩阵特有的属性。3.Transforerm中的矩阵有哪些？很
谦虚且进步·2024-01-31 10:28

生成式AI与大模型核心技术开发与应用研修班

大模型和小模型的融合使用，或者以大模型为底座的小型化微调都是未来发展趋势。如何调用大模型开展自然语言处理、图像处理、文本识别的技术，成为目前人工智能领域人才的迫切需求。为帮助大家掌握大模型调用、
人工智能技术与咨询·2024-01-31 08:37

论文推荐:大语言模型在金融领域的应用调查

这篇论文总结了现有LLM在金融领域的应用现状，推荐和金融相关或者有兴趣的朋友都看看论文分为2大部分：1、作者概述了使用llm的现有方法包括使用零样本或少样本的预训练模型，对特定于领域的数据进行微调，还有从头开始训练定制
deephub·2024-01-31 07:29

AI大模型专题：2024大模型安全流通平台市场厂商评估报告

大模型训练及应用全流程可大致分为数据治理、预训练、微调、应用四个环节，每个环节均有安全需求。全流程安全是大模型及其要素高效流通的必要条件之一。厂
人工智能学派·2024-01-31 07:13

书生浦语大模型实战营笔记作业汇总

哔哩哔哩第三课：书生浦语大模型实战营第三次课笔记-CSDN博客书生浦语大模型实战营第三次课作业-CSDN博客第四课：书生浦语大模型实战营第四次课笔记-CSDN博客书生浦语大模型实战营第四次课作业-使用XTuner微调
睡觉爱数羊·2024-01-31 03:56

书生·浦语大模型实战营汇总

浦语大模型全链路开源体系视频，笔记第二课：浦语大模型趣味Demo视频，文档，笔记，作业第三课：基于InternLM和LangChain搭建你的知识库视频，文档，笔记，作业第四课：XTuner大模型单卡低成本微调实战视频
灬烖灬·2024-01-31 03:55

大模型学习之书生·浦语大模型笔记汇总

全链路开源体系大模型学习之书生·浦语大模型2——趣味Demo大模型学习之书生·浦语大模型3——基于InternLM和LangChain搭建知识库大模型学习之书生·浦语大模型4——基于Xtuner大模型微调实战大模型学习之书生
uncle_ll·2024-01-31 03:25

LLM大模型：面试、微调

大模型面试准备-1（题库整理篇）大模型八股答案（一）——基础知识-知乎分析transformer模型的参数量、计算量、中间激活、KVcache-知乎【NLP】GoogleBERT模型原理详解-知乎2、大模型微调学习
风路丞·2024-01-31 01:42

2021民校招生策系列之④:这5个问题应对及真正解答，对民办小学、初中招生意义重大！

问题1:你知道小一家长选择学校标准出现了哪些微调吗？家长选择学校，质量、课程特色仍是首要考虑因子，同时其它因子权重将会微调，考虑就餐、住宿、环境所占比重会加大。
王红顺·2024-01-30 22:57

DarkMode(4)：css滤镜 颜色反转实现深色模式

或者用js，给想要反转的，加上反转样式，再对其他的做微调。
zhoulujun·2024-01-30 17:50

UniAdapter: Unified Parameter-Efficient Transfer Learning for Cross-modal Modeling

UnifiedParameter-EfficientTransferLearningforCross-modalModeling论文链接：https://arxiv.org/pdf/2302.06605.pdf源码链接：https://hub.nuaa.cf/RERV/UniAdapter简介预训练-微调范式在自然语言处理
qgh1223·2024-01-30 15:41

2022-11-12【日精进第55天】

姓名：李庆单位：郑州鹿野苑餐饮管理有限公司（朵家甜品厨房）每日定课（根据实际情况，每十天微调一次）：1，晨跑：5：20前，18分钟内跑完3公里；【完成】2，读书笔记：阅读30min+，笔记200字以上；
李庆是个做蛋糕的·2024-01-30 15:21

【书生·浦语大模型实战营】学习笔记目录

轻松玩转书生·浦语大模型趣味Demo》学习笔记【书生·浦语大模型实战营03】《基于InternLM和LangChain搭建你的知识库》学习笔记【书生·浦语大模型实战营04】《(4)XTuner大模型单卡低成本微调实战
songyuc·2024-01-30 14:33

小数课程在路上•两位数减一位数算理（退位）

这节课，在上课的时候进行了微调，即加入了专门的“两位数拆分成整十数和十几”的教学。主要是在相关的数学实验室活动中，孩子们在两位数拆分上出现了不小的障碍，我预计班级里会有很多孩子在这块上出现问题。
温州王晓锋·2024-01-30 13:44

自然语言nlp学习 三

4-8Prompt-Learning--应用_哔哩哔哩_bilibiliPromptLearning（提示学习）是近年来在自然语言处理领域中，特别是在预训练-微调范式下的一个热门研究方向。
wangqiaowq·2024-01-30 10:13

大白话理解大型语言模型（LLM）：预训练和微调

本文将深入探讨这些模型的两个关键阶段：预训练和微调，以及它们在实际应用中的重要性。1.预训练阶段：建立基础目的与过程：预训练是大型语言模型学习的起点，其目的是让模型掌握语言的基本统计规律和通用知识。
E寻数据·2024-01-30 08:36

大模型微调学习之旅③ — 基于 InternLM 和 LangChain 搭建你的知识库

目录一、大模型开发范式1、通用大模型的局限性：2、解决通用大模型范式的两种解决思路：①检索增强生成（RAG）②延呈传统自然语言处理算法微调（Finetune）二、LangChain简介①什么是LangChain②LangChain
Hoo K·2024-01-30 08:08

机器学习.线性回归

1和2是权重项，0是偏置项，在训练过程中为了使得训练结果更加精确而做的微调，不是一个大范围的因素，核心影响因素是权重项为了完成矩阵的运算，在0后面乘x0，使得满足矩阵的转换，所以在处理数据时候会添加如有上图所示的
丰海洋·2024-01-30 07:28

DB-GPT: Empowering Database Interactions with Private Large Language Models 导读

其核心创新在于采用了私有化的LLM技术，在特定领域的语料库上进行微调，以确保用户隐私和数据安全的同时，获得最先进的LLM的好处。DB-GPT的架构包括一个新颖的知识
一只特蕉·2024-01-30 06:04

在 Amazon EKS 上部署生成式 AI 模型

生成式AI技术包括微调和部署大型语言模型（LLM），并允许开发人员访问这些模型以执行提示和对话。负责在Kubernetes上制定标准的平台团队可以在AmazonEKS上微调和部署大语言模型。
亚马逊云开发者·2024-01-30 05:40

20180815【晨间日记】

0815晨间日记【7/90】：1.早起5:10早睡11:252.昨日检视:①补充创业计划书后续表格，已完成;②微水汽车美容开班及现场总结规范微调，已完成;③扫盲培训教材装订及方案落实，没有完成;3.今日青蛙
六两在路上·2024-01-30 00:32

VLM 系列——Monkey——论文解读

ImageResolutionandTextLabelAreImportantThingsforLargeMulti-modalModels》，是一个多模态的视觉-文本模型，当前版本（20231130）为基于Qwen-vl的三阶段微调
TigerZ*·2024-01-29 21:30

UE4场景搭建小记

后期处理盒子场景搭建工作流整体布局+地形制作+模型摆放地形&模型材质制作或调整打光&后期：静态烘培+动态光照+阴影+后期盒子场景交互：可交互模型蓝图+关卡蓝图场景特效：粒子+后期材质场景物理：物理模拟+物理破碎整体布局微调
Ctrlturtle·2024-01-29 21:19

如何评估服务端压测指标

压测流程完整的压测流程一般包含下面几个步骤：1、压测目标的制定2、压测链路的梳理3、压测环境的准备4、压测数据的构造5、发压测试6、瓶颈定位及容量微调7、压测总结和报告压测指标列举一些常用指标，并不一定都需要关注
爱转角码农·2024-01-29 20:35

基于BERT的文本分类——附-简单的示例代码

BERT通过在大规模文本语料上进行预训练，学习了深层次的语言表示，然后可以通过微调用于各种下游任务，包括文本分类。文本分类是一个常见的自然语言处理任务，它涉及将文本分为不同的类别或标签。
技术宅学长·2024-01-29 18:54
上一页 2 3 4 5 6 7 8 9 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他