E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Fine
【llm对话系统】大模型 Llama 源码分析之 LoRA 微调
1.引言微调(
Fine
-tuning)是将预训练大模型(LLM)应用于下游任务的常用方法。然而,直接微调大模型的所有参数通常需要大量的计算资源和内存。
kakaZhui
·
2025-02-02 13:14
llama
深度学习
pytorch
AIGC
chatgpt
AI大模型在智能客服系统中的应用
基于大模型的智能客服系统架构2.对话生成与上下文管理对话生成上下文管理3.提高客服系统响应精度的策略1.使用专门训练的数据集2.引入实体识别和意图分类3.反馈循环和持续优化4.AI大模型在企业中的优化与调优策略1.模型微调(
Fine
-tuning
季风泯灭的季节
·
2025-02-01 04:33
AI大模型应用技术二
人工智能
DeepSeek V3 模型微调(SFT)技术详解
DeepSeekV3模型微调(SFT)技术详解目录引言背景知识2.1深度学习与预训练模型2.2微调(
Fine
-tuning)的概念2.3监督微调(SupervisedFine-tuning,SFT)DeepSeekV3
zhangjiaofa
·
2025-01-30 00:28
大模型
DeepSeek
模型微调
万字精研:大型语言模型微调
Fine
-Tuning技术——14种主流方法的原理、适用场景及实践指南
万字精研:大型语言模型微调
Fine
-Tuning技术——14种主流方法的原理、适用场景及实践指南LLM训练时间和的成本太过庞大,况且个人卷训练经验极为困难,不妨从微调开始搞起。
汀、人工智能
·
2025-01-29 15:40
LLM工业级落地实践
LLM技术汇总
语言模型
人工智能
自然语言处理
P-tuning
LoRA
prompt
tuning
adapter
探索前端的未来:深度使用 SolidJS 构建高性能用户界面
相比于其他框架,SolidJS有以下独特优势:超高性能:基于
fine
-grainedreactivity(细粒度反应性)机制,仅更新必要的DOM节点。零
桂月二二
·
2025-01-29 06:43
前端
ui
大语言模型LLM基础扫盲速通版
9.2在LLM中,微调(
fine
-tuning)是什么?9.3模型大小如何影响LLM的性能?9.4LLM能生
SmallerFL
·
2025-01-27 00:40
NLP&机器学习
语言模型
人工智能
自然语言处理
llm
chatgpt
re:Invent 2023 | 当 SaaS 遇到 AI /ML 和生成式 AI:多租户模式和战略
&trk=42570719-fa2a-4df9-893d-40b6ac004272&sc_channel=el"Bedrock"),Multi-TenantPatterns,GenerativeAi,
Fine
-Tun
李白的好朋友
·
2025-01-25 06:43
aws
亚马逊云科技
科技
人工智能
re:Invent
2023
生成式AI
云服务
FACEBOOK改名META,元宇宙救不了FACEBOOK
看标题你就会发现这里又是不同的观点,正如此,我相信即便是这个公众号,以及由此而散开的花是值得期待的;这不仅打开一扇技术的窗,更打开一扇人生的窗口读懂中国互联网,读懂商业模式请关注微信公众号“肉眼品世界”(ID:find_world_
fine
公众号:肉眼品世界
·
2025-01-24 09:00
大数据
微软
编程语言
区块链
python
个性化的语言模型构建思路
将开源模型(如Llama3、Qwen、Falcon3…等)转变为个人专属的大语言模型,通常涉及知识库的构建、微调(
fine
-tuning)和模型定制等步骤。
由数入道
·
2025-01-23 11:19
人工智能
语言模型
人工智能
自然语言处理
大语言模型原理基础与前沿 指令生成
大语言模型、指令生成、Transformer、BERT、GPT、LLaMA、
Fine
-tuning、PromptEngineering1.背景介绍近年来,大语言模型(LargeLanguageModels
AI大模型应用之禅
·
2025-01-22 07:04
计算机软件编程原理与应用实践
java
python
javascript
kotlin
golang
架构
人工智能
吴恩达系列——微调(
Fine
-tuning)与生成模型的应用
微调(
Fine
-tuning)是指在已有预训练模型的基础上,对模型进行进一步训练,以适应特定任务或需求。
疯狂小料
·
2025-01-18 21:04
ai
prompt
LLM 词汇表
Fine
-tuning微调是使用额外的数据进一步训练预训练语言模型的过程。这使得模型开始表示和模仿微调数
落难Coder
·
2024-09-16 10:22
LLMs
NLP
大语言模型
大模型
llama
人工智能
未来网络体系结构和SDN的研究进展-毕军
最后,介绍一种未来网络体系结构创新环境(
FINE
)体系结构。阅读全文和小伙伴们一起来吐槽
拟声的主扬
·
2024-09-15 09:08
专题
sdn
网络
结构
互联网
软件
新加坡 - A
Fine
City
前两天和朋友吃饭,聊到了各自对新加坡的看法,发现这个城市真是让人又爱又恨。我曾经在新加坡学习4年,后又去英国学习3年,期间也去过不少欧洲的城市。和其它去过的城市相比,新加坡可以说是最安全的一个城市了,犯罪率非常低,真的达到了夜不闭户的程度。曾经住过寄宿家庭,晚上真的不锁门。然而,这种安全感对于人们的生活和商业发展固然是非常好的,但也造成了人们自由度的被压缩。比如,新加坡全面禁烟,就连室外的遮雨棚下
小土也
·
2024-09-11 14:44
GitBook 本地使用排雷,及导出基本可用的 PDF 版本
原文地址:https://alphahinex.github.io/2022/09/18/gitbook-export-
fine
-enough-pdf/coverdescription:"总结了离线环境使用
AlphaHinex
·
2024-09-07 19:24
深度解析:大模型微调的原理、应用与实践
我的结论是在实际落地的过程中绝大多数场景是不需要做的,所以今天主要跟大家分享一下什么是
Fine
-tuning、
Fine
-tuning的原理以及
Fine
-tuning的应用,以帮助大家在工作中更好的理解大模型微调
longfei.li
·
2024-09-01 22:56
人工智能
神经网络
CLIP-Adapter: Better Vision-Language Models with Feature Adapters
对比语言图像预训练(CLIP)虽然prompt-tuning用于textualinputs,但是建议CLIPAdapter在视觉或语言分支上使用功能适配器进行
fine
-tuneCLIPAdapter采用了一个额外的瓶颈层来学习新的特征
Tsukinousag
·
2024-09-01 19:22
redis常用操作命令
显示服务器时间,时间戳(秒),微秒数127.0.0.1:6379>time当前数据库key的数量127.0.0.1:6379>dbsize查询所有key127.0.0.1:6379>keys*模糊查询以
fine
diffiii
·
2024-08-24 15:25
Redis
redis
bootstrap
数据库
嵌入式初学-C语言-二九
这部分操作是由预处理程序自动完成,当源文件在编译时,编译器会自动调用预处理指令的解析,预处理指令解析完成才能进入下一步的编译过程为了能够方便看到编译细节,使用以下命令gcc源文件-E-o程序名[.后缀]预处理的功能宏定义作用域
fine
GoDve丨
·
2024-08-23 12:01
c语言
开发语言
前端
算法
数据结构
c++
关于航班延误的吐槽
你们带着怒气上来,我对你们笑脸相迎,你甩我一个白眼,OK,
fine
,
垚夢語
·
2024-08-22 15:23
#LLM入门|Prompt#1.8_聊天机器人_Chatbot
专门任务设计:针对特定任务或行为进行设计,模型可针对该任务进行
Fine
-tune,提高效果和准确性。优势简化开发:减少了构建聊天机器人所需的工作量和复杂度。灵活性:模型可根据需求进行定
向日葵花籽儿
·
2024-03-12 18:39
LLM入门教程笔记
prompt
机器人
microsoft
预训练大模型LLM的微调PEFT(概述)
微调的分类对大模型进行二次训练的操作我们通常称为微调(
Fine
-T
若石之上
·
2024-03-05 00:49
人工智能
人工智能
LLM
peft
微调
LORA
随笔20190328
健身房偶遇外国友人,自以为自己英语水平高超,却不知对方第一句话我便绞尽脑汁,他说howareyou.按照书本正常的回答应该是
fine
,thankyou,andyou。
努力的小坤
·
2024-02-20 12:04
学习笔记:使用 Amazon Bedrock 进行图像生成
亚马逊云科技此次为其大模型托管服务引入了
Fine
-tuning、Agents、KnowledgeBases和Guardrails等一系列创新功能。
·
2024-02-19 16:07
预训练和微调在迁移学习中的作用
在机器学习和深度学习中,"pre-training"(预训练)和"
fine
-tuning"(微调)是两个常见且重要的概念,它们通常在迁移学习场景中使用,以提高模型在特定任务上的性能。
一条小小yu
·
2024-02-19 12:42
迁移学习
人工智能
机器学习
Prompt Tuning:深度解读一种新的微调范式
相比传统
fine
-tuning有什么优势?自20年底开始,prompt的发展历程,哪些经典的代表方法?面向不同种类NLP任务,prompt如何选择和设计?
lichunericli
·
2024-02-15 09:55
LLM
人工智能
语言模型
prompt
119.乐理基础-五线谱-五线谱的标记
、
Fine
、Coda、反复记号(一)反复、跳房子五线谱版:区间
染指1110
·
2024-02-13 15:56
乐理基础-五线谱
音乐理论
音乐
first day
firstday父母给我介绍了个相亲对象,
fine
,我是好孩子,当然要去参加了…期待是没期待,办法也是没办法。对于相亲对象的了解,是个男的,没了。无所谓,我也没打算成,见个面就够了。
jiusi
·
2024-02-13 12:38
小周带你正确理解Prompt-engineering,RAG,
fine
-tuning工程化的地位和意义
有人会说:"小周,几天不见这么拉了,现在别说算法了,连code都不讲了,整上方法论了。"我并没有拉!而且方法论很重要,尤其工程化的时候,你总得知道每种技术到底适合干啥,其实主要是现实中,我在项目里发现大家对这块其实并不是分的很清楚。所以我来给大家捋一捋,因为这毕竟直接取决于你设计的解决方案是否能真正解决问题如上图所示,OpenAI把对于优化LLM返回结果分为两个方向,一个方向是横坐标系的对LLM模
周博洋K
·
2024-02-12 13:54
人工智能
小周带你正确理解Prompt-engineering,RAG,
fine
-tuning工程化的地位和意义
有人会说:"小周,几天不见这么拉了,现在别说算法了,连code都不讲了,整上方法论了。"我并没有拉!而且方法论很重要,尤其工程化的时候,你总得知道每种技术到底适合干啥,其实主要是现实中,我在项目里发现大家对这块其实并不是分的很清楚。所以我来给大家捋一捋,因为这毕竟直接取决于你设计的解决方案是否能真正解决问题如上图所示,OpenAI把对于优化LLM返回结果分为两个方向,一个方向是横坐标系的对LLM模
周博洋K
·
2024-02-12 13:22
prompt
人工智能
英语小神童养成计划4 Hello之后怎么打招呼?(为什么有的话我们不好意思说)
7.
Fine
,thanks.Andyou?很好,谢谢,你呢?8.I'mfine,too.我也很好。(摘自英语900句)这个可能是每个中国人都特别熟悉的表达,这是英语教科书上的教科书式的表达。
一念x
·
2024-02-10 18:42
大模型基础理论学习笔记——大模型适配
本文目录7.大模型适配7.1大模型适配基础要素7.2当前主流大模型适配方法7.2.1探针方法(Probing)(1)探针方法介绍(2)基于probing的大模型适配7.2.2微调方法(
Fine
-tuning
maximejia
·
2024-02-10 09:51
人工智能
学习
笔记
人工智能
自然语言处理
语言模型
[算法前沿]--059-大语言模型
Fine
-tuning踩坑经验之谈
前言由于ChatGPT和GPT4兴起,如何让人人都用上这种大模型,是目前AI领域最活跃的事情。当下开源的LLM(Largelanguagemodel)非常多,可谓是百模大战。面对诸多开源本地模型,根据自己的需求,选择适合自己的基座模型和参数量很重要。选择完后需要对训练数据进行预处理,往往这一步就难住很多同学,无从下手,更别说training。然后再对模型进行finetuning来更好满足自己的下游
三更科技公社
·
2024-02-09 17:20
AI前沿与LLM
chatGPT
人工智能
OpenAI API 介绍
OpenAIAPI介绍开始我们的第一个例子模型查询可使用的模型预测结果创建一个预测对话创建一次对话编辑创建一个编辑图片生成一张图片修改图片创建图片的变体声音将录音转成文本翻译文件当前文件列表删除文件微调(
Fine
-tunes
YGL_smile
·
2024-02-08 21:32
oneapi
ai
当初说好的一起吃一起浪一起胖,结果你却偷偷塑了型?
Fine
,小地方就这么点儿,碰到个熟人也不稀奇,地球绕一圈还能转回来呢。然而出于某种不知名的心理,我偷瞄了他的前任一眼。好吧,其实有好几眼。这一看就糟心了。
健康的野小兽
·
2024-02-08 00:40
Scaling Laws for Forgetting When
Fine
-Tuning Large Language Models
本文是LLM系列文章,针对《ScalingLawsforForgettingWhenFine-TuningLargeLanguageModels》的翻译。微调大型语言模型时遗忘的比例律摘要1引言2相关工作和背景3方法和实验设置4经验结果和遗忘规律5结论摘要我们研究并量化了在下游任务中微调预先训练的大型语言模型(LLM)时的遗忘问题。我们发现,参数有效微调(PEFT)策略,如低秩适配器(LoRA),
UnknownBody
·
2024-02-07 16:23
LLM
语言模型
人工智能
算法
《AI 大模型全栈工程师》学习笔记1 - 大模型应用的技术架构
前置知识2大模型应用的技术架构2.1Prompt-Response架构2.2Agent+FunctionCalling架构2.3RAG(Retrieval-AugmentedGeneration)架构2.4
Fine
-tuning
coffee_baba
·
2024-02-07 09:37
AI&大模型
ai
【自然语言处理】微调
Fine
-Tuning 各种经典方法的概念汇总
【自然语言处理】微调
Fine
-Tuning各种经典方法的概念汇总前言请看此微调
Fine
-TuningSFT监督微调(SupervisedFine-Tuning)概念:监督学习,无监督学习,自监督学习,半监督学习
溢流眼泪
·
2024-02-07 07:11
【科研】
自然语言处理
人工智能
【人工智能】
Fine
-tuning 微调:解析深度学习中的利器(7)
在深度学习领域,
Fine
-tuning微调是一项重要而强大的技术,它为我们提供了在特定任务上充分利用预训练模型的途径。
魔道不误砍柴功
·
2024-02-06 10:24
AI
大模型
人工智能
深度学习
【机器学习与自然语言处理】预训练 Pre-Training 各种经典方法的概念汇总
【NLP概念合集:一】预训练Pre-Training,微调
Fine
-Tuning及其方法的概念区别前言请看此正文预训练Pre-Training无监督学习unsupervisedlearning概念:标签
溢流眼泪
·
2024-02-06 07:18
【科研】
机器学习
自然语言处理
人工智能
Improving Language Understanding by Generative Pre-Training
在这篇论文中,作者提出了一种半监督学习方法——GenerativePre-Training(以下简称GPT),GPT采用无监督学习的Pre-training充分利用大量未标注的文本数据,利用监督学习的
Fine
-tunin
liangdengne_123
·
2024-02-05 15:18
深度学习
自然语言处理
机器学习
TensorFlow入门实操笔记 3-4
前言碎碎念
fine
…世界鸽王立flag第一天就咕咕咕了,今天马上立刻学习以抚慰自己的良心(bushi起床自我暗示:我真的很喜欢机器学习!
七水合硫酸亚铁有点脆
·
2024-02-05 10:40
TensorFlow入门笔记
tensorflow
机器学习
python
【LLM】提示工程技术提炼精华分享
提示工程相比较于微调(
Fine
-tuning)的成本和复杂度更低,但是不能对模型本身的能力进行优化,只能基于模型已有能力进行应用。二、基
液态不合群
·
2024-02-04 21:48
人工智能
LLM
信息可视化
From LLM to Conversational Agent: A Memory Enhanced Architecture with
Fine
-Tuning of LLM
本文是LLM系列文章,针对《FromLLMtoConversationalAgent:AMemoryEnhancedArchitecturewithFine从LLM到会话代理:一种对大型语言模型进行微调的内存增强体系结构摘要1引言2代理框架3代理调整4实验5相关工作6结论与未来工作摘要本文介绍了RAISE(ReasoningandActingthroughScratchpadandExamples
UnknownBody
·
2024-02-04 16:16
LLM
人工智能
语言模型
SVDiff: Compact Parameter Space for Diffusion
Fine
-Tuning——【论文笔记】
本文发表于ICCV2023论文地址:ICCV2023OpenAccessRepository(thecvf.com)官方代码:mkshing/svdiff-pytorch:Implementationof"SVDiff:CompactParameterSpaceforDiffusionFine-Tuning"(github.com)一、Introduction最近几年,基于扩散的文本到图像生成模型
我是浮夸
·
2024-02-04 14:19
论文笔记
论文阅读
深度学习
图像处理
stable
diffusion
【模型微调】| 各类微调模型总结 P-Tuning,Prefix,P-tuning v2,LoRA
文章目录1微调背景1.1Fullfine-tuning全参数微调(FFT)1.2parameter-Efficient-
fine
-tuning部分参数微调(PEFT)2提示词调整训练法2.1P-Tuning2.2Prefix2.3P-Tuningv23
Qodicat
·
2024-02-03 15:02
计算机视觉CV
人工智能
深度学习
机器学习
Power BI 和
Fine
BI 分析的几个概念
PowerBI和FineBI分析的几个概念1.钻取概述钻取可以让用户在查看仪表板时动态改变维度的层次,它包括向上钻取和向下钻取。比如可实现:查看省份数据时,可下钻查看到下方具体城市的数据。1.1如何设置钻取按钻取的设置方法,可以分为三种:地图钻取:在地图组件上进行钻取日期钻取:对日期维度进行钻取,比如说实现【年-月-日】的下钻普通钻取:除以上两种条件的所有钻取都是普通钻取情况1.2地图钻取应用场景
kalvin_y_liu
·
2024-02-03 13:03
数据科学
数据仓库
YOLO-World: Real-Time Open-Vocabulary Object Detection
Experiments2.1ImplementationDetails2.2Pre-training2.3AblationExperiments2.3.1预训练数据2.3.2对RepVL-PAN的消融研究2.3.3文本编码器2.4
Fine
-tuningYOLO-World2.5Open-VocabularyInstanceSegmentation2.6Vis
猛码Memmat
·
2024-02-03 09:41
vision
/
segmentation
YOLO
目标检测
人工智能
2023-1-12晨间日记
今天是什么日子起床:5:30就寝:10:30天气:
fine
心情:平静纪念日:来到南京任务清单昨日完成的任务,最重要的三件事:1.和爱人进行了沟通,目的:说话时注意语气,神态,因为一个人的身体语言所传达的信息远比语言丰富
成长有爱
·
2024-02-03 06:39
说好的巅峰对决,怎么就变成夸夸群了?
fine
,人家是以徒弟的身份参与这档节目的。新的一季赛制变成了师徒模式,让已经取得过诸多演技上的认可和荣誉的前辈们和演戏经验较少的年轻明星们组成师徒,来进行演技上的pk
娱乐拆穿姐
·
2024-02-02 19:54
上一页
1
2
3
4
5
6
7
8
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他