LLM微调第5页

全面认识AI Agent，一文读懂AI智能体的架构指南

它是一种模拟人类智能行为的人工智能系统，以大型语言模型（LLM）作为其核心引擎。它们能够感知其环境，做出决策，并执行任务以实现特定的目标。AIAgent的设计理念是赋予机器自主性、适

Python_金钱豹·2024-08-22 08:12

大模型应用中什么是SFT（监督微调）？

大模型应用中什么是SFT（监督微调）？一、SFT的基本概念监督微调（SupervisedFine-Tuning,SFT）是对已经预训练的模型进行特定任务的训练，以提高其在该任务上的表现。

Chauvin912·2024-08-22 04:47

Agentic Security：一款针对LLM模型的模糊测试与安全检测工具

关于AgenticSecurityAgenticSecurity是一款针对LLM模型的模糊测试与安全检测工具，该工具可以帮助广大研究人员针对任意LLM执行全面的安全分析与测试。

FreeBuf-·2024-08-22 03:43

无缝融入，即刻智能[三]：Dify-LLM平台知识库构建(多路召回、精排重排)，43K+星标见证专属智能方案

无缝融入，即刻智能[三]：Dify-LLM平台知识库构建(多路召回、精排重排)，43K+星标见证专属智能方案大语言模型的训练数据一般基于公开的数据，且每一次训练需要消耗大量算力，这意味着模型的知识一般不会包含私有领域的知识

汀、人工智能·2024-08-22 02:34

Spinbox 控件是 Tkinter 库中一个相对较新的控件

Spinbox控件可以看作是Entry控件的升级版，#它不仅允许用户直接在文本框中输入内容，还提供了一个微调选择器，即上下按钮调节器#，允许用户通过点击按钮来选择一个范围内的值importtkinterastk

我不是立达刘宁宇·2024-08-21 21:33

RAG与LLM原理及实践（14）---- Python + MinIO + Kafka进阶

目录背景根因分析配置构造创建network构造zookeeper构造kafka参数构造原理解析图解全过程解析工具使用kafkacat查看brokerpython实现pythonsend+kafkarecvpython代码kafkarecv运行效果pythonrecv+kafkasendpython代码kafkasend运行效果思考pythonsend+pythonrecv原理运行效果背景如果你已经

PhoenixAI8·2024-08-21 20:59

UNDERSTANDING HTML WITH LARGE LANGUAGE MODELS

我们为HTML理解模型（经过微调

liferecords·2024-03-28 21:56

SWIFT环境配置及大模型微调实践

SWIFT环境配置及大模型微调实践SWIFT环境配置基础配置增量配置SWIFTQwen_audio_chat大模型微调实践问题1:问题2:问题定位解决方法手动安装pytorchSWIFT介绍参考：这里SWIFT

weixin_43870390·2024-03-26 22:42

SWIFT介绍和学习(简单入门级别)

SWIFT介绍和学习SWIFT功能介绍SWIFT快速使用LLM及LLM最佳实践（LLM系列文章）部署指南vllm非官方介绍资料项目地址：https://github.com/modelscope/swift

weixin_43870390·2024-03-26 22:42

AI推介-大语言模型LLMs论文速览（arXiv方向）：2024.02.20-2024.02.25

论文目录~1.Zero-shotcross-lingualtransferininstructiontuningoflargelanguagemodel2.ScalingEfficientLLMs3.LLM-DA

小小帅AIGC·2024-03-26 20:39

Prompts（一）

提示工程提示工程（PromptEngineering）是一门较新的学科，关注提示词开发和优化，帮助用户将大语言模型（LargeLanguageModel,LLM）用于各场景和研究领域。

george_xu4·2024-03-26 04:17

大语言模型(LLM)入门学习路线图

Github项目上有一个大语言模型学习路线笔记，它全面涵盖了大语言模型的所需的基础知识学习，LLM前沿算法和架构，以及如何将大语言模型进行工程化实践。

Kk-Quiana·2024-03-17 19:28

LLM Drift(漂移), Prompt Drift & Cascading(级联)

这两种方法都容易受到级联、LLM和即时漂移的影响。2024年2月23日在讨论大型语言模型（LLM）时，术语“LLM漂移”、“提示漂移”和“级联漂移”通常指的是模型性能随时间或条件变化的情况。

lichunericli·2024-03-14 18:45

#LLM入门|Prompt#3.1 第三部分使用 LangChain 开发应用程序_简介

概述如何能够基于ChatGPT搭建一个完整、全面的问答系统，要搭建基于ChatGPT的完整问答系统，除去上一部分所讲述的如何构建PromptEngineering外，还需要完成多个额外的步骤。例如，处理用户输入提升系统处理能力，使用思维链、提示链来提升问答效果，检查输入保证系统反馈稳定，对系统效果进行评估以实现进一步优化等。当ChatGPTAPI提供了足够的智能性，系统的重要性就更充分地展现在保证

向日葵花籽儿·2024-03-12 18:09

#LLM入门|Prompt#1.8_聊天机器人_Chatbot

聊天机器人设计以会话形式进行交互，接受一系列消息作为输入，并返回模型生成的消息作为输出。原本设计用于简便多轮对话，但同样适用于单轮任务。设计思路个性化特性：通过定制模型的训练数据和参数，使机器人拥有特定的个性化特点。专门任务设计：针对特定任务或行为进行设计，模型可针对该任务进行Fine-tune，提高效果和准确性。优势简化开发：减少了构建聊天机器人所需的工作量和复杂度。灵活性：模型可根据需求进行定

向日葵花籽儿·2024-03-12 18:39

大模型加速与性能对比

事实证明安装之后对于推理速度的提升也很小（5%），网上说对于微调训练的速度提升比较大，因为是在内网环境下，安装还费了一番周折。

__如风__·2024-03-12 11:58

【AI】如何创建自己的自定义ChatGPT

如何创建自己的自定义ChatGPT目录如何创建自己的自定义ChatGPT大型语言模型（LLM）GPT模型ChatGPTOpenAIAPILlamaIndexLangChain参考推荐超级课程：Docker

小涵·2024-03-12 01:14

ChatGPT介绍

ChatGPT概述ChatGPT是一种前沿的大型语言模型（LargeLanguageModel,LLM），由人工智能研究组织OpenAI研发并推出。

程序媛9688·2024-03-07 11:03

刘建华|Day118感恩日记

感恩周末了可以稍微调整一下作息时间。早上可以懒懒的躺在床上。感恩柔软的床。感恩我们这些劳动者有休息的周末时光。感恩母亲为我们做好的早餐，泡好的茶。感我吃到的所有食物。

蓝色与星光·2024-03-05 17:58

预训练大模型LLM的微调PEFT（概述）

微调的分类对大模型进行二次训练的操作我们通常称为微调（Fine-T

若石之上·2024-03-05 00:49

054 人民日报图卡仿制-新冠疫苗诈骗套路（20210118）

在图标的亮度，颜色设置方面需要进行微调。

霍霍的图卡笔记·2024-03-04 13:58

Made In Heaven，LLM要加速了

借鉴了荒木老师笔下的普奇神父的台词玩LLM的多数用的是Huggingface框架，而它本身提供的是accelerate库来提升模型的训练推理速度。

DisonTangor·2024-03-03 12:31

大模型训练——PEFT与LORA介绍

PEFT是一种参数高效的微调技术，由Huggingface发布。这种方法的核心思想是仅微调少量（额外）模型参数，同时冻结预训练LLM的大部分参数。这样做的好处是大大降低了

MarkHD·2024-03-03 10:30

(202402)多智能体MetaGPT入门2：AI Agent知识体系结构

1智能体定义智能体=LLM+观察+思考+行动+记忆多智能体=智能体+环境

早上真好·2024-03-02 03:14

#LLM入门|Prompt#2.5_思维链推理_Chain_of_Thought_Reasoning

第五章处理输入-思维链推理“思维链推理”（ChainofThoughtReasoning）的策略，在查询中明确要求语言模型先提供一系列相关推理步骤，进行深度思考，然后再给出最终答案，这更接近人类解题的思维过程。引导语言模型逐步推理而非直接要求输出结果，可以减少其匆忙错误，生成更准确可靠的响应。思维链推理使语言模型更好地模拟人类逻辑思考，是提升其回答质量的重要策略之一。？如何处理语言模型的输入,以生

向日葵花籽儿·2024-02-29 14:53

Mamba 作者谈 LLM 未来架构

文章目录前言1、为什么注意力机制有效？2、注意力计算量呈平方级增长3、StripedHyena是个什么模型？4、什么是Mamba?5、Mamba硬件优化6、2024年架构预测7、对AI更多的预测本片文章来自【机器之心】对Mamba作者进行采访所进行的编译整理。前言在大模型领域，一直稳站C位的Transformer最近似乎有被超越的趋势。这个挑战者就是一项名为【Mamba】的研究，其在语言、音频和基

JOYCE_Leo16·2024-02-28 20:04

关于数据大屏的设计与开发

但1920放到更高分辨率会出现图片模糊现象、原因就是图片1像素低，可以使用2倍图2、关于开发：大屏使用场景一般是全屏显示，如果在非全屏场景，比例就会与设计稿不同，可以监听全屏和非全屏，使用两套样式进行微调

码云的一天·2024-02-27 03:41

ChatGPT调教指南 | 咒语指南 | Prompts提示词教程（三）

在人工智能成为我们日常互动中无处不在的一部分的时代，与大型语言模型(llm)有效沟通的能力是无价的。“良好提示的26条原则”为优化与这些复杂系统的交互提供了全面的指导。

Aitrainee·2024-02-25 14:55

重大更新：GPT-4 API 现全面向公众开放！

在AIGC（人工智能生成内容）领域内，我们一直致力于跟踪和分析如OpenAI、百度文心一言等大型语言模型（LLM）的进展及其在实际应用中的落地情况。我们还专注于这些模型的基准测试和市场趋势研究。

Aitrainee·2024-02-25 13:54

#LLM入门|Prompt#1.4_文本概括_Summarizing

文本摘要的重要性和功能优势重要性帮助处理海量文本信息：在信息时代，处理大量文本信息是常见挑战之一。节省时间：通过摘要，可以迅速获取文本的核心内容，节省阅读时间。提高效率：摘要可以帮助用户快速了解文本的要点，提高工作效率。功能优势简化复杂文本：摘要功能能够将复杂文本内容简化，提炼出关键观点和信息。提取关键信息：摘要可以准确提取文本中的关键信息，帮助用户迅速获取所需内容。增强可读性：摘要生成的内容通常

向日葵花籽儿·2024-02-23 14:02

大模型量化技术原理-LLM.int8()、GPTQ

近年来，随着Transformer、MOE架构的提出，使得深度学习模型轻松突破上万亿规模参数，从而导致模型变得越来越大，因此，我们需要一些大模型压缩技术来降低模型部署的成本，并提升模型的推理性能。模型压缩主要分为如下几类：剪枝（Pruning）知识蒸馏（KnowledgeDistillation）量化之前也写过一些文章涉及大模型量化相关的内容。基于LLaMA-7B/Bloomz-7B1-mt复现开

吃果冻不吐果冻皮·2024-02-20 21:39

人工智能_普通服务器CPU_安装清华开源人工智能AI大模型ChatGlm-6B_001---人工智能工作笔记0096

然后执行yumupdate先去更新一下系统,可以省掉很多麻烦20240219_150031这里我们使用centos系统吧,使用习惯了.ChatGlm首先需要一台个人计算机,或者服务器,要的算力,训练最多,微调次之

脑瓜凉·2024-02-20 21:01

美国首届生成式人工智能与法律研讨（上）

、生成式AI与法律的跨学科研究3.1确定和定义跨学科术语3.2构建有价值的隐喻3.3理解不断发展的商业模式四、生成式AI的独特性4.1从执行狭义任务到处理开放式任务的转变4.2训练流程的发展：预训练和微调

岛屿旅人·2024-02-20 19:40

认知篇-剖析LLM基座

在众多PLM中，基于大规模语料库的预训练语言模型（LargeLanguageModel，LLM）以其强大的语言生成和理解能力，受到了广泛的关注。本文将深入探讨L

·2024-02-20 18:29

我把ChatGPT部署到我的手机上

正常的大模型部署都是在服务器上的但是最近我看到一个手机上可以运行的大模型分享给大家MiniCPMMiniCPM是基于MLC-LLM开发，将MiniCPM和MiniCPM-V在Android手机端上运行。

·2024-02-20 17:55

devc++跑酷小游戏3.0.0

1.0.0devc++跑酷小游戏1.2.5devc++跑酷游戏1.2.6devc++跑酷游戏2.0.0devc++跑酷游戏2.0.1devc++跑酷游戏2.4.0【更新内容每日废话】关卡数量没变，每个都微调了一下

Jsjjsnmsk·2024-02-20 16:22

MinIO 和 Apache Tika：文本提取模式

Tl;dr:在这篇文章中，我们将使用MinIOBucketNotifications和ApacheTika进行文档文本提取，这是大型语言模型训练和检索增强生成LLM和RAG等关键下游任务的核心。

MinIO官方账号·2024-02-20 16:42

【眼科大模型】Ophtha-LLaMA2：视觉模型提取图像特征 + LLM基于特征生成眼底病变的诊断报告

Ophtha-LLaMA2：视觉模型提取图像特征+LLM基于特征生成眼底病变的诊断报告提出背景设计思路选择大模型基座生成诊断报告论文：https://arxiv.org/pdf/2312.04906.pdf

Debroon·2024-02-20 16:34

【Langchain Agent研究】SalesGPT项目介绍（四）

GitHub-jerry1900/SalesGPT:Context-awareAISalesAgenttoautomatesalesoutreach.上节课，我们主要介绍了SalesGPT的类属性和它最重要的类方法from_llm

AI小万老师·2024-02-20 15:26

第34期 | GPTSecurity周报

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区，集成了生成预训练Transformer（GPT）、人工智能生成内容（AIGC）以及大型语言模型（LLM）等安全领域应用的知识。

·2024-02-20 15:56

如何构建企业专属GPT

大语言模型（LLM）具有令人印象深刻的自然语言理解和生成能力，2022年11月底OpenAI发布了ChatGPT，一跃成为人工智能AI领域的现象级应用。

鲸品堂·2024-02-20 14:40

60分钟吃掉ChatGLM2-6b微调范例~

干货预警：这可能是你能够找到的最容易懂的，最完整的，适用于各种NLP任务的开源LLM的finetune教程~ChatGLM2-6b是清华开源的小尺寸LLM，只需要一块普通的显卡(32G较稳妥)即可推理和微调

算法美食屋·2024-02-20 14:59

CP04大语言模型ChatGLM3-6B特性代码解读（2）

CP04大语言模型ChatGLM3-6B特性代码解读（2）文章目录CP04大语言模型ChatGLM3-6B特性代码解读（2）构建对话demo_chat.py定义client对象与LLM进行对话构建工具调用

North_D·2024-02-20 14:29

[技术杂谈]Chat With RTX 介绍

据了解，这是一款适用于Windows平台的聊天机器人，由TensorRT-LLM提供支持，完全在本地运行。

FL1623863129·2024-02-20 13:46

视频生成领域的发展概述:从多级扩散到LLM

2023年是语言模型(llm)和图像生成技术激增的一年，但是视频生成受到的关注相对较少。今年刚到2月份，OpenAI就发布了一个惊人的视频生成模型Sora。

·2024-02-20 13:11

Gemini技术报告解读：从Google多模态大模型看后续大模型应该具备哪些能力

NLP论文投稿、LLM交流、论文直播群前段时间Google推出Gemini多模态大模型，展示了不凡的对话能力和多模态能力，其表现究竟如何呢？

zenRRan·2024-02-20 13:00

Hugging Face PEFT文档指南 - 第一章：开始使用

原文:PEFT文档指南-第一章：开始使用https://huggingface.co/docs/peft/indexPEFTPEFT（参数高效微调）是一个库，用于有效地将预训练的语言模型（PLMs）适应各种下游应用

Tim_Van·2024-02-20 13:28

51-2 万字长文，深度解读端到端自动驾驶的挑战和前沿

这样需要阐述的内容就变成LLM基础模型、LLM+自动驾驶以及端到端自动驾驶核心内容三部分。上图是我司总结的大模型经典论文拓扑图，欢迎各位拍砖帮助更新，使得最终能落地到端到端自动驾驶。

深圳季连AIgraphX·2024-02-20 11:52

WhisperFusion：具有超低延迟无缝对话功能的AI系统

WhisperFusion基于WhisperLive和WhisperSpeech的功能而构建，在实时语音到文本管道之上集成了大型语言模型Mistral(LLM)。

语音之家·2024-02-20 11:39

第39期 | GPTSecurity周报