LLMs 第9页

Will LLMs Replace Knowledge Graph

本文是LLM系列的文章，针对《Head-to-Tail:HowKnowledgeableareLargeLanguageModels(LLM)?A.K.A.WillLLMsReplaceKnowledgeGraphs?》的翻译。从头到尾：大语言模型的知识成都如何？LLM会取代知识图谱吗？摘要1引言2从头到尾的基准3实验分析4讨论5相关工作6结论摘要自从最近大型语言模型（LLM）的繁荣以来，关于如何

UnknownBody·2023-08-28 11:09

Instruction Tuning for Large Language Models: A Survey

大语言模型指令调整：综述摘要1引言2方法3数据集4指令微调LLMs5多模态指令微调6特定领域指令微调7高效调整技术8评估，分析和批评9结论摘要本文综述了快速发展的指令调整（IT）领域的研究工作，这是提高大型语言模型

UnknownBody·2023-08-28 11:09

LLMs NLP模型评估Model evaluation ROUGE and BLEU SCORE

在整个课程中，你看到过类似模型在这个任务上表现良好，或者这个微调模型在性能上相对于基础模型有显著提升等陈述。这些陈述是什么意思？如何形式化你的微调模型在你起初的预训练模型上的性能改进？让我们探讨一些由大型语言模型开发者使用的指标，你可以用这些指标评估你自己的模型的性能，并与世界上的其他模型进行比较。在传统的机器学习中，你可以通过观察模型在已知输出的训练和验证数据集上的表现来评估模型的表现。你可以计

AI架构师易筋·2023-08-28 08:38

LLMs之dataset：大语言模型LLMs相关开源数据集的简介、下载、使用方法之详细攻略

LLMs之dataset：大语言模型LLMs相关开源数据集的简介、下载、使用方法之详细攻略目录LLMs相关开源数据集的简介1、SFT→RM+PPO三阶段关系梳理、数据集格式对比

一个处女座的程序猿·2023-08-28 02:15

LLMs多任务指令微调Multi-task instruction fine-tuning

多任务微调是单任务微调的扩展，其中训练数据集包括多个任务的示例输入和输出。在这里，数据集包含指导模型执行各种任务的示例，包括摘要、评论评分、代码翻译和实体识别。您在这个混合数据集上训练模型，以便它可以同时提高模型在所有任务上的性能，从而避免灾难性遗忘的问题。经过多次迭代的训练，使用示例计算的损失用于更新模型的权重，从而产生一个已经学会如何同时擅长多种不同任务的指导模型。多任务微调的一个缺点是它需要

AI架构师易筋·2023-08-27 09:13

LLMs参考资料第一周以及BloombergGPT特定领域的训练 Domain-specific training: BloombergGPT

1.第1周资源以下是本周视频中讨论的研究论文的链接。您不需要理解这些论文中讨论的所有技术细节-您已经看到了您需要回答讲座视频中的测验的最重要的要点。然而，如果您想更仔细地查看原始研究，您可以通过以下链接阅读这些论文和文章。1.1Transformer架构注意力就是你需要的《AttentionisAllYouNeed》本文介绍了Transformer架构，以及核心的“自注意力”机制。这篇文章是LLM

AI架构师易筋·2023-08-26 00:29

LoRA继任者ReLoRA登场，通过叠加多个低秩更新矩阵实现更高效大模型训练效果

论文链接：https://arxiv.org/abs/2307.05695代码仓库：https://github.com/guitaricet/peft_pretraining一段时间以来，大模型（LLMs

TechBeat人工智能社区·2023-08-24 11:40

WordArt Designer：基于用户驱动与大语言模型的艺术字生成

前言本文介绍了一个基于用户驱动，依赖于大型语言模型(LLMs)的艺术字生成框架，WordArtDesigner。

AI记忆·2023-08-24 06:51

NLP | 基于LLMs的文本分类任务

比赛链接：讯飞开放平台来源：DataWhaleAI夏令营3（NLP）Roberta-base（BERT的改进）①Roberta在预训练的阶段中没有对下一句话进行预测（NSP）②采用了动态掩码③使用字符级和词级别表征的混合文本编码。论文：https://arxiv.org/pdf/1907.11692.pdfDataWhaleTopline的改进：特征1：平均池化MeanPooling(768维)-

秋田刀鱼·2023-08-23 07:36

关于GPT-5目前所知道的一切

自OpenAI2022年11月发布ChatGPT已经超过半年，各大AI爱好者积极拥抱LLMs涌向出的强大能力同时，而对其所引发的一系列安全伦理问题的担忧同时存在。

软件工匠·2023-08-23 01:29

LangChain + Streamlit + Llama：将对话式AI引入本地机器

ygtu2018·2023-08-21 17:37

LLMs大模型plugin开发实战

一、概述ChatGPT是通用语言大模型，如果用户想要在与大模型进行交互时能够使用到企业私有的数据，那么可以通过开发plugin（插件）的方式来实现，另外GPT3.5模型的训练数据是截止到2021年9月，如果想让模型能够访问之后的数据，也可以借助plugin。下面是关于plugin与大模型交互的架构图：模型通过读取pluginmanifest文件信息来决定如何使用plugin，在这个文件中，字段“d

m0_49380401·2023-08-21 10:26

MLC LLM：将LLMs部署到消费类硬件的优势、挑战以及解决方案

一、前言随着生成人工智能（AI）和大语言模型（LLM）的快速发展，基于LLM的应用越来越普及。然而，大规模的模型需要密集计算和庞大的资源，使得许多公司无法承担从头开始训练模型的成本。目前，大部分厂商提供基于云端的LLM服务，需要联网才能使用。这对于需要在专用网络中部署LLM的情况，提供云端模型能力从成本投入和应用效果上来看并不一定是最合适的解决方案。为了解决这个问题，研究人员正在寻找将LLM直接部

技术狂潮AI·2023-08-19 15:42

生成式AI和大语言模型 Generative AI & LLMs

在“使用大型语言模型(LLMs)的生成性AI”中，您将学习生成性AI的基本工作原理，以及如何在实际应用中部署它。

AI架构师易筋·2023-08-19 06:21

金融语言模型：FinGPT

项目简介FinGPT是一个开源的金融语言模型（LLMs），由FinNLP项目提供。

A雄·2023-08-18 15:16

【LangChain】P1 LangChain 应用程序的核心构建模块 LLMChain 以及其三大部分

LangChain的核心构建模块LLMChainLangChain应用程序的核心构建模块语言模型-LLMs提示模板-Prompttemplates输出解析器-OutputParsersLLMChain组合

脚踏实地的大梦想家·2023-08-17 08:01

Quivr 基于GPT和开源LLMs构建本地知识库（更新篇）

一、前言自从大模型被炒的越来越火之后，似乎国内涌现出很多希望基于大模型构建本地知识库的需求，大概在5月底的时候，当时Quivr发布了第一个0.0.1版本，第一个版本仅仅只是使用LangChain技术结合OpenAI的GPT模型实现了一个最基本的架子，功能并不够完善，但可以研究研究思路，当时Quivr通过借助于GPT的模型能力，选择Supabase构建向量数据库来实现个人知识库还算是一个不错的选择，

技术狂潮AI·2023-08-17 05:32

2023+HuggingGPT: Solving AI Tasks with ChatGPT and itsFriends in Hugging Face

在这个概念中，llms作为一个控制器，管理和组织专家模型的合作。LLM首先根据用户请求规划任务列表，然后为每个任务分配专家模型。专家执行任务后，LLM收集结果并响应用户。

神符编辑·2023-08-16 12:47

独家 | 开始使用LangChain：帮助你构建LLM驱动应用的新手教程

标签：LangChain，LLMApplication,OpenAI自从ChatGPT发布以来，大型语言模型(LLMs)已经获得了很大的普及。

数据派THU·2023-08-16 10:12

SEED-Bench: Benchmarking Multimodal LLMs with Generative Comprehension

UnknownBody·2023-08-16 04:18

Trustworthy LLMs: a Survey and Guideline for Evaluating Large Language Models‘ Alignment

值得信赖的LLMs：评估大型语言模型对齐性的综述和指南摘要1引言2背景3分类概述4可靠性5安全性6公平性7抗滥用性8可解释性和推理9社会规范10健壮性11样例：设计和结果12结论和挑战摘要在将大型语言模型

UnknownBody·2023-08-16 04:48

快速入门，ChatGPT怎么建立私有知识库？

不需要互联网连接，利用LLMs的强大功能，向您的文档提出问题。100％私密，任何时候都不会有数据离开您的执行环境。您可以在没有互联网连接的情况下导入文档并提出问题！

唯心or唯物·2023-08-15 20:04

chatGPT小白快速入门培训课程-001

本系列文章，参与：AIGC征文活动#AIGC技术创作内容征文#二、环境说明语言模型：本文采用国产Llms大语言模型，阿里千帆生成。

数据饕餮·2023-08-12 06:59

大模型的数据隐私问题有解了，浙江大学提出联邦大语言模型

而伴随着大模型的出现与逐渐成熟，大规模语言模型（LLMs）对更大规模训练数据的依赖以及数据隐私与商业竞争问

夕小瑶·2023-08-11 19:48

GPT-4，Llama2，ChatGLM2，PaLM2共聚一堂 | LLM Day @KDD 2023

以下内容来源于GLM大模型在过去半年中，以ChatGPT为代表的大规模语言模型（LLMs）彻底改变世界，人类与世界的交互逐渐进入到了一个新的阶段。

AITIME论道·2023-08-10 08:21

强推！大语言模型『百宝书』，一文缕清所有大模型！

让笔者恍惚间似乎又回到了2020年国内大模型“军备竞赛”的元年，不过那时候大模型海量算力需求限制了这注定只是少数科技公司的赛场，如今用少量资源即可在基础模型上做指令微调、人类反馈以应用到某个垂直领域，LLMs

夕小瑶·2023-08-08 11:44

AIGC：【LLM（三）】——JARVIS:连接ChatGPT和HuggingFace解决AI问题

考虑到大型语言模型（LLMs）在语言理解、生成、交互和推理方面表现出色，我们主张LLMs可以作为

J_Xiong0117·2023-08-08 08:34

QLoRA：一种高效LLMs微调方法，48G内存可调65B 模型，调优模型Guanaco 堪比Chatgpt的99.3%！

引言本文是华盛顿大学刚刚发布的一篇文章。作者提出了QLoRA，它是一种「高效的微调方法」，可以在保持完整的16位微调任务性能的情况下，将内存使用降低到足以「在单个48GBGPU上微调650亿参数模型」。QLORA通过冻结的4位量化预训练语言模型向低秩适配器(LoRA)反向传播梯度。作者公布了他们训练的系列模型Guanaco，与之前公开发布的所有模型相比，在Vicuna基准测试中表现更好，「只需要在

u013250861·2023-08-06 10:52

【论文精读】QLORA: Efficient Finetuning of Quantized LLMs

QLORA:EfficientFinetuningofQuantizedLLMs前言AbstractIntroductionBackgroundBlock-wisek-bitQuantizationLow-rankAdaptersMemoryRequirementofParameter-EfficientFinetuningQLORAFinetuning4-bitNormalFloatQuanti

HERODING77·2023-08-06 10:21

谷歌联合CMU提出全新语义金字塔概念，无需额外训练使LLMs学会执行视觉任务

/abs/2306.17842代码仓库：https://github.com/google-research/magvit/在目前的大模型社区中，发展较为成熟的当属以ChatGPT为代表的纯语言模型（LLMs

TechBeat人工智能社区·2023-08-05 03:48

大模型开发(十五)：从0到1构建一个高度自动化的AI项目开发流程(上)

本文目标：提出一种利用大语言模型(LLMs)加快项目的开发效率的解决思路，本文作为第一部分，主要集中在如何完整的执行引导Chat模型创建外部函数代码、代码管理以及测试的全部流程。

算法小陈·2023-08-02 20:52

LangChain+ChatGLM大模型应用落地实践（一）

LLMs的落地框架（LangChain），给LLMs套上一层盔甲，快速构建自己的新一代人工智能产品。

爱机车的程序猿·2023-08-02 00:08

用LangChain开源框架实现知识机器人

前言LargeLanguageModels(LLMs)在2020年OpenAI的GPT-3的发布而进入世界舞台。从那时起，他们稳步增长进入公众视野。

学习3人组·2023-07-31 07:51

大型语言模型综述（二）

文章目录5.LLMS自适应调优5.1指令调优5.1.1、格式化实例构造5.1.2指令调优策略5.1.3、指令调优的效果5.2、对齐调整5.2.1、比对的背景和标准5.2.2、收集用户反馈5.2.3、基于人工反馈的强化学习

静静AI学堂·2023-07-27 08:36

《向量数据库指南》：向量数据库Pinecone如何集成OpenAI

目录嵌入式介绍环境设置创建嵌入初始化Pinecone索引填充索引⚠️警告查询本指南介绍了将OpenAI的大型语言模型（LLMs）与Pinecone（称为OPstack）集成的方法，增强LLMs的语义搜索或

LCHub低代码社区·2023-07-26 09:05

基于ChatGPT聊天的零样本信息提取7.25

最近对大型语言模型（LLMs，GFI-3，ChatGPT）的研究在零样本设置下显示出了良好的性能，从而激励我们研究基于提示的方法。在这项工作中，我们询问是否可以通过直接

露葵025·2023-07-26 05:35

自然语言处理从入门到应用——LangChain：模型（Models）-[大型语言模型（LLMs）：缓存LLM的调用结果]

分类目录：《自然语言处理从入门到应用》总目录fromlangchain.llmsimportOpenAI在内存中缓存importlangchainfromlangchain.cacheimportInMemoryCachelangchain.llm_cache=InMemoryCache()#Tomakethecachingreallyobvious,letsuseaslowermodel.llm

von Neumann·2023-07-25 15:41

大模型开发(十一)：Chat Completions模型的Function calling功能详解

代码下载地址一、背景对于大模型（LLMs）来说，尽管能力很强且具备非常强大的涌现能力，但是也存在不小的局限性，比如它无法获取最新的信息、只能给出文字的

算法小陈·2023-07-25 13:56

如何评测一个大语言模型？

编者按：大型语言模型（Largelanguagemodels,LLMs）因其在学术界和工业界展现出前所未有的性能而备受青睐。随着LLMs在研究和实际应用中被广泛使用，对其进行有效评测变得愈发重要。

微软技术栈·2023-07-25 09:13

自然语言处理从入门到应用——LangChain：模型（Models）-[基础知识]

在LangChain中，模型主要分为以下三类：大型语言模型（LLMs）：大型语言模型（LLMs）一种以文本字符串作为输入，并返回文本字符串作为输出的模型。聊天模型（

von Neumann·2023-07-25 04:25

LangChain+LLM大模型问答能力搭建与思考

1.背景最近，大模型（LLMs，LargeLanguageModels）可谓是NLP领域，甚至整个科技领域最火热的技术了。

_illusion_·2023-07-25 03:19

【大模型】更强的 LLaMA2 来了，开源可商用、与 ChatGPT 齐平

经过微调的LLMs称为Llama-2-Chat，针对对话用例进行了优化。Llama-2-Chat模

szZack·2023-07-24 15:21

LLMs之LLaMA2：LLaMA2的简介(技术细节)、安装、使用方法(开源-免费用于研究和商业用途)之详细攻略

LLMs之LLaMA2：LLaMA2的简介(技术细节)、安装、使用方法(开源-免费用于研究和商业用途)之详细攻略导读：2023年7月18日，Meta重磅发布Llama2！

一个处女座的程序猿·2023-07-24 14:51

如何让ChatGPT学习私有化知识，并且保留部分对话功能

并且还具备正常对话功能一个方案是直接把产品信息当做输入喂给GPT，但是ChatGPT/GPT-4/LLMs一般都有输入长度的限制（token长度的限制），如果信息太长超过token长度则无法把这些信息一股脑的当做输入扔进去

师大阿林·2023-07-24 04:25

博客阅读笔记（2023.07.17 - 2023.07.23）

泛读笔记（2023.07.17至2023.07.23）1.vLLM2.WebGLM3.LLMs可以成为财务顾问吗？4.对行业大模型的思考1.vLLM文章：比HuggingFace快24倍！

酿久诗·2023-07-21 14:36

【LLMs】ChatGLM & 小羊驼Vicuna & Baichuan-7B+量化微调

文章目录前言一、ChatGLM-6B介绍二、使用步骤2.1机器配置2.2安装git-lfs三、安装ChatGLM-6B3.1下载ChatGLM-6B源3.2安装ChatGLM依赖3.3下载ChatGLM-6B模型文件3.4模型下载完成3.5ChatGLM-6B使用方式3.6加载模型启动cli测试四、安装Vicuna-7B4.1下载VicunaWeight4.2下载LLaMAWeight4.3模型权

IDONTCARE8·2023-07-20 06:14

将大模型集成到语音识别系统中的例子

概述本文旨在探索将大型语言模型（LLMs）集成到自动语音识别（ASR）系统中以提高转录准确性的潜力。

无数据不智能·2023-07-19 22:25

tablegpt: 实现表格、语言和指令的统一

本文提出了TableGPT框架，通过联合训练大型语言模型（LLMs）在表格和文本模态下，实现对表格数据的全面理解和复杂操作。本方法在问题解答、数据操作、数据可视化等方面取得了良好的性能

无数据不智能·2023-07-19 08:46

医学小达人·2023-07-18 11:26

FinGPT 研究

大型语言模型(LLMS)向金融领域的转型整合带来了独特的复杂性和巨大的机遇。要应对高时间敏感性、动态金融景观以及金融数据中的低信噪比等挑战,就需要高效的解决方案。

python算法工程师·2023-07-17 21:08

推荐频道

LLMs