llm 第20页

【LLM 】7个基本的NLP模型，为ML应用程序赋能

在上一篇文章中，我们已经解释了什么是NLP及其在现实世界中的应用。在这篇文章中，我们将继续介绍NLP应用程序中使用的一些主要深度学习模型。BERT来自变压器的双向编码器表示（BERT）由JacobDevlin在2018年的论文《BERT:用于语言理解的深度双向变压器的预训练》中首次提出。BERT模型的主要突破是，它在训练过程中查看文本时，以双向方式扫描文本，而不是从左到右或从左到左和从右到左的组合

架构师研究会·2024-01-02 17:32

LLM、AGI、多模态AI 篇三：微调模型

文章目录系列LLM的几个应用层次Lora技术指令设计构建高质量的数据微调步骤系列LLM、AGI、多模态AI篇一：开源大语言模型简记LLM、AGI、多模态AI篇二：Prompt编写技巧LLM、AGI、多模态

李小白杂货铺·2024-01-02 09:17

人工通用智能AGI

GPT图解大模型GPT4-点亮人工智能的火花以GPT-4为代表的大级模语有模型Large-scaleLanguageModel，LLM，也称大模型)是使用前所未有的计算参数和海数据进行训练得到的。

即兴小索奇·2024-01-02 09:15

LLM、AGI、多模态AI 篇二：Prompt编写技巧

文章目录系列生成图片（StableDiffusion）生成文章（ChatGPT）代码生成（GitHubCopilot）Prompt编写模式Prompt模板Prompt即代码系列LLM、AGI、多模态AI

李小白杂货铺·2024-01-02 09:14

LLM大语言模型（四）：在ChatGLM3-6B中使用langchain

目录背景准备工作工具添加LangChain已实现工具Calculator、WeatherTool配置自定义工具自定义kuakuawoAgent多工具使用参考背景LangChain是一个用于开发由语言模型驱动的应用程序的框架。它使应用程序能够:具有上下文意识：将语言模型与上下文源(提示指令，少量示例，基于其响应的内容等)联系起来。推理：依靠语言模型进行推理(关于如何根据提供的上下文进行回答，采取什么

Hugo Lei·2024-01-02 08:55

Windows CPU部署llama2量化模型并实现API接口

如下本地运行llama2fromctransformersimportAutoModelForCausalLMllm=AutoModelForCausalLM.from_pretrained("D:\llm

我只钓小鱼·2024-01-02 07:49

【LLM+RS】LLM在推荐系统的实践应用（华为诺亚）

学习华为诺亚-技术分享-LLM在推荐系统的实践应用。

山顶夕景·2024-01-02 04:44

【OpenAI出品】ChatGPT表现不好？很有可能是你的prompt没有写好

最近，AI大佬吴恩达联合OpenAI发布视频，手把手教你怎样如何写好prompt，这篇文章将对视频中的关键信息进行总结，如果你发现你的LLM不work，希望这篇文章可以对你有所帮助。原版视频：

汀、人工智能·2024-01-01 22:07

LLM 系列 | 04：ChatGPT Prompt编写指南

后续会持续整理模型加速、模型部署、模型压缩、LLM、AI艺术等系列专题，敬请关注。

JasonLiu1919·2024-01-01 22:06

AI日报：2024年世代人工智能将如何改变业务

欢迎订阅专栏《AI日报》获取人工智能邻域最新资讯文章目录戴尔CTOJohnRoese：世代人工智能项目将开始被采用并扩大规模JuniperNetworksCAIOBobFriday：培训基金会LLM的成本将降低思科

Nowl·2024-01-01 20:12

NLP常见问题

-知乎大部分的大模型(LLM)采用左填充(left-

青盏·2024-01-01 17:43

【LLM-RAG】知识库问答 | 检索 | embedding

noteRAG流程（写作论文中的background：公式设定、emb、召回内容、召回基准）（工作中的思路：嵌入模型、向量存储、向量存储检索器、LLM、query改写、RAG评测方法）仅为个人关于RAG

山顶夕景·2024-01-01 16:07

RAG LLM App开发实战

大型语言模型（LLM）无疑改变了我们与信息交互的方式。然而，对于我们可以向他们提出的要求，它们也有相当多的限制。

xiangzhihong8·2024-01-01 16:44

知识库问答LangChain+LLM的二次开发：商用时的典型问题及其改进方案

前言如之前的文章所述，我司下半年成立大模型项目团队之后，我虽兼管整个项目团队，但为让项目的推进效率更高，故分成了三大项目组第一项目组由霍哥带头负责类似AIGC模特生成系统第二项目组由阿荀带头负责论文审稿GPT以及AIagent项目第三项目组由朝阳带头负责企业多文档的知识库问答系统，朝阳、bingo、猫药师等人贡献了本文的至少一半对于知识库问答，现在有两种方案，一种基于llamaindex，一种基于

v_JULY_v·2024-01-01 15:58

高级RAG(二)：父文档检索器

在我之前写的>系列博客中，我们介绍了利用大型语言模型LLM来检索文档时的过程和步骤，如下图所示：我们在检索文档之前，通常需要对文档进行切割，然后将其存入向量数据库如下图所示：当我们在使用langchain

-派神-·2024-01-01 12:40

使用python快速开发与PDF文档对话的Gemini聊天机器人

检索增强生成(Retrieval-augmentedgeneration，RAG)使得我们可以让大型语言模型(LLMs)访问外部知识库数据(如pdf,word、text等)，从而让人们可以更加方便的通过LLM

-派神-·2024-01-01 12:08

LLM 2023年总结 2024年展望

年底发烧了，兄弟们，39度，啥也没检测出来，无语借着发烧的劲儿可以说点胡话，做做2023年的大模型总结(虽然还有10几天)和2024年的大模型展望，反正今天头晕写一些deepdive的技术文章，我肯定是写不动的2023年我认为今后我们回头看这一年，它肯定是大模型的元年了，这一年发生了太多的代表性的事件，我挑点重要的说，我觉得不太重要的在这就没画面了，大家可以回帖补充1-2022年11月30日Cha

周博洋K·2024-01-01 00:40

LLM源码系列-Baichuan2模型代码解读

本文是对百川大模型的代码解析，有助于了解其内部模型结构，以及训练和推理的一些细节。主要是对modeling_baichuan.py这个文件进行分析，以下是核心的几个类的关系核心的模型结构在BaichuanModel中，是多个MHA多头Attention模块堆叠起来的Decoder架构，下面是BaichuanModel的代码解析classBaichuanModel(BaichuanPreTraine

田小成plus·2023-12-31 23:59

用通俗易懂的方式讲解大模型：ChatGLM3-6B 功能原理解析

上次我们介绍了ChatGLM3-6B的部署，虽然我们的大语言模型（LLM）部署起来了，新功能也试用了，但问题很多的小明就要问了，这其中的实现原理是什么呢？到底是怎么实现的呢？

Python算法实战·2023-12-31 15:32

用通俗易懂的方式讲解大模型：ChatGLM3-6B 部署指南

ChatGLM3-6B正式发布，不仅在性能测试和各种测评的数据上有显著提升，还新增了一些新功能，包括工具调用、代码解释器等，最重要的一点是还是保持6B的这种低参数量，让我们可以在消费级的显卡上部署大语言模型（LLM

Python算法实战·2023-12-31 15:02

用通俗易懂的方式讲解大模型：一个强大的 LLM 微调工具 LLaMA Factory

LLM（大语言模型）微调一直都是老大难问题，不仅因为微调需要大量的计算资源，而且微调的方法也很多，要去尝试每种方法的效果，需要安装大量的第三方库和依赖，甚至要接入一些框架，可能在还没开始微调就已经因为环境配置而放弃了

Python算法实战·2023-12-31 15:01

用通俗易懂的方式讲解大模型：使用 LangChain 封装自定义的 LLM，太棒了

Langchain默认使用OpenAI的LLM（大语言模型）来进行文本推理工作，但主要的问题就是数据的安全性，跟OpenAILLM交互的数据都会上传到OpenAI的服务器。

Python算法实战·2023-12-31 15:01

用通俗易懂的方式讲解大模型：使用 FastChat 部署 LLM 的体验太爽了

之前介绍了Langchain-Chatchat项目的部署，该项目底层改用了FastChat来提供LLM(大语言模型)的API服务。

Python算法实战·2023-12-31 15:31

用通俗易懂的方式讲解大模型：基于 Langchain 和 ChatChat 部署本地知识库问答系统

该项目最早是基于ChatGLM这个LLM（大语言模型）来搭建的，但后来集成的LLM越来越多,我估计项目团队也借此机会将项目名称改成了Langchain-Chatchat。

Python算法实战·2023-12-31 15:30

用通俗易懂的方式讲解大模型：基于 LangChain 和 ChatGLM2 打造自有知识库问答系统

OpenAI的GPT3.5和GPT4无疑是目前最好的LLM（大语言模型），借助OpenAI的GPT确实可以快速地打造出一个高质量的AI问答机器人，但是GPT在实际应

Python算法实战·2023-12-31 15:59

用通俗易懂的方式讲解大模型：LangChain Agent 原理解析

LangChain是一个基于LLM（大型语言模型）的编程框架，旨在帮助开发人员使用LLM构建端到端的应用程序。它提供了一套工具、组件和接口，可以简化创建由LLM和聊天模型提供支持的应用程序的过程。

Python算法实战·2023-12-31 15:27

LangChain初学者指南

LLM可以帮助我们将AI能力接入应用，LangChain作为开源工具，提供了接入各种主流LLM的接口，从而让我们以非常低的成本构建基于LLM的AI应用。

俞凡 DeepNoMind·2023-12-31 12:50

Google机器人团队获ICRA 2023 机器人学习方向最佳论文奖：机器人实体控制的大语言模型程序

这篇论文主要讨论了大型语言模型（LLM）在机器人控制方面的应用。作者们指出，尽管LLM在理解和生成自然语言方面表现出色，但其在实际应用中，如机器人控制等领域的应用仍然有限。

xwz小王子·2023-12-31 09:51

将 Google Gemini Pro 与 PICO 结合使用

通过免费API调用构建您的应用程序转发:UsingGoogleGeminiProwithPICO项目介绍概述最近，LLM语言模型在各地涌现，我们使用Google最近发布的GeminiPro创建了一个示例

WIZnet·2023-12-31 09:20

【privateGPT】使用privateGPT训练您自己的LLM

了解如何在不向提供商公开您的私人数据的情况下训练您自己的语言模型使用OpenAI的ChatGPT等公共人工智能服务的主要担忧之一是将您的私人数据暴露给提供商的风险。对于商业用途，这仍然是考虑采用人工智能技术的公司最大的担忧。很多时候，你想创建自己的语言模型，根据你的数据集（如销售见解、客户反馈等）进行训练，但同时你不想将所有这些敏感数据暴露给OpenAI等人工智能提供商。因此，理想的方法是在本地训

架构师研究会·2023-12-31 07:10

大语言模型（LLM）框架及微调 (Fine Tuning)

大语言模型（LLM）技术作为人工智能领域的一项重要创新在今年引起了广泛的关注。LLM是利用深度学习和大数据训练的人工智能系统，专门设计来理解、生成和回应自然语言。

ejinxian·2023-12-31 06:20

大语言模型（LLM）训练平台与工具

LLM是利用深度学习和大数据训练的人工智能系统，专门设计来理解、生成和回应自然语言。大模型训练平台和工具提供了强大且灵活的基础设施，使得开发和训练复杂的语言模型变得可行且高效。

ejinxian·2023-12-31 06:20

【Video-LLaMA】增强LLM对视频内容的理解

Paper:《Video-LLaMA:AnInstruction-tunedAudio-VisualLanguageModelforVideoUnderstanding》Authors:HangZhang,XinLi,LidongBing;Affiliation:TheAlibabaDAMOAcademy;Keywords:MultimodalLargeLanguageModels,Cross-m

菜鸡不叫·2023-12-31 04:34

【论文解读】用于概念标定的逻辑强化大模型LEFT（NeurIPS 2023）

2310.16035开源代码：https://github.com/joyhsu0504/LEFT摘要：VisProg和ViperGPT等最新研究成果巧妙地组成了视觉推理的基础模型--利用大型语言模型（LLM

深度之眼·2023-12-31 02:13

大模型LLM的微调技术：LoRA

0引言LoRA(Low-RankAdaptation)出自2021年的论文“LoRA:Low-RankAdaptationofLargeLanguageModels”LoRA技术冻结预训练模型的权重，并在每个Transformer块中注入可训练层（称为秩分解矩阵），即在模型的Linear层的旁边增加一个“旁支”A和B。其中，A将数据从d维降到r维，这个r是LoRA的秩，是一个重要的超参数；B将数据

智慧医疗探索者·2023-12-31 01:46

KG+LLM(一)KnowGPT: Black-Box Knowledge Injection for Large Language Models

arxiv.org/pdf/2312.06185.pdf1.Background&Motivation目前生成式的语言模型，如ChatGPT等在通用领域获得了巨大的成功，但在专业领域，由于缺乏相关事实性知识，LLM

wavehaha·2023-12-31 00:37

一文带你了解大模型的RAG(检索增强生成) | 概念理论介绍+ 代码实操（含源码）

针对大型语言模型效果不好的问题，之前人们主要关注大模型再训练、大模型微调、大模型的Prompt增强，但对于专有、快速更新的数据却并没有较好的解决方法，为此检索增强生成（RAG）的出现，弥合了LLM常识和专有数据之间的差距

机器学习社区·2023-12-31 00:36

大模型推理部署：LLM 七种推理服务框架总结

本文将介绍七中主流的LLM推理和服务开源库。下面首先来总结一下这些框架的特点，如下表所示：LLM推理有很多框架，各有其特点，下面分别介绍一下表中七个框架的关键点：vLLM[1]：适用于大批量Prom

机器学习社区·2023-12-31 00:36

不用再找了，这是大模型最全的面试题库

大模型LLM的训练目标是什么？涌现能力是啥原因？为何现在的大模型大部分是Decoderonly结构？简单介绍一下

机器学习社区·2023-12-31 00:34

LLM提示词工程学习_Day01

LLM提示词工程学习_Day01安装学习环境基础Conda环境安装安装Python安装所需的包JupyterNotebook安装获取OpenAIAPIKEY，并写入工程目录里的.env文件进入Jupyter

wanboo0205·2023-12-31 00:06

AI大模型：无需训练让LLM支持超长输入

显式搜索:知识库外挂paper:UnleashingInfinite-LengthInputCapacityforLarge-scaleLanguageModelswithSelf-ControlledMemorySystem看到最无敌的应用，文本和表格解析超厉害https://chatdoc.com/?viaurl=ainavpro.comChatGPT代码实现:GitHub-arc53/Doc

人工智能小豪·2023-12-30 21:08

人工智能的新篇章：深入了解大型语言模型(LLM)的应用与前景

LLM（LargeLanguageModel）技术是一种基于深度学习的自然语言处理技术，旨在训练能够处理和生成自然语言文本的大型模型。

AI小白龙*·2023-12-30 21:56

LLM 4 Vulnerability Detection

LLM4VulnerabilityDetection1.InferROI1.1.introduction1.2.motivation1.3.Approach1.4.Evaluation1.4.1.RQ1

I still …·2023-12-30 21:50

text-generation-inference使用

TGI使用1.docker安装2.本地安装2.1.rust+anaconda32.2.安装server2.3.下载模型开启server因为最近工作需要跑LLM，目前LLM一般都是多进程跑，目前只用Inference

I still …·2023-12-30 21:47

LLM之RAG实战（十）| 如何构建一个RAG支持的聊天机器人，包括聊天、嵌入和重排序

在人工智能和机器学习不断发展的环境中，聊天机器人变得越来越复杂，从简单的基于规则的回复转变为基于上下文的对话。在这篇博客文章中，我们将深入研究创建一个RAG支持的聊天机器人，该聊天机器人利用先进的NLP模型进行聊天、嵌入和重新排序，并使用hnswlib进行高效的文档检索。设置环境在深入研究代码之前，请确保安装了必要的库。这包括cohere、hnswlib和非结构化。可以使用pip安装它们：pipi

wshzd·2023-12-30 20:19

LLM之RAG理论（三）| 高级RAG技术全面汇总

RAG=搜索+LLM提示，根据用户的查询要求，LLMs会使用搜索算法从外部数据源获取上下文信息，最后，查询和检索到的上下文合成后送入到LLM的提示中。

wshzd·2023-12-30 20:49

LLM之RAG实战（九）| 高级RAG 03：多文档RAG体系结构

在RAG（检索和生成）这样的框架内管理和处理多个文档有很大的挑战。关键不仅在于提取相关内容，还在于选择包含用户查询所寻求的信息的适当文档。基于用户查询对齐的多粒度特性，需要动态选择文档，本文将介绍结构化层次检索来解决多文档RAG问题。一、Llamaindex结构化检索介绍Llamaindex支持多层次信息检索。它不只是筛选文档，而是利用元数据过滤来简化选择过程。通过使用自动检索机制，这些过滤器可以