LLM技术汇总第5页

快速计算距离Annoy算法原理及Python使用

快速计算距离Annoy算法基本原理高维稀疏数据进行快速相似查找，可以采用learningtohash参考：Minhashing&LSH&Simhash技术汇总,但高维稠密数据查找则采用annoy如何从海量文本中快速查找出相似的

召唤师的峡谷·2024-02-20 03:30

【AIGC】大语言模型

大型语言模型，也叫大语言模型、大模型（LargeLanguageModel，LLM；LargeLanguageModels，LLMs）什么是大型语言模型大型语言模型（LLM）是指具有数千亿（甚至更多）参数的语言模型

AIGCExplore·2024-02-20 02:57

Elasticsearch：特定领域的生成式 AI - 预训练、微调和 RAG

作者：来自ElasticSteveDodson有多种策略可以将特定领域的知识添加到大型语言模型(LLM)中，并且作为积极研究领域的一部分，正在研究更多方法。

Elastic 中国社区官方博客·2024-02-20 01:33

使用 RAG 创建 LLM 应用程序

如果您考虑为您的文件或网站制作一个能够回应您的个性化机器人，那么您来对地方了。我可以帮助您使用Langchain和RAG策略来创建这样一个机器人。了解ChatGPT的局限性和LLMsChatGPT和其他大型语言模型（LLMs）经过广泛训练，以理解语言的语义和连贯性。尽管它们具有令人印象深刻的能力，但这些模型也存在一些限制，需要在特定用例中进行仔细考虑。一个重要的挑战是可能出现幻觉，模型可能会生成不

ericliu2017·2024-02-20 01:52

Sora：通过视频生成模型制造世界模拟器（世界模型）

（可变的视频时长、帧分辨率和长宽比）OpenAI从大型语言模型（LLM）中获得灵感，LLM通过对互联网规模级别数据的训练获得了通用且强大的能

lifallen·2024-02-20 00:14

关于预训练模型的一点感悟

最近，YannLeCun在WGS上说：目前的LLM不可能走到AGI，原因很简单，现在训练这些LLM所使用的数据量为10万亿个令牌，也就是130亿个词，如果你计算人类阅读这些数据需要多长时间，一个人每天阅读

铅笔楼·2024-02-19 23:18

OpenAI Sora真的有自己的物理模型吗？

就像关于LLM中世界模型的争论一样，这个问题既非常有趣，又有些定义不清。当然，Sora在推理过程中向UE5等外部物理引擎调用函数的可能性很小。

极道Jdon·2024-02-19 21:02

LLM(2)之指令提示词(Prompt)基础教学

LLM(2)之指令提示词Author：OnceDayDate：2024年2月15日全系列专栏请查看:LLM实践成长_Once_day的博客-CSDN博客参考文章：中文完整版全9集ChatGPT提示工程师

Once_day·2024-02-19 20:04

Cohere For AI 推出了 Aya，这是一款覆盖超过 100 种语言的大型语言模型（LLM）

每周跟踪AI热点新闻动向和震撼发展想要探索生成式人工智能的前沿进展吗？订阅我们的简报，深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同，从行业内部的深度分析和实用指南中受益。不要错过这个机会，成为AI领域的领跑者。点击订阅，与未来同行！订阅：https://rengongzhineng.io/想要加入Aya项目，您可以访问Aya项目的官方网站（https://aya.for.ai

新加坡内哥谈技术·2024-02-19 19:28

LLM 记忆体？

兔走龙来，不知不觉，又到了一年一度的保留节目——ZillizMoment。AGI时代的到来，让Zilliz的身上多了很多充满“时代烙印”的标签：未来独角兽、网红赛道公司、向量数据库大佬、大模型的长期记忆体、RAG最强搭档……与此同时，我们也听说了一些有趣的标签：周边质量好、抢不到红包封面、公司产品都是鸟的名字……那么，大家对于Zilliz的印象是不是真的如此标签化呢？为此，我们邀请了一些新老朋友，

·2024-02-19 18:46

每月AI科研动向（2024年1月）

目前的分类包括：LLM研究、Agent、多模态（图像、音视频、其他）、特定领域应用、具身智能。内容较多所以每个相对简略，后续会对必要的专题做更进一步的研究。

陌北有棵树·2024-02-19 16:17

如何引导llm为自己写prompt生成剧本

如何使用写prompt让你自己生一个狗血修仙穿越短剧，且短剧有趣生动让人流连忘返好的，我会尝试编写一个狗血修仙穿越短剧的prompt，以激发你的想象力，让你创作出一个既有趣又生动的短剧。以下是我的prompt：标题：《误入仙途：狗血修仙穿越记》背景设定：在一个现代都市，一位名叫李明的普通上班族意外穿越到了一个名为“修仙界”的奇幻世界。在这个世界里，人们修炼仙术，追求长生不老。李明因为意外获得了一本

东方佑·2024-02-19 15:07

真、开源LLM-OLMo

论文：https://arxiv.org/pdf/2402.00838.pdfWeightshttps://huggingface.co/allenai/OLMo-7BCodehttps://github.com/allenai/OLMoDatahttps://huggingface.co/datasets/allenai/dolmaEvaluationhttps://github.com/all

choose_c·2024-02-19 14:42

Benchmarking PIM-attention: A Puncture Experiment on a Real Processing-in-Memory Architecture

大语言模型（LLM）的高吞吐量服务需要一次批处理足够多的请求。然而，现有的推理系统面临着巨大的挑战。

简vae·2024-02-19 14:03

HuggingFists-低代码玩转LLM Agent-思考

在该应用模式下，LLM被当作了Agent的大脑，主要使用其推理、规划及工具调用能力。笔者非常喜欢这种将LLM作为大脑的比喻。

colorknight·2024-02-19 14:53

HuggingFists-低代码玩转LLM-腾讯云RAG(1)

前序在之前的系列文章里，笔者介绍了如何使用阿里的千问LLM、阿里的文本嵌入模型以及Milvus向量库来搭建一个RAG(检索增强生成)的实验。

colorknight·2024-02-19 14:49

编码、理解和实现LLM中的自注意力、多头注意力、交叉注意力和因果注意力

原文链接：understanding-and-coding-self-attention2024年1月14日自注意力是LLM的一大核心组件。对大模型及相关应用开发者来说，理解自注意力非常重要。

lichunericli·2024-02-15 09:27

LLM大模型相关问题汇总---包括问题与答案

一、基础篇1.目前主流的开源模型体系有哪些？-Transformer体系：由Google提出的Transformer模型及其变体，如BERT、GPT等。-PyTorchLightning：一个基于PyTorch的轻量级深度学习框架，用于快速原型设计和实验。-TensorFlowModelGarden：TensorFlow官方提供的一系列预训练模型和模型架构。-HuggingFaceTransfor

lichunericli·2024-02-15 09:56

创新指南｜人工智能改善营销成果的10种方式

这并不是一件坏事，大型语言模型(LLM)已经在扰乱营销和电子商务。但人工智能还有其他方法可以提高营销成果，这些方法更快、更容易，最重要的是更便宜。在本文中，我们将介绍改善营销成果的10种技术。

Runwise 即能创新·2024-02-15 03:47

今日arXiv最热NLP大模型论文：清华提出LongAlign，打破长上下文对齐瓶颈，数据、训练策略、评估基准一网打尽

随着上下文窗口长度的增加，可以提供更丰富的语义信息，从而减少LLM的出错率和“幻觉”发生的可能性，提升用户体验。但现有的构建长上下文LLMs的工作主要集中在上下文扩展方面，即位置编码

夕小瑶·2024-02-15 02:27

数据库管理-第150期 Oracle Vector DB & AI-02（20240212）

数据库管理150期2024-02-12数据库管理-第150期OracleVectorDB&AI-02（20240212）1LLM2LLM面临的挑战3RAG4向量数据库+LLM总结数据库管理-第150期OracleVectorDB

胖头鱼的鱼缸（尹海文）·2024-02-14 07:25

vLLM vs Text Generation Interface：大型语言模型服务框架的比较

在大型语言模型（LLM）的世界中，有两个强大的框架用于部署和服务LLM：vLLM和TextGenerationInterface(TGI)。这两个框架都有各自的优势，适用于不同的使用场景。

田猿笔记·2024-02-14 05:53

推理系统学习笔记

MLsys比较感兴趣，遂找些资料开始学习一下https://fazzie-key.cool/2023/02/21/MLsys/https://qiankunli.github.io/2023/12/16/llm_inference.htmlhttps

Loganer·2024-02-14 03:29

LLM大模型常见问题解答（2）

对大模型基本原理和架构的理解大型语言模型如GPT（GenerativePre-trainedTransformer）系列是基于自注意力机制的深度学习模型，主要用于处理和生成人类语言。基本原理自然语言理解：模型通过对大量文本数据的预训练，学习到语言的统计规律，从而能够在不同的语言任务上表现出自然语言理解的能力。迁移学习：GPT类模型首先在一个广泛的数据集上进行预训练，以掌握语言的通用表示，然后可以在

lichunericli·2024-02-13 21:38

大模型注入领域知识，模型体验和Token重复知识

1如何给LLM注入领域知识？给LLM（低层次模型，如BERT、GPT等）注入领域知识的方法有很多。以下是一些建议：数据增强：在训练过程中，可以通过添加领域相关的数据来增强模型的训练数据。

lichunericli·2024-02-13 19:26

面向智算服务，构建可观测体系最佳实践

当前，随着大语言模型（LLM）

·2024-02-13 18:51

LocalAI 部署(主要针对 mac m2 启动)

它无需GPU，还有多种用途集成，允许您使用消费级硬件在本地或本地运行LLM、生成图像、音频等等，支持多个模型系列。

不正经写文章的我·2024-02-13 12:33

AI术语概念解释

LLM、AIagent、Token、AGI、NLP、知识库⼈⼯智能代理AIAgent专业解释:⼈⼯智能代理是⼀种ᇿ⽴的软件实体，能够在其环境中执⾏任务以实现既定⽬标。

nsa65223·2024-02-13 11:46

网络安全的今年：量子、生成人工智能以及 LLM 和密码

尽管世界总是难以预测，但网络安全的几个强劲趋势表明未来几个月的发展充满希望和令人担忧。有一点是肯定的：2024年将是非常重要且有趣的一年。近年来，人工智能（AI）以令人难以置信的速度发展，其在网络安全中的实施只会变得更加普遍和重要。它最终可能成为行业游戏规则的改变者。今年，人工智能和量子计算的发展可能会让他们正面交锋。存在产生一些令人难以置信和不想要的结果的巨大潜力。量子计算将使当今的加密技术在一

网络研究院·2024-02-13 09:40

有道开源RAG引擎 QAnything 版本更新啦

本次开源包括了embedding,rerank,LLM

有道AI情报局·2024-02-13 05:47

这次理解透彻了！用代码从零实现大模型的自注意力、多头注意力。。。

自注意力是LLM的一大核心组件。无论是去算法岗面试还是相关应用开发，理解自注意力非常重要。

Python算法实战·2024-02-12 23:47

基于大语言模型的AI Agents

基于大语言模型（LLM）的AIAgent利用LLM进行记忆检索、决策推理和行动顺序选择等，把Agent的智能程度提升到了新的高度。LLM驱动的Agent具体是怎么做的呢？什么是AIAgent？

lichunericli·2024-02-12 19:27

LLM的参数微调、训练、推理；LLM应用框架；LLM分布式训练

大模型基础主流的开源大模型有哪些？GPT-3：由OpenAI开发，GPT-3是一个巨大的自回归语言模型，拥有1750亿个参数。它可以生成文本、回答问题、翻译文本等。GPT-Neo：由EleutherAI开发，GPT-Neo是一个开源的、基于GPT架构的语言模型，拥有数十亿到百亿级的参数。GPT-J：也是由EleutherAI开发的，GPT-J是一个拥有60亿参数的开源语言模型。PaLM(Pathw

lichunericli·2024-02-12 19:27

3. ⼤语⾔模型深度学习背景知识

1.LLM⼤语⾔模型⼀般训练过程Step1.预训练阶段Step2.微调阶段⼤模型⾸先在⼤量的⽆标签数据上进⾏训练，预训练的最终⽬的是让模型学习到语⾔的统计规律和⼀般知识。

Andy_shenzl·2024-02-12 18:22

「我在淘天做技术」智能对话新纪元：百万日活对话机器人的 LLM 落地实践

作者：智能小蜜团队一、前言阿里小蜜家族（阿里小蜜、店小蜜、万象），从2015年发展至今，已经成为了覆盖淘天P-C（平台-消费者）、B-C（商家-消费者）、P-B（平台-商家）全咨询体系的智能对话机器人，日均接待量级在百万（阿里小蜜）到千万（店小蜜）范围。作为淘天集团乃至行业内最大体量的对话机器人应用之一，阿里小蜜在对话算法能力上持续探索，在2022年chatgpt爆炸性的诞生之后，我们也加快了拥抱

阿里技术·2024-02-12 15:32

大模型推理优化实践：KV cache 复用与投机采样

作者：米基一、背景RTP-LLM是阿里巴巴大模型预测团队开发的大模型推理加速引擎，作为一个高性能的大模型推理解决方案，它已被广泛应用于阿里内部。

阿里技术·2024-02-12 15:01

大语言模型ChatGLM + P-Tuning微调实践

大语言模型ChatGLM+P-Tuning微调实践文章目录大语言模型ChatGLM+P-Tuning微调实践LLM微调基础本次实践环境说明ChatGLM部署以及激活conda环境安装依赖禁用W&B训练数据集

North_D·2024-02-12 13:59

用code去探索理解Llama架构的简单又实用的方法

可能有时候算法和论文也不是每个读者都爱看，我也会在今后的文章中加点code或者debug模型的内容，也许还有一些好玩的应用demo，会提升这部分在文章类型中的比例今天带着大家通过代码角度看一下Llama,或者说看一下Casual-LLM

周博洋K·2024-02-12 13:54

小周带你正确理解Prompt-engineering,RAG,fine-tuning工程化的地位和意义

所以我来给大家捋一捋，因为这毕竟直接取决于你设计的解决方案是否能真正解决问题如上图所示，OpenAI把对于优化LLM返回结果分为两个方向，一个方向是横坐标系的对LLM模

周博洋K·2024-02-12 13:54

小周带你正确理解Prompt-engineering,RAG,fine-tuning工程化的地位和意义

所以我来给大家捋一捋，因为这毕竟直接取决于你设计的解决方案是否能真正解决问题如上图所示，OpenAI把对于优化LLM返回结果分为两个方向，一个方向是横坐标系的对LLM模

周博洋K·2024-02-12 13:22

【EAI 019】Eureka: Human-Level Reward Design via Coding LLM

论文标题：Eureka:Human-LevelRewardDesignviaCodingLargeLanguageModels论文作者：YechengJasonMa,WilliamLiang,GuanzhiWang,De-AnHuang,OsbertBastani,DineshJayaraman,YukeZhu,LinxiFan,AnimaAnandkumar作者单位：NVIDIA;UPenn;C

datamonday·2024-02-12 09:08

Nature Machine Intelligence 法国国家科学研究中心评论“使用大语言模型进行研究的危机”

ChatGPT于2022年底发布，将大型语言模型（LLM）推到了聚光灯下。通过使用户能够直接用自然语言查询模型，ChatGPT实现了对这些模型的访问——这是一个受欢迎的发展。

xwz小王子·2024-02-12 08:35

揭秘 LLM 推理：全面解析 LLM 推理性能的关键因素

一、背景介绍自OpenAI一年前发布ChatGPT以来，大型语言模型（LLM）领域经历了前所未有的快速发展。

lichunericli·2024-02-12 08:53

火山引擎ByteHouse：如何为OLAP设计高性能向量检索能力？

·2024-02-11 18:27

InternLM大模型实战-1.书生浦语大模型全链路开源体系

早上真好·2024-02-11 18:26

基于OpenIM 实现聊天机器人功能

开发者可以替换此逻辑，在LangChain框架上调用LLM接口（包括gpt3.5或其他开源本地模型），以实现智能客服功能。

·2024-02-11 18:11

请立即收藏！春节必备AI工具盘点：一键拜年短信、海报！AI全家福！

春节对于LLM大模

木易AI信息差·2024-02-11 13:49

ChatGPT高效提问—prompt常见用法（续篇八）

ChatGPT高效提问—prompt常见用法（续篇八）1.1对抗对抗是一个重要主题，深入探讨了大型语言模型（LLM）的安全风险。

Bruce_Liuxiaowei·2024-02-11 12:34

LLM应用开发报错与解决：langchain_Core not installed, pydev debugger: CRITICAL WARNING: This version of python

已经安装了langChain_core后，仍有以上报错，解决如下，首先升级了pycharm（网上有人说是pycahrm版本低导致不兼容，出现debug错误）但这个方法，没有用，仍有报错。有效解决办法，直接去interpreteroption输入：-Xfrozen_modules=off

德国Viviane·2024-02-11 10:30

LLM之RAG实战（二十五）| 使用LlamaIndex和BM25重排序实践

本文，我们将研究高级RAG方法的中的重排序优化方法以及其与普通RAG相比的关键差异。一、什么是RAG？检索增强生成（RAG）是一种复杂的自然语言处理方法，它包括两个不同的步骤：信息检索和生成语言建模。这种方法旨在为语言模型提供访问外部数据源，来提高其在生成响应时的准确性和相关性，从而增强语言模型的能力。1.1检索组件：目的：检索组件的主要功能是响应查询或提示，从大型数据库或语料库中提取相关文档或信

wshzd·2024-02-11 06:03

推荐频道

LLM技术汇总

快速计算距离Annoy算法原理及Python使用

【AIGC】大语言模型

Elasticsearch：特定领域的生成式 AI - 预训练、微调和 RAG

使用 RAG 创建 LLM 应用程序

Sora：通过视频生成模型制造世界模拟器（世界模型）

关于预训练模型的一点感悟

OpenAI Sora真的有自己的物理模型吗？

LLM(2)之指令提示词(Prompt)基础教学

Cohere For AI 推出了 Aya，这是一款覆盖超过 100 种语言的大型语言模型（LLM）

LLM 记忆体？

每月AI科研动向（2024年1月）

如何引导llm为自己写prompt生成剧本

真、开源LLM-OLMo

Benchmarking PIM-attention: A Puncture Experiment on a Real Processing-in-Memory Architecture

HuggingFists-低代码玩转LLM Agent-思考

HuggingFists-低代码玩转LLM-腾讯云RAG(1)

编码、理解和实现LLM中的自注意力、多头注意力、交叉注意力和因果注意力

LLM大模型相关问题汇总---包括问题与答案

创新指南｜人工智能改善营销成果的10种方式

今日arXiv最热NLP大模型论文：清华提出LongAlign，打破长上下文对齐瓶颈，数据、训练策略、评估基准一网打尽

数据库管理-第150期 Oracle Vector DB & AI-02（20240212）

vLLM vs Text Generation Interface：大型语言模型服务框架的比较

推理系统学习笔记

LLM大模型常见问题解答（2）

大模型注入领域知识，模型体验和Token重复知识

面向智算服务，构建可观测体系最佳实践

LocalAI 部署(主要针对 mac m2 启动)

AI术语概念解释

网络安全的今年：量子、生成人工智能以及 LLM 和密码

有道开源RAG引擎 QAnything 版本更新啦

这次理解透彻了！用代码从零实现大模型的自注意力、多头注意力。。。

基于大语言模型的AI Agents

LLM的参数微调、训练、推理；LLM应用框架；LLM分布式训练

3. ⼤语⾔模型深度学习背景知识

「我在淘天做技术」智能对话新纪元：百万日活对话机器人的 LLM 落地实践

大模型推理优化实践：KV cache 复用与投机采样

大语言模型ChatGLM + P-Tuning微调实践

用code去探索理解Llama架构的简单又实用的方法

小周带你正确理解Prompt-engineering,RAG,fine-tuning工程化的地位和意义

小周带你正确理解Prompt-engineering,RAG,fine-tuning工程化的地位和意义

【EAI 019】Eureka: Human-Level Reward Design via Coding LLM

Nature Machine Intelligence 法国国家科学研究中心评论“使用大语言模型进行研究的危机”

揭秘 LLM 推理：全面解析 LLM 推理性能的关键因素

火山引擎ByteHouse：如何为OLAP设计高性能向量检索能力？

InternLM大模型实战-1.书生浦语大模型全链路开源体系

基于OpenIM 实现聊天机器人功能

请立即收藏！春节必备AI工具盘点：一键拜年短信、海报！AI全家福！

ChatGPT高效提问—prompt常见用法（续篇八）

LLM应用开发报错与解决：langchain_Core not installed, pydev debugger: CRITICAL WARNING: This version of python

LLM之RAG实战（二十五）| 使用LlamaIndex和BM25重排序实践