闻达LLM 第2页

RAFT: Adapting Language Model to Domain Specific RAG

本文是LLM系列文章，针对《RAFT:AdaptingLanguageModeltoDomainSpecificRAG》的翻译。

UnknownBody·2024-09-07 21:43

特定领域 RAG 新突破：LlamaPack 实现 RAFT 论文方法

一、前言在上一篇文章《RAFT：让大型语言模型更擅长特定领域的RAG任务》中，我们介绍了RAFT训练方法，RAFT（检索增强微调）是一种训练方法，可以提高大型语言模型(LLM)在开卷、域内问答任务中的性能

技术狂潮AI·2024-09-07 20:43

使用中转API访问OpenAI大模型的指南

在现代AI技术的迅速发展中，大语言模型（LLM）如OpenAI的GPT-4变得越来越重要。然而，由于中国地区的网络限制，直接访问海外的API可能会遇到困难。

qq_37836323·2024-09-07 15:31

一切为了稳定！Langchain 0.2预发布，更新速览！

导语LangChain作为当下非常流行的LLM应用开发框架，更新迭代实在太快，群里许多小伙伴表示上次的更新还没弄明白，新的更新又来了。

我在公司做牛码·2024-09-07 15:01

【LangChain-Chatchat】本地部署模型及搭建个人/企业内部知识库

该项目支持开源LLM与Embedding模型，亦可实现全部使用开源模型离线私有部署。与

AI_小站·2024-09-07 11:36

python利用向量数据库chroma实现RAG检索增强生成

知识更新问题最先进的LLM会接受大量的训练数据，将广泛的常识知识存储在神经网络的权重中

Cachel wood·2024-09-07 09:25

【AI】在Windows10下部署本地LLM RAG服务

RAG的后台向量库并不需要对LLM产生影响，LLM是人与向量库（知识

每日出拳老爷子·2024-09-07 09:24

利用生成式AI从无序数据中获取洞见

使用LLM进行数据过滤：无需在源头清理数据；可以在数据中途使用LLM进行净化

AI洞察局·2024-09-07 08:47

艾体宝洞察丨透过语义缓存，实现更快、更智能的LLM应用程序

这种方法可以实现更细致入微的数据交互，缓存所显示的响应比传统缓存更相关，也比大型语言模型（LLM）的典型响应更快。把语义缓存想象成精明的图书管理员。他们不仅知

艾体宝IT·2024-09-07 05:24

LLM系列(3)：探索大模型RLHF优化之道：DeepSpeed-Chat超快速入门，对齐训练精度提升一步到位

LLM系列(3)：探索大模型RLHF优化之道：DeepSpeed-Chat超快速入门，对齐训练精度提升一步到位随着ChatGPT的惊艳表现，各类大模型产品如雨后春笋丛出不穷。

汀、人工智能·2024-09-07 04:18

Time-LLM 开源项目使用教程

Time-LLM开源项目使用教程Time-LLM[ICLR2024]Officialimplementationof"Time-LLM:TimeSeriesForecastingbyReprogrammingLargeLanguageModels

袁菲李·2024-09-07 04:46

探索未来时间管理新方式：Time-LLM

探索未来时间管理新方式：Time-LLMTime-LLM[ICLR2024]Officialimplementationof"Time-LLM:TimeSeriesForecastingbyReprogrammingLargeLanguageModels

班歆韦Divine·2024-09-07 04:16

【LLM大模型】24年最新大语言模型新书！这本LLM大模型黑书你一定要学（附PDF）

会AIGC的小孩·2024-09-07 01:01

LangChain系列使用指南：LangChain快速入门

文章目录设置JupyterNotebook安装LangSmith使用LangChain构建LLM链OpenAIOllamaAnthropicCohere深入了解检索链OpenAIOllamaCohere

IT猫仔·2024-09-06 23:18

探索LangChain-Chatchat 0.3：一体化Agent与强大RAG模型的全面入门指南

借助Xinference，您可以使用任何开源LLM、嵌入模型

爱喝白开水a·2024-09-06 18:47

LLM之RAG理论（十二）| RAG和Graph RAG对比

最近GraphRAG非常火，它来自微软的一篇论文《FromLocaltoGlobal:AGraphRAGApproachtoQuery-FocusedSummarization》，论文地址：https://arxiv.org/pdf/2404.16130。本文将对RAG和GraphRAG在架构和成本方面做简要分析。一、RAG和GraphRAG的架构RAG方法体系结构可以分为两个不同的阶段：索引阶段

wshzd·2024-09-06 14:18

第66期 | GPTSecurity周报

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区，集成了生成预训练Transformer（GPT）、人工智能生成内容（AIGC）以及大语言模型（LLM）等安全领域应用的知识。

云起无垠·2024-09-06 07:00

Apache SeaTunnel 2.3.7发布：全新支持大型语言模型数据转换

此次版本更新不仅引入了如LLM（大型语言模型）数据转换支持、增强的SQL支持和新连接器支持等多个新特性，还对现有功能进行了优化和改进，并修复了多个发现的问题。本文将详细介绍ApacheSeaTunn

SeaTunnel·2024-09-06 06:24

2024国外类脑智能企业汇总

这是世界上最大的类脑智能系统，利用Intel的Loihi2处理器，支持高达20千万亿次操作每秒（petaops），显著提高AI工作负载的效率和可持续性，应用于科学和工程问题解决、物流、智能城市基础设施管理和大型语言模型（LLM

细节的温柔·2024-09-06 03:35

《开源大模型食用指南》全网发布，轻松助你速通llm大模型！

前言《开源大模型食用指南》是一个围绕开源大模型、针对国内初学者、基于AutoDL平台的中国宝宝专属大模型教程，针对各类开源大模型提供包括环境配置、本地部署、高效微调等技能在内的全流程指导，简化开源大模型的部署、使用和应用流程，让更多的普通学生、研究者更好地使用开源大模型，帮助开源、自由的大模型更快融入到普通学习者的生活中。朋友们如果有需要全套《开源大模型食用指南》，扫码获取~项目的主要内容包括：基

再不会AI就不礼貌了·2024-09-06 03:05

【论文阅读】LLM4CP: Adapting Large Language Models for Channel Prediction（2024）

摘要Channelprediction（信道预测）isaneffectiveapproach（有效方法）forreducingthefeedback（减少反馈）orestimationoverhead（估计开销）inmassivemulti-inputmulti-output（大规模多输入输出）(m-MIMO)systems.However,existingchannelpredictionmet

Bosenya12·2024-09-05 23:39

LLM资料大全：文本多模态大模型、垂直领域微调模型、STF数据集、训练微调部署框架、提示词工程等

LLM资料大全：文本多模态大模型、垂直领域微调模型、STF数据集、训练微调部署框架、提示词工程等自ChatGPT为代表的大语言模型（LargeLanguageModel,LLM）出现以后，由于其惊人的类通用人工智能

汀、人工智能·2024-09-05 22:31

大模型--个人学习心得

大模型LLM定义大模型LLM，全称LargeLanguageModel，即大型语言模型LLM是一种基于Transformer架构模型，它通过驯良大量文本数据，学习语言的语法、语义和上下文信息，从而能够对自然语言文本进行建模这种模型在自然语言处理

挚爱清&虚·2024-09-05 12:27

NL2SQL技术方案系列(2)：全系列技术选型完整版：从通用技术选型(向量、图数据库)、大模型选择、Prompt工程、前沿技术方案展示

NL2SQL技术方案系列(2)：全系列技术选型完整版：从通用技术选型(向量、图数据库)、大模型选择、Prompt工程、前沿技术方案展示NL2SQL基础系列(1)：业界顶尖排行榜、权威测评数据集及LLM大模型

汀、人工智能·2024-09-05 12:25

【LLM】局域网内为容器服务启用HTTPS

OpenWebUI中，语音输入需要HTTPS才能使用麦克风等硬件资源，在局域网中通过NGINX转发实现HTTPS访问。具体包含三个部分容器部署open-webui和nginx生成ssl证书修改nginx配置文件1、容器部署基于docker-compose，执行docker-composeup-d即可。其中主要的就是映射conf文件夹和ssl的路径，不映射手动添加也一样。open-webui的环境变

不求上进的鱼仔·2024-09-04 23:32

Open WebUI官方库：解锁人工智能服务的官方通道

它支持多种大型语言模型（LLM），包括与Ollama和OpenAI兼容的API。OpenWebUI的特点包括直观且响应式的用户界面、快速响应的性能、全面的Markdown和LaTeX支持、本地RA

黑金IT·2024-09-04 22:55

英伟达发布最新屠榜 Embedding 模型——NV-Embed-v2

NV-Embed-v2提出了几项新设计，包括让LLM关注潜在向量以获得更好的池化嵌入输出，并展示了一种两阶段指令调整方法，以提高检索和非检索任务的准确性。

吴脑的键客·2024-09-04 13:28

干货含源码！如何用Java后端操作Docker（命令行篇）

Java后端操作docker1、构建docker镜像并生成容器2、执行完毕后删除容器和镜像3、在此基础上开发其他功能四、总结作者：watermelo37涉及领域：Vue、SpingBoot、Docker、LLM

watermelo37·2024-09-04 10:40

NL2SQL技术方案系列(4)：金融领域NL2SQL技术方案以及行业案例实战讲解2

NL2SQL技术方案系列(4)：金融领域NL2SQL技术方案以及行业案例实战讲解2NL2SQL基础系列(1)：业界顶尖排行榜、权威测评数据集及LLM大模型（SpidervsBIRD）全面对比优劣分析[Text2SQL

汀、人工智能·2024-09-04 09:30

NL2SQL进阶系列(4)：ConvAI、DIN-SQL、C3-浙大、DAIL-SQL-阿里等16个业界开源应用实践详解[Text2SQL]

NL2SQL进阶系列(4)：ConvAI、DIN-SQL等16个业界开源应用实践详解[Text2SQL]NL2SQL基础系列(1)：业界顶尖排行榜、权威测评数据集及LLM大模型（SpidervsBIRD

汀、人工智能·2024-09-04 09:59

LLM手撕

LayerNormimporttorchfromtorchimportnnclassLayerNorm(nn.Module):def__init__(self,hidden_size,eps=1e-6):super().__init__()self.hidden_size=hidden_size#隐藏状态的大小self.eps=eps#用于数值稳定性的一个小值#初始化可学习的缩放和平移参数self

比起村村长·2024-09-04 04:26

LLM大模型落地-从理论到实践

学习目标熟悉主流LLM（Llama,ChatGLM,Qwen）的技术架构和技术细节；有实际应用RAG、PEFT和SFT的项目经验较强的NLP基础，熟悉BERT、T5、Transformer和GPT的实现和差异

hhaiming_·2024-09-04 01:12

2024.8.14-算法学习（原创+转载）

大型语言模型（LLM）的推理通常需要使用自回归采样。它们的推理过程相当缓慢，需要逐个token地进行串行解码。生成每个标记都需要将所有参数从存储单元传输到计算单元，

蓝纹绿茶·2024-09-04 01:12

【LLM大模型】2024开源项目汇总

当大模型成本逐渐降低，可靠性提升后，这意味着越来越多的业务应用将会与LLM结合，为了让这种结合更加顺畅，需要有与现有基础设施相兼容的工具和框架来支撑LLM应用开发的快速开发通用大模型性能评测参见：github

人工智能小豪·2024-09-03 19:01

【面试经验】百度 ai产品经理实习

面试时间：25min，问题比较常规，现在ai产品不可避免都会问到LLM，所以要是懂一点技术会更好，面试之前建议多看看专业解释，多使用多比较1、自我介绍2、实习项目介绍3、产品服务的用户对象有哪些？

litterfinger·2024-09-03 15:36

一文讲清楚，AI、AGI、AIGC与AIGC、NLP、LLM，ChatGPT等概念

本文旨在深入解析人工智能（AI）、通用人工智能（AGI）、人工智能生成内容（AIGC）、自然语言处理（NLP）、大型语言模型（LLM）以及ChatGPT等关键概念，并探讨它们在现代科技发展中的重要性和实际应用

GPT-Hub·2024-09-03 10:07

[论文笔记] LLM模型剪枝

AttentionIsAllYouNeedButYouDon’tNeedAllOfItForInferenceofLargeLanguageModelsLLaMA2在剪枝时，跳过ffn和跳过fulllayer的效果差不多。相比跳过ffn/fulllayer，跳过attentionlayer的影响会更小。跳过attentionlayer：7B/13B从100%参数剪枝到66%，平均指标只下降1.7～

心心喵·2024-09-03 08:53

LLM期间自我规划

受朋友圈某post的指引，我认真地在疫情期间思考了自己的人生规划。不过被一个想法所困扰。对于自己的学历，是只会停留在硕士，还是再去读一个博士？皓哥告诉我考博啊，他也即将读5年的Phd。我一看，呵，这长度！是这样，法学/律博士在国内外有很多种类，在我的规划里，既然仍要做律师，就是继续读一个JD了。JD是3年。但是，考虑到经济、年纪、发展潜力，我想了半天，觉得目前真不适合我。JD读完，学历高了甚至在美

遐舟·2024-09-02 23:26

LLM训练、精调与加速：大型语言模型的高效开发与应用策略

大家有技术交流指导、论文及技术文档写作指导、项目开发合作的需求可以私信联系我LLM（大型语言模型）的训练、精调和加速是当前人工智能研究和应用中的重要话题。下面将详细介绍这些概念及其关键技术。

知识学习分享交流·2024-09-02 12:22

利用LangChain构建MySQL数据库问答代理

引言随着自然语言处理技术的飞速发展，尤其是大型语言模型（LLM）的应用日益广泛，人们对于如何更高效地与这些模型交互产生了浓厚的兴趣。

Free_Gemini·2024-09-02 08:24

整理了上百个开源中文大语言模型，涵盖模型、应用、数据集、微调、部署、评测_基于大语言模型的网络自动配置平台的设计与开发

自ChatGPT为代表的大语言模型（LargeLanguageModel,LLM）出现以后，由于其惊人的类通用人工智能（AGI）的能力，掀起了新一轮自然语言处理领域的研究和应用的浪潮。

AI大模型-搬运工·2024-09-02 07:20

Second-Order Information Matters: Revisiting Machine Unlearning for Large Language Models

本文是LLM系列文章，针对《Second-OrderInformationMatters:RevisitingMachineUnlearningforLargeLanguageModels》的翻译。

UnknownBody·2024-09-01 20:46

使用Petals和LangChain运行大型语言模型：入门指南

使用Petals和LangChain运行大型语言模型：入门指南引言在人工智能和自然语言处理领域，大型语言模型（LLM）的应用日益广泛。然而，运行这些模型通常需要强大的硬件资源。

qq_37836323·2024-09-01 20:40

大语言模型在金融领域的应用:进展、前景与挑战

在这些进步中,大语言模型(LLM)已成为一个强大的工具,在理解上下文、处理海量数据以及生成类人文本方面表现出色。将LLM应用于金融领域有望改变传统实践,推动创新,并在各种金融任务中开创新的机遇。

Python程序员罗宾·2024-09-01 11:15

NL2SQL实践系列(2)：2024最新模型实战效果(Chat2DB-GLM、书生·浦语2、InternLM2-SQL等)以及工业级案例教学

汀、人工智能·2024-09-01 00:39

LLM-项目详解（一）：Chinese-LLaMA-Alpaca【transformers/models/llama/modeling_llama.py文件】

u013250861·2024-08-31 22:57

LLM - 从头实现 LLaMA3 网络与推理流程 (RMS | RoPE | GQA | SwiGLU)

欢迎关注我的CSDN：https://spike.blog.csdn.net/本文地址：https://spike.blog.csdn.net/article/details/141462669免责声明：本文来源于个人知识与公开资料，仅用于学术交流，欢迎讨论，不支持转载。LLaMA3是Meta的最新大语言模型，在整体网络设计进行多项升级，显著提升了模型的性能和效率，重要的改进，如下：词汇量增加至1

CarolineSpike·2024-08-31 22:56

开源模型应用落地-qwen2-7b-instruct-LoRA微调-ms-swift-单机单卡-V100（十二）

二、术语介绍2.1.LoRA微调LoRA(Low-RankAdaptation)用于微调大型语言模型(LLM)。

开源技术探险家·2024-08-31 10:41

“全面解析！大模型面试宝典（含精选答案与策略）“

4.大模型LLM的架构介绍？大模型（LLMs）进阶面1.llama输入句子长度理论上可以无限长吗？1.什么是LLMs复读机问题？2.为什么会出现LLMs复读机问题？3.如何缓解LLMs复读机问题？

AGI-老冉·2024-08-31 10:07

graphRAG原理解析——基于微软graphRAG+Neo4j llm-graph-builder

知识图谱生成llm-graph-builder（以下简称LGB）也使用了最新的graph+RAG的思路，使用知识图谱来加持RAG，提供更加准确和丰富的知识问答。

赖皮猫·2024-08-31 05:32

推荐频道

闻达LLM