(LLM) 第5页

什么是RAG？RAG是如何解决问题的？RAG的未来发展趋势有哪些？

一、什么是RAG所谓RAG，检索增强生成（RetrievalAugmentedGeneration），简称RAG，已经成为当前最火热的LLM应用方案。

大模型综述·2025-02-26 18:31

IPEX-LLM: 英特尔硬件大语言模型加速库部署

IPEX-LLM:英特尔硬件大语言模型加速库部署大语言模型的本地部署正成为一个热门话题。

Felix_bin·2025-02-26 17:23

在Intel GPU上使用IPEX-LLM进行本地BGE嵌入

Intel的IPEX-LLM是一种专门为IntelCPU和GPU优化的PyTorch库，能够在包括本地PC上的集成显卡和独立显卡（如Arc、Flex和Max）在内的Intel硬件上以极低的延迟运行大型语言模型

shuoac·2025-02-26 16:16

使用 LangChain 与 Solar LLM 的快速集成示例

在本篇文章中，我们将深入探讨如何通过LangChain框架与SolarLLM（已弃用）进行集成。这虽然是一个过时的示例，但仍然可以帮助我们掌握如何使用类似的模型连接器设计结构化的语言模型调用流程。更重要的是，我们还会通过实际代码，展示集成的实现过程。一、技术背景介绍LangChain是一个强大的框架，它可以帮助开发者轻松集成不同的自然语言处理(NLP)模型，并构建复杂的链式推理任务。SolarLL

qahaj·2025-02-26 16:15

RAG技术全面解析：从原理到实践中的20个关键问题

其核心流程是：用户提问后，系统从外部知识库（如文档、数据库）中检索相关文档片段；将检索结果作为上下文输入大语言模型（LLM）；LLM基于上下文生成最终答案。

大F的智能小课·2025-02-26 12:47

DeepSeek：大模型时代的“破局者”

公司专注于开发先进的大语言模型（LLM）和相关技术，致力于在人工智能领域实现技术突破和创新应用。在成立后的短时间内，DeepSeek取得了令人瞩目的成绩。

qq_44233281·2025-02-26 10:02

Qwen2.5 技术报告

本报告介绍Qwen2.5，这是一系列全面的大语言模型(LLM)，旨在满足多样化的需求。与之前的迭代相比，Qwen2.5在预训练和后训练阶段都有显著的改进。

三谷秋水·2025-02-26 07:11

langchain-go调用deepseek

1.查看官网发现只有ollama,openai,Mistral于是查看代码2.代码查看先从llm,err:=openai.New(url,model,token)开始发现New方法可以传option参数

又菜又爱玩呜呜呜~·2025-02-26 06:32

【AI论文】S*: 针对代码生成的测试时缩放方法

摘要：在多个领域中，增加大型语言模型（LLM）测试时的计算量已展现出广阔前景，但在代码生成方面，尽管数学领域已对此进行了深入研究，该方向仍探索不足。

东临碣石82·2025-02-26 05:58

【LLM】本地部署LLM大语言模型+可视化交互聊天，附常见本地部署硬件要求（以Ollama+OpenWebUI部署DeepSeekR1为例）

【LLM】本地部署LLM大语言模型+可视化交互聊天，附常见本地部署硬件要求（以Ollama+OpenWebUI部署DeepSeekR1为例）文章目录1、本地部署LLM（以Ollama为例）2、本地LLM

小哈里·2025-02-26 05:25

深入探索 llama-cpp-python：在 LangChain 中启用本地 LLM 推理

引言在人工智能的迅猛发展中，大语言模型(LLM)扮演着不可或缺的角色。

aehrutktrjk·2025-02-26 02:06

细说向量化知识库

向量化知识库与RAG：打造智能AI知识检索系统引言在大模型（LLM）迅猛发展的今天，如何让AI获取最新、最准确的信息，成为一个核心问题。

CCSBRIDGE·2025-02-25 18:41

怎么提升自定义知识库的质量（向量知识库）

这样，LLM在回答问题时，可以从这些文档中检索相关内容，从而提高回答的准确性和信息量。1.影响检索效果的关键因素为了让LLM更准确、更高效地使用你的文档，这些因素很重要：✅适合的文档格式虽

CCSBRIDGE·2025-02-25 18:11

MoBA：LLM长文本救星！月之暗面开源新一代注意力机制：处理1000万token能快16倍，已在Kimi上进行验证

AI在线答疑->智能检索历史文章和开源项目->尽在微信公众号->搜一搜：蚝油菜花「你的LLM还在为长文本「爆内存」？Moonshot突破性方案：千万token推理速度提升16倍！」

蚝油菜花·2025-02-25 15:53

它和LLM是什么关系？

AIGC（人工智能生成内容）和LLM（大语言模型）是当前人工智能领域的两个核心概念，它们既有紧密联系，又有明确区别。以下是详细解析：一、什么是AIGC？

释迦呼呼·2025-02-25 15:52

浏览器自动化库Browser-Use：让大型语言模型与网站互动的新工具

最近，一个名为Browser-Use的开源网页自动化库引起了广泛关注，它允许大型语言模型（LLM）与网站互动，通过简单的接口实现网页自动化操作。

码农工具百宝箱·2025-02-25 11:18

浏览器使用 + LightRAG + Ollama代理可以抓取任何网站!!

在这个故事中，我有一个快速教程，展示如何使用Browser-use、LightRAG和本地LLM创建一个强大的聊天机器人，能够抓取您选择的任何网站。此外，您可以就数据提问，它会给您相应的回答。

可乐泡枸杞··2025-02-25 11:17

部署 Llama 3.1 405B：分步指南,深入研究 Llama 最新模型 Llama 3.1 4050 亿参数模型的部署。这个强大的模型需要大量的 VRAM，特别是 4 位量化版本需要 231 G

知识大胖·2025-02-25 02:47

Meta官宣Llama3：迄今为止最强大的开源大模型

领先的性能新的8B和70B参数Llama3模型是Llama2模型的重大飞跃，为这些规模的LLM模型确立了新的先进水平。得

·2025-02-24 19:09

秒杀ChatGPT ？国产之光DeepSeek探究

自成立以来，DeepSeek专注于开发先进的大语言模型（LLM）和相关技术，取得了显著的成果。2023年11月2日，

南风过闲庭·2025-02-24 17:41

深度剖析 DeepSeek V3 技术报告：架构创新与卓越性能表现

随着人工智能（AI）技术的不断发展，各种大规模语言模型（LLM）层出不穷，DeepSeekV3作为其中的一员，凭借其出色的性能表现和创新的架构设计，吸引了广泛关注。

m0_74823947·2025-02-24 15:33

Engineering A Large Language Model From Scratch

本文是LLM系列文章，针对《EngineeringALargeLanguageModelFromScratch》的翻译。

UnknownBody·2025-02-24 15:31

Qwen2.5-Coder Technical Report

本文是LLM系列文章，针对《Qwen2.5-CoderTechnicalReport》的翻译。

UnknownBody·2025-02-24 13:16

LLM的MoE架构的“动态路由”为什么能训练出来？

互联网各领域资料分享专区(不定期更新)：Sheet正文大型语言模型（MoE）架构中的“动态路由”之所以能够被有效训练，关键在于其设计融合了可微分的路由机制、专家协同优化以及负载均衡约束。以下是具体原因和技术原理的解析：一、动态路由的可微分性与端到端优化门控网络的可训练性动态路由的核心是门控网络（GatingNetwork），它是一个可训练的神经网络，通过输入数据生成专家权重分布。例如，输入经过门控

互联网之路.·2025-02-24 09:46

Browser-Use：AI如何“操控”浏览器进行自动化测试？

通过集成Playwright等浏览器自动化工具，Browser-Use允许开发者使用任何支持LangChain的大型语言模型（LLM），如GPT-4、Claude等，来自动化浏览网页、提取信息、模拟用户操作等

东汉末年出bug·2025-02-24 08:09

AI大模型-提示工程学习笔记13—自动提示工程师 (Automatic Prompt Engineer)

自动提示工程师(APE)是一种利用大语言模型(LLM)自动生成和优化提示（Prompt）的框架，旨在减少人工设计提示的工作量，并提高LLM在特定任务上的性能。

9命怪猫·2025-02-24 07:30

RAG+LLM和直接将整理的知识训练到模型中去有什么区别，各自有什么优缺点

1.RAG(Retrieval-AugmentedGeneration)+LLM(LargeLanguageModel)概念RAG是将信息检索与生成模型相结合的一种方法。

MonkeyKing.sun·2025-02-24 06:54

金融大模型应用的机遇与挑战

大模型本质特征大模型通常指大语言模型（LargeLanguageModel，LLM），是基于深度学习算法的自然语言处理技术，是通用大模型。

Python程序员罗宾·2025-02-24 03:34

1秒响应、90%决策准确率！京东商家智能助手的技术探索

引言多智能体的架构演进过程：第一阶段：B商城工单自动回复，LLM和RAG结合知识库应答，无法解决工具调用。

京东零售技术·2025-02-24 03:01

DeepSeek 与网络安全：AI 在网络安全领域的应用与挑战

与此同时，人工智能（AI）技术的快速发展正在为网络安全提供全新的解决方案，而DeepSeek作为AI领域的新兴力量，也正在探索如何利用深度学习和大规模语言模型（LLM）加强网络安

一ge科研小菜菜·2025-02-24 01:49

DeepSeek模型量化

技术背景大语言模型（LargeLanguageModel，LLM），可以通过量化（Quantization）操作来节约内存/显存的使用，并且降低了通讯开销，进而达到加速模型推理的效果。

快乐非自愿·2025-02-23 22:29

目前（2025年2月）计算机视觉（CV）领域一些表现优异的深度学习模型

PaLI：这是一个多模态模型，结合了40亿参数的视觉Transformer（ViT）和多种大型语言模型（LLM），并在包含100多种语言的100亿图像和文本数据集上进行训练。PaLI在图像描述、视

空空转念·2025-02-23 20:18

人工智能（AI）：科技新纪元的领航者

从智能手机上的语音助手到自动驾驶汽车、LLM

r_martian·2025-02-23 19:06

Langflow与Dify对比：低代码LLM应用开发平台如何选择？

随着大语言模型（LLM）的普及，越来越多的开发者希望快速构建基于LLM的应用程序。然而，直接调用API或编写复杂代码的门槛较高，因此低代码/无代码平台成为热门选择。

几道之旅·2025-02-23 17:51

【大模型】AI 辅助编程操作实战使用详解

近年来，大型语言模型（LLM）在代码生成、代码补全和代码解释等方面展现出强大能力，成为开发者提升效率的利器。以下将详细介绍如何利用大模型进行AI辅助编程。

陆鳐LuLu·2025-02-23 16:42

大语言模型：从开发到运行的深度解构

一、LLM开发训练的全流程解析1.数据工程的炼金术数据采集：构建涵盖网页文本（CommonCrawl）、书籍、论文、代码等领域的超大规模语料库，典型规模可达数十TB。

nbsaas-boot·2025-02-23 15:38

LLM论文笔记 15: Transformers Can Achieve Length Generalization But Not Robustly

Arxiv日期：2024.2.14机构：GoogleDeepMind/UniversityofToronto关键词长度泛化位置编码数据格式核心结论1.实验结论：十进制加法任务上的长度泛化最佳组合：FIRE位置编码随机化位置编码反向数据格式索引提示（indexhints，辅助定位）2.在适当的配置下，Transformer模型可以泛化到训练序列长度的2.5倍（例如从40位加法训练成功泛化到100位加

Zhouqi_Hua·2025-02-23 14:30

Xmodel-VLM: A Simple Baseline for Multimodal Vision Language Model

本文是LLM系列文章，针对《Xmodel-VLM:ASimpleBaselineforMultimodalVisionLanguageModel》的翻译。

UnknownBody·2025-02-23 14:58

python中轻量级 LLM 应用开发框架 Promptic 如何有效进行对话管理？

使用Promptic进行对话管理是一个高效且灵活的过程，它通过装饰器模式、动态提示生成、状态管理等功能，帮助开发者快速构建基于LLM的对话系统。

大懒猫软件·2025-02-22 23:32

用示例提升大语言模型的查询分析能力！

引言随着查询分析的复杂性增加，大语言模型（LLM）在理解如何响应某些场景时可能会面临挑战。为了提高性能，我们可以在提示中添加示例，以便更好地引导模型。

llzwxh888·2025-02-22 19:31

如何创建自定义Retriever来增强LLM应用程序

引言在许多大语言模型（LLM）应用中，我们需要从外部数据源中检索信息，以便生成更准确和相关的响应。这些信息往往通过Retriever模块检索，然后用于生成提示，供LLM进行处理和响应。

llzwxh888·2025-02-22 19:00

一个完全免费、私有且本地运行的搜索聚合器-FreeAskInternet

什么是FreeAskInternetFreeAskInternet是一个完全免费、私有且本地运行的搜索聚合器，使用LLM生成答案，无需GPU。

星霜笔记·2025-02-22 18:24

大模型入门指南：非常详细，从零基础到精通，收藏这一篇就够了！

前言随着ChatGPT的到来，大模型[1]（LargeLanguageModel，简称LLM）成了新时代的buzzword，各种GPT产品百花齐放。

程序员辣条·2025-02-22 18:21

LLM之提示词工程

研究人员借助提示工程，致力于增强LLM在广泛且复杂的任务（如问答系统与算术推理）中的表现。而对于开发人员而言，提示工程则成为设计高效、强大提示技术的关键，这些技术能够无缝对接LLM与其他工具，实现功

樱花的浪漫·2025-02-22 16:11

LLaVA-CoT: Let Vision Language Models Reason Step-by-Step

本文是LLM系列文章，针对《LLaVA-CoT:LetVisionLanguageModelsReasonStep-by-Step》的翻译。

UnknownBody·2025-02-22 16:08

Python机器学习库之scikit-llm使用详解

概要Pythonscikit-llm库是一个用于机器学习的强大工具，它基于scikit-learn库并扩展了一些机器学习算法和功能，可以帮助开发者更轻松地进行机器学习模型的训练和评估。

Rocky006·2025-02-22 15:06

用 Python + LLM 实现一个智能对话

大型语言模型LLM最近比较火，所以我也来用LLM写个智能对话玩玩。简介大语言模型LLM全称是LargeLanguageModels。LLM是指具有巨大参数量和极高语言理解能力的神经网络模型。

AGI大模型学习·2025-02-22 15:04

无缝融入，即刻智能[4]：MaxKB知识库问答系统[进一步深度开发调试，完成基于API对话，基于ollama大模型本地部署等]

无缝融入，即刻智能[4]：MaxKB知识库问答系统[进一步深度开发调试，完成基于API对话，基于ollama大模型本地部署等]1.简介MaxKB(MaxKnowledgeBase)是一款基于LLM大语言模型的开源知识库问答系统

汀、人工智能·2025-02-22 13:14

MLC-LLM框架的安卓应用部署实战(1)

虚拟机识别不了USB接口（这个在后面在手机上调试的时候很关键）：参考我这篇博文：关于Ubuntu虚拟机识别不了USB设备的解决方案虚拟机突然上不了网了：关于Ubuntu虚拟机突然上不了网的问题ClashforLinux：如果要gitclone需要，方案如下：使用文档root密码不正确：这个问题一般是新机才会有，而且准确来说也不是bug，具体来说就是root密码会随着每次启动进行随机更新，只有自己设

优秀后端工程师·2025-02-22 12:11

【Llama3:8b】手把手教你如何在本地部署自己的 LLM大模型

一、为什么需要本地部署属于自己的大模型？趋势：我们正处于AI人工智能时代，各行各业的公司和产品都在向AI靠拢。打造垂直领域的AI模型将成为每个公司未来的发展趋势。数据安全：在无法掌握核心算法的情况下，许多公司选择使用大公司的成熟方案。然而，这涉及到数据安全的问题。训练垂直定制化的大模型需要大量数据，而数据是公司的核心资产和基石。没有公司愿意将这些关键数据上传到外部服务器，这是公司的命脉所在。本地部

AI大模型..·2025-02-22 12:40

推荐频道

(LLM)