闻达LLM 第2页

游戏语音趋势解析，社交互动有助于营造沉浸式体验

语音交互的新架构出现2024年标志着对话语音AI取得了突破，出现了结合STT→LLM→TTS模型来聆听、推理和回应对话的协同语音系统。

网易数智·2025-02-28 03:22

大模型替代程序猿？不可能，绝对不可能！进化路线来了来！！！

大模型后端开发面试指南：技术体系构建与实践路线一、背景说明随着大模型（LLM）技术进入工业化落地阶段，行业对大模型后端开发工程师的需求呈现爆发式增长。

XiaoDuofCSDN·2025-02-28 03:48

通过vLLM部署LLM模型到生产环境中

文章目录1使用vLLM部署模型2部署过程2.1准备GPU环境2.2安装vLLM依赖项3使用vLLM部署模型并启动服务3.1部署开源模型3.2部署微调模型4测试服务是否正常运行5评估服务性能1使用vLLM部署模型本地部署模型主要包含下载模型、编写模型加载代码和发布为支持API访问的应用服务这三个步骤。这个过程通常伴随较高的人工部署成本，vLLM可以用来简化这一流程。它是一个专为大模型推理设计的开源框

MichaelIp·2025-02-28 01:04

UnionLLM——通过统一接口调用国内外所有LLM的Python开源工具包

最近忙里偷闲和公司前端小伙伴一起撸了一个Python开源项目——UnionLLM。这是一个通过与OpenAI兼容的统一方式调用各种国内外各种大语言模型和Agent编排工具的轻量级开源工具包。我们开发它的起因是因为在实际项目中，经常需要调用多个大语言模型的API，但是国内每个大语言模型的接口和参数都不一样，这给我们的工作带来了很大的困扰和额外的成本。UnionLLM的目标是通过统一且容易扩展的方式连

everfly·2025-02-28 00:57

手把手教你用Docker部署Dify平台，打造可视化LLM应用环境

“Dify是一款开源的大语言模型(LLM)应用开发平台。它融合了后端即服务（BackendasService）和LLMOps的理念，使开发者可以快速搭建生产级的生成式AI应用。

脱泥不tony·2025-02-27 22:40

微调 LLM （RLHF + DPO）

微调LLM（RLHF+DPO）使用强化学习（RL）根据人类反馈微调大语言模型（即RLHF）的方法，以及一种更有效的改进方法（即DPO）。

·2025-02-27 21:56

让 LLM 来评判 | 设计你自己的评估 prompt

设计你自己的评估prompt这是让LLM来评判系列文章的第三篇，敬请关注系列文章:基础概念选择LLM评估模型设计你自己的评估prompt评估你的评估结果奖励模型相关内容技巧与提示通用prompt设计建议我总结的互联网上通用

·2025-02-27 21:49

探索 LangChain: 架构、组件和应用

介绍每个组件及其用途：1.ModelModel组件是LangChain的核心，它抽象并提供了大语言模型（LLM）的接口。

田猿笔记·2025-02-27 17:23

大数据最全大模型入门到应用——LangChain：索引（Indexes）-[文本分割器

总目录LangChain系列文章：基础知识快速入门安装与环境配置链（Chains）、代理（Agent:）和记忆（Memory）快速开发聊天模型模型（Models）基础知识大型语言模型（LLMs）基础知识LLM

2401_84182507·2025-02-27 17:22

大模型入门到应用——LangChain：索引（Indexes）-[文本分割器(2)

快速入门安装与环境配置链（Chains）、代理（Agent:）和记忆（Memory）快速开发聊天模型模型（Models）基础知识大型语言模型（LLMs）基础知识LLM的异步API、自定义LLM包装器、虚假

2301_78399616·2025-02-27 17:21

LangChain：Models、Prompts、Indexes、Memory、Chains、Agents。MaxKB

Models（模型）：指代各类大语言模型（LLM），是提供语言处理和生成能力的基础。如

ZhangJiQun&MXP·2025-02-27 16:21

自编大模型系列之 01 使用 Python 从头构建 LLaMA 3 编写您自己的十亿参数LLM（教程含源码）

我之前在Medium上写过一篇博客，介绍如何使用LLaMA架构从头开始创建一个具有超过230万个参数的LLM。现在LLaMA-3已经发布，我们将以更简单的方式重新创建它。

知识大胖·2025-02-27 10:33

基于OneAPI+ChatGLM3-6B+FastGPT搭建LLM大语言模型知识库问答系统

搭建大语言模型知识库问答系统部署OneAPI拉取镜像bash复制代码dockerpulljustsong/one-api创建挂载目录bash复制代码mkdir-p/usr/local/docker/oneapi启动容器bash复制代码dockerrun--nameone-api-d--restartalways-p3001:3000-eTZ=Asia/Shanghai-v/usr/local/do

闯江湖50年·2025-02-27 09:31

大语言模型(LLM)入门学习路线图，附资源汇总，收藏这篇就够了

Github项目上有一个[大语言模型学习路线笔记]“大语言模型学习路线笔记”)，它全面涵盖了大语言模型的所需的基础知识学习，LLM前沿算法和架构，以及如何将大语言模型进行工程化实践。

AI小白熊·2025-02-27 06:34

LLMs之ReACT-Agent：ReACT-Agent简介、实现及其使用方法(MReACT/AutoReACT)、案例应用(比如采用ReAct框架让LLM稳定输出JSON格式数据)之详细攻略

LLMs之ReACT-Agent：ReACT-Agent简介、实现及其使用方法(MReACT/AutoReACT)、案例应用(比如采用ReAct框架让LLM稳定输出JSON格式数据)之详细攻略目录相关文章

一个处女座的程序猿·2025-02-27 00:46

【Python大语言模型系列】如何在LangChain中使用ReAct构建AI Agent（案例+源码）

一、引言========当前，在各个大厂纷纷卷LLM的情况下，各自都借助自己的LLM推出了自己的AIAgent，比如字节的Coze，百度的千帆等，还有开源的Dify。你是否想知道其中的原理？

脱泥不tony·2025-02-27 00:12

GGUF 文件格式全解析

随着大语言模型(LLM)的广泛应用，如何高效地存储和加载这些复杂的模型成为一个亟待解决的问题。

Just_Paranoid·2025-02-26 22:25

ThinkJSON:通过强化学习让大型语言模型（LLM）严格遵守JSON模式

标题：ThinkInsidetheJSON:ReinforcementStrategyforStrictLLMSchemaAdherence作者：BhavikAgarwal,IshanJoshi,ViktoriaRojkova机构：MasterControlAIResearch链接：arXiv:2502.14905v1本文提出了一种轻量级强化学习框架，通过合成数据、多奖励函数和GRPO优化，显著提

AI仙人掌·2025-02-26 20:17

全面分析 DeepSeek 的新开源 FlashMLA

这一进展对于大型语言模型（LLM）来说意义重大，因为大型语言模型在推理过程中面临内存和计算方面的挑战，尤其是长序列。

X.Cristiano·2025-02-26 19:34

Google搜索免费API访问

X.Cristiano·2025-02-26 19:04

DeepSeep开源周，第三天：DeepGEMM是啥？

对开发者的用处性能提升优化计算密集型任务（如LLM训练/推理），降低延迟，提升吞吐量。支持混合精度计算

程序员差不多先生·2025-02-26 19:33

推荐：LangChain — 构建情境感知推理应用的利器

BuildingapplicationswithLLMsthroughcomposability⚡项目地址:https://gitcode.com/gh_mirrors/la/langchainLangChain，一款专为开发基于大型语言模型（LLM

成婕秀Timothy·2025-02-26 19:33

超声波俱乐部：AI应用大爆发前夜，场景、闭环与LLM进化

7月13日，第十九期超声波俱乐部内部分享会在北京望京举行，本期的主题是：AI应用大爆发前夜，场景、闭环与LLM进化。

超声波沙龙·2025-02-26 19:02

有哪些开源大数据处理项目使用了大模型

**RedPajama**：这是一个开源项目，使用了LLM大语言模型数据处理组件，对GitHub代码数据进行清洗和处理。具体流程包括数据清洗、过滤低质量样本、识别和删除重复样本等步骤。2.

魔王阿卡纳兹·2025-02-26 19:02

什么是RAG？RAG是如何解决问题的？RAG的未来发展趋势有哪些？

一、什么是RAG所谓RAG，检索增强生成（RetrievalAugmentedGeneration），简称RAG，已经成为当前最火热的LLM应用方案。

大模型综述·2025-02-26 18:31

IPEX-LLM: 英特尔硬件大语言模型加速库部署

IPEX-LLM:英特尔硬件大语言模型加速库部署大语言模型的本地部署正成为一个热门话题。

Felix_bin·2025-02-26 17:23

在Intel GPU上使用IPEX-LLM进行本地BGE嵌入

Intel的IPEX-LLM是一种专门为IntelCPU和GPU优化的PyTorch库，能够在包括本地PC上的集成显卡和独立显卡（如Arc、Flex和Max）在内的Intel硬件上以极低的延迟运行大型语言模型

shuoac·2025-02-26 16:16

使用 LangChain 与 Solar LLM 的快速集成示例

在本篇文章中，我们将深入探讨如何通过LangChain框架与SolarLLM（已弃用）进行集成。这虽然是一个过时的示例，但仍然可以帮助我们掌握如何使用类似的模型连接器设计结构化的语言模型调用流程。更重要的是，我们还会通过实际代码，展示集成的实现过程。一、技术背景介绍LangChain是一个强大的框架，它可以帮助开发者轻松集成不同的自然语言处理(NLP)模型，并构建复杂的链式推理任务。SolarLL

qahaj·2025-02-26 16:15

RAG技术全面解析：从原理到实践中的20个关键问题

其核心流程是：用户提问后，系统从外部知识库（如文档、数据库）中检索相关文档片段；将检索结果作为上下文输入大语言模型（LLM）；LLM基于上下文生成最终答案。

大F的智能小课·2025-02-26 12:47

DeepSeek：大模型时代的“破局者”

公司专注于开发先进的大语言模型（LLM）和相关技术，致力于在人工智能领域实现技术突破和创新应用。在成立后的短时间内，DeepSeek取得了令人瞩目的成绩。

qq_44233281·2025-02-26 10:02

Qwen2.5 技术报告

本报告介绍Qwen2.5，这是一系列全面的大语言模型(LLM)，旨在满足多样化的需求。与之前的迭代相比，Qwen2.5在预训练和后训练阶段都有显著的改进。

三谷秋水·2025-02-26 07:11

langchain-go调用deepseek

1.查看官网发现只有ollama,openai,Mistral于是查看代码2.代码查看先从llm,err:=openai.New(url,model,token)开始发现New方法可以传option参数

又菜又爱玩呜呜呜~·2025-02-26 06:32

【AI论文】S*: 针对代码生成的测试时缩放方法

摘要：在多个领域中，增加大型语言模型（LLM）测试时的计算量已展现出广阔前景，但在代码生成方面，尽管数学领域已对此进行了深入研究，该方向仍探索不足。

东临碣石82·2025-02-26 05:58

【LLM】本地部署LLM大语言模型+可视化交互聊天，附常见本地部署硬件要求（以Ollama+OpenWebUI部署DeepSeekR1为例）

【LLM】本地部署LLM大语言模型+可视化交互聊天，附常见本地部署硬件要求（以Ollama+OpenWebUI部署DeepSeekR1为例）文章目录1、本地部署LLM（以Ollama为例）2、本地LLM

小哈里·2025-02-26 05:25

深入探索 llama-cpp-python：在 LangChain 中启用本地 LLM 推理

引言在人工智能的迅猛发展中，大语言模型(LLM)扮演着不可或缺的角色。

aehrutktrjk·2025-02-26 02:06

细说向量化知识库

向量化知识库与RAG：打造智能AI知识检索系统引言在大模型（LLM）迅猛发展的今天，如何让AI获取最新、最准确的信息，成为一个核心问题。

CCSBRIDGE·2025-02-25 18:41

怎么提升自定义知识库的质量（向量知识库）

这样，LLM在回答问题时，可以从这些文档中检索相关内容，从而提高回答的准确性和信息量。1.影响检索效果的关键因素为了让LLM更准确、更高效地使用你的文档，这些因素很重要：✅适合的文档格式虽

CCSBRIDGE·2025-02-25 18:11

MoBA：LLM长文本救星！月之暗面开源新一代注意力机制：处理1000万token能快16倍，已在Kimi上进行验证

AI在线答疑->智能检索历史文章和开源项目->尽在微信公众号->搜一搜：蚝油菜花「你的LLM还在为长文本「爆内存」？Moonshot突破性方案：千万token推理速度提升16倍！」

蚝油菜花·2025-02-25 15:53

它和LLM是什么关系？

AIGC（人工智能生成内容）和LLM（大语言模型）是当前人工智能领域的两个核心概念，它们既有紧密联系，又有明确区别。以下是详细解析：一、什么是AIGC？

释迦呼呼·2025-02-25 15:52

浏览器自动化库Browser-Use：让大型语言模型与网站互动的新工具

最近，一个名为Browser-Use的开源网页自动化库引起了广泛关注，它允许大型语言模型（LLM）与网站互动，通过简单的接口实现网页自动化操作。

码农工具百宝箱·2025-02-25 11:18

浏览器使用 + LightRAG + Ollama代理可以抓取任何网站!!

在这个故事中，我有一个快速教程，展示如何使用Browser-use、LightRAG和本地LLM创建一个强大的聊天机器人，能够抓取您选择的任何网站。此外，您可以就数据提问，它会给您相应的回答。

可乐泡枸杞··2025-02-25 11:17

部署 Llama 3.1 405B：分步指南,深入研究 Llama 最新模型 Llama 3.1 4050 亿参数模型的部署。这个强大的模型需要大量的 VRAM，特别是 4 位量化版本需要 231 G

知识大胖·2025-02-25 02:47

Meta官宣Llama3：迄今为止最强大的开源大模型

领先的性能新的8B和70B参数Llama3模型是Llama2模型的重大飞跃，为这些规模的LLM模型确立了新的先进水平。得

·2025-02-24 19:09

秒杀ChatGPT ？国产之光DeepSeek探究

自成立以来，DeepSeek专注于开发先进的大语言模型（LLM）和相关技术，取得了显著的成果。2023年11月2日，

南风过闲庭·2025-02-24 17:41

深度剖析 DeepSeek V3 技术报告：架构创新与卓越性能表现

随着人工智能（AI）技术的不断发展，各种大规模语言模型（LLM）层出不穷，DeepSeekV3作为其中的一员，凭借其出色的性能表现和创新的架构设计，吸引了广泛关注。

m0_74823947·2025-02-24 15:33

Engineering A Large Language Model From Scratch

本文是LLM系列文章，针对《EngineeringALargeLanguageModelFromScratch》的翻译。

UnknownBody·2025-02-24 15:31

Qwen2.5-Coder Technical Report

本文是LLM系列文章，针对《Qwen2.5-CoderTechnicalReport》的翻译。

UnknownBody·2025-02-24 13:16

LLM的MoE架构的“动态路由”为什么能训练出来？

互联网各领域资料分享专区(不定期更新)：Sheet正文大型语言模型（MoE）架构中的“动态路由”之所以能够被有效训练，关键在于其设计融合了可微分的路由机制、专家协同优化以及负载均衡约束。以下是具体原因和技术原理的解析：一、动态路由的可微分性与端到端优化门控网络的可训练性动态路由的核心是门控网络（GatingNetwork），它是一个可训练的神经网络，通过输入数据生成专家权重分布。例如，输入经过门控

互联网之路.·2025-02-24 09:46

Browser-Use：AI如何“操控”浏览器进行自动化测试？

通过集成Playwright等浏览器自动化工具，Browser-Use允许开发者使用任何支持LangChain的大型语言模型（LLM），如GPT-4、Claude等，来自动化浏览网页、提取信息、模拟用户操作等

东汉末年出bug·2025-02-24 08:09

AI大模型-提示工程学习笔记13—自动提示工程师 (Automatic Prompt Engineer)

自动提示工程师(APE)是一种利用大语言模型(LLM)自动生成和优化提示（Prompt）的框架，旨在减少人工设计提示的工作量，并提高LLM在特定任务上的性能。

9命怪猫·2025-02-24 07:30

推荐频道

闻达LLM