LLm 第7页

开源模型应用落地-qwen2-7b-instruct-LoRA微调-LLaMA-Factory-单机多卡-RTX 4090双卡（五）

二、术语介绍2.1.LoRA微调LoRA(Low-RankAdaptation)用于微调大型语言模型(LLM)。

开源技术探险家·2025-03-06 23:26

揭秘AWS GPU实例：以极致AI算力与成本优化，重塑企业智能竞争力

面对动辄千亿参数的LLM大模型训练、实时高并发的AI推理场景，如何兼顾超强算力与极致成本？本文将深度解析AWSGPU实例的颠覆性技术方案，带您解锁AI时代的核心生产力。

AWS官方合作商·2025-03-06 23:55

【大模型系列篇】Vanna-ai基于检索增强(RAG)的sql生成框架

简介Vanna是基于检索增强(RAG)的sql生成框架Vanna使用一种称为LLM（大型语言模型）的生成式人工智能。

木亦汐丫·2025-03-06 23:54

Mac 基于 Ollama 安装 DeepSeek-R1（蒸馏版本）、AnythingLLM 及使用体验

简介下载与安装Ollama下载并运行DeepSeek-R11.在终端运行（建议从8B开始）2.本地模型存储路径3.终端测试4.查询服务状态5.退出服务下载并运行AnythingLLM1.下载与安装2.设置LLM

窝窝和牛牛·2025-03-06 21:12

【AI爬虫干货】Crawl4AI+DeepSeek：从安装配置到 DeepSeek 集成，掌握 AI 爬虫核心技术「喂饭教程」

爬虫核心技术「喂饭教程」Crawl4AI简介一、安装二、异步爬取网页内容三、批量抓取四、保存结果到文件五、与DeepSeek模型结合使用总结Crawl4AI简介Crawl4AI是一个开源的、专为大型语言模型（LLM

blues_C·2025-03-06 18:10

AstrBot：多平台 LLM 聊天机器人框架，让 AI 触手可及！

产品概述AstrBot是一款多平台大型语言模型（LLM）聊天机器人及开发框架，提供松耦合、异步的AI机器人解决方案。

Hello server·2025-03-06 14:06

成为LLM大师的必读书籍：这几本大模型书籍，详细到让你一篇文章就收藏足够

以下是几本关于大模型和人工智能领域的经典书籍，它们各自具有独特的特点和适用人群：《深度学习》（DeepLearning）作者：伊恩·古德费洛（IanGoodfellow）、约书亚·本吉奥（YoshuaBengio）、亚伦·库维尔（AaronCourville）简介：《深度学习》是深度学习领域的经典之作，全面介绍了深度学习的基础知识、主要模型及其应用。书中详细讲解了神经网络、卷积神经网络、循环神经网

AGI大模型老王·2025-03-06 13:58

8.1 从28GB到7GB！大模型显存暴降4倍的量化实战指南

大模型显存暴降4倍的量化实战指南8.1模型显存占用与量化技术简介8.1.1大模型显存占用分析在部署和训练大语言模型（LLM）时，显存占用是开发者面临的核心挑战。

少林码僧·2025-03-06 11:42

【AI大模型应用开发】【LangChain系列】5. 实战LangChain的智能体Agents模块

在我前面的MetaGPT系列文章中，已经对智能体有了一个认知，重温一下：智能体=LLM+观察+思考+行动+记忆将大语言模型作为一个推理引擎。

同学小张·2025-03-06 10:03

给没有登录认证的web应用添加登录认证(openresty lua实现)

我也折腾了下本地部署，ollama、vllm、llama.cpp都弄了下，webui也用了几个，发现nextjs-ollama-llm-ui小巧方便，挺适合个人使用的。

dgiij·2025-03-06 08:47

大语言模型中的 Token：它们是什么，如何工作？

大语言模型（LLM，LargeLanguageModel）并不是直接处理整个句子或文章，而是拆分成一个个Token（标记）来进行计算。那么，什么是Token？它们在大语言模型中起到什么作用？

运维小子·2025-03-06 07:33

大模型（LLM）的若干科普之问（七）：如何隔离LLM微调结果？

一、微调大模型LLM的微调是指在预训练好的大型语言模型基础上，通过特定任务的数据进行进一步训练，以提升模型在该任务上的性能。

人工干智能·2025-03-06 04:12

深度学习突破：LLaMA-MoE模型的高效训练策略

在人工智能领域，大模型（LLM）的崛起带来了前所未有的进步，但随之而来的是巨大的计算资源需求。

人工智能大模型讲师培训咨询叶梓·2025-03-06 01:44

2万字长文，九篇论文读懂大语言模型的前世今生

如果感兴趣的话，感谢关注，点赞转发在看收藏，五键四连，谢谢~更多LLM架构文章：LLM架构专栏近日热文：1.全网最全的神经网络数学原理（代码和公式）直观解释2.大模型进化史：从Transformer到DeepSeek-R1

·2025-03-06 00:32

大语言模型技术发展

LLM技术呈现出大型模型和小型模型并行发展的趋势，同时，多模态功能和长上下文能力成为顶级模型的标准配置。MoE架构的出现推动了模型参数量向万亿级别迈进。

联蔚盘云·2025-03-06 00:43

大模型中的Token究竟是什么？从原理到作用深度解析

引言在人工智能领域，大型语言模型（LLM）如GPT-4、Claude等系统性地改变了人机交互方式。这些模型处理文本的核心单元被称为"Token"，这个看似简单的概念实则蕴含复杂的工程设计和语言学原理。

·2025-03-05 16:48

零基础也能看懂的ChatGPT等大模型入门解析！大模型入门到精通，看这篇就够了！

近两年，大语言模型LLM(LargeLanguageModel)越来越受到各行各业的广泛应用及关注。对于非相关领域研发人员，虽然不需要深入掌握每一个细节，但了解其基本运作原理是必备的技术素养。

大模型微调实战·2025-03-05 12:27

大模型研究：DeepSeek版本比较说明

截至2024年11月，DeepSeek已发布了多个版本的大模型，主要包括DeepSeek-Coder、DeepSeek-LLM等，各版本在不同方面各有优劣：各版本简介及对比1.DeepSeek-Coder

程序猿学长·2025-03-05 09:33

dify、open-webui、chatbox 对比

Dify、Open-WebUI和Chatbox是当前主流的开源LLM应用工具，但在功能定位、技术架构和适用场景上有显著差异。

dushky·2025-03-05 09:31

Efficient Large Language Models: A Survey

本文是LLM系列文章，针对《EfficientLargeLanguageModels:ASurvey》的翻译。

UnknownBody·2025-03-05 09:00

AI大语言模型(LLM)：电商行业的搜索革命与未来趋势

大语言模型在电商搜索中的应用1.提升搜索精准度2.改善搜索召回率3.虚拟购物助手二、大语言模型与生成性AI的结合1.生成性AI：从搜索到对话式购物体验2.提升个性化推荐三、大语言模型的未来展望1.电商与LLM

搞技术的妹子·2025-03-05 05:04

LLM OS 系统架构详细设计

LLMOS系统架构详细设计1.背景介绍近年来，大型语言模型（LargeLanguageModel,LLM）取得了飞速发展，在自然语言处理、对话系统、文本生成等领域展现出卓越的性能。

AI天才研究院·2025-03-05 03:45

LangChain链与记忆处理[10]：四种基础内置链、四种文档处理链，以及链的自定义和五种运行方式，让你的大模型更加智能

LangChain链与记忆处理[10]：四种基础内置链、四种文档处理链，以及链的自定义和五种运行方式，让你的大模型更加智能参考文章可以使用国产LLM进行下述项目复现：初识langchain[1]：Langchain

汀、人工智能·2025-03-05 03:15

Langchain解锁LLM大语言模型的结构化输出能力（多种实现方案）

在LangChain解锁LLM大语言模型的结构化输出能力：调用with_structured_output()方法这篇博客中，我们了解了格式化LLM输出内容的必要性以及如何通过调用langchain框架中提供的

晨欣·2025-03-05 02:33

2025年初-值得关注的几款推理模型

这款模型被定位为“迄今最智能的模型”，并首次引入了混合推理功能，结合了普通大型语言模型（LLM）和专门的推理模型能力。

数据分析能量站·2025-03-05 01:24

大语言模型原理与工程实践：大语言模型推理工程推理加速：算子优化

1.背景介绍近年来，大语言模型（LargeLanguageModel，LLM）在自然语言处理（NLP）领域取得了显著的进展。其中，推理（Inference）过程是大语言模型的核心环节之一。

AI天才研究院·2025-03-04 22:32

大模型应用开发简易指南：Git教程助力亲自动手微调大型模型

LLM正逐步成为信息世界的新革命力量，其通过强大的自然语言理解、自然语言生成能力，为开发者提供了新的、更强大的应用开发选择。

大模型官方资料·2025-03-04 19:11

大模型学习笔记-基于《Deep Dive into LLMs like ChatGPT》

构建数据集对于大语言模型（LLM）的训练而言，首先需要构建

XiyouLinux_Kangyijie·2025-03-04 18:33

大模型|LLM|Agent

大模型|LLM|Agent一、为何选择Agent？二、工具三、需求：基于Agent构建的聊天式数据查询应用四、Agent主要内容提示词：上下文工具五、效果测试一、为何选择Agent？

厦门德仔·2025-03-04 15:39

AI大模型-提示工程学习笔记22-元提示(meta-prompting)

的解决方案2.Meta-Prompting的工作流程(1)元提示输入(2)提示生成(3)提示评估(可选)(4)提示选择(可选)(5)任务执行3.Meta-Prompting的关键组件(1)大语言模型(LLM

9命怪猫·2025-03-04 13:22

详解LLM 核心技能-大文本分块技术

大模型入门学习·2025-03-04 13:21

Helix 是开源的私有 GenAI 堆栈，用于构建具有声明性管道、知识（RAG）、API 绑定和一流测试的 AI 应用程序。

通过编写helix.yaml来构建和部署LLM应用程序。正在寻找私人GenAI平台？

2301_78755287·2025-03-04 13:50

python 请求流式

importrequestsimportjsonimportdatetimeasyncdefllm_qa_generator_stream(text,num_faq):url='http://172.16.2.45:6162/llm_qa_generator_stream'payload

Toky Zhu·2025-03-04 10:32

本地LLM部署--Open WebUI（多媒体工具FFMPEG安装）

FFmpeg是一个功能强大的多媒体处理工具，支持音频、视频的编解码、转码、流媒体处理等。以下是Windows系统上安装FFmpeg的详细步骤，包括如何选择适合的版本以及Shared类型和Static类型的区别。1.下载FFmpegFFmpeg提供了多个预编译版本，您可以根据需求选择合适的版本。Windows64-bit版本GPL许可证（含共享库）ffmpeg-master-latest-win64

JerryGW·2025-03-04 06:02

程序员未来黄金赛道：AI与大模型引领职业新机遇

2025年，人工智能（AI）与大型机器学习模型（LLM）的爆发式发展正重塑技术行业格局。面对AI编程工具日益强大的代码生成能力，程序员的职业角色面临深刻转型。如何在这场变革中抢占先机？

AI学习不迷路·2025-03-04 05:58

LangChain入门---- Prompt

Prompt介绍LangChain中的“Prompt”是一个关键概念，指的是输入给大型语言模型（LLM）的文本指令或提示，用于引导模型生成特定的输出或执行特定的任务。

快乐小狗(成功上岸版·2025-03-04 00:21

人工智能开发中的数据隐私

大型语言模型(LLM)的发展和对通用人工智能(AGI)的追求

RA AI衍生者训练营·2025-03-03 19:09

使用LLM API

1.获取所要调用大模型的APIkey等参数，将其保存到.env文件中，并将.env文件保存在项目根目录下2.使用代码读取.env文件importosfromdotenvimportload_dotenv,find_dotenv#读取本地/项目的环境变量。#find_dotenv()寻找并定位.env文件的路径#load_dotenv()读取该.env文件，并将其中的环境变量加载到当前的运行环境中#

shownaier·2025-03-03 16:47

minikube 的 Kubernetes 入门教程--Dify

Dify是一款开源的大语言模型(LLM)应用开发平台。它融合了后端即服务（BackendasService）和LLMOps的理念，使开发者可以快速搭建生产级的生成式AI应用。

NightReader·2025-03-03 16:14

国际化与本地化架构支持LLM应用的全球化

国际化与本地化背景与重要性在当今全球化的商业环境中，国际化与本地化已成为企业和产品成功的关键因素。国际化（Internationalization，简称I18N）和本地化（Localization，简称L10N）不仅仅是语言转换的过程，更涉及到文化、技术、市场等多个层面的深入融合。定义与基本概念国际化是指设计软件或产品，使其具备在全球多个国家和地区使用的能力。这一过程通常包括设计、开发、测试和部署

AI天才研究院·2025-03-03 15:36

【DeepSeek R1构建本地RAG知识库】应用框架选型对比（MaxKB、Dify、FastGPT、RagFlow、Anything-LLM）

文章目录前言一、MaxKB1.简介2.技术概览二、Dify1.简介2.技术概览三、FastGPT1.简介四、RagFlow1.简介2.技术概览五、Anything-LLM1.简介2.技术概览六、更多资料

Xd聊架构·2025-03-03 11:06

Typora接入LLM

在大佬项目的基础上编写LLM插件。通过https://github.com/obgnail/typora_plugin?tab=readme-ov-file安装好typora插

m0_52111823·2025-03-03 08:43

文言AI·2025-03-03 03:29

LangChain学习笔记

LangChain是一个用来开发大型语言模型（LLM）应用的框架，为了简化构建基于LLM的应用，它能够为开发LLM应用带来如下能力：根据给定的Prompt方便构建上下文，并连接到LLM，得到更加符合查询的回答结果在构建整个基于

xiaomu_347·2025-03-03 02:22

LangChain解锁LLM大语言模型的结构化输出能力：调用 with_structured_output() 方法

什么是LLM的结构化输出能力？

晨欣·2025-03-03 02:50

使用 SK 进行向量操作

在2024年落地的LLM应用来看，基本上都是结合RAG技术来使用的。因为绝大多数人跟公司是没有fine-turning的能力的。不管是在难度还是成本的角度看RAG技术都友好的多。

·2025-03-02 21:28

2W8000字 LLM架构文章阅读指北

完整的专栏内容欢迎订阅：LLM架构专栏1、LLM大模型架构专栏||从NLP基础谈起2、LLM大模型架构专栏||自然语言处理（NLP）之建模3、LLM大模型架构之词嵌入（Part1）3、LLM大模型架构之词嵌入

·2025-03-02 17:24

OpenAI API教程

OpenAIAPI是由OpenAI公司开发，为LLM开发人员提供的一个简单接口。通过此API能在应用程序中方便地调用OpenAI提供的大模型基础能力。OpenAI的API协议已成为LLM领域的标准。

Jachin Huang·2025-03-02 16:41

Python和curl 如何使用OpenAI 接口访问LLM

文章目录1.安装所需的库2.设置API密钥（可选）3.编写代码4.curl命令1.安装所需的库首先，你需要确保你的环境中安装了openai库。你可以通过pip来安装它：pipinstallopenai2.设置API密钥（可选）如果访问ChatGPT需要设置密钥，如果访问本地模型不需要设置密钥！对于ChatGPT密钥要从OpenAI的官方网站获取，要按token收费。一旦你有了API密钥，可以通过环

SmallerFL·2025-03-02 15:31

【llm对话系统】 LLM 大模型推理python实现：vLLM 框架

在LLM的应用中，推理(Inference)阶段至关重要。它指的是利用训练好的LLM模型，根据输入(Prompt)生成文本的过程。

kakaZhui·2025-03-02 06:06

推荐频道

LLm