(LLM)

无缝融入，即刻智能[4]：MaxKB知识库问答系统[进一步深度开发调试，完成基于API对话，基于ollama大模型本地部署等]

无缝融入，即刻智能[4]：MaxKB知识库问答系统[进一步深度开发调试，完成基于API对话，基于ollama大模型本地部署等]1.简介MaxKB(MaxKnowledgeBase)是一款基于LLM大语言模型的开源知识库问答系统
汀、人工智能·2025-02-22 13:14

MLC-LLM框架的安卓应用部署实战(1)

虚拟机识别不了USB接口（这个在后面在手机上调试的时候很关键）：参考我这篇博文：关于Ubuntu虚拟机识别不了USB设备的解决方案虚拟机突然上不了网了：关于Ubuntu虚拟机突然上不了网的问题ClashforLinux：如果要gitclone需要，方案如下：使用文档root密码不正确：这个问题一般是新机才会有，而且准确来说也不是bug，具体来说就是root密码会随着每次启动进行随机更新，只有自己设
优秀后端工程师·2025-02-22 12:11

【Llama3:8b】手把手教你如何在本地部署 自己的 LLM大模型

一、为什么需要本地部署属于自己的大模型？趋势：我们正处于AI人工智能时代，各行各业的公司和产品都在向AI靠拢。打造垂直领域的AI模型将成为每个公司未来的发展趋势。数据安全：在无法掌握核心算法的情况下，许多公司选择使用大公司的成熟方案。然而，这涉及到数据安全的问题。训练垂直定制化的大模型需要大量数据，而数据是公司的核心资产和基石。没有公司愿意将这些关键数据上传到外部服务器，这是公司的命脉所在。本地部
AI大模型..·2025-02-22 12:40

dify工作流+deepseek开启联网搜索

设置一个名为query的文本添加节点，选择工具websearchapi，去https://app.serply.io/注册得到APIKEY填写进去，之后设置输入变量为开始节点的query添加节点，选择LLM
·2025-02-22 11:36

LangChain-基础(prompts、序列化、流式输出、自定义输出)

基础我们现在使用的大模型训练数据都是基于历史数据训练出来的，它们都无法处理一些实时性的问题或者一些在训练时为训练到的一些问题，解决这个问题有2种解决方案基于现有的大模型上进行微调，使得它能适应这些问题（本片文章不涉及）使用提示词工程，让LLM
JolyouLu·2025-02-22 10:55

【有啥问啥】DeepSeek NSA（Native Sparse Attention）：开启高效推理与降本增效的新篇章

DeepSeekNSA（NativeSparseAttention）：开启高效推理与降本增效的新篇章在人工智能领域，尤其是自然语言处理（NLP）和大语言模型（LLM）的浪潮中，性能与效率一直是研究者和开发者关注的焦点
有啥问啥·2025-02-22 09:46

哪种LLM量化方法最适合您？：GGUF、GPTQ 还是 AWQ

哪种LLM量化方法最适合您？
GordonJK·2025-02-22 05:38

LLM Course系列：使用 Unsloth 高效地微调 Llama 3.1

你无需使用GPT-4o和Claude3.5等冻结的通用LLM，而是可以根据特定用例对Llama3.1进行微调，以更低的成本实现更好的性能和可定制性。在本文中，我们将全面概述监督微调。
橙狮科技·2025-02-22 04:36

大模型量化概述

模型压缩主要分为如下几类：剪枝（Pruning）知识蒸馏（KnowledgeDistillation）量化Quantization）本系列将针对一些常见大模型量化方案（GPTQ、LLM.int8()、Sm
AI领航者·2025-02-22 04:02

Prompt Engineering的重要性

实验表明，经过优化的Prompt可使LLM的需求理解准确率提升28-35%（参照NSF2023需求工程基准测试），通
workflower·2025-02-22 01:26

Custom Skills 与 Agent Flows：如何在 Anything LLM 中打造智能 AI 任务流

1.引言在AI驱动的工作流中，提高智能化与自动化水平是企业与开发者的共同目标。AnythingLLM提供了CustomSkills（自定义技能）和AgentFlows（智能代理流程）两大核心功能，使得AI能够更加灵活、高效地完成各类任务。CustomSkills：赋予AI额外的能力，如API连接、数据库查询、文档分析等。AgentFlows：让AI能够按照预设步骤执行一系列操作，形成完整的任务流。
CCSBRIDGE·2025-02-21 23:45

AI 模型的优化与应用：大模型本体、蒸馏、量化 与 GGUF

引言近年来，大型语言模型（LLM）在人工智能领域取得了突破性的进展，但其计算需求高昂，训练和推理成本巨大。因此，如何优化大模型，使其在不同设备和应用场景下更高效地运行，成为了AI研究的重要课题。
CCSBRIDGE·2025-02-21 23:15

【LLM大模型】用智谱 GLM-4大模型开发自己的 IDEA插件

在大模型席卷世界的时代，不搞一搞大模型开发，作为一名程序员总觉得缺点什么，搞点啥呢，就从搞一个自己的IDEA插件开始吧，就拿智谱清言GLM-4来说，在国内大模型中表现较为突出，具有较为均衡和全面的性能，在语言和知识等基础能力维度上可比肩GPT-4Turbo。GLM-4是智谱AI推出的新一代基座大模型，其API的上线为开发者提供了便捷高效地体验GLM-4模型的能力。以下是GLM-4API的详细介绍与
爱画画的柚子·2025-02-21 22:37

谷歌：缓存增强优化冻结LLM的推理性能

DeliberationinLatentSpaceviaDifferentiableCacheAugmentation来源：arXiv,2412.17747摘要通过生成和处理中间推理步骤，使大型语言模型（LLM
大模型任我行·2025-02-21 14:22

LLM 中的 Matryoshka 量化：原理与优势

MatQuant如何改进LLM性能指标MatQuant对模型量化的影响每个比特宽度处理模型权重的特定部分，并且它们的组合输出被聚合以优化整体量化性能。
数据掘金·2025-02-21 07:58

使用BREEBS平台提升AI知识库

这些Breebs可供任何大语言模型（LLM）或聊天机器人使用，以提升其专业知识，减少幻觉，并提供访问来源的途径。Breebs背后实现了多种增强生成（RAG）模型，以在每次迭代中无缝提供有用的上下文。
dgay_hua·2025-02-21 05:11

企业级RAG开源项目分享：Quivr、MaxKB、Dify、FastGPT、RagFlow

企业级RAGGitHub开源项目深度分享：Quivr、MaxKB、Dify、FastGPT、RagFlow及私有化LLM部署建议随着生成式AI技术的成熟，检索增强生成（RAG）已成为企业构建智能应用的关键技术
Ainnle·2025-02-21 00:16

国外7个最佳大语言模型 (LLM) API推荐

大型语言模型(LLM)API将彻底改变我们处理语言的方式。在深度学习和机器学习算法的支持下，LLMAPI提供了前所未有的自然语言理解能力。
·2025-02-20 21:26

AI 大模型：Intelligent Agent—— 开启智能新纪元

在LLM语境下，Agent理解为在某种能自主理解、规划决策、执行复杂任务的智能体，LLM充当着智能体的“大脑”。
AI-入门·2025-02-20 16:36

大模型（含deepseek r1）本地部署利器ollama的API操作指南

ollama介绍：Ollama是一个开源的大型语言模型（LLM）平台，旨在让用户能够轻松地在本地运行、管理和与大型语言模型进行交互。
·2025-02-20 13:41

LLM的分布式部署：AI的云端革命

《LLM的分布式部署：AI的云端革命》关键词分布式部署语言模型云端计算资源管理性能优化安全性摘要本文将深入探讨大型语言模型（LLM）的分布式部署，分析其技术背景、架构设计、资源管理、性能优化以及安全性等方面
AI天才研究院·2025-02-20 12:01

auto-gptq安装以及不适配软硬件环境可能出现的问题及解决方式

它的主要目标是通过量化技术（Quantization）将大型语言模型（LLM）等深度学习模型的大小和计算复
IT修炼家·2025-02-20 12:00

LLM与知识图谱融合:智能运维知识库构建

其中，大语言模型（LLM）和知识图谱是两个重要的技术方向。LLM能够理解和生成自然语言，可以用于构建智能
AI天才研究院·2025-02-20 11:45

知识图谱构建：LLM与知识工程的完美结合

1.背景介绍1.1知识爆炸与信息孤岛随着互联网和信息技术的飞速发展，我们正处于一个知识爆炸的时代。海量的数据和信息充斥着我们的生活，但同时也带来了信息过载和信息孤岛的问题。传统的信息检索方式难以有效地组织和利用这些知识，难以满足人们对知识获取和应用的需求。1.2知识图谱的兴起知识图谱作为一种语义网络，能够将实体、概念及其之间的关系以结构化的方式进行表达和存储，从而有效地组织和管理知识。近年来，知识
AI智能涌现深度研究·2025-02-20 10:10

Python中LLM的知识图谱构建：动态更新与推理

文章目录引言1.知识图谱的基本概念1.1知识图谱的定义1.2知识图谱的构建流程2.利用LLM进行知识抽取2.1实体识别2.2关系抽取2.3属性抽取3.知识融合3.1实体对齐3.2冲突消解4.知识存储5.
二进制独立开发·2025-02-20 09:35

Fastgpt接入Whisper本地模型实现语音识别输入

前言FastGPT默认使用了OpenAI的LLM模型和语音识别模型，如果想要私有化部署的话，可以使用openai开源模型Whisper。
泰山AI·2025-02-20 09:31

LLM论文笔记 14: The Impact of Positional Encoding on Length Generalization in Transformers

Arxiv日期：2023.12.15机构：McGillUniversity/IBM/Facebook/ServiceNow关键词长度泛化位置编码CoT核心结论1.decoder-only中不显式使用位置编码（NoPE）可以提高长度泛化性能2.（证明了）decoder-onlytransformer如果NoPE同时具备绝对APE和RPE的能力3.暂存器（cot）对于长度泛化和任务相关，同时关注短期和
Zhouqi_Hua·2025-02-20 07:15

【拥抱AI】一文讲清楚MCP(Model Context Protocol)核心功能及应用

MCP（ModelContextProtocol）是Anthropic推出的一个开放协议，旨在统一LLM应用与外部数据源和工具之间的通信协议，为AI开发提供了标准化的上下文交互方式。
奔跑草-·2025-02-20 06:08

Leave No Context Behind: Efficient Infinite Context Transformers with Infini-attention

本文是LLM系列文章，针对《LeaveNoContextBehind:EfficientInfiniteContextTransformerswithInfini-attention》的翻译。
UnknownBody·2025-02-20 05:00

AnythingLLM 项目安装与配置指南

AnythingLLM项目安装与配置指南anything-llm为开源和闭源的大型语言模型（LLMs）、嵌入器和向量数据库提供开源的ChatGPT体验。
龙聪山Diane·2025-02-20 02:04

wav2lip部署方案-数字人项目

大家多关注，后续会把llm、RAG、AGENT、TTS、ASR等结合起来，形成一套完整的系统显卡硬件资源显卡：2080ti开始部署下载源码gitclonehttps://github.com/Rudrabha
何为标准·2025-02-19 23:10

使用 LLM 实现的 RSS 个性信息推送，效果实测 day2

每天早上，我都会点开coze推送的RSS邮件，经常能找到感兴趣的有用信息。因为铺天盖地的deepseek，蹭热点的文章很多，我往往只瞄一眼标题今天出现了这么3条信息，实在开心嵌入式那条，原因是我最近笔记里写了nRF的开发配置，我正在被zephyr开发工具链折磨。工作记忆那一条，跟我最近《学习的门道》读书笔记有关隐私优先那一条，跟我跟xBeta讨论笔记工具有关每天推送的邮件让人期待的感觉真好。
·2025-02-19 15:38

ChatGPT-4o：不止是升级，是AI的“人性”觉醒？

王者归来：ChatGPT-4o重夺LLM桂冠在人工智能领域，竞争从未停止。各大科技巨头纷纷推出自家的大语言模型，试图在这一领域占据领先地位。
m0_74308707·2025-02-19 14:23

《大模型应用开发极简入门》随记

术语：自然语言处理（NLP)人工智能（AI）大预言模型（LLM）机器学习（ML)深度学习（DL)内容LLM概述ML算法被称为人工神经网络DL是ML的一个分支最先开始简单语言模型吗，例如：n-gram模型
hoypte·2025-02-19 08:34

csghub安装（docker方式）

简单介绍：CSGHub是一个开源、可信的大模型资产管理平台，可帮助用户治理LLM和LLM应用生命周期中涉及到的资产官网部署安装exportSERVER_DOMAIN=$(ipaddrshow$(iprouteshowdefault
AR_xsy·2025-02-19 02:22

LLM论文笔记 9: Neural Networks and the Chomsky Hierarchy

Arxiv日期：2022.9.29机构：GoogleDeepMind/Stanford关键词transformer架构原理乔姆斯基体系长度泛化核心结论1.虽然Transformer理论上具有图灵完备性，但在实践中能力受到位置不变性和有限记忆的限制2.Transformer在一些任务中表现较差，例如正则语言任务（如ParityCheck），表明其与Chomsky层级的对齐性不佳3.Transform
Zhouqi_Hua·2025-02-19 02:47

Beyond Scaling Laws: Understanding Transformer Performance with Associative Memory

本文是LLM系列文章，针对《BeyondScalingLaws:UnderstandingTransformerPerformancewithAssociativeMemory》的翻译。
UnknownBody·2025-02-18 23:48

如何训练LLM“思考”（像o1和DeepSeek-R1一样, 高级推理模型解析

2024年9月，OpenAI发布了它的o1模型，该模型基于大规模强化学习训练，赋予了它“高级推理”能力。不幸的是，他们是如何做到这一点的细节从未被公开披露。然而，今天，DeepSeek（一个AI研究实验室）成功复现了这种推理行为，并公开了他们方法的完整技术细节。在这篇文章中，我将讨论这一创新背后的关键思想，并描述它们在底层是如何运作的。一台会思考的笔记本电脑OpenAI的o1模型标志着训练大语言模
果冻人工智能·2025-02-18 22:06

【大模型】数据集构造方式

1.Alpaca数据格式Alpaca数据格式最早由StanfordAlpaca项目提出，目的是用来微调大语言模型（LLM），特别是用于InstructionTuning（指令微调）。
油泼辣子多加·2025-02-18 22:02

基于GPT一键完成数据分析全流程的AI Agent: Streamline Analyst

大型语言模型（LLM）的兴起不仅为获取知识和解决问题开辟了新的可能性，而且催生了一些新型智能系统，例如旨在辅助用户完成特定任务的AICopilot以及旨在自动化和自主执行复杂任务的AIAgent，使得编程
Wilson_ZheLIN·2025-02-18 21:54

AI大模型学习之白话笔记（一）-- GPT和LLM

前言2022年底第一次听说chatGPT,从最初的对话，到如今的文生视频Sora，带来的效果，越来越超出我们的想象。在2023年，我尝试去了解GPT可以干什么，有什么作用，该怎么用，不过变化太快，最终也没有找到一个好的方式干进去。为什么变化这么快，说到底，是AI大模型带来的巨变。现在很多大厂都在降薪裁员，也有不少公司在AllinAI，我们都有一个预感，要变天了。你想想，如果有一天，一款游戏的所有美
Langchain·2025-02-18 18:09

【带你 langchain 双排系列教程】1. langchian 基本架构与环境配置（siliconFlow Deepseek接入）

LangChain是一个用于构建和部署大模型应用的框架，涵盖了从语言模型（LLM）到检索增强生成（RAG）、OpenAI集成以及智能体（Agent）的全套工具链。
夜里慢慢行456·2025-02-18 17:35

使用OpenAI LLM与Neo4j数据库进行自然语言交互

技术背景介绍在现代数据分析和应用开发中，图数据库以其独特的强大功能越来越受到重视。其中，Neo4j是最受欢迎的图数据库之一。结合自然语言处理（NLP），可以使数据查询变得更加直观和便捷。本篇文章将介绍如何使用OpenAI的语言模型将自然语言问题转换成Cypher查询，并通过Neo4j数据库执行该查询，并给出自然语言的响应。核心原理解析我们的目标是实现一个系统，该系统能够接受自然语言输入，将其转换为
bBADAS·2025-02-18 16:53

LLM 参数解析：使用 OpenAI API 在 Python 中的实用指南（含示例）

当你使用大语言模型（LLM）时，可能会注意到，即使提交相同的请求，多次运行后仍然会得到不同的回应。这是因为LLM具有概率性，它们的输出基于所学到的模式和概率，而不是固定规则。
真智AI·2025-02-18 14:09

Windows Docker Desktop部署MaxKB详细教程

MaxKB（MaxKnowledgeBase）是一款基于大语言模型（LLM）和检索增强生成（RAG）技术的开源知识库问答系统，旨在帮助企业、教育机构及研究组织高效管理知识并提供智能问答服务。
Roc-xb·2025-02-18 13:28

Docker安装分布式vLLM

Docker安装分布式vLLM1介绍vLLM是一个快速且易于使用的LLM推理和服务库，适合用于生产环境。单主机部署会遇到显存不足的问题，因此需要分布式部署。
MasonYyp·2025-02-18 13:49

使用Python中的LangChain库优化消息长度：从聊天历史到模型性能的全面指南

使用Python中的LangChain库优化消息长度：从聊天历史到模型性能的全面指南在现代人工智能应用中，大语言模型（LLM）扮演着越来越重要的角色，尤其是在对话系统、智能助理和其他自然语言处理任务中。
m0_57781768·2025-02-18 03:10

基于AWS云平台的法律AI应用系统开发方案

技术栈规划层级技术组件说明存储层AWSS3AmazonOpenSearch(向量数据库)存储原始PDF文件支持向量检索的法律知识库AI服务层OpenAIGPT-4APIAmazonSageMaker(LLM
weixin_30777913·2025-02-18 03:04

【LLM】大模型基础--大规模预训练语言模型的开源教程笔记

1.引言本文以DataWhale大模型开源教程为学习路线，进行一整个大模型的入门操作什么是语言模型语言模型是一种对词元序列（token）的概率分布，可以用于评估文本序列的合理性并生成新的文本。从生成文本的方式来看，LM（languagemodle）可以简单的分为：自回归模型非自回归模型特点逐字生成文本，每个词的生成都依赖于上文，关联性好一次性生成整个文本序列，不捕捉上文信息优点内容质量高生成速度快
Langchain·2025-02-18 02:00

大语言模型（LLM）如何实现上下文的长期记忆？

传统LLM的上下文长度通常受限于计算资源和架构设计（如注意力机制），这限制了其处理长文档或保持复杂对话连续性的能力。本篇文章将深入探讨大语言模型的上下文记忆问题，分析其技术难点，并
·2025-02-18 00:06
上一页 3 4 5 6 7 8 9 10 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他