LMS

无矩阵乘法LLM：效率与性能双突破

标题：无矩阵乘法LLM：效率与性能双突破文章信息摘要：无矩阵乘法的LLMs通过创新技术替代传统矩阵乘法操作，显著降低了计算成本，减少了对GPU的依赖。

XianxinMao·2025-03-21 08:42

Docker环境安装anythingllm

STORAGE_LOCATION&&\touch"$STORAGE_LOCATION/.env"检查目录具有写权限#为目录anythingllm赋写权限chmod777anythingllm启anythingllmsu

时下握今·2025-03-20 18:15

LangChain入门：使用Python和通义千问打造免费的Qwen大模型聊天机器人

前言LangChain是一个用于开发由大型语言模型（LargeLanguageModels，简称LLMs）驱动的应用程序的框架。

南七小僧·2025-03-20 18:44

大规模语言模型从理论到实践分布式训练的集群架构

禅与计算机程序设计艺术/ZenandtheArtofComputerProgramming1.背景介绍1.1问题的由来随着深度学习技术的飞速发展，大规模语言模型（LargeLanguageModels,LLMs

AI智能涌现深度研究·2025-03-20 18:14

探索 LangChain、Hugging Face、LM Studio 等 AI 应用工具

Alex程·2025-03-20 18:41

AI学习指南RAG篇(24)-RAGFlow的社区与开源贡献

RAGFlow通过结合大型语言模型（LLMs）的强大生成能力和高效的信息检索系统，为用户提供了一种全新的交互体验。本文将鼓励读者参与到RAGFlow的开源社区中，共同推动技术的发展和创新。

俞兆鹏·2025-03-20 10:07

MMScan数据集：首个最大的多模态3D场景数据集，包含层次化的语言标注

一、研究背景：随着大型语言模型（LLMs）的兴起和与其他数据模态的融合，多模态3D感知因其与物理世界的连接而受到越来越多的关注，并取得了快速进展。然而，现有的数据集

·2025-03-19 21:28

使用LangChain实现大规模语言模型自发现推理结构

使用LangChain实现大规模语言模型自发现推理结构在现代自然语言处理(NLP)的研究中，大规模语言模型（LLMs）已经展示了强大的能力。然而，在应对复杂的推理问题时，传统的提示方法常常力不从心。

VYSAHF·2025-03-19 20:43

A SURVEY ON POST-TRAINING OF LARGE LANGUAGE MODELS——大型语言模型的训练后优化综述——第9部分——应用

应用尽管预训练为大型语言模型（LLMs）赋予了强大的基础能力，但在部署于专业领域时，LLMs仍经常遇到持续的限制，包括上下文长度受限、容易产生幻觉（hallucination）、推理能力欠佳和固有的偏见

王金-太想进步了·2025-03-19 19:31

知识蒸馏：从软标签压缩到推理能力迁移的工程实践(基于教师-学生模型的高效压缩技术与DeepSeek合成数据创新)

在实际应用中，无论是大规模语言模型（LLMs）还是其他类型的神经网络模型，都会通过softmax

AI仙人掌·2025-03-19 17:20

Dyn-VQA：含1452动态问题的视觉问答数据集，需灵活提供知识检索方案，查询、工具与检索时间皆可变。

数据集地址：Dyn-VQA|多模态检索数据集|自然语言处理数据集一、研究背景：在多模态大型语言模型（MLLMs）中，解

·2025-03-19 11:09

使用 DeepSeek-R1 为 RAG 运行本地 Gradio 应用程序

第1步：先决条件在深入研究实现之前，我们确保已安装以下工具和库：Python3.8+Python3.8+版Langchain：用于构建由大型语言模型（）LLMs提供支持的应用程序的框架，支持轻松检索、推理和工具集成

呱牛 do IT·2025-03-19 10:53

【AI大模型-提示词中的###和“““】

这对于大型语言模型（LLMs）尤为重要，因为它们需要处理大量的输入信息，并据此生成输出。结构化的提示词有助于模型更好地理解用户的意图，减少误解的可能性。

NeVeRMoRE_2024·2025-03-19 05:02

本地运行chatglm3-6b 和 ChatPromptTemplate的结合使用

AutoModelfromlangchain_core.promptsimportChatPromptTemplatefromlangchain_core.output_parsersimportStrOutputParserfromlangchain_community.llmsimportHuggi

hehui0921·2025-03-19 02:40

五、AIGC大模型_05模型的vLLM部署与LangChain调用

LangChain为例，介绍大模型的推理部署以及对外接口开放调用1、vLLM1.1定义vLLM（VirtualLargeLanguageModel）是一个开源的大语言模型高速推理框架，由加州大学伯克利分校的LMSYS

学不会lostfound·2025-03-18 19:20

Langflow 开源程序是用于构建和部署 AI 驱动的代理和工作流的强大工具。它为开发人员提供了可视化创作体验和内置 API 服务器，该服务器将每个代理转变为 API 终端节点

Langflow随附电池，并支持所有主要LLMs的矢量数据库和不断增长的AI工具库。二、突出特点可视化构建器，用于快速入门和迭代。访问Code，以便开发

struggle2025·2025-03-18 18:42

深入理解AI编程的上下文窗口限制及解决方案：巧妙利用提示词

这不是偶然现象，而是当前所有大型语言模型（LLMs）面临的共同挑战——上下文窗口限制。在过去两年指导数百

SuperMale-zxq·2025-03-18 02:27

部署微调框架LLaMA-Factory

官方页面上能看到对LLaMA-Factory的推荐2.LLaMAFactorygithub链接hiyouga/LLaMA-Factory:UnifyEfficientFine-Tuningof100+LLMs

高原魔女·2025-03-18 00:40

机器学习中输入输出Tokens的概念详解

随着深度学习技术的快速发展，大语言模型（LargeLanguageModels,LLMs）已经成为自然语言处理（NLP）领域的一个热点研究方向。

爱吃土豆的程序员·2025-03-17 21:17

LLM-PowerHouse: 一站式大型语言模型定制训练与推理指南

LLM-PowerHouse:解锁大型语言模型的潜力在人工智能和自然语言处理领域,大型语言模型(LargeLanguageModels,LLMs)正在掀起一场革命。

Nifc666·2025-03-17 21:43

MultiCodeBench:首个涵盖 12 个特定软件应用领域和 15 种编程语言的代码生成基准测试

一、研究背景：随着大型语言模型（LLMs）在代码生成任务中展现出卓越性能，越来越多的AI编程助手被集成到实际的软件开发环境中，显著提升了开发效率。

·2025-03-17 20:51

ST-Align：一个包含430万训练样本，涵盖了15种细粒度多模态数据集

一、研究背景近年来，多模态大型语言模型（MLLMs）在多模态理解方面取得了显著进展，能够基于图像或视频生成对话或描述。然而，对于需要基于语言输入处理视觉坐标的细粒度多模态理解任务，现有

·2025-03-17 15:12

s1K 数据集：是一个用于提升语言模型推理能力的高质量数据集。

一、研究背景近年来，语言模型（LMs）在大规模预训练的基础上取得了显著进展，其性能提升主要依赖于训练时计算资源的增加。然而，随着模型规模的不断扩大，训练成本也急剧上升。

·2025-03-17 14:37

rStar论文精读

论文简介论文标题：《MutualreasoningmakessmallerLLMsstrongerproblem-solvers》论文地址：https://arxiv.org/abs/2408.06195

MoyiTech·2025-03-17 11:33

【人工智能】Model Context Protocol (MCP) 是一个开放协议，标准化了应用程序向大型语言模型（LLMs）提供上下文的方式

MCP，标准化了应用程序向大型语言模型（LLMs）提供上下文的方式。‌MCP，旨在标准化应用程序如何为大型语言模型（LLM）提供上下文信息。

本本本添哥·2025-03-17 06:28

从零开始大模型开发与微调：PyCharm的下载与安装

从零开始大模型开发与微调：PyCharm的下载与安装1.背景介绍随着人工智能和深度学习技术的不断发展,大型语言模型(LargeLanguageModels,LLMs)已经成为当前最引人注目的研究热点之一

AI天才研究院·2025-03-17 06:55

大规模语言模型从理论到实践开源指令数据集

大规模语言模型从理论到实践开源指令数据集1.背景介绍大规模语言模型（LargeLanguageModels,LLMs）近年来在自然语言处理（NLP）领域取得了显著的进展。

AI天才研究院·2025-03-16 13:17

论文阅读笔记——QLORA: Efficient Finetuning of Quantized LLMs

QLoRA论文4-bit标准浮点数量化常见的量化技术是最大绝对值量化：XInt8=round(127absmax(XFP32)XFP32)=round(cFP32,XFP32)式(1)X^{Int8}=round(\frac{127}{absmax(X^{FP32})}X^{FP32})=round(c^{FP32},X^{FP32})\qquad\qquad\text{式(1)}XInt8=ro

寻丶幽风·2025-03-16 08:15

大语言模型原理与工程实践：大语言模型强化对齐

禅与计算机程序设计艺术/ZenandtheArtofComputerProgramming1.背景介绍1.1问题的由来随着人工智能技术的迅猛发展，大语言模型（LargeLanguageModels，LLMs

AGI大模型与大数据研究院·2025-03-16 05:52

LLM对齐方法作用：主要解决大型语言模型（LLMs）输出与人类价值观、需求和安全规范不一致的问题

LLM对齐方法作用：主要解决大型语言模型（LLMs）输出与人类价值观、需求和安全规范不一致的问题对齐方法（AlignmentMethods）主要解决大型语言模型（LLMs）输出与人类价值观、需求和安全规范不一致的问题

ZhangJiQun&MXP·2025-03-16 05:52

大模型火爆 2025：LLaMA、Qwen、DeepSeek 核心原理+就业秘籍，快速入门 AI 工程师

1.大模型核心原理：从零开始理解AI模型这些是大型语言模型（LLMs）的核心技术，适合初学者逐步深入学习。以下是详细拆解，让小白也能掌握：LLaMA系列模型核心原理详解：什么是LLaMA？

weixin_40941102·2025-03-16 03:38

Langchain如何调用Siliconflow的模型

我们可以方便的ctrlC和ctrlV而Langchain支持自定义封装LLM（CustomLLM|️Langchain）那我们就可以结合搞点事情，封装好的代码在这，需要自取：fromlangchain.llms.baseimportLLMf

LJY_LU·2025-03-16 01:52

LangChain深度解析以及主要应用场景

LangChain的核心组件（1）PromptTemplates（提示模板）原理代码实例应用场景提示词优化策略（2）LLMs（大语言模型）原理代码实例应用场景调优策略（3）Chains（多步任务链）原理代码实例应用场景优化策略

小Rr·2025-03-16 00:16

LLMs之Colossal-LLaMA-2：源码解读(train.py文件)基于给定数据集实现持续预训练LLaMA-2—解析命令行参数→初始化配置(分布式训练环境colossalai+训练日志+加速插

LLMs之Colossal-LLaMA-2：源码解读(train.py文件)基于给定数据集实现持续预训练LLaMA-2—解析命令行参数→初始化配置(分布式训练环境colossalai+训练日志+加速插件

一个处女座的程序猿·2025-03-15 18:38

Langchain链式开发：打造高效、可扩展的AI应用

Langchain是一个开源框架，专门用于开发基于大型语言模型(LLMs)的应用程序。它允许开发者将各种组件(如模型、数据源、工具等)连接在一起，构建复杂的AI应用程序。

小南AI学院·2025-03-15 14:58

AI推介-大语言模型LLMs论文速览（arXiv方向）：2024.06.25-2024.07.01

文章目录～1.AutoCherry-Picker:LearningfromHigh-qualityGenerativeDataDrivenbyLanguage2.BioMNER:ADatasetforBiomedicalMethodEntityRecognition3.BESTOW:EfficientandStreamableSpeechLanguageModelwiththeBestofTwoW

小小帅AIGC·2025-03-15 05:10

大语言模型（LLMs）全面学习指南（非常详细）零基础入门到精通，收藏这一篇就够了

大语言模型（LLMs）作为人工智能（AI）领域的一项突破性发展，已经改变了自然语言处理（NLP）和机器学习（ML）应用的面貌。

网络安全大白·2025-03-15 04:38

推理大模型：技术解析与未来趋势全景

1.推理大模型的定义推理大模型（ReasoningLLMs）是专门针对复杂多步推理任务优化的大型语言模型，具备以下核心特性：输出形式创新展示完整逻辑链条（如公式推导、多阶段分析）任务类型聚焦擅长数学证明

时光旅人01号·2025-03-14 15:10

基于SWIFT和Qwen1.5-0.5B-Chat进行大模型全参微调（魔搭社区）

1，swift框架安装pipinstallms-swift2，模型下载gitclonehttps://www.modelscope.cn/qwen/Qwen1.5-0.5B-Chat.git二、数据集准备使用

m0_65156252·2025-03-13 18:47

LLM大模型技术实战4：热门开源LLMs对比和选型

一、大语言模型的特点和能力LLM(LargeLanguageModel,大型语言模型)是指那些规模庞大、参数数量众多的深度神经网络模型，用于理解和生成自然语言文本。在自然语言处理（NLP）领域有着广泛的应用，因其强大的语言理解和生成能力，能够处理各种复杂的文本任务。1.1主要特点架构特点LLM主要基于Transformer架构，Transformer通过自注意力机制（Self-Attention）

大模型学习教程·2025-03-12 08:44

nlmsg_free函数简要分析

nlmsg_free是用户空间Netlink库（如libnl）中用于释放通过nlmsg_alloc分配的Netlink消息内存的函数。

TJ_Dream·2025-03-12 08:13

大模型面试--大模型（LLMs）基础面

大模型（LLMs）基础面1.目前主流的开源模型体系有哪些？

TAICHIFEI·2025-03-12 08:13

用flask做个简单llm-api

接收端：开放本机5000端口apifromflaskimportFlask,jsonify,requestapp=Flask(__name__)fromutils.llmimportload_llmllms

格瑞Lxf·2025-03-11 20:28

模型上下文协议（MCP）：构建 AI 与数据交互的新范式

引言在人工智能领域，大型语言模型（LLMs）的应用正从通用问答向复杂任务执行演进，但数据孤岛、工具集成碎片化及隐私安全等问题制约了其潜力。

xxgshxs·2025-03-11 18:48

Towards Multimodal Large-Language Models for Parent-Child Interaction: A Focus on Joint Attention

然而，目前对共同注意的检测和分析研究仍然有限，尤其是在多模态大语言模型（MLLMs）方面。本研究通过分析由两位语言病理学家标注的26段亲子互动视频，评估了多模态大语言模型理解共同注意的能力。

UnknownBody·2025-03-11 14:41

如何在DigitalOcean的H100 GPU服务器上运行DeepSeek R1 模型

在DigitalOcean，我们一直在关注开源大语言模型（LLMs）和商业封闭模型之间差距的不断缩小。其中一个最关键的能力就是“推理”，也就是用合乎逻辑、讲得通的方式思考问题。

DO_Community·2025-03-11 10:44

大语言模型原理基础与前沿双层路由多模态融合、多任务学习和模块化架构

大语言模型原理基础与前沿：双层路由多模态融合、多任务学习和模块化架构关键词：大语言模型、双层路由、多模态融合、多任务学习、模块化架构、神经网络、自然语言处理1.背景介绍大语言模型（LargeLanguageModels，LLMs

AI智能涌现深度研究·2025-03-11 09:07

使用Activeloop Deep Lake构建深度学习数据仓库与向量存储

ActiveloopDeepLake是专为深度学习设计的数据仓库，可以作为向量存储使用，支持多模态数据的存储和处理，并且可以直接用于细调大型语言模型（LLMs）。

dgay_hua·2025-03-11 04:49

大语言模型原理基础与前沿挑战与机遇

大语言模型原理基础与前沿挑战与机遇1.背景介绍大语言模型（LargeLanguageModels,LLMs）是近年来人工智能领域的一个重要突破。

AI大模型应用之禅·2025-03-11 02:07

AI Prompt 提示词工程入门指南：新手小白快速上手

近年来，人工智能（AI）发展迅猛，特别是大语言模型（LLMs）（如ChatGPT、Claude、Gemini、Llama等）的广泛应用，让人们可以用自然语言与AI进行互动。

机器学习司猫白·2025-03-11 02:37

推荐频道

LMS