大规模语言模型（LLM）第15页

大语言模型原理与工程实践：大语言模型推理工程推理加速：算子优化

1.背景介绍近年来，大语言模型（LargeLanguageModel，LLM）在自然语言处理（NLP）领域取得了显著的进展。其中，推理（Inference）过程是大语言模型的核心环节之一。

AI天才研究院·2025-03-04 22:32

解锁数据抓取新高度：Python 分布式爬虫与逆向进阶实战课

课程专注于前沿技术，深入剖析分布式爬虫原理，教你如何巧妙构建分布式爬虫架构，突破大规模数据爬取的效率瓶颈，让数据收集如虎添翼。同时，逆向进阶部分更是一大亮点。

七七知享·2025-03-04 20:51

AI Agent，大模型重要落地方向

OpenAI将AIAgent定义为，以大语言模型为大脑驱动，具有自主理解感知、规划、记忆和使用工具的能力，能自动化执行完成复杂任务的系统。

IT猫仔·2025-03-04 19:15

大模型应用开发简易指南：Git教程助力亲自动手微调大型模型

LLM正逐步成为信息世界的新革命力量，其通过强大的自然语言理解、自然语言生成能力，为开发者提供了新的、更强大的应用开发选择。

大模型官方资料·2025-03-04 19:11

LangChain数据代理（Agents）与Function Calling解析

数据代理（Agents）：赋予模型行动力的FunctionCalling在LangChain的生态中，数据代理（Agents）是一个关键部分，它将语言模型的能力从“回答问题”拓展为“主动行动”，为自动化和复杂任务处理带来了巨大优势

一个头发很多的程序员·2025-03-04 18:08

大语言模型生成式AI学习笔记——1. 1.1 大语言模型及生成式AI项目生命周期简介——课程简介

GenerativeAIwithLargeLanguageModelsbyDeepLearning.AI&AmazonWebServicesAboutthisCourseInGenerativeAIwithLargeLanguageModels(LLMs),you’lllearnthefundamentalsofhowgenerativeAIworks,andhowtodeployitinreal

预见未来to50·2025-03-04 18:07

让AI团队来分析股票！一份可以参考的简单研报——基于Python的CrewAI库

OpenAI将AIAgent定义为“以大语言模型为大脑驱动的系统，具备自主理解、感知、规划、记忆和使用工具的能力，能够自动化执行完成复杂任务的系统。”

Ra1n_Su·2025-03-04 18:03

大模型学习笔记-基于《Deep Dive into LLMs like ChatGPT》

构建数据集对于大语言模型（LLM）的训练而言，首先需要构建

XiyouLinux_Kangyijie·2025-03-04 18:33

大模型|LLM|Agent

大模型|LLM|Agent一、为何选择Agent？二、工具三、需求：基于Agent构建的聊天式数据查询应用四、Agent主要内容提示词：上下文工具五、效果测试一、为何选择Agent？

厦门德仔·2025-03-04 15:39

BERT 和 Milvus 构建智能问答系统的全面技术解析，涵盖从原理到实践的完整流程

下面Python代码示例和优化策略：一、技术栈协作原理BERT的语义编码能力BERT作为预训练语言模型，通过双向Transformer结构将文本转换为高维向量（如768维），捕捉上下文语义信息。

·2025-03-04 14:28

开源的向量数据库Milvus

Milvus是一款开源的向量数据库，专为处理向量搜索任务而设计，尤其擅长处理大规模向量数据的相似度检索。

研创通之逍遥峰·2025-03-04 13:27

AI大模型-提示工程学习笔记22-元提示(meta-prompting)

Meta-Prompting的解决方案2.Meta-Prompting的工作流程(1)元提示输入(2)提示生成(3)提示评估(可选)(4)提示选择(可选)(5)任务执行3.Meta-Prompting的关键组件(1)大语言模型

9命怪猫·2025-03-04 13:22

详解LLM 核心技能-大文本分块技术

大模型入门学习·2025-03-04 13:21

Helix 是开源的私有 GenAI 堆栈，用于构建具有声明性管道、知识（RAG）、API 绑定和一流测试的 AI 应用程序。

通过编写helix.yaml来构建和部署LLM应用程序。正在寻找私人GenAI平台？

2301_78755287·2025-03-04 13:50

AI人工智能代理工作流AI Agent WorkFlow：搭建可拓展的AI代理工作流架构

然而，现有的代理系统往往在面对复杂任务时缺乏灵活性和可扩展性，这限制了它们在实际应用中的广泛部署和大规模应

AI天才研究院·2025-03-04 11:04

python 请求流式

importrequestsimportjsonimportdatetimeasyncdefllm_qa_generator_stream(text,num_faq):url='http://172.16.2.45:6162/llm_qa_generator_stream'payload

Toky Zhu·2025-03-04 10:32

医院信息科医疗语言大模型开发的风险洞察与避坑策略

例如，在疾病诊断环节，大语言模型可以通过对患者症状、病史等文本信息的分析，快速给出可能的疾

Allen_LVyingbo·2025-03-04 09:57

微调DeepSeek-R1打造SQL语言转自然语言大模型！小白也能十分钟打造自己的推理大模型！unsloth+Colab+DeepSeek-R1-Distill-Llama-8B轻松上手

unsloth+Colab+DeepSeek-R1-Distill_哔哩哔哩_bilibili简介：DeepSeek-R1-Distill-Llama-8B是一个基于Llama架构的8B参数语言模型，经过深度蒸馏

AI超元域·2025-03-04 07:08

本地LLM部署--Open WebUI（多媒体工具FFMPEG安装）

FFmpeg是一个功能强大的多媒体处理工具，支持音频、视频的编解码、转码、流媒体处理等。以下是Windows系统上安装FFmpeg的详细步骤，包括如何选择适合的版本以及Shared类型和Static类型的区别。1.下载FFmpegFFmpeg提供了多个预编译版本，您可以根据需求选择合适的版本。Windows64-bit版本GPL许可证（含共享库）ffmpeg-master-latest-win64

JerryGW·2025-03-04 06:02

程序员未来黄金赛道：AI与大模型引领职业新机遇

2025年，人工智能（AI）与大型机器学习模型（LLM）的爆发式发展正重塑技术行业格局。面对AI编程工具日益强大的代码生成能力，程序员的职业角色面临深刻转型。如何在这场变革中抢占先机？

AI学习不迷路·2025-03-04 05:58

镜舟科技荣获 IT168 2024年度创新产品奖！

该产品以其卓越的技术创新能力和显著的商业价值脱颖而出，在大规模数据分析场景下展现出强大实力。作为企业级产品，镜舟分析型数据库

·2025-03-04 02:12

LLMR//https://github.com/microsoft/llmr?locale=zh-cn

locale=zh-cnIntroduction这个repo包含LLMR中描述的代码，实现了混合现实框架的大型语言模型。

开心就好啦~·2025-03-04 01:53

AI大模型教程入门到精通，非常详细收藏我这一篇就够了！AI大模型零基础入门教程（适合小白）

AI大模型是指使用大规模数据和强大的计算能力训练出来的人工智能模型。这些模型通常具有高度的准确性和泛化能力，可以应用于各种领域，如自然语言处理、图像识别、语音识别等。为什么要学AI大模型？

AGI大模型学习·2025-03-04 01:21

LangChain入门---- Prompt

Prompt介绍LangChain中的“Prompt”是一个关键概念，指的是输入给大型语言模型（LLM）的文本指令或提示，用于引导模型生成特定的输出或执行特定的任务。

快乐小狗(成功上岸版·2025-03-04 00:21

大模型算法工程师的技术图谱和学习路径

介绍：大模型算法工程师是指在开发和部署复杂的机器学习模型、深度学习模型或其他大规模模型的专业人员。他们的主要职责和技能要求包括：职责：设计、开发和优化大规模机器学习或深度学习模型，解决复杂的业务问题。

执于代码·2025-03-03 23:39

DeepSeek-R1：通过强化学习激励大型语言模型的推理能力

DeepSeek-R1-Zero是一个通过大规模强化学习（RL）训练而成的模型，无需监督微调（SFT）作为初步步骤，展示了卓越的推理能力。

AI专题精讲·2025-03-03 22:05

grok 3官网入口_grok 3国内使用指南

Grok是xAI于2023年11月推出的创新型语言模型。与市面上众多聊天机器人相比，Grok不只是一个简单的工具，它的推出标志着AI领域的一次重要突破。

·2025-03-03 22:32

人工智能开发中的数据隐私

大型语言模型(LLM)的发展和对通用人工智能(AGI)的追求

RA AI衍生者训练营·2025-03-03 19:09

基于DeepSeek 的图生文最新算法 VLM-R1

目录一、算法介绍二算法部署三模型下载四算法测试五可视化脚本一、算法介绍VLM-R1：稳定且可通用的R1风格大型视觉语言模型自从Deepseek-R1推出以来，出现了许多专注于复制和改进它的作品。

AI算法网奇·2025-03-03 18:02

创新引领的人工智能模型系列：MiniMax-01 系列震撼登场

MiniMax-01MiniMax-01MiniMax-01系列模型首次大规模实现线性注意力机制，传统Transformer架构不再是唯一的选择。这个模型的参数量高达4560亿，其中单次激活459亿。

·2025-03-03 17:52

Llama 3.2入门基础教程（非常详细），Llama 3.2微调、部署以及多模态训练入门到精通，收藏这一篇就够了！

9月25日Meta发布了Llama3.2，包括11B和90B的视觉语言模型。前排提示，文末有大模型AGI-CSDN独家资料包哦！

中年猿人·2025-03-03 17:49

使用LLM API

1.获取所要调用大模型的APIkey等参数，将其保存到.env文件中，并将.env文件保存在项目根目录下2.使用代码读取.env文件importosfromdotenvimportload_dotenv,find_dotenv#读取本地/项目的环境变量。#find_dotenv()寻找并定位.env文件的路径#load_dotenv()读取该.env文件，并将其中的环境变量加载到当前的运行环境中#

shownaier·2025-03-03 16:47

minikube 的 Kubernetes 入门教程--Dify

Dify是一款开源的大语言模型(LLM)应用开发平台。它融合了后端即服务（BackendasService）和LLMOps的理念，使开发者可以快速搭建生产级的生成式AI应用。

NightReader·2025-03-03 16:14

探索vLLM Chat：作为OpenAI API替代方案的强大工具

#探索vLLMChat：作为OpenAIAPI替代方案的强大工具##引言随着生成式AI技术的发展，许多应用都依赖于强大的语言模型API来提供自然语言处理任务的支持。

qq_37836323·2025-03-03 15:41

AI大语言模型概述：从GPT到BERT的技术演进

1.背景介绍1.1什么是大语言模型大语言模型是一种基于深度学习的自然语言处理技术，它可以理解和生成人类语言。

AI智能涌现深度研究·2025-03-03 15:40

Meta Platforms （原Facebook）计划推出新的大型语言模型以应用于人工智能

近期，有消息传出MetaPlatforms计划推出新的大型语言模型以应用于人工智能领域，这一举措无疑将对行业格局产生深远影响。

PM简读馆·2025-03-03 15:40

国际化与本地化架构支持LLM应用的全球化

国际化与本地化背景与重要性在当今全球化的商业环境中，国际化与本地化已成为企业和产品成功的关键因素。国际化（Internationalization，简称I18N）和本地化（Localization，简称L10N）不仅仅是语言转换的过程，更涉及到文化、技术、市场等多个层面的深入融合。定义与基本概念国际化是指设计软件或产品，使其具备在全球多个国家和地区使用的能力。这一过程通常包括设计、开发、测试和部署

AI天才研究院·2025-03-03 15:36

本地部署大语言模型-DeepSeek

DeepSeek是国内顶尖AI团队「深度求索」开发的多模态大模型，具备数学推理、代码生成等深度能力，堪称"AI界的六边形战士"。HosteaseAMD9950X/96G/3.84TNVMe/1G/5IP/RTX4090GPU服务器提供多种计费模式。DeepSeek-R1-32B配置配置项规格要求CPU16核以上（如AMDRyzen9950）内存96GB硬盘960GB显卡24GB+显存（如RTX40

NightReader·2025-03-03 15:36

Java实现基数排序算法详解及优化

它具有稳定、高效的特点，特别适用于大规模数据的排序。本文将详细讲解如何使用Java实现基数排序算法，并结合图解和实例代码，帮助您全面理解这一高级排序算法。

捕风捉你·2025-03-03 14:31

让 DeepSeek 更“聪明”：一键解析 PDF 和 Word 文档的 GUI 小工具，轻松处理复杂文档

DeepSeek-r1:1.5b是一款强大的语言模型，能够根据输入的自然语言进行推理和生成，但其原生本地部署环境并不支持直接上传文档进行解析。

Python测试之道·2025-03-03 12:10

【DeepSeek R1构建本地RAG知识库】应用框架选型对比（MaxKB、Dify、FastGPT、RagFlow、Anything-LLM）

文章目录前言一、MaxKB1.简介2.技术概览二、Dify1.简介2.技术概览三、FastGPT1.简介四、RagFlow1.简介2.技术概览五、Anything-LLM1.简介2.技术概览六、更多资料

Xd聊架构·2025-03-03 11:06

Typora接入LLM

在大佬项目的基础上编写LLM插件。通过https://github.com/obgnail/typora_plugin?tab=readme-ov-file安装好typora插

m0_52111823·2025-03-03 08:43

DeepSeek 开源周五个开源项目，引领 AI 创新？

Day1:FlashMLA项目介绍FlashMLA是一个为HopperGPU设计的高效解码内核，专门用于大型语言模型（

LaughingZhu·2025-03-03 08:09

Gemini API —— Curl 快速开发 Google Gemini 中国版！

https://gemini.danielmind.techGeminiAPI快速入门教程GeminiAPI是一种强大的生成式语言模型，支持文本生成、多模态输入（文字+图片）、多轮对话等功能。

这儿有一堆花·2025-03-03 08:08

Spark核心之06：知识点梳理

spark知识点梳理spark_〇一1、spark是什么spark是针对于大规模数据处理的统一分析引擎，它是基于内存计算框架，计算速度非常之快，但是它仅仅只是涉及到计算，并没有涉及到数据的存储，后期需要使用

小技工丨·2025-03-03 07:03

如何高效运行 DeepSeek-R1：分步指南

无论您想在Mac上本地运行它，还是在云GPU上运行它，还是优化性能以供大规模使用，本指南都会逐步引导您完成所有操作。

知识大胖·2025-03-03 06:31

【Elasticsearch】Elasticsearch集群在分布式环境下的管理

分片与副本配置二、集群管理与运维2.1集群监控2.2故障处理2.3性能优化三、扩展与升级3.1集群扩展3.2集群升级3.3灾备与容灾️总结前言Elasticsearch是一种高度可扩展的开源搜索引擎，可以在大规模分布式环境中处理和存储海量数据

屿小夏·2025-03-03 06:30

探讨Hadoop的基础架构及其核心特点

Hadoop是一个开源软件框架，用于存储和处理大规模数据集。

xx155802862xx·2025-03-03 06:58

k8s面试题总结（六）

Kubernetes的作用kubernetes是一个容器编排平台，主要用于管理大规模的容器化应用程序。Kubernetes和Docker的关系Docker负责容器的底层运行时：

a_j58·2025-03-03 04:40

文言AI·2025-03-03 03:29

推荐频道

大规模语言模型（LLM）