大程

【大语言模型_5】xinference部署embedding模型和rerank模型

一、安装xinferencepipinstallxinference二、启动xinference./xinference-local--host=0.0.0.0--port=5544三、注册本地模型1、注册embedding模型curl-XPOST"http://localhost:5544/v1/models"\-H"Content-Type:application/json"\-d'{"mod

没枕头我咋睡觉·2025-03-22 05:14

向量检索、检索增强生成（RAG）、大语言模型及相关系统架构——典型面试问题及简要答案

1.什么是向量检索？它与传统基于关键字的检索相比有什么不同？答案要点：向量检索是将文本、图像、音频等数据映射为向量，在高维向量空间中基于相似度或距离进行搜索。与传统基于关键字的检索（如倒排索引）相比，向量检索更关注“语义”或“特征”，能找出语义上相似但未必包含相同关键词的内容。向量检索非常适合多模态场景（例如“以图搜图”）或自然语言问答（同义词、上下文关联等）。2.什么是检索增强生成（RAG）？核

快撑死的鱼·2025-03-22 05:13

使用LangSmith追踪LLM令牌使用情况的指南

技术背景介绍在大语言模型（LLM）的应用中，令牌使用计数是估算模型调用成本的基础。LangSmith提供了一种有效的方式来帮助跟踪应用程序中的令牌使用。

dgay_hua·2025-03-22 05:13

如何评估一个RAG系统（RAGas评测框架）-下篇

RAGas是一个用于评测RAG系统的评测框架，它支持与不同大语言模型的集成，并与langchain生态打通，能够很方便的构建评测系统。

写程序的小火箭·2025-03-22 05:13

【AI大模型应用开发】【RAG评估】0. 综述：一文了解RAG评估方法、工具与指标

微信公众号也可搜【同学小张】本站文章一览：前面我们学习了RAG的基本框架并进行了实践，我们也知道使用它的目的是为了改善大模型在一些方面的不足：如训练数据不全、无垂直领域数据、容易出现幻觉等。

同学小张·2025-03-22 05:43

大模型最新面试题系列：微调篇之微调基础知识

一、全参数微调（Full-Finetune）vs参数高效微调（PEFT）对比1.显存使用差异全参数微调：需存储所有参数的梯度（如GPT-3175B模型全量微调需约2.3TB显存）PEFT：以LoRA为例，仅需存储低秩矩阵参数（7B模型使用r=16的LoRA时显存占用减少98%）实战经验：在A10080GB显存下，全量微调LLaMA-7B需DeepSpeedZero3优化，而LoRA可直接单卡运行2

人肉推土机·2025-03-22 05:42

7大模型部署框架深度测评：从理论到DeepSeek R1:7B落地实战

人肉推土机·2025-03-22 05:12

对MCP工作流的一些个人认知

MCP是一套能实现客户端、多种服务与大模型协同工作的系统，能处理任务请求并及时反馈。

持续学习的老赵·2025-03-22 04:40

GEO：在AI时代抢占DeepSeekC位？

DeepSeek、ChatGPT、豆包等大模型用动态生成的答案，悄然截流了68%的搜索需求。更残酷的是：当用户问"某个产品推荐"时，AI可能同时调用37个信源，却不会留下任何可追踪的搜索痕迹。

白雪讲堂·2025-03-22 03:55

每日一题--内存池

内存池的核心原理预先分配：初始化时一次性申请一大块内存（称为“池”），避免程序运行时频繁调用malloc/new。自主管理：将大块内存划分为多个固定或可变大小的内存单元，由程序自行分配和回收。复用机制

秋凉づᐇ·2025-03-22 03:54

《颠覆传统，用Web3.0技术手撸一个去中心化微博（含完整代码）》

传统互联网正面临三大致命伤：-用户数据被巨头垄断（某浪删帖事件频发）-单点故障导致服务瘫痪（某云宕机损失过亿）-创作者收益被平台榨取（某音抽成高达70%）**Web3.0的破局方案：**-✅数据永久存储在

煜bart·2025-03-22 03:53

Java 基础数据类型

二、基本数据类型分类Java有8种基本数据类型（如下图所示），可分为四大类（整数型，浮点型，字符型和布尔型）：8大基本数据类型具体位数、取值范围和默认值等如下表所示：数据类型

代码先锋者·2025-03-22 03:51

MCP协议

MCP（ModelContextProtocol，模型上下文协议）是由Anthropic推出的一种开放标准，旨在统一大型语言模型（LLM）与外部数据源和工具之间的通信协议。

zhurui_xiaozhuzaizai·2025-03-22 03:21

【大模型系列】SFT（Supervised Fine-Tuning，监督微调）

欢迎来到我的博客，很高兴能够在这里和您见面！希望您在这里可以感受到一份轻松愉快的氛围，不仅可以获得有趣的内容和知识，也可以畅所欲言、分享您的想法和见解。推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术,jvm,并发编程redis,kafka,Spring,微服务等常用开发工具系列:常用的开发工具,IDEA,Mac,Alfred,Git,

Kwan的解忧杂货铺@新空间代码工作室·2025-03-22 02:20

什么是设计模式以及常见的例子（如单例、工厂、观察者等）

设计模式根据目的（即模式是用来做什么的）可以分为三大类：创建型模式、结构型模式和行为型模式。下面分别给出几个常见的设计模式例子，包括单例模式、工厂模

python资深爱好者·2025-03-22 01:41

Open WebUI – 本地化部署大模型仿照 ChatGPT用户界面

你能用它连接你在本地的大语言模型（包括Ollama和OpenAI兼容的API），也支持远程服务器。

m0_74824845·2025-03-22 01:37

微信小程序中使用wx.getLocation获取实时经纬度，并使用经纬度获取当前定位信息

需在微信公众平台申请wx.getLocation接口，否则上线不可使用，申请需将图片/录屏资料准备齐全，需有配送/打车类的含地图实时绘制路线的功能通过率才大，其他简单文字展示信息不易通过。

學习？學个屁·2025-03-22 01:36

视频剪辑行业的现状与进阶之路：一个双视角分析

视频剪辑行业的现状与进阶之路：一个双视角分析一、现状解析商业角度分析成本控制培训需要投入时间和人力成本快节奏的市场环境要求快速产出人员流动性大，培训投入可能无法获得长期回报市场需求大量内容需要快速产出标准化的剪辑模板更容易管理追求效率大于创新风险规避现成模板降低出错风险统一风格便于品控减少个人风格带来的不确定性剪辑师角度分析职业发展受限难以系统学习完整工作流程创意空间被压缩技能提升遇到瓶颈技能断层

·2025-03-22 01:00

使用DeepEval进行LLM的单元测试

在构建大语言模型（LLM）时，测试是确保模型行为和性能的关键步骤。ConfidentAI推出的DeepEval提供了一套完整的工具包，帮助开发者进行LLM的单元测试和集成测试。

VYSAHF·2025-03-22 00:34

腾讯云大模型知识引擎与DeepSeek：打造懒人专属的谷歌浏览器翻译插件

本文探讨了腾讯云大模型知识引擎与DeepSeek结合谷歌浏览器插件的可能性，旨在为用户提供一种便捷、高效的翻译体验。

大富大贵7·2025-03-22 00:34

Netty源码—2.Reactor线程模型二

NioEventLoop的问题整理2.理解Reactor线程模型主要分三部分3.NioEventLoop的创建4.NioEventLoop的启动4.NioEventLoop的启动(1)启动NioEventLoop的两大入口

东阳马生架构·2025-03-22 00:02

DeepSeek-R1大模型微调技术深度解析：架构、方法与应用全解析

1.DeepSeek-R1大模型架构设计与技术特性1.1架构设计DeepSeek-R1作为超大规模语言模型，其核心架构设计包含以下创新：专家混合架构（MoE）采用6710亿参数的混合专家架构（MoE），

大势下的牛马·2025-03-22 00:58

AI学习教程DeepSeek使用教程合集免费下载

保姆级新手教程7.DeepSeek各类应用8.Deepseek写小说9.DeepSeekV3部署教程10.DeepseekwordExcel11.Deepseek科研论文12.Deepseek开发游戏13.大模型通用一

oneboxai·2025-03-21 23:23

技术革命、需求升级与商业生态迭代——基于开源AI大模型与智能商业范式的创新研究

研究聚焦开源AI大模型、AI智能名片、S2B2C商城及小程序源码等前沿技术工具，解构其如何重构"技术赋权-需求进化-商业物种爆发"的价值传导链条。

说私域·2025-03-21 23:52

分享12个国内AI对话聊天的免费网站（含DeepSeek大模型）

1、腾讯元宝地址：https://hunyuan.tencent.com/bot/chat腾讯混元大模型是由腾讯全链路自研的通用大语言模型，拥有超千亿参数规模，预

码上飞扬·2025-03-21 23:20

面向对象(进阶)(‘封装‘,‘多态‘,‘对象属性‘,‘类属性‘,‘类方法‘,‘对象方法‘及其应用场景)

‘封装’,'多态’及其应用场景一,封装及其应用场景封装的定义属于面向对象的三大特征之一,就是隐藏对象的属性和现实细节,仅对外提供公共的访问方式.

烈焰猩猩·2025-03-21 22:15

2025年最新AI大模型学习路线+全套学习资料，适合新手小白！

本文将为普通读者提供一份详细的2025年最新AI大模型学习路线图，并附带一套完整的自学资料，帮助您从零基础起步，顺利开启AI学习之旅

小城哇哇·2025-03-21 22:45

不会用AI大模型的程序员，5年后必将被淘汰？真相远比你想的更残酷！

前言在技术飞速发展的今天，AI大模型已经成为程序员技能库中的“标配”。如果你还认为AI只是“锦上添花”的工具，那么5年后，你可能真的会被时代无情淘汰。这不是危言耸听，而是技术变革的必然趋势。

小城哇哇·2025-03-21 22:15

知识蒸馏：让大模型“瘦身“而不失智慧的魔术

引言：当AI模型需要"减肥"在人工智能领域，一个有趣的悖论正在上演：大模型的参数规模每年以10倍速度增长，而移动设备的算力却始终受限。

一休哥助手·2025-03-21 21:06

【愚公系列】《高效使用DeepSeek》023-兴趣技能培训

【技术大咖愚公搬代码：全栈专家的成长之路，你关注的宝藏博主在这里！】开发者圈持续输出高质量干货的"愚公精神"践行者——全网百万开发者都在追更的顶级技术博主！

愚公搬代码·2025-03-21 21:05

C++文件操作

文本文件二进制文件操作文件的三大类ofstream写ifstream读fstream写+读写文件包含头文件#include创建流对象ofstreamofs;打开文件ofs.open("文件路径",打开方式

nqqcat~·2025-03-21 21:04

Pyhton 基础

初识PythonPython是一种解释型语言Python使用缩进对齐组织代码执行，所以没有缩进的代码，都会在载入时自动执行数据类型：整形int无限大浮点型float小数复数complex由实数和虚数组成

368.·2025-03-21 21:34

Ark-TS 语言：鸿蒙生态的高效开发利器，让我们用大白话说一说

简单来说，Ark-TS有几个厉害的地方：静态类型检查（写代码时必须给变量指定类型，比如数字、文字，这样电脑能在运行前就发现类型错误，避免程

·2025-03-21 21:57

合合信息“大模型加速器2.0”助力AI打破“幻觉”

随着大模型在社会应用中逐渐普及，人们在享受便利的同时，也面临着“AI幻觉”产生的风险。

·2025-03-21 21:56

收入突破 5 万，从大专生到大模型开发-第二篇（下）

第二篇下：实战案例拆解——我用AI干掉80%重复工作大家好，我是明聪，98年逆袭的大模型研发工程师，前Java转型幸存者，湖北荆州人，毕业武汉某职校。

智码工坊·2025-03-21 20:30

C/C++学习路线概述

C语言/C++直通企业级开发的详细学习路线节选：肝了半个月，我整理出了这篇嵌入式开发学习学习路线+知识点梳理目录1C/C++学习概述1.1C语言的基础知识1.2C++的基础知识2C/C++编程学习四大件

DustWind丶·2025-03-21 20:59

GitHub霸榜神器！NextChat领衔DeepSeek全栈开发范式

NextChat（原ChatGPT-Next-Web）是GitHub上斩获81.2K星标的现象级开源项目，定位为"轻量级AI助手终端"，支持DeepSeek、Claude、GPT-4、Gemini等20+主流大模型

大禹智库·2025-03-21 20:57

nextjs 实现rag知识库检索增强的ai问答app

AI-Chat-一个基于LLM大语言模型的知识库问答系统项目源码：https://github.com/goliter/ai-chat项目简介AI-Chat是一个基于Next.js和React开发的现代化大语言模型的知识库问答系统

*goliter *·2025-03-21 20:55

使用大语言模型API在AI应用中的实现

随着人工智能技术的迅速发展，大语言模型（LLM）在自然语言处理（NLP）领域的应用越来越广泛。

qq_37836323·2025-03-21 19:47

国外7个最佳大语言模型 (LLM) API推荐

什么是大语言模型(LLM)

幂简集成·2025-03-21 19:15

[NOIP2011 提高组] 铺地毯

现在将这些地毯按照编号从小到大的顺序平行于坐标轴先后铺设，后铺的地毯覆盖在前面已经铺好的地毯之上。地毯铺设完成后，组织者想知道覆盖地面某个点的最上面的那张地毯的编号。

Nerous_·2025-03-21 19:45

【NLP】 API在大语言模型中的应用

大语言模型（LargeLanguageModels,LLMs）通过API（应用程序接口）为开发者提供了便捷的调用方式，使其能够快速集成自然语言处理能力到各类应用中。

Nerous_·2025-03-21 18:13

数据结构、图论---数组模拟单链表邻接表

数组模拟链表或者所谓的邻接表，实际上都是静态链表，以数组下标模拟模拟内存地址，使得可以一开始就给数组分配好连续的一大片空间，而使用中的“内存分配”实际上就是变成了简单的idx++比赛中使用静态链表代替指针型链可以减少内存分配带来的时间消耗

wow_awsl_qwq·2025-03-21 18:10

时间序列分析的军火库：AutoTS、Darts、Kats、PaddleTS、tfts 和 FancyTS解析

本文将对AutoTS、Darts、Kats、PaddleTS、tfts和FancyTS六大主流库进行详细解析，并提供代码示例，帮助你根据实际需求选择最佳工具。

赛卡·2025-03-21 18:04

软件工程：数据字典

二、数据字典的四大组成要素1.数据流（DataFlow）定义：数据在系统中的流动路径。描述内容：来源与去向：起点（外部实体/处理）、

愚戏师·2025-03-21 17:02

数据分析面临的三大挑战该如何解决

转载自品略图书馆http://www.pinlue.com/article/2020/09/0712/2611202048648.html有效的分析已成为决定性因素，很明显，掌握它的人会蓬勃发展。但是，实现这一目标的过程并非没有障碍。最常见的数据分析挑战是什么？公司如何自信地应对它们？下面就来介绍一下。1、浏览预算限制数据分析领导者需要在当下采取行动，但同时也需要考虑未来。平衡这些需求要求他们在制

銨靜菂等芐紶·2025-03-21 17:30

【轻松学C：编程小白的大冒险】— 09 运算符与表达式的实际应用

【轻松学C：编程小白的大冒险】—09运算符与表达式的实际应用一、运算符家族大阅兵二、算术运算符：数学界的五虎上将1.加法运算符`+`2.减法运算符`-`3.乘法运算符`*`4.除法运算符`/`5.取模运算符

秋知叶i·2025-03-21 17:30

【数据治理】数据湖治理实践：腾讯云数据湖元数据实践指南

本文的内容主要包括四部分：1、数据湖背景概述，介绍腾讯数据湖的整体架构；2、数据湖统一元数据模块的详细架构实现；3、介绍腾讯云上元数据多租户的设计模式；4、介绍统一元数据的两大核心能力：在线数据目录和离线数据治理的功能

菜鸟蜀黍·2025-03-21 17:59

使用Python轻松拆分PDF，每页独立成文件

如果你曾经有想要拆分一个大PDF文件的想法，让每一页都成为独立的文件，那么这篇博客就是为你准备的！我们将使用Python中的一个非常强大的库–PyPDF2，把这些需求变得简单易行。

AI航海家(Ethan)·2025-03-21 17:29

大模型在冠心病风险预测及临床方案制定中的应用研究

目录一、引言1.1研究背景与目的1.2国内外研究现状1.3研究方法与创新点二、大模型预测冠心病风险原理与方法2.1数据收集与预处理2.1.1数据来源2.1.2数据清洗与整理2.2特征工程2.2.1特征提取

LCG元·2025-03-21 17:27

推荐频道

大程