数学推理

vLLM-prefix浅析（System Prompt，大模型推理加速）

原文：vLLM-prefix浅析（SystemPrompt，大模型推理加速）简介本文浅析了在大模型推理加速方面一个非常优秀的项目vLLM的一个新特性Prefix。
javastart·2025-01-27 00:06

Qwen1.5：使用VLLM加速推理模型（包含：OpenAI如何调用）

如何安装和配置VLLM库在开始使用VLLM库之前，首先需要确保安装正确的版本。以下指南将帮助你完成安装和配置。安装VLLM库根据你的需求选择合适的版本进行安装。如果你只需要基本功能，可以安装版本0.3。使用以下命令安装：pipinstallvllm==0.3如果你需要使用GPTQ-int8量化模型，那么应该安装0.4或更高版本：pipinstallvllm>=0.4启动模型服务在安装完毕后，可以通
写bug如流水·2025-01-27 00:06

深入解析vLLM：加速大模型推理的高效框架

深入解析vLLM：加速大模型推理的高效框架引言在现代深度学习应用中，大型语言模型（如GPT、GLM、LLaMA、Qwen等）的推理速度和资源利用率成为关键挑战。
秋声studio·2025-01-27 00:34

nvdia triton server运行pt文件

tritonserver默认都是tensorrt推理。但也会出现有操作不支持，导致无法转模型为engine的情况。可以选择直接运行pytorch的pt文件，以下为操作步骤。
滑稽的柴犬·2025-01-26 23:27

[数学] 孪生素数

问题描述如果nnn和n+2n+2n+2都是素数，称它们是孪生素数。输入整数mmm，输出两个均不超过mmm的最大孪生素数。输入格式输入一个整数nnn。输出格式两个空格间隔的整数，表示mmm以内最大的孪生素数，小的一个在前，大的一个在后。样例样例输入1：20样例输出11719样例输入2：1000样例输出2：881883数据范围5≤n≤100005\len\le100005≤n≤10000思路这道题的思
Jcqsunny·2025-01-26 23:25

广工Anyview离散数学第七章

注：网络资源整理，并非本人代码，离散数学对初学者比较抽象，希望对你有所帮助。请注意对应题目，每年题目可能有小变动。
墨染夜雨笺·2025-01-26 22:50

【释放算力潜能】基于华为鲲鹏920 + 昇腾310B的VPX架构主板

一款高性能VPX架构主板——采用华为鲲鹏920处理器与昇腾310BAI加速模块的创新设计，专为边缘计算、AI推理、高性能计算和国防工业等领域打造。
国产化嵌入式平台解决方案·2025-01-26 22:19

广工Anyview离散数学第八章

注：网络资源整理，并非本人代码，离散数学对初学者比较抽象，希望对你有所帮助。请注意对应题目，每年题目可能有小变动。
墨染夜雨笺·2025-01-26 22:19

贪心算法笔记

自己用数学证明方法，比如归纳法，交换法，就是
骑狗看夕阳·2025-01-26 19:29

Python 中的complex(real[, imag])函数：高级用法与强大功能

复数在数学、物理学、工程学等领域中有着广泛的应用，而Python的complex类型为我们提供了便捷的方式来处理复数。
三带俩王·2025-01-26 17:16

【AI工具】夸克AI试用：分析DeepSeek-V3技术报告

安装了夸克AI，试用了一下AI总结功能，导入了DeepSeekV3的技术报告，使用了文章总结、问题提问、脑图、大纲等功能还不错，尤其是几个问题提问，回答的都不错，而且数学公司都是标准的markdown格式
bylander·2025-01-26 17:14

学习R语言：数学运算与模拟

本文内容来自《R语言编程艺术》(TheArtofRProgramming)，有部分修改R内置很多数学函数和统计分布函数。
Mrrunsen·2025-01-26 14:50

洛谷P1866 编号

题目链接：P1866编号-洛谷|计算机科学教育新生态题目难度：普及一题目分析：这是一道简单的数学题，设n=5,5个数为：10，13，14，17，15，先将这五个数排序，10，13，14，15，17，第一只兔子有
怀念无所不能的你·2025-01-26 14:19

【R语言】数学运算

一、基础运算R语言中能实现加、减、乘、除、求模、取整、取绝对值、指数、对数等运算。x<-2y<-10#求模y%%x#整除y%/%x#取绝对值abs(-x)#指数运算y^xy^1/x#对数运算log(x)#log()函数默认情况下以e为底双等号“==”的作用等同于identical()函数，表示比较两个对象是否相等。“!=”表示判断两个对象是否不相等。二、向量运算向量的运算都是对应于它的每个元素进行
关关钧·2025-01-26 13:18

matlab阿卡曼公式,阿克曼函数--一个计算方法

在数学上有一个著名的“阿克曼函数”，它是二元函数，其定义式为：(１)ACK(0,N)＝1＋Ｎ(２)ACK(M,0)＝ACK(M-1,1)(Ｍ>０)(３)ACK(M,N)＝ACK(M-1，ACK(M,N-
手机队长·2025-01-26 13:45

神经网络的通俗介绍

人工神经网络，是一种模仿人类大脑工作原理的数学模型。人类的大脑是由无数的小“工作站”组成的，每个工作站叫做“神经元”。这些神经元通过“电线”互相连接，负责接收、处理和传递信息。
courniche·2025-01-26 12:08

Math Reference Notes: 逆序数

逆序数在很多数学问题中扮演着重要角色，特别是在排列的奇偶性和排序算法的分析中。
大邳草民·2025-01-26 12:36

Math Reference Notes: 反函数

1.反函数的定义在数学中，反函数是与原函数相对的函数。
大邳草民·2025-01-26 12:06

【2025美赛B题——管理可持续旅游】2025年美国大学生数学建模竞赛思路、代码、论文优化更新中.....

欢迎来到本博客❤️❤️博主优势：博客内容尽量做到思维缜密，逻辑清晰，为了方便读者。⛳️座右铭：行百里者，半于九十。本文目录如下：目录⛳️美赛及概况1找程序网站推荐2公式编辑器、流程图、论文排版325年美赛B题——管理可持续旅游4思路、Python、Matlab代码、论文分享......⛳️美赛及概况详细内容请看文末卡片，有即将开始的美赛思路、配套Python、Matlab代码及成品论文等，美赛论文
稷下科研社·2025-01-26 11:03

数学基础 -- 三明治定理（夹逼定理）

三明治定理三明治定理（SandwichTheorem）又称夹逼定理或夹逼准则，是数学分析中的一个重要定理。它描述了当三个函数在某一区间上满足特定关系时，中间函数的极限可以通过两个外侧函数的极限确定。
sz66cm·2025-01-26 11:29

P1093 [NOIP2007 普及组] 奖学金

期末，每个学生都有3门课的成绩：语文、数学、英语。
洛谷之蒟蒻·2025-01-26 10:55

Langchain[6]-LangGraph:异步和流、图可视化、多智能体协作、LCEL代码生成

Langchain[6]-LangGraph:异步和流、图可视化、多智能体协作、LCEL代码生成1.异步和流因为任何大模型在推理的时候，都会有一定的时间延迟，这是由大模型的底层架构决定的，所以在很多应用
汀、人工智能·2025-01-26 09:47

解释器模式

例如，在数据库查询中，我们使用SQL语句来查询数据；在数学计算软件里，需要解析和计算各种数学表达式。
咖啡の猫·2025-01-26 09:17

青少年编程与数学 02-008 Pyhon语言编程基础 03课题、环境准备

青少年编程与数学02-008Pyhon语言编程基础03课题、环境准备一、开发环境二、PyCharm安装PyCharm配置PyCharm三、VSCode安装VSCode配置VSCode四、Python（解释器
明月看潮生·2025-01-26 09:46

Direct Preference Optimization (DPO): 一种无需强化学习的语言模型偏好优化方法

论文地址：https://arxiv.org/pdf/2305.182901.背景与挑战近年来，大规模无监督语言模型（LM）在知识获取和推理能力方面取得了显著进展，但如何精确控制其行为仍是一个难题。
Yuleave·2025-01-26 09:12

数学基础 -- 洛必达法则

洛必达法则洛必达法则（L’Hôpital’sRule）是微积分中的一个重要定理，用于求解某些未定形式极限的问题。其基本思想是通过求导来简化极限计算。洛必达法则主要用于处理以下两种未定形式的极限：00\frac{0}{0}00和∞∞\frac{\infty}{\infty}∞∞。洛必达法则的公式假设函数f(x)f(x)f(x)和g(x)g(x)g(x)在某一开区间内可导，且在该区间内g′(x)≠0g
sz66cm·2025-01-26 05:41

数学基础 -- 泰勒展开式

泰勒展开泰勒展开是将一个函数在某点附近展开成幂级数的工具。具体来说，对于一个在某点aaa处具有nnn阶导数的函数f(x)f(x)f(x)，其泰勒展开式为：f(x)=f(a)+f′(a)(x−a)+f′′(a)2!(x−a)2+f′′′(a)3!(x−a)3+⋯+f(n)(a)n!(x−a)n+Rn(x)f(x)=f(a)+f'(a)(x-a)+\frac{f''(a)}{2!}(x-a)^2+\f
sz66cm·2025-01-26 05:41

深度学习中高斯噪声：为什么以及如何使用

在数学上，高斯噪声是一种通过向输入数据添加均值为零和标准差(σ)的正态分布随机值而产生的噪声。
小白学视觉·2025-01-26 05:38

【NTN 卫星通信】关于卫星通信的一次访谈

2访谈问题以及回复1、对于一个信号发生设备，如通信基站，其理论最大信道容量（网速,bit/s）和其通信频率（Hz）、功率（W）的数学关系是什么，能否用公式表示。答复：这个问题可以直接由
一只好奇的猫2·2025-01-26 04:58

智能推理的革命：DeepSeek-R1 深度解析其算法与实现

然而，尽管现有的模型在许多任务上表现出色，它们在深度推理和逻辑思维方面仍有显著的提升空间。
步子哥·2025-01-26 04:26

《从传统到智能：大模型交换机的变革之路》

以下是关于它的详细介绍：特点高带宽和低延迟：大模型的训练和推理通常需要处理大量的数据，高带宽可以确保数据在各个计算节点之间快速传输，低延迟则能减少数据传输过程中可能出现的瓶颈，提高训练和推理的效率。
烁月_o9·2025-01-26 03:23

paddleseg推理预测文件解析predict.py

1预测命令格式predict.py脚本是专门用来可视化预测案例的，命令格式如下所示：pythonpredict.py\--configconfigs/quick_start/bisenet_optic_disc_512x512_1k.yml\--model_pathoutput/iter_1000/model.pdparams\--ima
weightOneMillion·2025-01-26 03:52

基于大语言模型构建本地个人AI助理

在构建本地专属的个人AI助理时，我们需要处理多个方面的技术需求，确保其在多模态数据处理、实时查询、灵活推理、知识图谱更新等方面具备高效性、实时性和可扩展性。
由数入道·2025-01-26 00:58

2025美赛数学建模C题：奥运奖牌榜模型——思路+代码+模型

详细思路更新见文末名片2025MCM问题C:奥运奖牌榜模型除了观看2024年巴黎夏季奥运会的各项个人比赛外，粉丝们还关注每个国家的“奖牌榜”。最终结果（表1）显示，美国获得了最多的奖牌（126枚），中国和美国在金牌榜上并列第一（40枚金牌）。东道国法国在金牌榜上排名第五（16枚金牌），但在总奖牌榜上排名第四，而英国以14枚金牌排名第七，在总奖牌数上排名第三。金牌银牌铜牌总计美国404442126中
灿灿数模·2025-01-25 21:32

2025美赛数学建模MCM/ICM选题建议与分析，思路+模型+代码

2025美赛数学建模MCM/ICM选题建议与分析,思路+模型+代码，详细更新见文末名片一、问题A：测试时间：楼梯的恒定磨损（ArchaeologicalModeling）适合专业：考古学、历史学、数学、
灿灿数模·2025-01-25 21:02

2024 年 MathorCup 数学应用挑战赛——大数据竞赛 赛道 B：电商品类货量预测及品类分仓规划 思路和代码 持续更新中

2024年所有数学建模类比赛的个人思路和代码都会发布到专栏内,会结合最新的chatgpt发布思路,开赛一天后恢复原价99,不代写论文,不回复私信.没有群,只需订阅一次目录问题分析与解决思路问题1：货量预测模型问题
2025年数学建模美赛·2025-01-25 20:28

2024年美赛MCM/ICM E题 财产保险的可持续性 最新思路

专栏内ABCDEF题持续更新中这个数学建模问题要求我们开发两个模型：一个用于保险公司决定是否在极端天气事件频发地区承保保单的模型，另一个为社区领导人提供如何保护具有文化、历史、经济或社区意义建筑的指导模型
2025年数学建模美赛·2025-01-25 20:27

2025数学建模美赛B题完整建模思路——管理可持续旅游业

本文的撰写将综合运用多元的数学模型、算法以及机器学习/深度学习的方法，并在必要时给出题外假设与可行的创新性思路，以期为参赛者提供较为系
鹿鹿数模·2025-01-25 20:25

分解质因数，求最大公约数和最小公倍数

3个c++程序分解质因数，求最大公约数和最小公倍数，方便数学计算1.分解质因数##includeusingnamespacestd;intmain(){while(1){longlongx,c=0,count
2401_86161528·2025-01-25 18:40

全面解析物联网信息安全知识体系

本文还有配套的精品资源，点击获取简介：本资料集详细介绍物联网信息安全的多个重要方面，包括基础概念、数学基础、数据安全与隐私保护、集成安全技术、安全分析、防护策略和身份认证。
无声远望·2025-01-25 17:06

自然语言处理（NLP）-总览图学习

文章目录自然语言处理（NLP）-总览图学习1.一张总览图的学习1.语音学（Phonology）2.形态学（Morphology）3.句法学（Syntax）4.语义学（Semantics）5.推理（Reasoning
汤姆和佩琦·2025-01-25 16:24

大模型GUI系列论文阅读 DAY4：《PREDICT: Multi-Agent-based Debate Simulation for Generalized Hate Speech Detecti》

PREDICT包括两个阶段：（1）PRE（基于视角的推理）
feifeikon·2025-01-25 15:50

「Py」基础语法篇 之 Python缩进规则

集合「C/C++」C/C++程序设计「DSA」数据结构与算法「UG/NX」NX二次开发「QT」QT5程序设计「File」数据文件格式「UG/NX」NX定制开发「Py」Python程序设计「Math」探秘数学世界
何曾参静谧·2025-01-25 14:42

基于Python的开源量化交易框架：构建你的量化投资策略

量化投资是一种利用数学和统计模型来进行投资决策的方法，它将大量的金融数据与算法相结合，以识别交易机会并执行交易。
ShAutoit·2025-01-25 14:37

Kafka 消息存储与销毁机制

Kafka1.2Kafka的基本概念解释2.核心概念与联系2.1消息存储机制2.2消息销毁机制2.3分区与副本机制3.核心算法原理具体操作步骤3.1消息存储过程3.2消息消费过程3.3消息销毁过程3.4分区副本同步过程4.数学模型和公式详细讲解举例说明
AI天才研究院·2025-01-25 12:30

侯捷 C++ 课程学习笔记：开启 C++ 深度探索之旅

在C++的学习道路上，侯捷老师的课程宛如一座明亮的灯塔，为无数学习者照亮前行的方向。
秃头小饼干·2025-01-25 12:27

浅谈人群扩展（lookalike）模型

这里简单介绍一下Lookalike人群扩展（相似人群扩展）中常用算法模型的解析，涵盖原理、数学公式、实现步骤、优缺点及适用场景。1.基于标签的相似度匹配原理通过用户标签（兴趣
eso1983·2025-01-25 12:23

【人工智能时代】- 开源向量数据库比较：Chroma, Milvus, Faiss,Weaviate

向量数据库是一种将数据存储为高维向量的数据库，高维向量是特征或属性的数学表示。每个向量都有一定数量的维度，根据数据的复杂性和粒度，可以从数十到
xiaoli8748_软件开发·2025-01-25 11:47

NVIDIA L40s、A10、A40、A100、A6000横评，哪个GPU 更适合 AI 推理任务？

AI推理是指已经训练好的模型对新数据进行预测的过程。与训练阶段相比，推理通常对GPU的要求有所不同，更注重于能效比、延迟以及并发处理能力。
DO_Community·2025-01-25 09:37

FFmpeg iOS 集成

适用于开发人员的FFmpeg库libavutil是一个包含用于简化编程的函数的库，包括随机数生成器，数据结构，数学例程
ihsdwj·2025-01-25 08:31
上一页 17 18 19 20 21 22 23 24 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他