成员推理

大语言模型原理与工程实践：大语言模型推理工程推理加速：算子优化

其中，推理（Inference）过程是大语言模型的核心环节之一。然而，随着模型规模的不断扩大，推理过程中的计算复杂度和延时也逐渐成为制约模型应用的重要因素。
AI天才研究院·2025-03-04 22:32

大模型推理速度测评的实战代码

今天给大家带来的文章是大模型推理速度测评的实战代码，希望能对学习大模型的同学们有所帮助
herosunly·2025-03-04 21:59

“再探构造函数”（2）

文章目录一.友元‘全局函数’作友元‘成员函数’作友元‘类‘作友元二.内部类三.匿名对象四.对象拷贝时的编译器优化分析调用时的顺序一.友元何时会用到友元呢？
脆皮炸鸡226·2025-03-04 21:55

AI边缘处理设备怎么合理分配宽带和运行资源

边缘设备通常面临有限的资源，但需要处理大量的数据流和计算任务，尤其是在AI推理和实时数据处理的场景下。
码农的日常搅屎棍·2025-03-04 19:42

Deepseek的底层架构思维构成

通过低秩联合压缩技术，将键（Key）和值（Value）矩阵压缩到潜在空间，显著减少推理时的显存占用。例如，MLA可将显存需求降至传统多头注意力（MHA）的个位数百分比。
堕落年代·2025-03-04 19:09

week1-一周笔记及知识点补充：容器、迭代器、滑动窗口、sort()

不熟悉的知识点补充1.容器相关1.1类模板1.2容器类模板和容器类1.3常见容器分类1.4容器类的典型使用场景1.5容器类使用的性能优化技巧1.6容器适配器及使用方法1.7复杂容器1.8其他使用过未提及的容器的成员函数
普罗格瑞木·2025-03-04 19:09

python获取调用函数的注释_Python18之函数定义及调用，注释

一个变量，或是另一个函数的返回值，如果函数没有返回值，可以省略return语句)二、函数文档概念在Python中将函数体内首行字符串作为函数文档，字符串中对函数的功能和参数的含义进行说明，可以使用函数名加成员操作符跟上
超高校级维京猛男·2025-03-04 16:15

自动驾驶平行仿真（基础课程一）

稍后，我们将引入分类问题，其目标是预测一组类别的成员资格。作为一个运行示例，假设我们希望估计房屋（以美元计）基于其面积（以平方英尺为单位）和年龄（以年）。
Yours monkey brother·2025-03-04 15:13

C++ 面向对象：属性和行为、访问权限、与struct区别

面向对象的三大特性：封装、继承和多态封装的语法，可见以下：class类名{访问权限属性~成员变量行为~成员函数}；具体见以下代码示例：#includeusingnamespacestd;classPeople
qq_43355454·2025-03-04 15:43

【Zinx】Day2-Part1：Zinx框架基础路由模块

IRequest层实现Request类IRouter路由配置抽象类创建抽象的IRouter层实现Router类在Zinxv0.3当中集成简单的路由功能IServer增添路由添加功能为Server添加Router成员
YGGP·2025-03-04 13:22

蚂蚁技术研究院发布推理大模型强化学习框架，邀请开发者共同助力 AGI 生态

AReaL源自开源项目ReaLHF，旨在训练每个人都可以复现和贡献的大型推理模型(LRM)。AReaL是蚂蚁技术研究院为开发一个完全开放和包容的AGI世界迈出的一步。
·2025-03-04 10:52

C++面试题：静态成员函数能不能被继承？

在C++中，静态成员函数可以被继承。写个简单的代码验证：静态成员函数对比普通函数有点特殊，静态成员函数是属于类本身的，而不是类的对象。可以通过类名直接调用静态成员函数，而无需创建类的实例（对象）。
CppPlayer-程序员阿杜·2025-03-04 09:56

北大版，86页DeepSeek黑科技手册！比清华版更炸裂（免费下载）

这份文档刚在学术圈炸锅，作为国内首个系统性拆解推理大模型（DeepSeek-R1）落地方案的公开资料，其价值不仅在于揭示了一款国产模型的工程实践，更折射出大模型技术从实验室走向产业化的关键路径。
2501_90850230·2025-03-04 09:55

浅谈C语言位段

1、位段的定义百度百科中是这样解释位段的:位段，C语言允许在一个结构体中以位为单位来指定其成员所占内存长度，这种以位为单位的成员称为“位段”或称“位域”(bitfield)。
平生不喜凡桃李·2025-03-04 09:54

每日一题----------抽象类的注意事项

也就是说，抽象类可以没有abstract方法3.一旦类包含了abstract方法，则这个类必须声明为abstract4.abstract只能修饰类和方法，不能修饰属性和其他的5.抽象类可以有任意成员，（
座山雕~·2025-03-04 09:54

小白也能十分钟打造自己的推理大模型！unsloth+Colab+DeepSeek-R1-Distill-Llama-8B轻松上手

小白也能十分钟打造自己的推理大模型！
AI超元域·2025-03-04 07:08

面向对象进阶（下）(JAVA笔记第二十五期)

p.s.这是萌新自己自学总结的笔记，如果想学习得更透彻的话还是请去看大佬的讲解目录抽象方法和抽象类抽象方法定义格式抽象类定义格式抽象方法和抽象类注意事项接口接口的定义接口中成员变量的特点接口中没有构造方法接口中成员方法的特点在接口中定义具有方法体的方法在接口中新增默认方法
不会聊天真君647·2025-03-04 05:55

私有部署 ChatGLM3-6B

1.在AutoDL平台上租赁GPUGPU型号：RTX4090PyTorch版本：2.5.1**（推荐使用2.0及以上的版本，以获得最佳的推理性能）**2.开启学术资源加速source/etc/network_turbo3
张申傲·2025-03-04 03:16

DeepSeek-OpenSourceWeek-第六天-Inference System Overview

开源周的第6天，DeepSeek对DeepSeek-V3/R1推理系统进行了深入概述。本文将深入探讨该系统的设计原则、优化策略以及性能统计数据，重点突出在吞吐量和延迟优化方面取得的显著进展。
数据分析能量站·2025-03-04 01:57

DeepSeek-R1：通过强化学习激励大型语言模型的推理能力

摘要我们介绍了第一代推理模型DeepSeek-R1-Zero和DeepSeek-R1。
AI专题精讲·2025-03-03 22:05

深入解析 ZooKeeper：分布式协调服务的原理与应用

ZooKeeper的设计目的是为了简化分布式系统中常见的任务，例如命名、配置管理、同步（包括锁和选举）、组成员关系等。
guihong004·2025-03-03 20:40

清华「DeepSeek从入门到精通」正式发布！104页超全解析使用教程

还有些用的是chatGPT的训练方式，要知道，DeepSeek和chatGPT是两种模型，一个是推理型，一个是指令型，这是驴唇不对马嘴啊。
职场程序猿·2025-03-03 18:28

Java中的接口（Interface）和抽象类（Abstract Class）的区别

以下从多个维度详细分析，并结合示例说明：一、语法结构差异成员变量抽象类：可以包含普通成员变量（非静态、可修改）、静态变量，且变量可被子类继承或重定义。publicabst
萌新coder·2025-03-03 17:24

数据挖掘与数据分析的区别是什么

从分析的过程来看，数据分析更侧重于统计学上面的一些方法，经过人的推理演译得到结论；数据挖掘更侧
中琛源科技·2025-03-03 17:24

GPT-4.5

通过扩展无监督学习，GPT-4.5增强了识别模式、建立联系和创造性洞察的能力，尽管它并不是专门为推理任务设计的。早期测试者表示，与GPT-4.5交互的
开发者每周简报·2025-03-03 15:38

C++学习：继承

文章目录文章目录前言一、继承的基本语法二、继承的方式1.公共继承2.保护继承3.私有继承三、继承中的对象模型四、继承中的构造和析构顺序五、继承同名成员处理方式1.继承同名非静态成员处理方式2.继承同名静态成员处理方式总结前言
DesolateGIS·2025-03-03 15:37

本地部署大语言模型-DeepSeek

DeepSeek是国内顶尖AI团队「深度求索」开发的多模态大模型，具备数学推理、代码生成等深度能力，堪称"AI界的六边形战士"。
NightReader·2025-03-03 15:36

DeepSeek-R1 技术报告解读：用强化学习激发大模型的推理潜能

文章目录1.背景2.DeepSeek-R1训练流程2.1DeepSeek-R1-Zero：纯强化学习2.2DeepSeek-R1：冷启动+多阶段训练3.蒸馏小模型3.1蒸馏流程与优势3.2蒸馏vs.直接RL4.实验结果4.1主模型表现4.2蒸馏模型表现5.关键创新与思考6.总结参考链接**导读：**DeepSeek-R1是近期发布的一款开源大模型，它将纯强化学习与多阶段训练策略相结合，大幅提升了模
跑起来总会有风·2025-03-03 14:04

C++类与对象深度解析（二）：从const 、new 、delete到函数操作符与友元函数的编程实践

目录引言1.C++中的const、new、delete和static1.1const关键字1.1.1const变量1.1.2const成员函数1.2new和delete1.2.1动态分配单个对象1.2.2
tanyongxi66·2025-03-03 14:32

让 DeepSeek 更“聪明”：一键解析 PDF 和 Word 文档的 GUI 小工具，轻松处理复杂文档

DeepSeek-r1:1.5b是一款强大的语言模型，能够根据输入的自然语言进行推理和生成，但其原生本地部署环境并不支持直接上传文档进行解析。
Python测试之道·2025-03-03 12:10

Java进阶——面向对象编程

本文目录一、三大特性1.封装2.继承3.多态二、类与对象1.对象创建2.构造方法3.静态成员三、访问控制修饰符四、方法相关1.方法签名2.final关键字3.可变参数五、对象生命周期六、高级特性1.接口和抽象类
1加1等于·2025-03-03 12:10

在 MacBook 上设置 DeepSeek R1 (8B) 的 3 个步骤

简介DeepSeek最近发布了R1模型，该模型在本地AI推理方面表现出色。如果您希望在MacBook上运行它，Ollama提供了一种无缝的方式来下载和管理模型。
知识大胖·2025-03-03 11:04

测试工程师必备！多格式接口用例结合deepseek生成工具完整实现与实战验证

为了解决这一问题，本文将实现一款基于PyQt5的多格式接口用例生成工具，支持从文档导入到解析、推理生成、导出等全流程功能。
Python测试之道·2025-03-03 10:00

YOLO 中 SPFF 模块的优化与 Focal Modulation 替代研究

FocalModulation替换SPPF4.实验与对比分析4.1代码替换YOLO模型中的SPPF4.2训练对比5.AblationStudy（消融实验）5.1不同模块的对比实验5.2目标尺寸对比分析6.模型部署与推理优化
向哆哆·2025-03-03 10:57

c++中深拷贝和浅拷贝的联系和区别

1.基本概念浅拷贝：浅拷贝仅仅复制对象的成员变量值。
已是上好佳·2025-03-03 09:24

DeepSeek-R1：重新定义推理性能的开源人工智能

挑战与未来方向影响与愿景2025年1月20日–DeepSeek推出了DeepSeek-R1，这是一款突破性的开源人工智能推理模型，旨在与OpenAI的o1等专有对手竞争。该模型在M
知识小报童·2025-03-03 08:11

牛，用Rust重写了SQLite

在这样的背景下，libSQL应运而生，作为一个开放的贡献项目，我们诚挚邀请社区成员加入我们，共同构建这个项目。令人惊喜的是，**libSQL取得了巨大的成功。
AI大模型入门教程·2025-03-03 08:08

本地部署 DeepSeek-R1-671B 满血版大模型

DeepSeek-R1大模型具备深度思考和推理能力，在数学、代码、自然语言推理等任务上都有着极大的提升。
Physicaloser·2025-03-03 07:05

超越GPT-4o！开源大模型DeepSeek满血版部署实战指南

自2024年12月DeepSeek发布对标GPT-4o的v3版本以来，其数学与代码推理能力已实现显著超越；而2025年1月推出的r1版本更是在多项基准测试中与GPT-4o的o1版本平分秋色。
剑圣土豆·2025-03-03 07:34

Svelte 开发 AI 应用：高效轻量级前端框架的 AI 集成探索

本文将探讨如何利用Svelte构建高效的AI应用，包括AIAPI集成、前端推理优化、可视化分析、Web组件开发等关键
赵大仁·2025-03-03 06:57

DeepSeek R1：揭示适度思考在信息处理中的关键作用

摘要DeepSeekR1是一款先进的大型推理模型，研究发现其在信息过载时性能显著下降。当减少过度思考，即不过度分析信息时，DeepSeekR1的计算成本可降低43%。
耶耶Norsea·2025-03-03 05:21

从入门到入土，java学习day6（面向对象和练习，今天练习偏复杂有些难度）

设计对象并使用类和对象类：是对象共同特征的描述对象：是真实存在的具体东西定义类publicclass类名{成员变量；成员方法；构造器；代码块；内部类；}获得类的对象类名对象名=new类名（）；使用对象访问属性
慕容魏·2025-03-03 05:14

从入门到入土，java学习day7(字符串)

字符串API：应用程序接口（别人已经写好的东西，我们不需要自己编写，直接使用即可）API帮助文档：帮助查询API的文档，直接搜索就可以先查看类所在的包，然后看类的描述怎么用，然后查看构造方法，然后查看成员方法字符串
慕容魏·2025-03-03 05:14

从入门到入土，Java学习day9（面向对象static）

static表示静态，是Java中的一个修饰符，可以修饰成员方法，成员变量被static修饰的成员变量，叫做静态变量，静态变量是随着类的加载而加载的，优先于对象出现被该类所有对象共享，不属于对象，属于类调用方式
慕容魏·2025-03-03 05:14

大模型隐空间推理论文阅读笔记

TrainingLargeLanguageModelstoReasoninaContinuousLatentSpace一.简介机构：Meta代码：任务:特点:方法:1.1摘要现状：大语言模型往往局限在“languagespace"进行推理
猴猴猪猪·2025-03-03 03:57

《AI大模型开发笔记》DeepSeek技术创新点

革命性的上下文处理机制实现长文本推理成本断崖式下降，综合算力需求锐减90%，开启高效AI新纪元！
Richard Chijq·2025-03-03 03:57

C++（四）类与对象 下

再谈构造函数构造函数体赋值在创建对象时，编译器通过调用构造函数，给对象中各个成员变量一个合适的初始值classDate{public:Date(intyear,intmonth,intday){_year
cloud_disspated·2025-03-03 02:26

【AI大模型应用开发】精读ToT：论文到源码，看透ToT思维树的实现流程

上篇文章（【AI大模型应用开发】从CoT到ToT，再到ReAct，提升大模型推理能力的方式探索（含代码））我们学习了当下提高大模型推理能力的几个主要技术，从CoT（ChainofThought）到TOT
同学小张·2025-03-03 02:24

第17天：深入理解C++友元函数 - 打破封装边界的可控通道

友元函数是C++中具有特殊访问权限的外部函数，能够直接访问类的私有（private）和保护（protected）成员。这是对OOP封装原则的有限突破，在保持封装性的同时提供灵活访问。
JuicyActiveGilbert·2025-03-03 01:18

《解锁万相2.1大模型：开启视频创作新世界》：此文为AI自动生成

万相2.1作为阿里云通义系列AI模型的重要成员，自发
空云风语·2025-03-03 01:16
上一页 6 7 8 9 10 11 12 13 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他