推理加速

Pandas 高级使用技巧：高效数据处理与优化

拼接多个DataFrame3.提高查询和过滤效率使用`query`提高过滤性能⚡利用`loc`和`iloc`高效定位数据4.高效处理缺失值使用`fillna`填充缺失值⚖️删除含有缺失值的行5.使用多线程加速计算使用
壹屋安源·2025-03-05 07:23

【论文笔记】3DGS压缩相关工作2篇

有几种方法加速了训练和渲染过程，通常是利用空间数据结构或者像哈希这样的编码方式，不过牺牲了视觉质量。近期
AndrewHZ·2025-03-05 06:11

Sui 携手 RedStone 将 BTC 功能引入链上，进一步扩展 BTCfi 生态

RedStone为超过140个DeFi协议提供价格数据，确保价格准确性，并加速BTC支持的DeFi发展，进一步加强SuiBTCfi生态。
Sui_Network·2025-03-05 06:40

aurora mysql_Amazon Aurora MySQL 概述 - Amazon Aurora

快速插入快速插入加速了按主键排序的并行插入，特别适用于LOADDATA和INSERTIN
余米知·2025-03-05 05:35

2025年初-值得关注的几款推理模型

1Claude3.7SonnetClaude3.7Sonnet是由AI研究公司Anthropic开发的最新混合推理模型，于2025年2月24日发布。
数据分析能量站·2025-03-05 01:24

DeepSeek赋能生活全场景：20个职场人/学生/宝妈必备AI实践指南

一、学习成长加速器1.智能简历优化师使用场景：输入基础工作经历，自动生成ATS友好型简历，附带岗位关键词匹配与成就量化建议高阶技巧：上传JD文件，获取定制化简历修改报告2.论文架构大师核心功能：根据研究主题自动生成三级大纲框
小小鸭程序员·2025-03-05 00:46

大语言模型原理与工程实践：大语言模型推理工程推理加速：算子优化

其中，推理（Inference）过程是大语言模型的核心环节之一。然而，随着模型规模的不断扩大，推理过程中的计算复杂度和延时也逐渐成为制约模型应用的重要因素。
AI天才研究院·2025-03-04 22:32

大模型推理速度测评的实战代码

今天给大家带来的文章是大模型推理速度测评的实战代码，希望能对学习大模型的同学们有所帮助
herosunly·2025-03-04 21:59

AI边缘处理设备怎么合理分配宽带和运行资源

边缘设备通常面临有限的资源，但需要处理大量的数据流和计算任务，尤其是在AI推理和实时数据处理的场景下。
码农的日常搅屎棍·2025-03-04 19:42

Deepseek的底层架构思维构成

通过低秩联合压缩技术，将键（Key）和值（Value）矩阵压缩到潜在空间，显著减少推理时的显存占用。例如，MLA可将显存需求降至传统多头注意力（MHA）的个位数百分比。
堕落年代·2025-03-04 19:09

基于PyTorch的深度学习2——Numpy与Tensor

不过它们也有不同之处，最大的区别就是Numpy会把ndarray放在CPU中进行加速运算，而由Torch产生的Tensor会放在GPU中进行加速运算。
Wis4e·2025-03-04 15:38

在 Ubuntu 系统 22.04 上安装 Docker

.安装依赖工具3.添加Docker官方GPG密钥4.添加Docker的APT仓库5.安装DockerEngine6.启动并设置Docker服务7.验证安装8.配置非Root用户权限（可选）9.配置镜像加速器
ac.char·2025-03-04 14:30

【PCIE737】基于全高PCIe x8总线的KU115 FPGA高性能硬件加速卡

产品概述PCIE737是一款基于PCIE总线架构的KU115FPGA的12路光纤通道处理平台，该板卡具有1个PCIeGen3x8主机接口、3个QSFP+40G光纤接口，可以实现3路QSFP+40G光纤的数据实时采集、实时缓存与PCIE高速传输。该板卡采用Xilinx的高性能KintexUltraScale系列FPGAXCKU115作为主处理器，板载4组独立的64位DDR4SDRAM超大容量数据缓存
北京青翼科技·2025-03-04 11:39

蚂蚁技术研究院发布推理大模型强化学习框架，邀请开发者共同助力 AGI 生态

AReaL源自开源项目ReaLHF，旨在训练每个人都可以复现和贡献的大型推理模型(LRM)。AReaL是蚂蚁技术研究院为开发一个完全开放和包容的AGI世界迈出的一步。
·2025-03-04 10:52

20个被低估的Python性能优化技巧（附实测数据）

1.利用局部变量加速访问原理：局部变量访问（LOAD_FAST）比全局变量（LOAD_GLOBAL）快3-4倍优化方案：#优化前（耗时0.78秒）defcalcula
猿享天开·2025-03-04 10:29

Computer Systems A Programmer‘s Perspective 深入理解计算机系统 1

程序执行的流程2.程序执行过程中发生了什么3.设备容量4.Cache5.存储设备的层次结构四、操作系统的作用1.操作系统的作用2.进程3.进程角度五、虚拟内存1.虚拟内存2.文件3.系统之间利用网络通信六、系统加速
清水湾的水·2025-03-04 09:56

ubuntu24.04启动黑屏

首先关闭虚拟机，然后在虚拟机设置-显示器-3D图形那里关闭加速3D图形。这时候就可以重新登录进去了，但是没有了图形加速，画面就没有那么流畅了。怎么办？
锋风Fengfeng·2025-03-04 09:55

北大版，86页DeepSeek黑科技手册！比清华版更炸裂（免费下载）

这份文档刚在学术圈炸锅，作为国内首个系统性拆解推理大模型（DeepSeek-R1）落地方案的公开资料，其价值不仅在于揭示了一款国产模型的工程实践，更折射出大模型技术从实验室走向产业化的关键路径。
2501_90850230·2025-03-04 09:55

基于Wi-Fi+蜂窝的双通道切片加速系统设计与应用

摘要随着互联网业务的快速发展，人们对加速业务的需求越来越强烈，特别是视频直播、游戏和支付等业务，这些对网络带宽、时延、稳定性提出了更高的要求。
罗思付之技术屋·2025-03-04 08:48

小白也能十分钟打造自己的推理大模型！unsloth+Colab+DeepSeek-R1-Distill-Llama-8B轻松上手

小白也能十分钟打造自己的推理大模型！
AI超元域·2025-03-04 07:08

python数据分析入门与实战王静_Keras快速上手：基于Python的深度学习实战

准备深度学习的环境11.1硬件环境的搭建和配置选择.........................11.1.1通用图形处理单元..........................31.1.2你需要什么样的GPU加速卡
weixin_39724362·2025-03-04 04:52

私有部署 ChatGLM3-6B

1.在AutoDL平台上租赁GPUGPU型号：RTX4090PyTorch版本：2.5.1**（推荐使用2.0及以上的版本，以获得最佳的推理性能）**2.开启学术资源加速source/etc/network_turbo3
张申傲·2025-03-04 03:16

智慧园区建设方案

第一章项目概况1.1项目背景近年来，伴随着中国城市化的加速发展以及智慧城市建设的不断加速，传统的园区运行模式已经不能适应当前经济与城市化进程的步伐，产业园区成为了城市智能化发展建设的核心，建设智慧园区已是大势所趋
珞圻-Health·2025-03-04 01:58

DeepSeek-OpenSourceWeek-第六天-Inference System Overview

开源周的第6天，DeepSeek对DeepSeek-V3/R1推理系统进行了深入概述。本文将深入探讨该系统的设计原则、优化策略以及性能统计数据，重点突出在吞吐量和延迟优化方面取得的显著进展。
数据分析能量站·2025-03-04 01:57

DeepSeek-R1：通过强化学习激励大型语言模型的推理能力

摘要我们介绍了第一代推理模型DeepSeek-R1-Zero和DeepSeek-R1。
AI专题精讲·2025-03-03 22:05

深度学习pytorch之4种归一化方法（Normalization）原理公式解析和参数使用

pytorch之19种优化算法（optimizer）解析深度学习pytorch之4种归一化方法（Normalization）原理公式解析和参数使用摘要归一化（Normalization）是提升模型性能、加速训练的重要技巧
@Mr_LiuYang·2025-03-03 21:55

数智节点DXN港澳门户启航 绘制区块链全新生态蓝图

在国家“十四五”规划和2035年远景目标纲要中，区块链被正式纳入“新基建”范畴，成为加速发展数字经济和建设数字中国的大政方针。
数智节点DXN·2025-03-03 19:09

清华大学DeepSeek实战教程：从零搭建AI研究平台

详细教程：https://pan.quark.cn/s/0c54472847fc一、清华大学AI实验室环境配置1.TsinghuaMirrors加速配置#设置清华镜像源condaconfig--addchannelshttps
2501_90856941·2025-03-03 19:39

清华「DeepSeek从入门到精通」正式发布！104页超全解析使用教程

还有些用的是chatGPT的训练方式，要知道，DeepSeek和chatGPT是两种模型，一个是推理型，一个是指令型，这是驴唇不对马嘴啊。
职场程序猿·2025-03-03 18:28

数据挖掘与数据分析的区别是什么

从分析的过程来看，数据分析更侧重于统计学上面的一些方法，经过人的推理演译得到结论；数据挖掘更侧
中琛源科技·2025-03-03 17:24

刚刚，马斯克xAI再融60亿美元，老黄AMD都投了

官网中指出，此次融资将用于进一步加速他们的基础设施，推出将被数十亿人使用的突破性产品，并加速未来技术的研发，以实现公司了解宇宙真实本质的使命
·2025-03-03 17:51

【大模型】Ollama 更改镜像源，通过魔搭拉取模型

以下介绍通过魔搭社区的模型库拉取大模型的方法：ModelScope2Registry是Ollama到ModelScope的模型Registry镜像站/加速器，它为Model
OpenSeek·2025-03-03 17:20

人工智能 - AI Code中国AI原生IDE上线：Trae国内版如何革新开发者体验？

导语在人工智能技术加速渗透各行各业的今天，字节跳动于2025年3月3日正式发布了中国首个AI原生集成开发环境（AIIDE）——Trae国内版。
天机️灵韵·2025-03-03 17:20

GPT-4.5

通过扩展无监督学习，GPT-4.5增强了识别模式、建立联系和创造性洞察的能力，尽管它并不是专门为推理任务设计的。早期测试者表示，与GPT-4.5交互的
开发者每周简报·2025-03-03 15:38

本地部署大语言模型-DeepSeek

DeepSeek是国内顶尖AI团队「深度求索」开发的多模态大模型，具备数学推理、代码生成等深度能力，堪称"AI界的六边形战士"。
NightReader·2025-03-03 15:36

DeepSeek-R1 技术报告解读：用强化学习激发大模型的推理潜能

文章目录1.背景2.DeepSeek-R1训练流程2.1DeepSeek-R1-Zero：纯强化学习2.2DeepSeek-R1：冷启动+多阶段训练3.蒸馏小模型3.1蒸馏流程与优势3.2蒸馏vs.直接RL4.实验结果4.1主模型表现4.2蒸馏模型表现5.关键创新与思考6.总结参考链接**导读：**DeepSeek-R1是近期发布的一款开源大模型，它将纯强化学习与多阶段训练策略相结合，大幅提升了模
跑起来总会有风·2025-03-03 14:04

Baklib如何实现内容中台最佳实践？

内容概要在数字化转型加速的当下，企业内容管理正面临显性与隐性知识割裂、协作效率低下等核心挑战。内容中台作为连接业务与技术的枢纽，需通过系统化架构实现知识资产的高效流转与复用。
清风徐徐de来·2025-03-03 13:56

让 DeepSeek 更“聪明”：一键解析 PDF 和 Word 文档的 GUI 小工具，轻松处理复杂文档

DeepSeek-r1:1.5b是一款强大的语言模型，能够根据输入的自然语言进行推理和生成，但其原生本地部署环境并不支持直接上传文档进行解析。
Python测试之道·2025-03-03 12:10

【DeepSeek R1构建本地RAG知识库】应用框架选型对比（MaxKB、Dify、FastGPT、RagFlow、Anything-LLM）

Anything-LLM1.简介2.技术概览六、更多资料1.LLM框架推荐2.RAG生产落地实践架构七、总结1.综合对比2.优缺点对比3.按需选择4.社区与支持5.部署与使用便捷性结尾前言在人工智能技术加速渗透各行各业的今天
Xd聊架构·2025-03-03 11:06

在 MacBook 上设置 DeepSeek R1 (8B) 的 3 个步骤

简介DeepSeek最近发布了R1模型，该模型在本地AI推理方面表现出色。如果您希望在MacBook上运行它，Ollama提供了一种无缝的方式来下载和管理模型。
知识大胖·2025-03-03 11:04

算力100问☞第68问：大模型红利何时到来？

目录1、技术成熟与市场认知：红利期的起点已至2、行业落地：红利分阶段释放3、时间窗口：2024-2034年或为红利持续期4、政策与区域布局：加速红利释放5、挑战与可持续性大模型红利的到来时间因行业和应用场景的差异而呈现不同步性
正儿八经的数字经·2025-03-03 11:34

测试工程师必备！多格式接口用例结合deepseek生成工具完整实现与实战验证

为了解决这一问题，本文将实现一款基于PyQt5的多格式接口用例生成工具，支持从文档导入到解析、推理生成、导出等全流程功能。
Python测试之道·2025-03-03 10:00

YOLO 中 SPFF 模块的优化与 Focal Modulation 替代研究

FocalModulation替换SPPF4.实验与对比分析4.1代码替换YOLO模型中的SPPF4.2训练对比5.AblationStudy（消融实验）5.1不同模块的对比实验5.2目标尺寸对比分析6.模型部署与推理优化
向哆哆·2025-03-03 10:57

网站快速收录与网站内链布局的关系研究

合理的内链布局不仅有助于提升用户体验，还能优化搜索引擎的抓取效率，从而加速网站的收录速度。
百度网站快速收录·2025-03-03 10:55

DeepSeek-R1：重新定义推理性能的开源人工智能

挑战与未来方向影响与愿景2025年1月20日–DeepSeek推出了DeepSeek-R1，这是一款突破性的开源人工智能推理模型，旨在与OpenAI的o1等专有对手竞争。该模型在M
知识小报童·2025-03-03 08:11

本地部署 DeepSeek-R1-671B 满血版大模型

DeepSeek-R1大模型具备深度思考和推理能力，在数学、代码、自然语言推理等任务上都有着极大的提升。
Physicaloser·2025-03-03 07:05

超越GPT-4o！开源大模型DeepSeek满血版部署实战指南

自2024年12月DeepSeek发布对标GPT-4o的v3版本以来，其数学与代码推理能力已实现显著超越；而2025年1月推出的r1版本更是在多项基准测试中与GPT-4o的o1版本平分秋色。
剑圣土豆·2025-03-03 07:34

小米 SU7 Ultra：科技与性能的极致融合，FPC 隐匿的关键力量【新立电子】

其搭载的三电机四驱系统（双V8s电机+单V6s电机），综合功率高达1548马力，零百加速仅需1.9
珠海新立电子FPC·2025-03-03 06:28

Svelte 开发 AI 应用：高效轻量级前端框架的 AI 集成探索

本文将探讨如何利用Svelte构建高效的AI应用，包括AIAPI集成、前端推理优化、可视化分析、Web组件开发等关键
赵大仁·2025-03-03 06:57

DeepSeek R1：揭示适度思考在信息处理中的关键作用

摘要DeepSeekR1是一款先进的大型推理模型，研究发现其在信息过载时性能显著下降。当减少过度思考，即不过度分析信息时，DeepSeekR1的计算成本可降低43%。
耶耶Norsea·2025-03-03 05:21
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他