深度学习模型推理加速

算力技术创新驱动多场景应用演进

在工业互联网场景中，边缘计算通过分布式节点实现毫秒级响应，支撑智能制造产线的实时控制；智能安防系统依托深度学习模型与流计算技术，完成海量视频数据的动态解析；而科学计算领域通过分布式计算与模型压缩技术，将基因测序
智能计算研究中心·2025-03-19 11:06

DeepSeek高能低耗AI创作突破

内容概要随着人工智能技术向垂直领域加速渗透，生成式模型的应用边界正经历革命性拓展。DeepSeek系列产品通过670亿参数混合专家架构，构建起覆盖学术研究、内容创作与编程开发的多模态解决方案。
智能计算研究中心·2025-03-19 11:06

AI模型技术前沿与跨场景应用实践

应用层面，TensorFlow与PyTorch框架在医疗影像诊断、金融时序预测等领域的实战案例，验证了深度学习模型在垂直行业的泛化能力。值得关注的是，工具链整合已成为技术落地的关键环节，MXNet与
智能计算研究中心·2025-03-19 11:36

算力未来演进与多场景创新

从技术架构层面来看，异构计算通过整合CPU、GPU、FPGA等多元芯片实现性能跃升，边缘计算则借助分布式节点降低时延并提升响应效率，而量子计算在特定领域的指数级加速潜力已进入验证阶段。
智能计算研究中心·2025-03-19 11:06

未来5年AI人工智能与信息技术领域发展趋势

以Transformer为核心的序列建模技术持续迭代，字节跳动云雀模型通过动态结构优化，在保持语言理解能力的同时将参数量压缩至GPT-4的1/10，推理速度提升3倍。
海宁不掉头发·2025-03-19 11:03

Selenium 中并行测试的重要性

随着技术的进步，测试解决方案变得更具可扩展性，加速了团队从手动测试到Selenium测试自动化的转型。但是成年人的世界，没有什么是容易的。对于许多团队来说，并行运行多个测试仍然是不可扩展的。
测试大大怪·2025-03-19 10:23

使用 DeepSeek-R1 为 RAG 运行本地 Gradio 应用程序

第1步：先决条件在深入研究实现之前，我们确保已安装以下工具和库：Python3.8+Python3.8+版Langchain：用于构建由大型语言模型（）LLMs提供支持的应用程序的框架，支持轻松检索、推理和工具集成
呱牛 do IT·2025-03-19 10:53

OctoTools：一个具有复杂推理可扩展工具的智体框架

解决复杂的推理任务可能涉及视觉理解、域知识检索、数值计算和多步骤推理。现有方法使用外部工具增强大语言模型(LLM)，但仅限于专业领域、有限的工具类型或需要额外的训练数据。
三谷秋水·2025-03-19 09:09

【大模型开发】ONNX 格式的大模型在 Android 上的部署与测试

最后会给出一些针对在移动设备上部署ONNX推理的优化方法和未来建议。
云博士的AI课堂·2025-03-19 08:05

从混乱到高效：企业如何利用CMDB优化资产管理与战略决策

在数字化转型加速的今天，企业在面对海量且日益复杂的IT资产和系统配置时，往往会出现数据混乱、信息孤岛和决策盲区等问题。
·2025-03-19 07:54

Linux中部署DeepSeek R1

DeepSeek-R1本地部署硬件需求表模型规模GPU需求CPU需求内存需求存储需求备注1.5B-GTX16504GB（可选）四核i5/Ryzen3000+16GBDDR450GBSSD需4-bit量化，CPU推理延迟约
Java探索者 °·2025-03-19 07:26

生物分子仿真软件： Desmond_（3）.分子动力学模拟基础

通过解决牛顿运动方程，MD模拟可以提供分子系统的详细动力学信息，包括原子位置、速度和加速度。这些信息对于理解生物分子的结构、功能和相互作用至关重要。
kkchenjj·2025-03-19 07:54

金融租赁系统的创新发展与市场竞争力提升探讨

在现今环境下，新兴技术如人工智能、大数据和区块链等正加速推动金融租赁的创新。通过这些技术，不仅可以优化业务流程，提升运营效率，还可以增强风险管理能力。
红点租赁系统开发·2025-03-19 05:33

自建智能算力中心 vs 第三方算力租赁：AI企业的算力博弈与最优解

从ChatGPT到DeepSeek，从自动驾驶到智能医疗，AI模型的训练和推理需求呈现指数级增长。在这场技术革命中，算力已成为企业竞争的“命脉”。
·2025-03-19 03:50

近期docker镜像加速器被封杀，需要的请看此内容 点赞加关注

{“registry-mirrors”:[“https://docker.m.daocloud.io”],“insecure-registries”:[“harbor.sunya.com”],“exec-opts”:[“native.cgroupdriver=systemd”],“data-root”:“/data/docker”,“log-driver”:“json-file”,“log-opt
加油干sit！·2025-03-19 03:43

AI人工智能深度学习算法：搭建可拓展的深度学习模型架构

深度学习模型的成功离不开其强大的学习能力和可拓展性。本文将深入探讨深度学习算法的原理、模型架构设计以及可拓展性的关键要素，并通过代码实例和实际应用场景，帮助读者理解如何搭建可拓展的深度学习模型架构。
AI大模型应用之禅·2025-03-19 02:09

机器学习之向量化

文章目录向量化是什么为什么要向量化提升计算效率简化代码与增强可读性适配模型需求怎么做向量化数据预处理特征提取特征选择向量构建机器学习与深度学习中向量化的区别数据特征提取方式机器学习深度学习模型结构与复杂度机器学习深度学习计算资源需求机器学习深度学习数据规模适应性机器学习深度学习向量化是什么向量化是把数据转化为向量形式进行表示与处理的过程
珠峰日记·2025-03-19 01:35

NLP高频面试题（四）——BN和LN的区别与联系，为什么attention要用LN

在深度学习模型中，Normalization是一种极为重要的技巧，BatchNormalization（BN）和LayerNormalization（LN）是其中最为常用的两种方法。
Chaos_Wang_·2025-03-19 00:24

《Python实战进阶》No26: CI/CD 流水线：GitHub Actions 与 Jenkins 集成

No26:CI/CD流水线：GitHubActions与Jenkins集成摘要持续集成（CI）和持续部署（CD）是现代软件开发中不可或缺的实践，能够显著提升开发效率、减少错误并加速交付流程。
带娃的IT创业者·2025-03-19 00:50

Spring AI Alibaba 应用框架挑战赛圆满落幕，恭喜获奖选手

SpringAIAlibaba是一款Java语言实现的AI应用开发框架，用于加速和简化Java开发者的AI应用开发，定义Spring框架下的AI应用开发模式。
·2025-03-18 22:44

理解深度学习1-简介

它覆盖了众多方法，涵盖了基于逻辑、搜索和概率推理的技术。机器学习是AI的一个分支，它通过对观测数据进行数学模型拟合来学习决策制定。这个领域近年来迅猛发展，现在几乎（虽不完全准确）与AI同义。
shangjg3·2025-03-18 21:35

程序员必看！DeepSeek全栈开发实战指南：从代码生成到性能优化

这两项技术突破对程序员群体意义重大：通信效率飞跃：DeepEP通过NVLink优化实现GPU间158GB/s传输速度，后端开发者训练大模型时可节省60%集群资源推理性能突破：R1模型在H
AI创享派·2025-03-18 20:59

前端架构师具备什么能力？前端性能优化全链路指南

加载时：加速资源加载（懒加载、预加载）。运行时：提升渲染效率（虚拟列表、WebWorker）。监控与诊断：用工具定位问题（ChromePerformance、Lighth
kerwin_1727·2025-03-18 20:25

智慧社区2.0

面试时可以强调：Redis作为缓存，加速社区热点数据访问，减少MySQL压力。HDFS存储海量日志和AI任务数据，支持后续分析。OSS解决图片
陈陈爱java·2025-03-18 19:53

五、AIGC大模型_05模型的vLLM部署与LangChain调用

0、概述要搭建一个大模型应用服务，通常需要包含以下五层结构，即：基础环境、模型层、推理层、对外接口、外挂应用在了解了模型的微调训练之后，本文将以vLLM、OpenAI、LangChain为例，介绍大模型的推理部署以及对外接口开放调用
学不会lostfound·2025-03-18 19:20

PyTorch 深度学习实战（17）：Asynchronous Advantage Actor-Critic (A3C) 算法与并行训练

本文将介绍强化学习领域的重要里程碑——AsynchronousAdvantageActor-Critic(A3C)算法，并展示如何利用PyTorch实现并行化训练来加速学习过程。
进取星辰·2025-03-18 19:17

开源应用驱动企业新质生产力：Websoft9以EPP+AI+知识库助您领跑未来

开源应用驱动企业新质生产力：Websoft9以EPP+AI+知识库助您领跑未来在数字化转型加速的今天，企业新质生产力的核心已从传统资源投入转向技术驱动的效率革命。
·2025-03-18 18:35

最新NPU芯片详解及应用场景

近年来，NPU（神经网络处理器）技术快速发展，各大厂商推出多款高性能AI加速芯片，覆盖从端侧设备到云端数据中心的多样化需求。
美好的事情总会发生·2025-03-18 18:10

3D-AFFORDANCELLM: HARNESSING LARGE LANGUAGE MODELS FOR OPEN-VOCABULARY AFFORDANCE DETECTION

为了解决这些限制，我们将传统的可及性检测范式重新定义为指令推理可及性分割（IRAS）任务。该任务旨在根据查询推理文本输出可及性掩码区域，避免了输入标签的固定类别。相应地，我们提出了
UnknownBody·2025-03-18 16:00

yolov4

从数据层面和网络设计层面来进行改善消融实验，感觉能做的都让他给做了，这工作量不轻全部实验都是单GPU完成，不用太担心设备了Bagoffreebies(BOF)只增加训练成本，但是能显著提高精度，并不影响推理速度数据增强
zzh-·2025-03-18 16:28

李开复：AI 2.0 时代的机遇

然而，深度学习模型的训练成本高、数据依赖性强、可解释性差等问题仍然制约着AI技术的进一步发展。李开复先生在《AI2.0时代的机遇》
AGI大模型与大数据研究院·2025-03-18 15:52

YOLOv8 的简介 及C#中如何简单应用YOLOv8

YOLOv8是YOLO（YouOnlyLookOnce）系列中的最新版本，是一种用于目标检测和图像分割的深度学习模型。YOLO模型以其快速和准确的目标检测性能而著称，广泛应用于实时应用程序中。
码上有潜·2025-03-18 14:46

llama.cpp 和 LLM（大语言模型）

它通过海量文本数据训练，能够生成连贯、语义丰富的文本，完成问答、创作、推理等任务。特点：参数规模大：如GPT-3（1750亿参数）、Llama-65B（650亿参数）等。
这个懒人·2025-03-18 14:12

Elasticsearch：为推理端点配置分块设置

推理端点对一次可处理的文本量有限，具体取决于模型的输入容量。分块（Chunking）是指将输入文本拆分成符合这些限制的小块的过程，在将文档摄取到semantic_text字段时会进行分块。
Elastic 中国社区官方博客·2025-03-18 13:35

Yolov11目标检测(ultralytics)

Yolov11目标检测（ultralytics）1.克隆仓库2.安装环境依赖3.训练、验证、推理以及onnx模型导出1.克隆仓库从官网下载Yolov11到本地。
@M_J_Y@·2025-03-18 13:02

《突破性能瓶颈，用 Rust + WASM 实现浏览器端FFT加速300%实战》

传统JavaScript的FFT计算在万级数据点时就会引发严重卡顿，但今天我们将用**Rust+WebAssembly**的组合拳，在浏览器中实现**零依赖、300%加速的傅里叶变换**。
煜bart·2025-03-18 12:29

TorchServe详解和应用

TorchServer是PyTorch的一个组件，它是一个轻量级的服务框架，用于部署和管理PyTorch模型，以便在生产环境中提供高效、可扩展的推理服务。
易之阴阳·2025-03-18 11:43

第4章：二房东都怕你知道：用DeepSeek让隔断房电表不再吃人

第4章：二房东都怕你知道：用DeepSeek让隔断房电表不再吃人——前电力稽查工程师的隐蔽战场纪实4.1租约里的隐藏税上海某城中村的调查报告触目惊心：67%的隔断房存在电表加速现象，普通单间月耗电量竟高达
m0_65737849·2025-03-18 10:00

大模型与自然语言理解（NLU）：差异与联系

1.定义与目标大模型:通常指拥有庞大参数规模（数十亿甚至数千亿）的深度学习模型，例如GPT-3、LaMDA等。它们通过海量文本数据进行训练，旨在学习语言的统计规律，并能够生成流畅、连贯的文本。
技术流 Gavin·2025-03-18 09:59

QT6在线安装加速

以下提供一个可以加速的方案，无需使用加速度、Nginx等。操作步骤以下步骤以Macos为例，其他系统类似。
技术流 Gavin·2025-03-18 09:58

用户模块——redis工具类

在开发中，我们经常使用Redis来加速数据读取，减轻数据库压力，提升应用性能。1.2为什么要使用Redis工具类？在实际开发中，
ktkiko11·2025-03-18 09:25

SMT贴片加工核心技术突破与实践

内容概要在电子制造行业加速向智能化转型的背景下，SMT贴片加工企业的技术革新正成为产业升级的关键驱动力。
安德胜SMT贴片·2025-03-18 08:47

Flink流式计算系统

本文将以这些概念为基础，逐一介绍Flink的发展背景、核心概念、时间推理与正确性工具、安装部署、客户端操作、编程API等内容，让开发人员对Flink有较为全面的认识并拥有一些基础操作与编程能力。
xyzkenan·2025-03-18 07:13

PyTorch 生态概览：为什么选择动态计算图框架？

其核心优势体现在：动态灵活性：代码即模型，支持即时调试Python原生支持：无缝衔接Python生态高效的GPU加速：通过CUDA实现透明的硬件加速活跃的社区生态：GitHub贡献者超1.8万人，日均更新
小诸葛IT课堂·2025-03-18 07:12

openEuler 24.03 LTS发布，加速库UADK迎来重要更新

openEuler加速库也迎来了重要更新。本文将带各位读者详细了解openEuler加速库SIG【1】的重要组件UADK的能力，价值和发展状态。1.UADK的起源和能力UADK，全称为用户态硬件加
openEuler社区·2025-03-18 07:08

学习pytorch

学习计划概览学习周期：8周（每周约4-5小时）目标：掌握PyTorch基础，能够实现简单的深度学习模型。第1周：基础知识目标：了解深度学习的基础知识，掌握Python和NumPy基础。
阿什么名字不会重复呢·2025-03-18 07:08

Windows 图形显示驱动开发-WDDM 3.0功能- D3D12 视频编码（一）

关于Direct3D12视频编码在Windows11（WDDM3.0）之前，DirectX12提供了应用程序和驱动程序级接口（API和DDI），以支持多个视频应用程序的GPU加速，包括视频解码、视频处理和运动估计
程序员王马·2025-03-18 07:38

深度学习模型压缩：非结构化剪枝与结构化剪枝的定义与对比

****在深度学习中，模型压缩是优化模型性能、降低存储和计算成本的重要技术之一。其中，剪枝（Pruning）是最常用的方法之一。根据剪枝的粒度和目标，剪枝可以分为非结构化剪枝（UnstructuredPruning）和结构化剪枝（StructuredPruning）。本文将详细介绍这两种剪枝方法的定义，并通过对比帮助读者更好地理解它们的差异。1.非结构化剪枝（UnstructuredPruning
从零开始学习人工智能·2025-03-18 03:37

基于树莓派的轻量级AI数字人开发全流程指南 ——从硬件选型到语音视觉交互实战

本文将以树莓派5开发板为核心，搭配AI加速硬件，结合开源框架，为大家详细阐述如何实现本地化轻量级数字人开发。
zhz5214·2025-03-18 02:56

从剪枝到知识蒸馏：深度学习模型压缩与加速的多重策略

正在不断更新中文章目录从剪枝到知识蒸馏：深度学习模型压缩与加速的多重策略1.
一键难忘·2025-03-18 00:13
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他