TensorRT推理加速

行业风向标｜「博睿数据2024年度精选案例集——观测先锋」重磅发布

为应对这些复杂挑战，随时洞悉瞬息万变的环境中所发生的一切，“可观测性（Observability）”应运而生，它可以帮助企业实现数据价值最大化，加速企业数字化转型。作为中国IT运维监控及可观测性领域领
博睿数据Bonree·2025-02-23 09:26

动态记忆网络 DeepMind的MEMO架构允许在推理时动态读写记忆矩阵，记忆容量提升40倍

传统的记忆网络通常只有一个外部记忆模块，而MEMO架构则引入了多层记忆模块，每一层记忆模块都以前一层记忆模块的输出作为输入，从而实现更复杂的记忆和推理。
玩人工智能的辣条哥·2025-02-23 09:24

【大模型】DeepSeek 高级提示词技巧使用详解

**明确目标**-**避免模糊性**：直接说明任务类型（如生成、分析、推理、创作）和期望的输出格式（如代码、列表、JSON、自然语言）。-**示例**：❌模糊提示：“帮我处理数据。”
大富大贵7·2025-02-23 06:01

加速渲染：Blender与在线渲染农场的结合

本文深入探讨了Blender与在线渲染农场结合的优势，如何加速创意过程，以及选择合适的在线渲染服务的关键考量。一、Blender与在线渲染农场的结合在线渲染农场利用云计算技术，提供了
Renderbus瑞云渲染农场·2025-02-23 05:21

deepseek-r1系列模型私有化部署分别需要的最低硬件配置

系列模型部署所需的最低硬件配置如下‌：‌DeepSeek-R1-1.5B‌‌CPU‌：最低4核（推荐多核处理器）‌内存‌：8GB+‌硬盘‌：3GB+存储空间（模型文件约1.5-2GB）‌显卡‌：非必需（纯CPU推理
Sophie'sCookingLab·2025-02-23 05:21

vllm安装及总结

其中xformers是加速用的，可以参考另外的帖子vLLM加速组件XFormers与FlashAttenti
赫连达·2025-02-23 04:19

【网络安全】网络安全防护体系

随着数字化转型的加速，网络安全的重要性日益凸显，它不仅关系到个人隐私和企业机密的保护，还涉及到国家安全和社会稳定。
黑客Ela·2025-02-23 04:47

DeepSeek爆火全网！清华团队104页教程+1000个神级提示词，手把手教你玩转AI神器

AI神器正文：一、DeepSeek最新动态：开源革命与政务应用双突破开源计划引爆开发者圈DeepSeek官方宣布将于下周启动“OpenSourceWeek”，开源5个核心代码库，涵盖在线服务基础组件、推理模型部署框架等关键技术
·2025-02-23 04:53

深度测评！国内四大云厂商 Deepseek API 谁最强？答案出人意料！

1.背景2025年1月20日左右，Deepseek推出了性能比肩OpenAIO1的DeepseekR1推理大模型，成功在国际市场出圈，实现“出口转内销”。
surfirst·2025-02-23 01:57

DeepSeek核心技术 MoE（混合专家模型）

在DeepSeek-V2的基础上，采用MLA（多头潜在注意力）和DeepSeekMoE进行高效的推理和经济的训练。
baiyi666_888·2025-02-23 01:22

【JavaScript】《JavaScript高级程序设计 (第4版) 》笔记-Chapter18-动画与 Canvas 图形

视觉上复杂的功能要求性能调优和硬件加速，不能拖慢浏览器。目前已经有一套日趋完善的API和工具可以用来开发此类功能。毋庸置疑，是HTML5最受欢迎的新特性。
江湖人称菠萝包·2025-02-23 00:13

QT开发技术 [opencv加载onnx模型，dnn推理]

一、导出onnx模型yoloexportmodel=xx\xx\best.ptformat=onnx二、qt加载onnx模型，推理显示std::stringfileName=QCoreApplication
增援未来章北海·2025-02-22 23:09

DeepSeek新作-Native Sparse Attention

这意味着模型需要能够处理和理解长篇幅的文本内容，例如长篇文章、书籍、复杂的对话等，这对于语言模型的推理、生成和理解能力提出了更高的要求。
数据分析能量站·2025-02-22 21:21

前端性能优化:页面加载速度慢怎么办？

缓存静态资源缓存webpack的hash策略-文件资源缓存减少资源请求量图片懒加载代码构建优化webpack资源压缩treesharking-js代码的精简分包按需加载浏览器渲染优化webworkerGPU加速前端性能优化如何识别页面加载速度慢的原因方式
好运连连女士·2025-02-22 20:12

探索火山引擎 DeepSeek-R1：高速低延迟AI解决方案引领未来

DeepSeek-R1满血版推荐火山引擎DeepSeek-R1特性总结前言方舟大模型体验中心全新上线，免登录体验满血+联网版DeepSeekR1模型及豆包最新版模型点击登录登录后免费赠送每个模型50万tokens推理额度
熬夜磕代码丶·2025-02-22 18:25

LLM之提示词工程

研究人员借助提示工程，致力于增强LLM在广泛且复杂的任务（如问答系统与算术推理）中的表现。而对于开发人员而言，提示工程则成为设计高效、强大提示技术的关键，这些技术能够无缝对接LLM与其他工具，实现功
樱花的浪漫·2025-02-22 16:11

Python：实现 PyTorch 中训练自定义卷积神经网络模型(CNN)并导出模型为 ONNX 格式，同时使用 ONNX Runtime 进行推理

本文将介绍如何使用PyTorch训练一个简单的卷积神经网络（CNN）模型，并将训练好的模型导出为ONNX格式，之后使用ONNXRuntime在Python中加载并进行推理。
煤炭里de黑猫·2025-02-22 16:40

LLaVA-CoT: Let Vision Language Models Reason Step-by-Step

LLaVACoT：让视觉语言模型逐步推理摘要1引言2相关工作3提出的方法4后训练性能5推理时间缩放6最新VLMs的比较7结论摘要大型语言模型在推理能力方面取得了长足的进步，特别是通过推理时间缩放，如OpenAI
UnknownBody·2025-02-22 16:08

什么是CoT（带有长链思维）的Few-shot Prompting（少样本提示）

使用**带有长链思维（Chain-of-Thought,CoT）的少样本提示（Few-shotPrompting）**是一种强大的技术，能够帮助模型更好地解决复杂问题，尤其是需要多步推理的任务。
早退的程序员·2025-02-22 15:03

RepVGGBlock实现

这种方法可以在训练时使用复杂的多分支结构，在推理时将其简化为单一的卷积层，从而显著提高
武乐乐~·2025-02-22 13:45

计算机基本组成的内存缓存、磁盘硬盘区别

在内存中有一部分数据存的是磁盘的缓存，这样做可以加速磁盘访问速度。就跟我们开发程序中使用的缓存作用一样。内
FFFXXXFFF·2025-02-22 09:17

【有啥问啥】DeepSeek NSA（Native Sparse Attention）：开启高效推理与降本增效的新篇章

DeepSeekNSA（NativeSparseAttention）：开启高效推理与降本增效的新篇章在人工智能领域，尤其是自然语言处理（NLP）和大语言模型（LLM）的浪潮中，性能与效率一直是研究者和开发者关注的焦点
有啥问啥·2025-02-22 09:46

DeepSeek 学习路线图

概率统计：理解贝叶斯理论和概率分布，用于模型训练和推理。微积分：了解优化算法中的梯度下降等概念。2.编程基础Python：掌握Python编程，这是深度学习和AI开发的主要语言
CarlowZJ·2025-02-22 09:14

趣丸多云架构的演进与实践：从单云到多云2.0的旅程

随着数字化转型的加速，云计算已经成为企业IT架构的核心组成部分。在这个过程中，趣丸科技凭借其前瞻性的战略眼光和技术实力，成功实现了从单云架构到多云2.0的演进。
ITPUB-微风·2025-02-22 09:41

YOLOv11快速上手：如何在本地使用TorchServe部署目标检测模型

本文将详细介绍如何使用YOLOv11训练你的第一个目标检测模型，并通过TorchServe在本地进行部署，实现模型的快速推理。
SYC_MORE·2025-02-22 07:57

推理模型时代：大语言模型如何从对话走向深度思考？

一、对话模型和推理模型的区别概述对话模型是专门用于问答交互的语言模型，符合人类的聊天方式，返回的内容可能仅仅只是一个简短的答案，一般模型名称后面会带有「chat」字样。
深度学习机器·2025-02-22 07:56

SD模型微调之LoRA

本文是SD模型微调方法LoRA的详细介绍，包括数据集准备，模型微调过程，推理过程，优缺点等。
好评笔记·2025-02-22 06:22

04.Docker 镜像命令

Docker镜像管理命令Docker镜像管理命令1.搜索镜像2.镜像加速配置和优化3.下载镜像4.查看本地镜像5.镜像导出4.镜像导入5.删除镜像6.镜像打标签Docker镜像管理命令镜像即创建容器的模版
转身後 默落·2025-02-22 05:39

大模型量化概述

近年来，随着Transformer、MOE架构的提出，使得深度学习模型轻松突破上万亿规模参数，从而导致模型变得越来越大，因此，我们需要一些大模型压缩技术来降低模型部署的成本，并提升模型的推理性能。
AI领航者·2025-02-22 04:02

WebView 细节，onShowCustomView与JS注入来实现视频全屏播放

概述WebView是开发中经常使用的组件，在使用中我们需要考虑文件下载，自定义scheme，重定向，硬件加速，Cookie，HTTPS/HTTP混合等多种问题。
Boo_Wang·2025-02-22 03:21

超级详细，知识图谱系统的理论详解+部署过程

知识图谱系统（KnowledgeGraphSystem）是一种用于表示、存储、查询和推理知识的系统。
mosquito_lover1·2025-02-22 01:34

马斯克发布的Grok3如何,大家如何评价

这种大规模的计算资源投入使得Grok3在推理能力和逻辑一致性方面表现出色。多模态与实时数据处
魔王阿卡纳兹·2025-02-22 01:30

告别 AI 幻觉：LangChain + 知识图谱 + 大模型，打造可靠的智能应用

项目准备：环境配置与工具选择手把手实现5.1从文本中提取结构化知识存入图谱6.2基于LangChain知识图谱的查询与推理实践Tips：如何让知识图谱规模化、应用化？
海棠AI实验室·2025-02-22 00:20

Ubuntu22.04 Docker更换阿里云镜像

那么可以更换阿里云镜像加速器，从而加速官方镜像的下载。1.获取镜像加速器地址登录容器镜像服务控制台，在左侧导航栏选择镜像工具>镜像加速器，在镜像加速器页面获取加速器地址。
冲上云霄的Jayden·2025-02-22 00:20

DeepSeek最新论文：原生稀疏注意力

论文大致内容如下：长文本建模的重要性在深度推理、代码生成和多轮对话等应用中，长文本建模显得尤为重要。然而，随着文本长度的增加，传统的注意力机制计算复杂度急剧上升，导致处理速度变慢，无
大模型老炮·2025-02-22 00:18

有哪些好用的AI工具？(你想要的AI工具都在这)

1.常见应用场景1.1.国内通用大模型模型名称简介官网地址DeepSeek深度求索公司研发的高性能开源模型，以低成本、高推理能力著称，支持数学、代码等复杂任务。
·2025-02-21 23:25

AI 模型的优化与应用：大模型本体、蒸馏、量化 与 GGUF

引言近年来，大型语言模型（LLM）在人工智能领域取得了突破性的进展，但其计算需求高昂，训练和推理成本巨大。因此，如何优化大模型，使其在不同设备和应用场景下更高效地运行，成为了AI研究的重要课题。
CCSBRIDGE·2025-02-21 23:15

仅用1年成为DeepMind顶梁柱，John Jumper博士毕业7年拿诺奖，开启蛋白折叠新时代

截至目前，已有来自190个国家的200多万人使用这一工具，它不仅加速了新药研发和疾病研究，也为基础科学探索提供了前所未有的支持，深刻影响了生命科学的未来发展。值得一提的是，Jump
·2025-02-21 23:23

将 Google CDN 替换为国内源的 Chrome 扩展，实现网站加速⚡️

GitHub源码地址：https://github.com/justjavac/...。将GoogleCDN替换为国内的。缘起由于众所周知的原因，只需替换一个域名就可以继续使用Google提供的前端公共库了。同样，通过script标记引用这些资源，让网站访问速度瞬间提速！很多网站，尤其是国外网站，为了加快网站的速度，都使用了Google的CDN。但是在天朝，由于某些原因，导致全球最快的CDN变成了
·2025-02-21 23:52

有哪些好用的AI工具？(你想要的AI工具都在这)

1.常见应用场景1.1.国内通用大模型模型名称简介官网地址DeepSeek深度求索公司研发的高性能开源模型，以低成本、高推理能力著称，支持数学、代码等复杂任务。
·2025-02-21 23:21

冠军算法变体合集再上新！具有新的变异策略和外部归档机制的改进LSHADE-SPACMA算法

第三，提出了一种基于精英的外部归档机制，保证了外部种群的多样性，可以加速算法的收敛进度。2.7LSHADE-SPACMA2.7.
群智能算法小狂人·2025-02-21 23:40

清华独家教程 | 零基础玩转DeepSeek：AI时代的实战赋能手册

在人工智能技术加速渗透各行各业的今天，清华大学新闻与传播学院新媒体研究中心元宇宙文化实验室的余梦珑博士后团队推出《DeepSeek从入门到精通》，为公众提供了一份权威、实用的AI工具使用指南。
阿黎逸阳·2025-02-21 22:01

reid大一统 2024 Instruct-ReID 部署笔记

目录开源地址：依赖项：图片推理代码整理：reid大一统2024https://zhuanlan.zhihu.com/p/684819435开源地址：https://github.com/hwz-zju/
AI算法网奇·2025-02-21 20:20

蓝耘科技上线 DS 满血版，500万tokens免费送！

立志在坚不欲说，成功在久不在速欢迎关注：点赞⬆️留言收藏欢迎使用：小智初学计算机网页AI蓝耘元生代智算云架构蓝耘元生代智算云平台是一个现代化的、基于Kubernetes的云平台，专为大规模GPU加速工作负载而构建
Lethehong·2025-02-21 19:16

什么是语料清洗、预训练、指令微调、强化学习、内容安全； 什么是megatron，deepspeed，vllm推理加速框架

什么是语料清洗、预训练、指令微调、强化学习、内容安全目录什么是语料清洗、预训练、指令微调、强化学习、内容安全语料清洗预训练指令微调强化学习内容安全什么是megatron，deepspeed，vllm推理加速框架语料清洗语料清洗是对原始文本数据进行处理的过程
ZhangJiQun&MXP·2025-02-21 19:45

adeepSeek 使用指南与资源分享

a#deepSeek使用指南与资源分享一、DeepSeek简介deepSeek是一款具有强大推理能力的人工智能模型，其在自然语言处理、逻辑推理和多模态交互等领域表现出色。
·2025-02-21 19:14

媒体声音｜专访阿里云数据库周文超博士：AI就绪的智能数据平台设计思路

大模型在实际业务场景的落地过程中，必须有海量数据的支撑：经过训练、推理和分析等一系列复杂的数据处理过程，才能最终产生业务价值。
·2025-02-21 19:41

拆解微软CEO纳德拉战略蓝图：AI、量子计算、游戏革命如何改写未来规则！

一、AI战场：没有终局的战争云服务黄金时代AI训练需求暴涨，推理需求更呈指数级增长（1次用户请求触发N次AI调用）微软全球布局60+数据中心，建设“推理集
莫莫莫i·2025-02-21 16:09

《DeepSeek从入门到精通》下载

DeepSeek-R1是其开源的推理模型，擅长处理复杂任务且可免费商用。直接面向用户或者支持开发者，提供智能对话、文本生成、语义理解、计算推理、代码生
疯狂吧小飞牛·2025-02-21 15:37

NVIDIA B200：高性能 AI 计算的未来

每一代新处理器和加速器都有可能极大地改变我们开发和部署大规模机器学习模型的方式。NVIDIA长期处于人工智能硬件开发的最前沿，它再次凭借由Blackwell架构驱动的B200提高了标准。
知识大胖·2025-02-21 15:01
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他