cpu推理

小咖批量剪辑助手款视频批量自动剪辑软件

b.硬件配置：cpu：i7-4790K内存：1
VX---danmo0278·2025-02-08 04:11

DeepSeek模型与OpenAI模型原理和技术架构的异同分析

OpenAI模型原理和技术架构的异同分析一、模型原理（一）DeepSeekR1DeepSeekR1的核心原理是基于强化学习（RL）的训练方式，其创新之处在于不依赖任何监督微调（SFT）数据，仅通过强化学习实现推理能力的自主进化
程序猿000001号·2025-02-08 04:10

vLLM显存优化

在使用vLLM框架进行大模型推理时，为了最大程度地减少GPU显存的占用，可以从以下几个方面调整参数和配置：1.调整max_batch_size参数max_batch_size：这是批处理的最大大小。
xnuscd·2025-02-08 04:07

qwen vllm function_call

教程：使用vLLM部署Qwen模型并实现工具调用前言vLLM是一个高效、易于使用的大型语言模型推理和部署库。
xnuscd·2025-02-08 04:07

【Ollama+Deepseek】本地化部署运行Deepseek模型

一、前言最近国内的深度求索公司发布的DeepSeek-r1推理模型，其凭借强大的推理能力、擅长复杂任务、低成本以及开源等优势，短时间内迅速成为了全球AI领域的焦点。
·2025-02-08 02:59

RK3568 OpenHarmony4.0适配HDMI液晶屏

适配效果先看下最终适配效果视频：OpenHarmony_V40_HDMI液晶屏开发环境本文基于如下开发环境进行开发调试：硬件：RK3568开发板处理器：RK3568CPU：四核64位Cortex-A55
敲嵌入式代码的·2025-02-07 23:10

【论文阅读】DeepSeek-R1：通过强化学习激励LLMs的推理能力 | DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via RL

DeepSeek-R1:IncentivizingReasoningCapabilityinLLMsviaReinforcementLearningDeepSeek-R1：通过强化学习激励LLMs的推理能力
AI天才研究院·2025-02-07 22:05

【vLLM 学习】使用 CPU 安装

vLLM是一款专为大语言模型推理加速而设计的框架，实现了KV缓存内存几乎零浪费，解决了内存管理瓶颈问题。
·2025-02-07 22:51

【AI中数学-信息论-综合实例】 缩小AI巨人：大模型神经网络的压缩与裁剪

尽管大规模神经网络在AI中具有强大的能力，但由于其高计算需求、内存使用和推理时间，它们在实际部署中往往面临一些限制。模型压缩和裁剪技术能够使这些“AI巨人”变得更为可管理，同时在性能上不至于损失太多。
云博士的AI课堂·2025-02-07 22:03

Ubuntu18.04环境下I219-LM网卡不能识别问题解决

Ubuntu18.04环境下I219-LM网卡不能识别问题解决背景介绍硬件信息驱动信息解决过程解决方案注意事项背景介绍使用的某品牌的PC机，CPU型号为I5-1145G7（笔记本）或者I5-11500（
歪歪的酒壶·2025-02-07 22:02

linux发布常用指令

20个应用psauxw|head-1;psauxw|sort-rn-k4|head-20#最占用内存的5个应用psauxw|head-1;psauxw|sort-rn-k4|head-5USERPID%CPU
·2025-02-07 22:16

看门狗（WDOG）

正常情况下，程序会定时喂狗；若程序跑飞，则无法继续喂狗，导致超时并触发CPU复位，使程序重新启动。
阿飞在线学习·2025-02-07 20:23

flink on yarn模式下的，flink中的slot，taskmanage，parallelism，以及yarn中的container，vcore，memory它们之间的关系

但是它是可以根据你的配置文件可以调的，修改yarn-site.xml文件中的（这个是yarn默认的，就算不配置也是这样）yarn.nodemanager.resource.cpu-vcores8yarn.nodemanager.resource.memory-mb8192
抛砖者·2025-02-07 18:40

深入浅出DeepSeek V3 技术报告

你可以把它想象成一个超级学霸，不仅擅长语文和数学，还会写代码，能推理，还能处理超长文章（1
fertiland·2025-02-07 17:04

Docker安装并部署Gitlab，同时解决Gitlab服务经常503/500的问题

Gitlabdockerpullgitlab/gitlab-cedockerrun-d-p11443:443-p11090:80-p11022:22\--namegitlab\--restartunless-stopped\--cpus
呆萌的代Ma·2025-02-07 14:45

大语言模型原理基础与前沿 高效的MoE架构

大语言模型原理基础与前沿高效的MoE架构关键词：大语言模型，MoE架构，参数高效微调，分布式训练，模型压缩，推理加速1.背景介绍1.1问题的由来随着深度学习技术的飞速发展，大语言模型（LargeLanguageModels
AI架构设计之禅·2025-02-07 13:39

生产环境超实用shell脚本一

服务器健康检查脚本功能:检查服务器的CPU、内存、磁盘、网络等资源使用情况，以及关键服务状态。应用场景:定期监控服务器健康状况，及时发现潜在问题。
·2025-02-07 13:57

基于深度学习的行人摔倒检测识别系统 —— 使用YOLOv5实现行人摔倒检测

系统功能概述2.2系统架构数据准备与处理3.1数据集选择与收集3.2数据标注3.3数据集划分YOLOv5模型训练与优化4.1YOLOv5配置文件4.2安装YOLOv5并开始训练4.3模型评估与优化摔倒行为识别与推理
2025年数学建模美赛·2025-02-07 13:34

DeepSeek 与 Qwen：模型能力对比！

DeepSeek的模型DeepSeek-R1：一款旗舰模型，通过思维链推理在推理、数学和编码方面表现出色。例如，在解决复杂数学证明题时，它能运用思维链，一步步清晰地推导，最终得出准确结论；在编程中，面
·2025-02-07 13:22

Python位运算用途以及用法

在许多古老的CPU上,位运算比加减运算略快,通常位运算比乘除法运算要快很多.在现代架构中,情况并非如此:位运算的运算速度通常与加法运算相同(仍然快于乘法运算).2.为什么需要位运算？
momo大魔王·2025-02-07 12:57

性能测试工具1:perf

它包括硬件级别（CPU/PMU、性能监控单元）功能和软件(软件计数器、跟踪点)功能。通过perf,应用程序可以利用PMU,tracepoint和内核中的计数器来进行性能统计。
CNccion·2025-02-07 11:19

deepseek本地部署会遇到哪些坑

在本地部署DeepSeek（或其他类似AI模型）时，可能会遇到以下常见问题及解决方案：1.硬件资源不足问题表现：GPU不兼容（如型号过旧）、显存不足（OOM错误）或CPU模式性能极低。
skyksksksksks·2025-02-07 11:49

并发编程：使用多线程与多进程提升 Python 程序性能

并发编程：使用多线程与多进程提升Python程序性能随着计算机硬件的不断发展，单核CPU已逐渐成为过去，多核CPU已经成为主流。为了充分利用计算机的性能，我们需要使用并发编程来让程序执行得更快。
全栈探索者chen·2025-02-07 09:40

Ollama AI 开发助手完全指南：从入门到实践

u012172506)目录基础环境配置模型选择与使用开发工具集成实践应用场景性能优化与注意事项最佳实践总结一、基础环境配置1.1系统要求在开始使用Ollama之前，请确保您的系统满足以下基本要求：硬件配置：CPU
ivwdcwso·2025-02-07 08:36

Java多线程与高并发专题——线程池补充2

CPU核心数和线
黄雪超·2025-02-07 08:36

面试必考问题：Android APP耗电最全解析和优化指南

目录1AndroidAPP耗电原因分析1.1后台应用持续运行1.2高CPU使用率1.3网络使用不当1.4错误代码实现2Android不同版本的耗电优化功能2.1JobSchedulingAPI与BatteryHistorian2.2JobSchedulingAPI
大模型大数据攻城狮·2025-02-07 08:34

Deep-Seek 开源项目教程

Deep-Seek不仅支持文本生成，还特别擅长数学、代码和推理任务。项目快速启动环境准备在开始之前，请确保您
毛炎宝Gardener·2025-02-07 08:34

本地部署 DeepSeek 多模态大模型！支持图像识别和图像生成

虽说现在的电脑基本都能跑，但是最好还是十几代的CPU或者GPU。
这儿有一堆花·2025-02-07 08:31

Docker资源分配--Cgroup

文章目录一.Cgroup概念1.1容器化两个关键核心1.2现代容器化带来的优势1.3什么时Cgroup二、Cgroup的一些测试2.1测试CPU和内存使用情况2.2CPU周期限制三.配额控制3.1CPUCore
Sq夏颜·2025-02-07 07:28

Redis

不要把缓存想的太高大上，虽然，它的确对系统的性能提升的性价比非常高其实，我们在学习使用缓存的时候，你会发现缓存的思想实际在操作系统或者其他地方都被大量用到比如CPUCache缓存的是内存数据用于解决CP
你也想高人一等啊？·2025-02-07 06:51

Docker的进程和Cgroup概念

Docker的进程和Cgroup概念容器里的进程组织或关系0号进程：containerd-shim1号进程：容器内的第一个进程进程收到信号后的三种反应两个特权信号在容器内执行kill命令的行为Cgroup介绍CPUCgroup
AquaPluto·2025-02-07 06:49

Java 层面保证内存可见性的方式

Java层面保证内存可见性的方式有很多：1.volatile，用volatile基本数据类型，可以保证每次CPU去操作数据时，都直接去主内存进行读写。
Master_hl·2025-02-07 05:09

php7.3 安装详解,源码安装 PHP 7.3

下载PHP源码包如图所示，PHP源码提供了三种压缩格式，通常压缩后的文件越小，意味着解压缩需要的时间和CPU消耗就会更多，这里要根据安装PHP的服务器硬件情况和带宽选择合适的压缩格式，我选择下载php-
槟屿·2025-02-07 05:38

八股篇 | 抢占式操作系统与合作式操作系统

抢占式操作系统（PreemptiveOperatingSystem）是一种操作系统调度方式，它允许操作系统在任何时间点中断一个正在运行的进程，并将CPU分配给另一个进程。
文堅·2025-02-07 04:02

在本地运行DeepSeek Janus 系列，DeepSeek Janus 系列用于图像理解和生成的统一多模态 AI

DeepSeek的Janus系列是一种先进的开源多模态人工智能模型，它将图像理解、文本到图像生成和视觉语言推理统一到一个系统中。
知识大胖·2025-02-07 02:54

使用DeepSeek-R1和Ollama构建RAG系统以进行本地部署

使用DeepSeek-R1和Ollama构建RAG系统以进行本地部署我们将探讨如何使用DeepSeekR1（一种针对结构化任务优化的开源推理模型）和Ollama（一种用于在本地运行LLM的框架）构建功能齐全的
·2025-02-07 02:10

网易有道全面拥抱DeepSeek-R1，推理大模型加速个性化教学升级

1月20日，DeepSeek震撼发布DeepSeek-R1，这款推理大模型在数学、编程及逻辑推理等多个领域展现出了与OpenAI顶尖模型比肩的实力，同时实现了API调用成本90%-95%的大幅缩减，无疑为科技界投下了一颗开年
·2025-02-07 02:10

百度智能云上架DeepSeek R1/V3，上线首日超1.5万家客户调用

2月3日百度智能云宣布DeepSeek-R1和DeepSeek-V3模型上架百度智能云千帆平台，并宣布提供行业领先的超低推理价格。模型上线首日，已有超1.5万家客户通过千帆平台进行模型调用。
·2025-02-07 01:37

nodejs的express负载均衡

我们知道nodejs是单线程的，在特定场合是不能利用CPU多核的优势的。
dgiij·2025-02-07 00:10

模型蒸馏、量化、裁剪的概念和区别

然而，这些模型通常具有大量的参数和复杂的结构，导致模型体积庞大、计算资源消耗高和推理时间长。这些问题限制了深度学习模型在资源受限设备（如移动设备、嵌入式系统）上的应用。
我就是全世界·2025-02-06 22:24

Zookeeper（34）Zookeeper的延迟问题如何解决？

优化服务器配置：增加服务器的CPU和内存资源，确保Zookeeper有足够的资源处理
辞暮尔尔-烟火年年·2025-02-06 22:24

[论文笔记] Deepseek技术报告

1.总体概述背景与目标报告聚焦于利用强化学习（RL）提升大型语言模型（LLMs）的推理能力，旨在探索在不依赖大规模监督微调（SFT）的情况下，模型如何自我进化并形成强大的推理能力。
心心喵·2025-02-06 22:53

小米Ruby15.6使用体验

cpu是u系列。这个系列实际使用，解压文件会感觉没有我上台电脑快。如果在Windows平台，电源很不耐用，但我现在的Arch+dwm的组合，使用8个小时没有问题。外观的话，光看正面，就是笔记本
zhen12321·2025-02-06 21:49

MXNet深度学习框架：高效与灵活性的结合

MXNet支持多种编程语言，包括Python、Java、Scala、R、C++等，能够运行在CPU、GPU和云平台上，满足不同场景下的需求。1.MXNet的核心特性MXNet的主要
原机小子·2025-02-06 20:44

mov 及常见指令；汇编分析指针、引用、is-else

变量的地址CPU大部分是小端模式。高存高，低存低（高地址存
schedule___·2025-02-06 20:43

x86系统和linux系统,linux版本信息以及x86与x86_64的区别

一x86、x86_64、AMD64x86是指intel的开发的一种32位指令集，从386开始时代开始的，一直沿用至今，是一种cisc指令集，所有intel早期的cpu，amd早期的cpu都支持这种指令集
wwhou·2025-02-06 20:12

Deepseek-r1、o3-Mini 和 Qwen 2.5 MAX，谁才是你的菜？

这下它终于坐不住了，发布了新推理模型系列o3-mini。这个模型不仅首次向免费用户开放，成本还比之前的o1系列降低了15倍。和GPT-4O、GPT模型家族不同，AI模型的“O”系列专注于推理任务。
·2025-02-06 17:21

大型推理模型 （LRM） 的比较 OpenAI DeepSeek R1 Gemini 2.0

大型推理模型（LRM）的比较OpenAIDeepSeekR1Gemini2.0阅读时长：25分钟发布时间：2025-02-06近日热文：全网最全的神经网络数学原理（代码和公式）直观解释欢迎关注知乎和公众号的专栏内容
·2025-02-06 17:20

Deepseek-r1、o3-Mini 和 Qwen 2.5 MAX，谁才是你的菜？

这下它终于坐不住了，发布了新推理模型系列o3-mini。这个模型不仅首次向免费用户开放，成本还比之前的o1系列降低了15倍。和GPT-4O、GPT模型家族不同，AI模型的“O”系列专注于推理任务。
·2025-02-06 17:11

DeepSeek 最新推理模型 R1-Lite：一场数学题的死胡同之旅

在人工智能技术的飞速发展中，推理模型成为了AI展现深度理解能力的重要工具。它们不仅能够处理复杂的自然语言任务，还能在某些领域表现出近似人类思维的推理能力。然而，即便是最先进的推理模型也并非无懈可击。
霍格沃兹测试开发学社测试人社区·2025-02-06 15:40
上一页 9 10 11 12 13 14 15 16 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他