GPU云服务器

大模型转换为 GGUF

其目的是为了有一个单文件共享的格式，并且易于在不同架构的GPU和CPU上进行推理。但在后续的开发中，遇到了灵活性不足、相容性及难以维护的问
奔跑中的小象·2025-02-15 22:48

阿里云通用平衡增强型g6e服务器网络收发包能力PPS对照表详解

阿里云服务器通用平衡增强型g6e实例是阿里云新推出的第六代云服务器，最大网络收发包能力达到2400万PPS，g6e实例CPU内存比1:4适用于高网络包收发场景等应用场景，InstanceTypes分享阿里云
m0_60889071·2025-02-15 19:28

深度学习基础知识

它允许开发人员利用NVIDIA的GPU（图形处理器）来加速各种计算任务，包括科学计算、机器学习、深度学习、数据分析等。NVIDIA是一个全球领先的计算技术公司，专注于设计和制造高性能计算设备。
namelijink·2025-02-15 15:22

如何在我的电脑上查看是否安装cuda12？我现在在我的VS中新建项目时，里面多出来一个CUDA12.4 runtime，这是什么？是不是使用CUDA cpp进行编程？

在你的电脑上检查是否安装了CUDA12，可以通过以下几种方法：1.检查CUDAToolkit安装目录查看CUDA安装目录：-默认情况下，CUDAToolkit安装在C:\ProgramFiles\NVIDIAGPUComputingToolkit
吃榴莲的小鳄鱼·2025-02-15 15:21

Python 并发处理

编写您自己的并发和并行软件系统所需的并发的基本概念介绍调试和异常处理等概念，以及一些允许您创建事件驱动和反应式系统的最流行的库和框架内容加快速度并行化线程的生命线程间同步线程之间的通信调试和基准测试执行和池多进程事件驱动编程反应式编程使用GPU
亚图跨际·2025-02-15 15:21

【开发日志】数字人+LLM：从概念到实现的全程记录！

系统环境：CPU:i91490016GBGPU:GTX40608GBSYS:Windows11WSL:Ubuntu22.04本文章使用到的技术内容:数字人框架:LiveTalking大模型:Llama3.1TTS
AI大模型-王哥·2025-02-15 13:11

麒麟8000处理器参数

麒麟8000CPU为1个2.4GHz的A77核心+3个2.19GHz的A77核心+4个1.84GHz的A55核心，GPU是Mali-G610，频率为864MHz。
m0_50307601·2025-02-15 12:32

阿里云服务器突然有大量nmap服务占用大量CPU排查及解决方案

问题描述突然有一天服务器访问很卡顿,在阿里云后台查看CPU,内存,系统平均负载等参数发现没问题但是登陆服务器后,发现大量nmap服务占用大量CPU,但是这台管理员并没有主动安装过nmap原因及对应预防方案暴力破解SSH密码：通过爆破弱密码或没有加固的SSH配置。解决方案:使用强密码和密钥认证修改默认端口号启用防暴力破解工具fail2ban或类似工具通过防火墙（如iptables或ufw）限制SSH
_院长大人_·2025-02-15 11:54

使用CerebriumAI进行大规模语言模型的推理

传统的CPU在处理大规模语言模型（LLM）时效率较低，GPU成为了首选。然而，自行搭建GPU环境成本高昂且维护复杂。
qahaj·2025-02-15 07:54

centos7 安装单机 ClickHouse

能够使用SQL查询实时生成分析数据报告本篇首先介绍下如何基于centos7环境安装单机版的clickhouse官网：https://clickhouse.com/环境准备centos7环境（虚拟机或者云服务器
小码农叔叔·2025-02-15 06:46

什么是计算型云服务器

计算型云服务器是云计算的一种子服务，同时也是一种提供计算资源的云服务，计算型云服务器是专门设计用来提供强大计算能力的云计算服务，通常是用于需要高性能计算的应用场景当中，会配备高性能CPU和高速的存储设备
wanhengidc·2025-02-15 01:29

实验随记2-Pytorch Lightning多机多卡训练

示例实现5节点4GPU共计20卡训练。使用pytorch_lightning==1.9.4存在bug:启
晓岚和雪·2025-02-14 23:48

PyTorch Lightning多GPU分布式日志介绍

分布式日志是指在分布式系统中，多个节点（如多台机器或多个GPU）协同工作时，对系统运行状态、错误信息、性能指标等进行记录的过程。
qq_27390023·2025-02-14 23:48

1.1、Ray-关键概念Key Concepts

Ray使任务能够指定其在CPU、GPU和自定义资源方面的资源需求。这些资源请求被集群调度器用来在整个集群中分配任务，以实现并行执行。参见
MaxCode-1·2025-02-14 20:23

用 Python 实现 DeepSeek R1 本地化部署

你的电脑至少得配备8GB内存，要是想运行更大的模型，比如7B及以上的，那最好有更强劲的CPU和GPU，内存也
喜-喜·2025-02-14 18:33

redis启动的三种方式

//查看云服务器是否安装过redisredis-server-v//检查安装目录whichredis-server//查看redis进程ps-ef|grepredis//运行redis前台启动（默认）redis-server
刽子手发艺·2025-02-14 09:34

Chrome内核解析 -- 背景篇：Chromium的多进程多线程构架

采用多进程构架，以DesktopChromium为例，它包括一个BrowserProcess(也称为UIProcess),一个或多个RenderProcess(也称为WebProcess),零个或一个GPUProcess
yunchao_he·2025-02-14 05:31

windows hyperv中Ubuntu使用本机的nvidia显卡

在WindowsHyper-V中，Ubuntu虚拟机默认无法直接使用主机的NVIDIA显卡，因为Hyper-V的虚拟化技术会独占GPU资源。
飞瀑·2025-02-14 05:26

GPU（Graphics Processing Unit）详解

GPU（GraphicsProcessingUnit）详解1.GPU的定义与核心特性GPU（图形处理器）是一种专为并行计算和图形渲染优化的处理器。
美好的事情总会发生·2025-02-14 03:32

自学人工智能大模型，满足7B模型的训练和微调以及推理，预算3万，如何选购电脑

在这个预算范围内，以下是推荐的配置：1.关键硬件配置(1)GPU(显卡)推荐显卡：NVIDIARTX4090(24GBVRAM)或者RTX3090（24GBVRAM）理由：7B模型推理：24GB显存足够跑
岁月的眸·2025-02-13 23:03

Linux磁盘扩容：使用growpart扩展分区及文件系统

Linux磁盘扩容：使用growpart扩展分区及文件系统使用场景一、准备工作二、使用growpart扩展分区三、调整文件系统大小四、验证扩容结果使用场景云服务器的某个磁盘从20GB扩展到30GB。
阿俊仔（摸鱼版）·2025-02-13 23:31

Windows下安装CPU用的Tensorflow

刚在电脑上安装了Tensorflow，还是碰到了一些麻烦，记录一下：很多教程是介绍怎么在Linux平台下安装的，或者是Windows平台下GPU用的，很可惜，这些教程对我来说太麻烦了。
Coder LM Wang·2025-02-13 22:26

ubuntu-gpu生产环境，创建lvm步骤（真实生产）

一、手动-创建步骤多块磁盘创建成一个LVM，并挂载到/mnt，同时确保系统在启动时自动挂载该LVM卷，你可以按照以下步骤进行操作。以下是具体的操作命令：1.创建LVM1.1初始化物理卷首先，我们需要将所有指定的磁盘初始化为物理卷（PhysicalVolume,PV）。#列出所有磁盘lsblk#初始化每个磁盘为物理卷pvcreate/dev/nvme0n1pvcreate/dev/nvme1n1pv
清风 001·2025-02-13 22:26

【虚幻引擎UE】UE4.23到UE5.5的核心功能变化

但通过第三方插件（如WebAssembly+WebGPU）可在浏览器运行部分项目。
灵境引路人·2025-02-13 21:19

免费体验！DeepSeek一键部署全攻略

借助AlayaNeW算力云服务提供的强大GPU资源，您可以轻松实现DeepS
·2025-02-13 20:13

Deepseek的MOE架构中ColumnParallelLinear()是怎么实现的

我记得在PyTorch中，模型并行通常涉及到将模型的层分布到不同的GPU上。ColumnParallelLinear可能指的是将线性层的列（即输出神经元）分布在多个设备上。
DukeYong·2025-02-13 18:00

Tritonserver 在得物的最佳实践

一、Tritonserver介绍Tritonserver是Nvidia推出的基于GPU和CPU的在线推理服务解决方案，因其具有高性能的并发处理和支持几乎所有主流机器学习框架模型的特点，是目前云端的GPU
·2025-02-13 16:03

docker部署mysql 5.7（开发环境）

思路：1、创建相应目录2、创建配置文间3、运行容器4、进入容器内部修改root登录权限5、测试连接（如果是云服务器，需要在防火墙开通相应端口）1、创建相应目录mkdir-p/opt/mysql/{data
运维开发那些事·2025-02-13 15:08

云服务器通过docker运行Jenkins，本机浏览器无法访问

目录一、目的二、碰到问题三、解决思路1确认docker处于正常运行状态2确认Jenkins启动状态3排查网络状态4排查端口状态4.1增加入方向规则4.2关闭防火墙一、目的在云服务器上安装docker，再通过
不破楼兰·2025-02-13 05:50

DeepSeek核心成员专访，顶级团队的思维与执行力恐怖如斯 - 1

例如，我们曾在讨论一个核心算子时，发现其GPU使用率并不高，我们尝
2402_86608154·2025-02-12 22:33

一文走进GpuGeek | 如何快速使用实例？

使用流程注册登录进入GpuGeek.com平台注册页面使用手机号注册数据上传平台提供网盘存储，在【网盘存储】页面，可以看到存储的使用量、费用及文件。选择网盘后，点击上传，上传本地文件至网盘。
·2025-02-12 22:38

CUDA与CUDPP源码解析及实战应用

本文还有配套的精品资源，点击获取简介：CUDA是NVIDIA推出的并行计算平台，CUDPP是一个提供GPU优化算法的开源库。
昊叔Crescdim·2025-02-12 19:06

云服务器性价比指南

写作初衷：作为一个购买多年云服务器经历的爱好者，最喜欢看各厂商的优惠活动，反复比较各厂商的优惠，找到最具性价比的那一款。
telunxiaosu1·2025-02-12 17:47

云服务器性价比指南

写作初衷：作为一个购买多年云服务器经历的爱好者，最喜欢看各厂商的优惠活动，反复比较各厂商的优惠，找到最具性价比的那一款。
telunxiaosu1·2025-02-12 17:16

嵌入式AI革命：DeepSeek开源如何终结GPU霸权，开启单片机智能新时代？

2025年，全球AI领域最震撼的突破并非来自算力堆叠的超级模型，而是中国团队DeepSeek通过开源策略，推动大模型向微型化、低功耗场景的跨越。相对于当人们还在讨论千亿参数模型的训练成本被压缩到600万美金而言，被称作“核弹级别”的操作，是DeepSeek的完全开源。一个更具颠覆性的命题浮出水面：能否将DeepSeek这样的先进AI模型移植到单片机（MCU）上，让手表、传感器甚至灯泡都具备真正的智
老六哥_AI助理指南·2025-02-12 16:09

Deep Seek大模型部署到本地 详细教程

以下是将DeepSeek大模型部署到本地开发环境的详细教程，分为多个步骤，包含技术细节和注意事项：步骤1：环境准备硬件要求GPU：推荐NVIDIAGPU（至少16GB显存，如RTX3090/4090或A100
Katie。·2025-02-12 11:40

Kubernetes (K8S) 集群架构与搭建方式详情

服务器要求：至少2台2核4G以上的云服务器。多master-Node集群多主多从（高可用
I~Lucky·2025-02-12 10:07

（python）如何看自己安装的包的版本

findstr"numpyscipytensorflowkeras"输出numpy1.13.1scipy0.19.1tensorflow-cpu2.4.0tensorflow-estimator2.4.0tensorflow-gpu2.4.0
9677·2025-02-12 10:04

llama-cpp-python CUDA error问题

安装完cuBLAS(CUDA)版本的llama-cpp-pythonCMAKE_ARGS="-DLLAMA_CUBLAS=on"pipinstallllama-cpp-python跑模型，指定n_gpu_layers
0语1言·2025-02-12 09:31

【‌Unity】Unity中物体的static属性作用

因此，Unity可以提前计算并缓存这些物体的光照和遮挡信息，从而减少在运行时对GPU的调用次数，提高游戏运行的流畅度‌。光照贴图优化‌：对于标
_Keep up·2025-02-12 07:42

Pointnet++改进即插即用系列：全网首发ACConv2d|即插即用，提升特征提取模块性能

目录1.理论介绍2.修改步骤2.1步骤一2.2步骤二2.3步骤三1.理论介绍由于在给定的应用环境中设计合适的卷积神经网络(CNN)架构通常需要大量的人工工作或大量的GPU时间，研究社区正在
AICurator·2025-02-12 06:36

Centos7 ImportError: libssl.so.3: cannot open shared object file: No such file or directory

Centos7系统的云服务器，安装好Python3.11.9后，执行python3.11-c"import_ssl"时，报错如下：ImportError:libssl.so.3:cannotopensharedobjectfile
waketzheng·2025-02-12 04:49

模型轻量化

影响神经网络推理速度主要有4个因素：FLOPs、MAC、计算并行度、硬件平台架构与特性（算力、GPU内存带宽）模型压缩工业界主流的模型压缩方法有：知识蒸馏（KnowledgeDistillation，KD
莱茶荼菜·2025-02-11 22:10

新加坡云服务器网络中断原因有哪些

快速诊断网络中断原因的方法如下：初步排查。检查物理连接：确保网线、光纤等物理连接没有松动或损坏。检查网络设备（如路由器、交换机）的电源是否正常，指示灯是否显示正常状态。检查网络设备状态：重启网络设备（如路由器、交换机），观察是否恢复正常。检查设备的配置，确保VLAN配置、防火墙规则、NAT配置等正确无误。使用Ping命令：本地网络测试：Ping本地IP地址（如127.0.0.1），若失败，可能表明
·2025-02-11 20:11

开春特惠，华纳云香港云8H16G5M低至166元/月，双E5香港CN2服务器限时抢购ing

春节假期已结束，各行业逐步复工复产，香港IDC华纳云现推出开春特惠季活动，云服务器和物理服务器均享优惠，新购与续费同价不涨价，全面助力企业出海开启跨境新业务！
·2025-02-11 20:38

DARTS算法笔记（论文+代码）

DARTS通过两次近似，将问题简单化，以减少GPU计算天数，局部最优近似全局最优，有限差分近似求梯度。摘要：在CIFAR-10、ImageNet、PennTreebank和
朴公英不会飞·2025-02-11 19:42

【DeepSeek】DeepSeek R1 本地部署（Ollama+Docker+OpenWebUI）

说明为什么使用本方案部署环境与资源本地部署需要用户自建硬件（如GPU集群）和配置环境，适合对数据隐私要求较高或离线处理场景；线上API则由服务商托管，用户通过网络调用，无需自行投资硬件资源。
neter.asia·2025-02-11 19:42

云上部署文生图大模型Stable Diffusion 3

请跟随本文，在百度智能云GPU服务器上部署StableDiffusion3。准备工作环境信息本文以百度智能云GP
·2025-02-11 16:26

Win11电脑显存大小查看教程：两种方法轻松掌握

Win11电脑显存大小查看教程：两种方法轻松掌握显存作为图形处理单元（GPU）的重要组成部分，对于图形渲染、游戏性能以及专业图形应用等方面都有着至关重要的影响。
mmoo_python·2025-02-11 13:05

唤醒 AI 算力，专有云 ABC Stack 面向企业级智算平台的 GPU 提效实践

从「建好」到「用好」，企业级智算平台借助专有云ABCStack的GPU提效服务，应对大模型业务挑战，唤醒AI算力，加速AI原生业务的落地。
·2025-02-11 12:16
上一页 2 3 4 5 6 7 8 9 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他