E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
GPU虚拟化
如何从0开始写一个操作系统
原书的代码https://github.com/yifengyou/os-elephant/tree/master我会挑一些说说传统的操作系统课一般从内存,
虚拟化
等等方面讲起,因为是自己实现操作系统,肯定不能一上来就写开始写内存管理这种大活
·
2025-01-20 08:20
c后端
实战千问2大模型第五天——VLLM 运行 Qwen2-VL-7B(多模态)
它通过优化显存管理、支持大模型的批处理推理以及减少不必要的内存占用,来提高多
GPU
环境下的推理速度和效率。VLLM的核心特点包括:显存高效性:VLLM能够动态管理显存,
学术菜鸟小晨
·
2025-01-20 02:50
千问
多模型
qwen2
vl
PyTorch使用教程- Tensor包
张量是一个多维数组,类似于NumPy中的ndarray,但它是基于
GPU
的,支持自动求导。
Loving_enjoy
·
2025-01-19 23:52
论文
pytorch
人工智能
【
虚拟化
】系统
虚拟化
的主要功能和分类
1.3系统
虚拟化
的主要功能和分类系统
虚拟化
向下管理硬件资源,向上提供硬件抽象。
TrustZone_
·
2025-01-19 22:42
虚拟化
什么是AI显卡,英伟达与AMD显卡的全面对比
AI显卡是专门为人工智能计算任务设计和优化的图形处理器(
GPU
)。相比传统显卡,AI显卡具备更强的计算能力、更高的并行处理效率以及针对深度学习、数据科学等领域的特殊硬件支持。
wit_@
·
2025-01-19 16:53
人工智能
python
算法
deep
learning
大数据
网络
从零开始的 AI Infra 学习之路
AI开发体系3.1编程语言四、AI训练框架&推理引擎4.1PyTorch4.2llama.cpp4.3vLLM五、AI编译&计算架构5.1CUDA5.2CANN六、AI硬件&体系结构6.1INVIDIA
GPU
6.2AscendNPU
SSS不知-道
·
2025-01-19 15:15
MLSys
人工智能
深度学习
pytorch
【YOLOV8】YOLOV8模型训练train及参数详解
高效性:无论是单
GPU
设置还是跨多个
GPU
扩展,都能充分利用你的硬件。多功能性:
小小小小祥
·
2025-01-19 15:10
YOLO
【学习总结|DAY031】后端Web实战(员工管理)三
通过集合接收参数的代码如下:@DeleteMappin
gpu
blicResultdelete(@RequestParamListids){log.info(
123yhy传奇
·
2025-01-19 14:04
学习
mysql
java
mybatis
加速AI模型部署:深入探索Banana的无服务架构
在本文中,我们将探讨如何利用Banana提供的无服务
GPU
推理来部署AI模型,并结合LangChain实现高效的模型推理。主要内容1.Banana生态系统的优势Banana提供了一套完
afTFODguAKBF
·
2025-01-19 13:30
人工智能
架构
python
构建高效
GPU
算力平台:挑战、策略与未来展望
引言随着深度学习、高性能计算和大数据分析等领域的快速发展,
GPU
(图形处理器)因其强大的并行计算能力和浮点运算速度而成为首选的计算平台。
Mr' 郑
·
2025-01-19 11:43
gpu算力
VXLAN 基础教程:VXLAN 协议原理介绍
VXLAN(VirtualeXtensibleLocalAreaNetwork,虚拟可扩展局域网),是一种
虚拟化
隧道通信技术。
lingshengxiyou
·
2025-01-19 10:04
网络
linux
运维
c++
开发语言
PVE和ESXi有何不同
PVE(ProxmoxVirtualEnvironment)和ESXi(vSphereHypervisor)都是用于构建和管理
虚拟化
环境的平台,但它们之间存在一些重要的区别。
king-agic
·
2025-01-19 10:31
Linux运维
其他
AI技术架构:从基础设施到应用
1.
GPU
(图形处理单元):并行计算的核心
GPU
是深度学习的核心引擎,专为大规模并行计算设计。技术优
fuqinyijiu
·
2025-01-19 06:31
AI
人工智能
架构
NVIDIA发布企业级硬件 AI 参考架构
NVIDIA发布企业级硬件AI参考架构NVIDIA英伟达在OCP峰会后发布了许多AI参考架构,#
GPU
服务器#供应商与Nvidia合作开发了大规模部署NvidiaAI硬件所需的基础设施硬件,近日Nvidia
深度学习服务器
·
2025-01-19 05:45
深度学习
架构
服务器
python
plotly
实验室多人共享
GPU
服务器搭建指南(更新ing)
linux安装nvidia驱动必备(笔者实验室的
GPU
服务器交货时已安装驱动,不再详述)Ubuntu20.04安装Nvidia驱动——4060显卡(黑屏解决方法)1.首先禁
Geodesy&Geomatic
·
2025-01-19 04:30
服务器
运维
gpu算力
深度学习
docker
【安利一个超高性价比的
GPU
租赁平台 使用分享】
GPU
算力服务器,使用经验分享,强烈推荐,还送你30元额度!可以白嫖!!为什么需要租服务器?当我使用自己的电脑跑模型时,每个Epoch大概要花费54分钟左右,总共有150个Epoch...
放飞自我的Coder
·
2025-01-19 04:30
无差别树洞
GPU
租显卡
大模型服务器
蓝耘GPU
NFV和SDN关系、NFV关键能力以及如何演进
1.NFV和SDN的关系NFV是具体设备的
虚拟化
,将设备控制平面运行在服务器上,这样设备是开放的兼容的。
逍oo遥
·
2025-01-18 23:48
nfv
深度学习(1)
一、torch的安装基于直接设备情况,选择合适的torch版本,有显卡的建议安装
GPU
版本,可以通过nvidia-smi命令来查看显卡驱动的版本,在官网中根据cuda版本,选择合适的版本号,下面是安装示例代码
浅忆へ梦微凉
·
2025-01-18 18:57
深度学习
人工智能
深度学习
学习方法
python
NVIDIA下一代Hopper架构曝光,采用5nm工艺 晶体管超1400亿
据媒体报道,NVIDIA下一代主要面向高性能计算、人工智能等Hopper架构,将会采用5nm工艺制程,晶体管多达1400亿个,面积核心达到了900平方毫米,是有史以来最大的
GPU
。
Java小海.
·
2025-01-18 17:54
架构
人工智能
后端
程序人生
java
NVIDIA Hopper解说
NVIDIAHopper架构是NVIDIA推出的面向高性能计算(HPC)和人工智能(AI)的最新一代
GPU
架构。
白总Server
·
2025-01-18 17:24
redis
数据库
缓存
rust
mongodb
大数据
数据仓库
NVIDIA Hopper 架构深入
在2022年NVIDIAGTC主题演讲中,NVIDIA首席执行官黄仁勋介绍了基于全新NVIDIAHopper
GPU
架构的全新NVIDIAH100TensorCore
GPU
。
RZer
·
2025-01-18 16:40
硬件工程
架构
NVIDIA
Pytorch实现:LSTM-火灾温度预测
本文为365天深度学习训练营中的学习记录博客原作者:K同学啊前期工作语言环境:Python3.9.18编译器:JupyterLab深度学习环境:Pytorch1.12.11.设置
GPU
importtorchimporttorch.nnasnnimporttorchvisionfromtorchvisionimporttransforms
骑猪玩狗
·
2025-01-18 11:32
pytorch
lstm
人工智能
服务器
虚拟化
技术深度解析与代码实践
服务器
虚拟化
技术深度解析与代码实践在现代数据中心和云计算环境中,服务器
虚拟化
技术已经成为提高资源利用率、降低成本和简化管理的重要手段。
我的运维人生
·
2025-01-17 21:47
服务器
运维
运维开发
技术共享
【TVM 教程】为 x86 CPU 自动调优卷积网络
ApacheTVM是一个深度的深度学习编译框架,适用于CPU、
GPU
和各种机器学习加速芯片。
·
2025-01-17 20:18
云计算技术深度解析与代码实践
云计算技术特点云计算技术融合了网格计算、分布式计算、并行计算、效用计算、网络存储、
虚拟化
以及负载均衡等多种先进技
我的运维人生
·
2025-01-17 19:27
云计算
flask
python
运维开发
技术共享
加速 AI 训推:Lepton AI 如何构建多租户、低延迟云存储平台
该平台适用于各种训练、推理需求,
GPU
充足,在保证高性能的同时,能够灵活应对不断变化的工作负载。用户可以快速在Lepton平台上部署推理服务和执行训练任务,无需关注基础设施和稳定性问题。
·
2025-01-17 15:51
运维人工智能机器学习
高通Adreno
GPU
简介(一)
这意味着
gpu
需要在相同的固定时间段内光栅化更多的片段。假设目标帧率为30fps,游戏在单个帧上的花费不能超过33.3ms。
·
2025-01-17 15:20
android
云手机技术是怎么实现的?(云手机在海外社媒营销、跨境电商、短视频领域应用)
其中主板还集成着CPU,
GPU
,内存等元件。手机硬件主要由SOC、RAM、ROM、电池、屏幕、传感器等组成。那为什么说云手机本质上是手机呢?
verybots2023
·
2025-01-17 11:48
流量运营
用户运营
新媒体运营
爬虫
网络爬虫
手机
拯救者电脑安装Windows和Ubuntu双系统遇到黑屏或者花屏问题的解决方法,亲测有效
最近想在电脑上跑深度学习,有一定基础的都知道,ubuntu更适合
gpu
、apex以及其他加速的使用,如果在Windows上总是遇到各种各样的问题,所以我给电脑安装了双系统。
我爱猪肉炖粉条
·
2025-01-17 07:15
ubuntu
深度学习
在MacOS上怎样远程调试PC的内核驱动程序
通常需要借助交叉调试工具链和
虚拟化
技术来实现。以下是详细的步骤和方法,分为远程调试Windows内核驱动程序和远程调试Linux内核驱动程序两部分。
捕鲸叉
·
2025-01-17 06:31
软件调试和诊断
macos
软件调试
诊断调试
神经架构搜索在大模型效率优化中的应用
计算资源消耗巨大:大模型的训练需要大量的计算资源,例如高性能
GPU
和TPU,这导致训练成本高昂,难以普及。内存占用量大:大模型的参数量庞大,需要大量的内存进行存储和
AI大模型应用之禅
·
2025-01-17 03:06
计算机软件编程原理与应用实践
java
python
javascript
kotlin
golang
架构
人工智能
【vLLM 学习】安装
依赖环境操作系统:LinuxPython:3.8-3.12
GPU
:计算能力7.0或更高(例如V100、T4、RTX20xx、A100、L
·
2025-01-17 00:08
Docker 中的多阶段构建:提高镜像构建效率与减小镜像大小
Docker容器提供了一种轻量级的
虚拟化
解决方案,帮助开发者和运维人员将应用及其所有依赖打包到一个独立的容器中运行。
·
2025-01-16 23:24
服务器
虚拟化
一、服务器
虚拟化
是啥玩意儿?想象一下,你有一台电脑,平时只用来听歌、看视频,但电脑配置挺高,大部分时间都闲置着。
周盛欢
·
2025-01-16 22:50
服务器
运维
【Triton 教程】持久矩阵乘法 (Persistent Matmul)
它旨在提供一个基于Python的编程环境,以高效编写自定义DNN计算内核,并能够在现代
GPU
硬件上以最大吞吐量运行。
·
2025-01-16 18:47
报错解决:undefined symbol: _ZN15TracebackLoggerC1EPKc, version libcudnn_ops_infer.so.8
Ubuntu20.04的机器上跑,报错如下:undefinedsymbol:_ZN15TracebackLoggerC1EPKc,versionlibcudnn_ops_infer.so.8这个错误是在NVIDIA
GPU
打工人你好
·
2025-01-16 18:46
python
OP-TEE环境飞腾密码引擎编程指南
该平台覆盖了操作系统、算法、数据库、安全、平台工具、
虚拟化
、存储、网络、固件等多个前沿技术领域,包含了应用使能套件、软件仓库、软件支持、软件适配认证四大板块,旨在共享尖端技术,为开发者提供一个涵盖多领域的开发平台和工具套件
·
2025-01-16 17:45
安全芯片运维linux内核
【Elasticsearch】节点与集群:架构原理与优化实践
__c=1000,移动端可微信小程序搜索“历代文学”)总架构师,15年工作经验,精通Java编程,高并发设计,Springboot和微服务,熟悉Linux,ESXI
虚拟化
以及云原生Docker和K8s,
程风破~
·
2025-01-16 14:05
Elasticsearch
Elasticsearch实战
elasticsearch
架构
大数据
【JS】执行时长(100分) |思路参考+代码解析(C++)
题目为了充分发挥
GPU
算力,需要尽可能多的将任务交给
GPU
执行,现在有一个任务数组,数组元素表示在这1秒内新增的任务个数且每秒都有新增任务。
l939035548
·
2024-09-16 09:48
JS
算法
数据结构
c++
Faiss Tips:高效向量搜索与聚类的利器
它支持多种硬件平台,包括CPU和
GPU
,能够在海量数据集上实现快速的近似最近邻搜索(AN
焦习娜Samantha
·
2024-09-16 09:47
2021-06-07 Do What You Are Meant To Do
smostimportanttoyouanddoeverythingyoucantoputyourselfinapositionwhereyoucanfocusonthosepriorities,ratherthanbein
gpu
lledbyt
春生阁
·
2024-09-16 02:37
IO
虚拟化
- virtio-vring的三个组成结构【转】
1.初始化三个结构vring_new_virtqueue函数中初始化virtqueue的各种字段的初始值vq->vq.callback=callback;vq->vq.vdev=vdev;vq->vq.name=name;vq->notify=notify;vq->broken=false;vq->last_used_idx=0;vq->num_added=0;list_add_tail(&vq-
xidianjiapei001
·
2024-09-16 02:25
#
虚拟化技术
SpringBoot整合ES搜索引擎 实现网站热搜词及热度计算
__c=1000,移动端可微信小程序搜索“历代文学”)总架构师,15年工作经验,精通Java编程,高并发设计,Springboot和微服务,熟悉Linux,ESXI
虚拟化
以及云原生Docker和K8s,
码踏云端
·
2024-09-15 18:51
springboot
Elasticsearch
spring
boot
elasticsearch
后端
热搜词
热度计算
java
Python(PyTorch)和MATLAB及Rust和C++结构相似度指数测量导图
要点量化检查图像压缩质量低分辨率多光谱和高分辨率图像实现超分辨率分析图像质量图像索引/多尺度结构相似度指数和光谱角映射器及视觉信息保真度多种指标峰值信噪比和结构相似度指数测量结构相似性图像分类PNG和JPEG图像相似性近似算法图像压缩,视频压缩、端到端优化图像压缩、神经图像压缩、
GPU
亚图跨际
·
2024-09-15 18:20
Python
交叉知识
算法
量化检查图像压缩质量
低分辨率多光谱
峰值信噪比
端到端优化图像压缩
手术机器人
三维实景实时可微分渲染
重建三维可视化
深度学习-13-小语言模型之SmolLM的使用
文章附录1SmolLM概述1.1SmolLM简介1.2下载模型2运行2.1在CPU/
GPU
/多
GPU
上运行模型2.2使用torch.bfloat162.3通过位和字节的量化版本3应用示例4问题及解决4.1attention_mask
皮皮冰燃
·
2024-09-15 10:48
深度学习
深度学习
【大模型】triton inference server
前言:tritoninferenceserver常用于大模型部署,可以采用http或GRPC调用,支持大部分的backend,单
GPU
、多
GPU
都可以支持,CPU也支持。
idiotyi
·
2024-09-15 05:47
大模型
自然语言处理
语言模型
人工智能
手把手教你企业微信SCRM源码下载和私有化部署教程
服务器要求MoChat对系统环境有一些要求,仅可运行于Linux和Mac环境下,但由于Docker
虚拟化
技术的发展,在Windows下也可以通过DockerforWindows来作为运行环境,通常来说Mac
MoChat-1号
·
2024-09-15 03:30
php
微信
微信公众平台
微信开放平台
Upstage 将发布新一代 LLM “Solar Pro “预览版
SolarPro是最智能的LLM,经过优化可在单
GPU
上运行,性能超过微软、Meta和谷歌等科技巨头的模型。
吴脑的键客
·
2024-09-14 14:31
人工智能
人工智能
使用vllIm部署大语言模型
-
GPU
支持:NVIDIA
GPU
并安装了适当的驱动程序。-足够的内存和存储空间。2.安装依赖-Python3.8及以上版本。-CUDA工具包(根据
GPU
型号选择合适的版本)。
添砖JAVA的小墨
·
2024-09-14 12:18
机器学习
大模型框架:vLLM
目录一、vLLM介绍二、安装vLLM2.1使用
GPU
进行安装2.2使用CPU进行安装2.3相关配置三、使用vLLM3.1离线推理3.2适配OpenAI-API的API服务一、vLLM介绍vLLM是伯克利大学
m0_37559973
·
2024-09-14 11:41
大模型
大模型
通义千问
Qwen
上一页
4
5
6
7
8
9
10
11
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他