盒子gpu

增强大型语言模型（LLM）可访问性：深入探究在单块AMD GPU上通过QLoRA微调Llama 2的过程

EnhancingLLMAccessibility:ADeepDiveintoQLoRAThroughFine-tuningLlama2onasingleAMDGPU—ROCmBlogs基于之前的博客《
109702008·2025-01-22 11:35

小土堆学习笔记10（利用GPU训练于模型验证）

1.利用GPU训练GPU可优化操作如下操作方法1方法2数据获取判断是否可以使用GPU，如果可以直接model.cuda()先设定device，用的时候直接model.to（“device”）损失函数1.1
干啥都是小小白·2025-01-22 11:03

前端开发之性能优化

[CDN](https://www.bootcdn.cn/)2.懒加载3.缓存4.图片压缩5.图片分割6.sprite7.CodeSplitting8.gzip9.GPU加速10.Ajax11.TreeShaking12
水煮白菜王·2025-01-22 09:17

安装CUDA Cudnn Pytorch(GPU版本）步骤

一.先看自己的电脑NVIDIA支持CUDA版本是多少？1.打开NVIDIA控制面板2.点击帮助---系统信息--组件我的支持CUDA11.6二.再看支持Pytorch的CUDA版本三.打开CUDA官网下载CUDA11.6下载好后，安装选择自定义然后安装位置（先去F盘建个CUDA-manger文件夹然后在里面建个CUDA11.6文件夹再在里面建立CUDA1CUDA2这两个文件夹前两个位置选到CUDA
学乐乐·2025-01-22 08:43

如何有效控制 KV 缓存的内存占用，优化推理速度？

使用KV缓存技术的目的是在生成过程中计算过去tokens的键和值张量时，将这些张量存储（“缓存”）在GPU内存中，从而避免在每个生成步骤中重新计算这些tokens的键和值张量。
m0_70960708·2025-01-22 04:13

鸿蒙Flutter实战：15-Flutter引擎Impeller鸿蒙化、性能优化与未来

Flutter技术原理Flutter是一个主流的跨平台应用开发框架，基于Dart语言开发UI界面，它将描述界面的Dart代码直接编译成机器码，并使用渲染引擎调用GPU/CPU渲染。
星释·2025-01-22 04:07

用JavaScript实现找不同小游戏

目录倒计时的实现找不同实现对canvas的初始化实现画布的分割,父盒子>子盒子>canvas找不同逻辑的判断实现图片的导入DOM节点的监听声明两个需要监听的节点禁用页面点击事件的函数DOM监听实现勋章分数增加和生命的减少减命逻辑死亡响应
算是难了·2025-01-22 02:25

Vue3轮播图的实现：vue3-carousel的使用和配置

carousel官方文档：Gettingstarted|Vue3-carouselnpminstallvue3-carousel二、引入在Vue3项目中添加，这是一个简单的轮播demo：//IfyouareusingPurgeCSS
闲人陈二狗·2025-01-21 22:26

Java面试题——面向对象和面向过程的区别

面向过程是具体化的，流程化的，解决一个问题，需要一步一步的分析，一步一步的实现面向过程是模型化的，只需要抽象出一个类，这是一个封闭的盒子，在这里拥有数据也拥有解决问题的方法
Find Our Way·2025-01-21 20:35

MacOS/C/C++下怎样进行软件性能分析(CPU/GPU/Memory)

在macOS环境下进行C/C++软件性能分析，可以使用多种工具和技术来测量和优化CPU、GPU和内存的性能。
捕鲸叉·2025-01-21 14:12

服务器虚拟化：从“魔法盒子”到“数字世界的基石”

！今天咱们来聊聊一个听起来特别高大上，但实际上特别接地气的话题——服务器虚拟化。别看这个词儿有点拗口，它可真的是现代数字世界里的一块超级重要的基石。要是没有它，我们可能还在用一大堆笨重的服务器，效率低下，成本超高。但有了服务器虚拟化，一切都变得不一样了！一、服务器虚拟化是个啥？先来说说服务器虚拟化到底是个啥玩意儿。简单来说，服务器虚拟化就是把一台物理服务器变成多个“虚拟服务器”，这些虚拟服务器就像
独角鲸网络安全实验室·2025-01-21 14:05

linux下jax-GPU安装

安装命令详细内容可查看jax官方文档在已有cuda的情况下，先使用命令1，再使用命令2，即可完成安装命令1：linux下jax安装命令pipinstalljax[cpu]==0.3.25-fhttps://storage.googleapis.com/jax-releases/jax_releases.html将黑体部分，替换成想要的版本即可命令2：linux下jaxlibcuda安装命令pipi
liu_zhaoda·2025-01-21 13:00

英伟达最新的算力芯片Blackwell芯片名为GB200

Blackwell芯片基于新的BlackwellGPU架构，专为人工智能模型设计。每个B200GPU包含2080亿个晶体管，GB200由两个这样的GPU和一个GraceCPU
算力资源比较多·2025-01-21 12:53

【前端三剑客实现3D相册~爱她，就为她做一个3D相册吧！！！】

创建一个3D相册盒子效果的HTML页面引言一、技术栈二、页面结构三、样式设计四、JavaScript逻辑五、总结完整源码获取，私信了解更多！！！
烂然星陈·2025-01-21 12:20

大模型推理：vllm多机多卡分布式本地部署

文章目录1、vLLM分布式部署docker镜像构建通信环境配置2、其他大模型部署工具3、问题记录参考文献单台机器GPU资源不足以执行推理任务时，一个方法是模型蒸馏量化，结果就是会牺牲些效果。
m0_74824755·2025-01-21 08:20

基于ADB Shell 实现的 Android TV、电视盒子万能遥控器 — ADB Remote ATV

OrangePiZero3AndroidTV、电视盒子万能遥控器ADBRemoteATVAndroidTV的遥控器，基于ADBShell命令ADBRemoteATV是一个AndroidTV的遥控器，基于
sw-code·2025-01-21 06:30

湖北移动魔百盒ZN90_Hi3798MV300／MV310-当贝桌面精简卡刷固件包

湖北移动魔百盒ZN90_Hi3798MV300／MV310-当贝桌面精简卡刷固件包特点：1、适用于对应型号的电视盒子刷机；2、开放原厂固件屏蔽的市场安装和u盘安装apk；3、修改dns，三网通用；4、大量精简内置的没用的软件
fatiaozhang9527·2025-01-21 06:28

M302H-ZN-Hi3798MV300／MV300H-当贝纯净桌面-卡刷固件包

M302H-ZN-Hi3798MV300／MV300H-当贝纯净桌面-卡刷固件包-内有教程特点：1、适用于对应型号的电视盒子刷机；2、开放原厂固件屏蔽的市场安装和u盘安装apk；3、修改dns，三网通用
fatiaozhang9527·2025-01-21 06:57

GPU介绍之GPU监控中，如何确定GPU忙碌程度

关注我，持续分享逻辑思维&管理思维&面试题；可提供大厂面试辅导、及定制化求职/在职/管理/架构辅导；推荐专栏《10天学会使用asp.net编程AI大模型》，目前已完成所有内容。一顿烧烤不到的费用，让人能紧跟时代的浪潮。从普通网站，到公众号、小程序，再到AI大模型网站。干货满满。学成后可接项目赚外快，绝对划算。不仅学会如何编程，还将学会如何将AI技术应用到实际问题中，为您的职业生涯增添一笔宝贵的财富
借雨醉东风·2025-01-21 01:40

大模型介绍

通常，它们需要在多个GPU或TP
詹姆斯爱研究Java·2025-01-21 01:39

postgrel执行VACUUM报VACUUM cannot run inside a transaction block

deletefromdwd_access_record_inout_temptwheret.indate>(selectnow()::timestamp-interval'36hour')"3conn=gputil.connect
dianzufa9403·2025-01-21 00:58

安装盒子or搭建机房

1选择做PCDN时是安装盒子还是搭建机房，取决于您的业务规模、预算、技术需求以及长期战略。
黑石云·2025-01-20 23:23

服务器与机顶盒

在PCDN（P2PCDN，即点对点内容分发网络）中，服务器相比盒子具有更高的风险，这主要是由于它们在性能、资源利用、应用场景以及运营方式上的差异所导致的。
黑石云·2025-01-20 23:23

边缘计算的方式

第一个就是用盒子来跑，这个盒子的话包括光猫、路由器、摄像头等等，盒子是一条网线带动一个盒子，它的门槛会比较低，支持30到300兆上行，所以的话盒子它是非常好入手的。
黑石云·2025-01-20 23:22

【TVM 教程】内联及数学函数

ApacheTVM是一个端到端的深度学习编译框架，适用于CPU、GPU和各种机器学习加速芯片。
·2025-01-20 17:47

实战千问2大模型第五天——VLLM 运行 Qwen2-VL-7B（多模态）

它通过优化显存管理、支持大模型的批处理推理以及减少不必要的内存占用，来提高多GPU环境下的推理速度和效率。VLLM的核心特点包括：显存高效性：VLLM能够动态管理显存，
学术菜鸟小晨·2025-01-20 02:50

【端到端模型】

端到端模型就像是一个超级智能的黑盒子。想象你要完成一个任务，比如把一张写着字的图片变成电脑里能编辑的文字（这是光学字符识别的任务）。
W Y·2025-01-20 00:32

PyTorch使用教程- Tensor包

张量是一个多维数组，类似于NumPy中的ndarray，但它是基于GPU的，支持自动求导。
Loving_enjoy·2025-01-19 23:52

什么是AI显卡，英伟达与AMD显卡的全面对比

AI显卡是专门为人工智能计算任务设计和优化的图形处理器（GPU）。相比传统显卡，AI显卡具备更强的计算能力、更高的并行处理效率以及针对深度学习、数据科学等领域的特殊硬件支持。
wit_@·2025-01-19 16:53

从零开始的 AI Infra 学习之路

AI开发体系3.1编程语言四、AI训练框架&推理引擎4.1PyTorch4.2llama.cpp4.3vLLM五、AI编译&计算架构5.1CUDA5.2CANN六、AI硬件&体系结构6.1INVIDIAGPU6.2AscendNPU
SSS不知-道·2025-01-19 15:15

【YOLOV8】YOLOV8模型训练train及参数详解

高效性：无论是单GPU设置还是跨多个GPU扩展，都能充分利用你的硬件。多功能性：
小小小小祥·2025-01-19 15:10

【学习总结|DAY031】后端Web实战(员工管理)三

通过集合接收参数的代码如下：@DeleteMappingpublicResultdelete(@RequestParamListids){log.info(
123yhy传奇·2025-01-19 14:04

加速AI模型部署：深入探索Banana的无服务架构

在本文中，我们将探讨如何利用Banana提供的无服务GPU推理来部署AI模型，并结合LangChain实现高效的模型推理。主要内容1.Banana生态系统的优势Banana提供了一套完
afTFODguAKBF·2025-01-19 13:30

构建高效GPU算力平台：挑战、策略与未来展望

引言随着深度学习、高性能计算和大数据分析等领域的快速发展，GPU（图形处理器）因其强大的并行计算能力和浮点运算速度而成为首选的计算平台。
Mr' 郑·2025-01-19 11:43

AI技术架构：从基础设施到应用

1.GPU（图形处理单元）：并行计算的核心GPU是深度学习的核心引擎，专为大规模并行计算设计。技术优
fuqinyijiu·2025-01-19 06:31

NVIDIA发布企业级硬件 AI 参考架构

NVIDIA发布企业级硬件AI参考架构NVIDIA英伟达在OCP峰会后发布了许多AI参考架构，#GPU服务器#供应商与Nvidia合作开发了大规模部署NvidiaAI硬件所需的基础设施硬件，近日Nvidia
深度学习服务器·2025-01-19 05:45

实验室多人共享GPU服务器搭建指南（更新ing）

linux安装nvidia驱动必备（笔者实验室的GPU服务器交货时已安装驱动，不再详述）Ubuntu20.04安装Nvidia驱动——4060显卡（黑屏解决方法）1.首先禁
Geodesy&Geomatic·2025-01-19 04:30

【安利一个超高性价比的GPU租赁平台 使用分享】

GPU算力服务器，使用经验分享，强烈推荐，还送你30元额度！可以白嫖！！为什么需要租服务器？当我使用自己的电脑跑模型时，每个Epoch大概要花费54分钟左右，总共有150个Epoch...
放飞自我的Coder·2025-01-19 04:30

深度学习(1)

一、torch的安装基于直接设备情况，选择合适的torch版本，有显卡的建议安装GPU版本，可以通过nvidia-smi命令来查看显卡驱动的版本，在官网中根据cuda版本，选择合适的版本号，下面是安装示例代码
浅忆へ梦微凉·2025-01-18 18:57

NVIDIA下一代Hopper架构曝光，采用5nm工艺 晶体管超1400亿

据媒体报道，NVIDIA下一代主要面向高性能计算、人工智能等Hopper架构，将会采用5nm工艺制程，晶体管多达1400亿个，面积核心达到了900平方毫米，是有史以来最大的GPU。
Java小海.·2025-01-18 17:54

NVIDIA Hopper解说

NVIDIAHopper架构是NVIDIA推出的面向高性能计算（HPC）和人工智能（AI）的最新一代GPU架构。
白总Server·2025-01-18 17:24

NVIDIA Hopper 架构深入

在2022年NVIDIAGTC主题演讲中，NVIDIA首席执行官黄仁勋介绍了基于全新NVIDIAHopperGPU架构的全新NVIDIAH100TensorCoreGPU。
RZer·2025-01-18 16:40

Pytorch实现：LSTM-火灾温度预测

本文为365天深度学习训练营中的学习记录博客原作者：K同学啊前期工作语言环境：Python3.9.18编译器：JupyterLab深度学习环境：Pytorch1.12.11.设置GPUimporttorchimporttorch.nnasnnimporttorchvisionfromtorchvisionimporttransforms
骑猪玩狗·2025-01-18 11:32

【TVM 教程】为 x86 CPU 自动调优卷积网络

ApacheTVM是一个深度的深度学习编译框架，适用于CPU、GPU和各种机器学习加速芯片。
·2025-01-17 20:18

加速 AI 训推：Lepton AI 如何构建多租户、低延迟云存储平台

该平台适用于各种训练、推理需求，GPU充足，在保证高性能的同时，能够灵活应对不断变化的工作负载。用户可以快速在Lepton平台上部署推理服务和执行训练任务，无需关注基础设施和稳定性问题。
·2025-01-17 15:51

高通AdrenoGPU简介（一）

这意味着gpu需要在相同的固定时间段内光栅化更多的片段。假设目标帧率为30fps，游戏在单个帧上的花费不能超过33.3ms。
·2025-01-17 15:20

云手机技术是怎么实现的？（云手机在海外社媒营销、跨境电商、短视频领域应用)

其中主板还集成着CPU，GPU，内存等元件。手机硬件主要由SOC、RAM、ROM、电池、屏幕、传感器等组成。那为什么说云手机本质上是手机呢？
verybots2023·2025-01-17 11:48

拯救者电脑安装Windows和Ubuntu双系统遇到黑屏或者花屏问题的解决方法，亲测有效

最近想在电脑上跑深度学习，有一定基础的都知道，ubuntu更适合gpu、apex以及其他加速的使用，如果在Windows上总是遇到各种各样的问题，所以我给电脑安装了双系统。
我爱猪肉炖粉条·2025-01-17 07:15

神经架构搜索在大模型效率优化中的应用

计算资源消耗巨大:大模型的训练需要大量的计算资源，例如高性能GPU和TPU，这导致训练成本高昂，难以普及。内存占用量大:大模型的参数量庞大，需要大量的内存进行存储和
AI大模型应用之禅·2025-01-17 03:06

【vLLM 学习】安装

依赖环境操作系统：LinuxPython：3.8-3.12GPU：计算能力7.0或更高（例如V100、T4、RTX20xx、A100、L
·2025-01-17 00:08
上一页 2 3 4 5 6 7 8 9 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他