云计算+GPU

深度学习系列70：模型部署torchserve

内容包含：读取args，创建pid文件找到java，启动model-server.jar程序，同时读取log-config文件，TEMP文件夹地址，TS_CONFIG_FILE文件根据cpu核数、gpu
IE06·2024-08-31 00:25

做大模型 千万别买苹果笔记本电脑

以下是一些主要原因：1.GPU不适合深度学习AppleSiliconGPU限制：Apple自家芯片（如M1和M2）的GPU架构与传统的NVIDIAGPU（通常是深度学习和大模型训练的首选）不同。
路人与大师·2024-08-30 16:06

揭示灵活分布式云平台的速效降本之道

如果没有云计算，商业产业会发展到何种程度？很可能至今仍然是实体产业为主。云计算和多云战略的出现使在线购物经历了一场革命。然而，如今多云本身所固有的复杂性也成为该产业的主要痛点。
Akamai中国·2024-08-30 15:56

[2020]tensorflow2.1-GPU + CUDA +CUDNN配置过程记录

最近几天做视频数据集的时候要用到tensorflow2的gpu训练版本，要安装对应版本的cuda和cudnn，网上的教程五花八门，我尝试了很多论坛的方法，有些能用有些不可以（也可能是我操作错误），经过两天调试终于能够运行了
夏迪End·2024-08-30 15:56

三防平板：定制化服务的趋势——以智慧医疗为例

来百度APP畅享高清图片智慧医疗，即通过智能设备、大数据、云计算等技术，实现医疗服务的数字化、智能化和个性化。在这个背景下，三防平板凭借
livefan·2024-08-30 15:24

Lianwei 安全周报|2024.08.13

政策/标准/指南最新动态01美国SAFECOM发布《采用公共安全云计算的注意事项》指南该指南概述了实施基于云的解决方案的关键建议，例如认真规划以确保不间断的服务、技术性以及用户提供定制化的体验。
联蔚盘云·2024-08-30 14:51

解锁数字化转型的双引擎：MSP和CMP的力量

随着企业数字化转型的深入，云计算已经成为现代企业IT基础设施的重要组成部分。
联蔚盘云·2024-08-30 14:50

PyTorch深度学习实战（26）—— PyTorch与Multi-GPU

当拥有多块GPU时，可以利用分布式计算（DistributedComputation）与并行计算（ParallelComputation）的方式加速网络的训练过程。
shangjg3·2024-08-30 12:10

SK Hynix明年将开发基于96/128 GB DDR5的CXL 2.0内存解决方案

CXL指的是ComputeExpressLink，这是一种互联技术，可以在CPU和GPU之间实现更快的数据传输，但在人工智能领域，它实际上是CPU和加速器之间的数据传输。
吴脑的键客·2024-08-30 08:43

PyTorch深度学习实战（27）—— PyTorch分布式训练

这里主要介绍的是数据并行的分布式方法：每一块GPU都有同一个模型的副本，仅加载不同的数据
shangjg3·2024-08-30 07:37

大模型训练优化方法

本文主要参考HF上的一篇文章：https://huggingface.co/docs/transformers/perf_train_gpu_one，以及笔者在实际训练中的一些经验，给出一些比较实用的方法
少喝冰美式·2024-08-30 05:28

查看 linux 系统信息

文章目录查看系统信息查看GPU信息查看系统信息在Linux系统中，查看系统信息是一项基本而重要的操作。这可以提供关键的系统配置和状态信息，帮助用户和管理员对系统进行监控、诊断和优化。
彷徨而立·2024-08-30 05:57

云端技术驾驭DAY07——Dockerfile详解、容器镜像制作、私有仓库

往期回顾：云端技术驾驭DAY01——云计算底层技术奥秘、云服务器磁盘技术、虚拟化管理、公有云概述云端技术驾驭DAY02——华为云管理、云主机管理、跳板机配置、制作私有镜像模板云端技术驾驭DAY03——云主机网站部署
川川野马·2024-08-30 04:45

【学习笔记】：Ubuntu 22 使用模型量化工具llama.cpp部署大模型 CPU+GPU

学习笔记：Ubuntu22使用模型量化工具llama.cpp部署大模型CPU+GPU前言1下载并编译llama.cpp1.1git下载llama.cpp仓库源码1.2编译源码（make）1.2.1选择一
淮序_·2024-08-30 02:00

云计算day35

⼀、Docker-compose定义1.dockercompose是docker官⽅的开源项⽬，负责实现对docker容器集群的快速编排(容器，依赖，⽹络，挂载。。)2.compose是docker公司推出的⼀个⼯具软件，可以管理多个docker容器组成的应⽤3.需要定义⼀个YAML格式的配置⽂件docker-compose.yml，写好多个容器之间的调⽤关系4.使⽤compose的步骤、5.1.
巭氼·2024-08-29 23:42

云计算day33

在Dockerfile中定义所需要执⾏的指令，使⽤dockerbuild创建镜像，过程中会按照dockerfile所定义的内容进⾏打开临时性容器，把dockerfile中命令全部执⾏完成，就得到了⼀个容器应⽤镜像，每⼀⾏命令都会出现容器，都会使⽤dockercommit进⾏提交⼀个临时性的镜像注意执⾏的命令越多，镜像体积越⼤，所以需要优化镜像Dockerfile关键字1.FORM指定基础镜像为该镜
巭氼·2024-08-29 23:12

云计算day13

一、Git概述Git是一种分布式版本控制系统，用于跟踪和管理代码的变更。它是由LinusTorvalds创建的，最初被设计用于Linux内核的开发。Git允许开发人员跟踪和管理代码的版本，并且可以在不同的开发人员之间进行协作。Github用的就是Git系统来管理它们的网站，Github是一个社区，Git是一个服务系统，Github只支持Git分布式系统，所以故名成为Github。Git的主要功能包
巭氼·2024-08-29 23:42

云计算day25

负载均衡nginxlvshaproxy官网https://www.haproxy.com/自由及开放源代码软件HAProxy是一个使用C语言编写的自由及开放源代码软件，其提供高可用性、负载均衡，以及基于TCP和HTTP的应用程序代理。HAProxy特别适用于那些负载特大的web站点，这些站点通常又需要会话保持或七层处理。HAProxy运行在当前的硬件上，完全可以支持数以万计的并发连接。并且它的运行
巭氼·2024-08-29 23:42

云计算day32

docker容器==》k8s编排=〉openstack存储监控⽇志以及其他的内容回顾1.环境的安装catoverlay>br_netfilter>EOFoverllaybr_netfiltercatnet.bridge.bridge-nf-call-iptables=1>net.bridge.bridge-nf-call-ip6tables=1>net.ipv4.ip_forward=1>EOF#
巭氼·2024-08-29 23:40

【k8s系列】驾驭容器化未来：Kubernetes Pod的全面解析与简单实践

一、前言在当今快速发展的云计算和容器化技术领域，Kubernetes已经崭露头角，成为自动化容器操作的开源平台。
深情不及里子·2024-08-29 22:34

Linux云计算学习笔记08 （CentOS 进程管理）

一.进程的定义程序：文件，一般是二进制，静态/usr/sbin/httpd，/usr/sbin/sshd程序是二进制文件（面试题之一）进程：是程序运行的过程，动态，有生命周期的，可以产生和消亡的(进程是已启动的可执行程序的运行实例,实例即运行可执行程序)。线程：线程是进程之内独立执行的一个单元。对于操作系统而言，其调度单元是线程；一个进程至少包括一个线程，通常将该线程称为主线程；一个进程从主线程的
墨影萧萧·2024-08-29 21:02

探索AWS EC2：提升企业云计算能力的理想选择

亚马逊弹性计算云（EC2）作为AWS提供的核心服务之一，为企业提供了强大的云计算解决方案，助力业务的快速发展和创新。九河云在这里给大家说说AWS的EC2。
九河云·2024-08-29 20:21

免费部署Flux.1模型，搭载ComfyUI配置与评测

每天签到最少可获得5小时免费GPU时长，如果每一次机器运行时长不超过30分钟，就不计算时长。
fysuccess·2024-08-29 19:14

2019-05-16

TensorFlow安装CPU版本pipinstalltensorflowGPU版本pipinstalltensorflow-gpu(显卡必须支持)259.7MB如果装完不支持1.是否显卡不支持删除gpu
微软czw·2024-08-29 17:12

飞凌方案丨基于LS1028A系列核心板打造一款边缘计算网关

随着物联网、大数据、人工智能等技术的快速发展与应用,给传统的云计算模式带来了巨大的挑战,这也催生出了计算模式的变革,边缘计算由此诞生。
spear800·2024-08-29 10:48

TensorFlow和它的弟弟们

以下是它们之间的主要区别：1.TensorFlow(PC\GPU)设计目标：TensorFlow是一个开源的机器学习框架，由GoogleBrain团队开发，旨在帮助开发者构建和训练深度学习模型。
活蹦乱跳酸菜鱼·2024-08-29 08:31

买电脑如何选择显卡？

了解显卡性能：GPU型号：NVIDIA和AMD是市场上的两大主流品牌，NVIDI
是毛毛吧·2024-08-29 07:57

RK3568笔记二十二：基于TACO的垃圾检测和识别

一、环境1、测试训练环境：AutoDL.2、平台：rk35683、开发板:ATK-RK3568正点原子板子4、环境：buildroot5、虚拟机：正点原子提供的ubuntu20二、测试个人电脑没有GPU
殷忆枫·2024-08-29 06:52

云计算时代容器安全综述-容器的网络安全（上）

互联网应用已经深深的渗透到我们日常生活的方方面面，比如很多同学应该有很长时间都没有使用过现金了。不过任何事情都具有两面性，科技发展给我们造成便利的同事，不容忽视的一个事实是，大部分在线交付系统每天都会遭受各种各样的网络攻击，因此无论你的系统部署在哪里，我们都需要有基本的网络知识来保护系统的正常运行以及核心数据不会被窃取。读者看到这里可能会说讲网络原理的书和文章太多了，这个东西还有什么好说的。笔者认
攀师傅·2024-08-29 06:32

释放GPU潜能：PyTorch中torch.nn.DataParallel的数据并行实践

释放GPU潜能：PyTorch中torch.nn.DataParallel的数据并行实践在深度学习模型的训练过程中，计算资源的需求往往随着模型复杂度的提升而增加。
2401_85762266·2024-08-29 05:45

《未来二十年，AI、区块链、云与大数据技术引领全球变革》

摘要在未来二十年，全球社会与经济将深刻受到人工智能（AI）、区块链（Blockchain）、云计算（Cloud）和大数据（Data）四大核心技术的驱动。
久绊A·2024-08-29 03:25

OpenGL学习笔记（十六）缓冲区（一）像素缓冲区

缓冲区保存在GPU内存中，它
龙行天下01·2024-08-29 02:24

CUDA C++ 编程指南

目录1.Introduction1.1.TheBenefitsofUsingGPUs1.2.CUDA®:AGeneral-PurposeParallelComputing1.3.AScalableProgrammingModelCUDAC
疯狂的码泰君·2024-08-29 02:51

向量数据库Faiss的详细介绍和搭建使用教程

它通过将候选向量集封装成一个index数据库，加速检索相似向量的过程，尤其在一些最有用的算法上实现了GPU加速。二、Faiss的安装Faiss支持多种操作系统，包
大白菜程序猿·2024-08-29 01:14

GPU算力租用平台推荐

在当前快速发展的AI和深度学习领域，GPU算力租用平台成为了研究者、开发者及企业不可或缺的工具。
hong161688·2024-08-29 00:07

华云数据荣获“国民云计算品牌TOP3”：讲中国故事 做好中国云

4月15日，业内权威自媒体《信创产业》公布了2022“国民云计算品牌”。华云数据（微信号：chinac_com）凭借突出的技术优势及发展态势荣获“2022国民云计算品牌TOP3”。
互联网科技、·2024-08-28 21:16

高通骁龙800系列处理器规格型号及代表机型大全

高通骁龙800系列处理器规格型号及代表机型大全：处理器型号制造工艺CPU架构核心频率GPU内存基带出货时间代表机型骁龙800(MSM8x74)28nmHPM四核Krait4002.26GHzAdreno330450MHz
szx940213·2024-08-28 20:10

教你如何搭建本地私有云

目录本地私有云的使用场景如何使用IBCS虚拟专线搭建本地私有云本地私有云的使用场景搭建本地私有云是指在企业或组织内部搭建云计算基础设施，用于存储、处理和共享各种数据和资源。
坚持就是胜利1986·2024-08-28 19:05

[论文笔记] eval-big-refactor lm_eval 每两个任务使用一个gpu，并保证端口未被使用

1.5B在eval时候两个任务一个gpu是可以的。7B+在evalbelebele时会OOM，所以分配时脚本不同。
心心喵·2024-08-28 19:00

【软考】【多媒体应用设计师】元数据与数字对象标识码

DOI能唯一地标识网络环境下的任何数字对象，它一经产生和分配就永久不变，不随其所标识的对象属性的改变而改变，这是云计算背景下的大数据样本存储和应用技术的体现
软考鸭·2024-08-28 17:19

docker: Error response from daemon: could not select device driver with capabilities: [[gpu]]问题记录解决

具体参考：docker:Errorresponsefromdaemon:couldnotselectdevicedriverwithcapabilities:[[gpu]]问题记录解决_奶茶不加冰的博客
爱科技Ai·2024-08-28 12:47

yolo v8 + flask部署到云服务器，以及问题记录

环境安装1、运行项目报错：nopythonapplicationfound,checkyourstartuplogsforerrors在云服务器pytorch版本安装错了，安装了GPU版本，需要安装CPU
智商不够_熬夜来凑·2024-08-28 11:07

并行计算的艺术：PyTorch中torch.cuda.nccl的多GPU通信精粹

并行计算的艺术：PyTorch中torch.cuda.nccl的多GPU通信精粹在深度学习领域，模型的规模和复杂性不断增长，单GPU的计算能力已难以满足需求。多GPU并行计算成为提升训练效率的关键。
2401_85763639·2024-08-28 09:56

智慧综合执法办案平台源码，城管执法app源码，快速执法办案

智慧综合执法管理平台源码，智慧城管系统源码综合执法办案平台是智慧城市框架下，依托物联网、云计算、多网融合等现代化技术，运用数字基础资源、多维信息感知、协同工作处置、智能化辅助决策分析等手段，形成具备高度感知
项目源码库·2024-08-28 08:52

苹果M4芯片Mac全面曝光 或10月发布

其中三台Mac配备了10核CPU和10核GPU；第四台机器配备了8核CPU和8核GPU（首次亮相），所有四台M4Mac都有16GB
一一一一一一__1·2024-08-28 08:22

云计算实训35——镜像的迁移、镜像的创建、使用docker查看ip、端口映射、容器持久化

一、镜像的迁移打包镜像dockersave-o文件名称镜像名：标签#查看帮助命令[root@docker~]#docker--help#查看save打包用法[root@docker~]#dockersave--help#查看原有镜像[root@docker~]#dockerimages#将镜像打包[root@docker~]#dockersave-ocentos.tarcentos:latest#
麻辣鱿鱼须783·2024-08-28 07:45

云计算实训36——mysql镜像管理、同步容器和宿主机时间、在容器外执行容器内命令、容器的ip地址不稳定问题、基础镜像的制作、镜像应用

一、线上考试系统的数据虚拟化技术部署1.部署前段服务器步骤一：将资源上传到服务器将dist.zip上传给服务器下载unzip的包yum-yinstallunzip解压unzipdist.zip步骤二：创建基础容器在服务器上启动服务systemctlstartdocker.service拉取镜像dockerpullcentosdockerrun-it--namec0centos:latest/bin
麻辣鱿鱼须783·2024-08-28 07:45

精准掌控GPU：深度学习中PyTorch的torch.cuda.device应用指南

精准掌控GPU：深度学习中PyTorch的torch.cuda.device应用指南在深度学习的世界里，GPU加速已成为提升模型训练和推理速度的关键。
2401_85760095·2024-08-28 06:41

编译运行 llama.cpp (vulkan, Intel GPU SYCL)

llama.cpp是一个运行AI(神经网络)语言大模型的推理程序,支持多种后端(backend),也就是不同的具体的运行方式,比如CPU运行,GPU运行等.但是编译运行llama.cpp并不是那么容易的
穷人小水滴·2024-08-28 05:27

大模型推理测速 (llama.cpp, Intel GPU A770)

由于本文太长,分开发布,方便阅读.3.1CPU(i5-6200U,2C/4T/2.8GHz)x86_64AVX2在4号PC(物理机)上运行.版本:>./llama-b3617-bin-ubuntu-x64/build/bin/llama-cli--versionversion:3617(a07c32ea)builtwithcc(Ubuntu11.4.0-1ubuntu1~22.04)11.4.0f
穷人小水滴·2024-08-28 05:57
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他