a100高性能服务器

Nodejs 相关知识

Nodejs超强的高并发能力，能够实现高性能服务器node环境：只有v8引擎解析js，没有dom和bom对象。浏览
Goat恶霸詹姆斯·2023-09-23 17:58

ShipMaker船舶协同设计软件介绍

作者简介：有将近20年的软件开发经验，包括15年CAD（7年船舶和8年建筑CAD软件）软件开发和5年高性能服务器开发。
Hanson85·2023-09-23 16:21

Centos 7.8 中安装Nvidia A100 GPU驱动

导读本文介绍如何在Centos7.8操作系统中禁用nouveau驱动，并安装NvidiaTeslaA100型号GPU的驱动，并安装CUDA11.6和cuDNN。系统中查看GPU信息系统安装完成之后，进入系统，使用lspci命令查询一下GPU是否存在、型号信息是什么。[root@node01~]#lspci|grep-invidia下载NVIDIATeslaA100驱动通过lspci查询到GPU的型
Linux资源站·2023-09-23 15:53

Centos7完全离线环境安装Nvidia Tesla A100 40G显卡驱动（含CUDA Toolkit）和Anaconda3虚拟环境

公司一台完全离线环境的服务器刚装了NvidiaTeslaA10040G显卡，自己摸索着将显卡驱动在完全离线环境下安装成功，这里记录一下。一、下载Centos7适配的NvidiaTeslaA10040G显卡驱动在Nvidia官网下载Centos7适配的显卡驱动，CUDAToolkit选择的11.7，没有选择最新的，下载下来的显卡驱动为：nvidia-driver-local-repo-rhel7-5
hiber987·2023-09-23 15:22

Linux高性能服务器编程 学习笔记 第五章 Linux网络编程基础API

我们将从以下3方面讨论Linux网络API：1.socket地址API。socket最开始的含义是一个IP地址和端口对（ip，port），它唯一表示了使用TCP通信的一端，本书称其为socket地址。2.socket基础API。socket的主要API都定义在sys/socket.h头文件中，包括创建socket、命名socket、监听socket、接受连接、发起连接、读写数据、获取地址信息、检测
吃着火锅x唱着歌·2023-09-23 09:48

Linux高性能服务器编程 学习笔记 第六章 高级IO函数

pipe函数用于创建一个管道，以实现进程间通信：fd参数是一个包含两个int的数组。该函数成功时返回0，并将一对打开的文件描述符填入其参数指向的数组，如果失败，则返回-1并设置errno。pipe函数创建的这两个文件描述符fd[0]和fd[1]分别构成管道的两端，往fd[1]写入的数组可以从fd[0]读出，并且fd[0]只能用于从管道读出数据，fd[1]只能用于往管道写入数据，不能反过来使用。如果
吃着火锅x唱着歌·2023-09-23 09:45

ChatGLM LLM大模型训练和预测如何计算算力需求

架构+数据+算力8*A100微调大模型lora工具微调内容审核:输入的审核生成的审核;GPU并行处理能力算力计算一个LLaMA-6B的数据类型为Int8模型参数6B1bytes=6GB梯度6B1bytes
张志翔的博客·2023-09-23 03:15

服务器租用

用户采取租用的方式，安装相应的系统软件及应用软件以实现用户独享专用高性能服务器，实现全部网络服务功能，用户的初期投资减轻了，可以更专著于自己业务的研发。
Zh2321784457·2023-09-22 17:03

微软13亿参数phi-1.5，单个A100训练，刷新SOTA

微软推出了一个全新预训练模型phi-1.5，共有13亿参数，能做QA问答、聊天和写代码等等。模型越大，能力越强吗？然而，事实并非如此。近日，微软研究人员推出了一个模型phi-1.5，仅有13亿参数。论文地址：https://arxiv.org/pdf/2309.05463.pdf具体来说，在常识推理、语言技能，phi-1.5表现与其他模型相当。同时在多步推理上，远远超过其他大模型。phi-1.5展
语音之家·2023-09-22 00:54

阿里架构师分享分布式架构笔记文档：Nginx+Redis+ZK+Kafka+MQ等

作为高性能服务器的代表，为了追求极致的高性能，在许多方面，Nginx的源码实现都可以称得上是典范。
司腾·2023-09-20 18:00

TCP粘包拆包的原因及解决办法

TCP粘包拆包的原因及解决办法文章目录TCP粘包拆包的原因及解决办法TCP粘包拆包的原因如何解决如果你曾经亲自动手在实际项目中编写过TCP服务器或客户端，特别是涉及到高性能服务器的开发，那么你一定会对TCP
shenkaibo·2023-09-20 17:56

揭秘英伟达A100、A800、H100、H800 GPU如何实现高性能大模型的百倍训练加速

关键词：Transformer；PLM；SLM；NLM；LLM；Galactica；OPT；OPT-IML；BLOOM；BLOOMZ；GLM；Reddit；H100；H800；A100；A800；MI200
·2023-09-19 17:01

LLM 08-分布式训练

即使用1024张80GB的A100，那么完整训练GPT-3的时长都需要1个月。模型规模的扩大，对硬件（算力、内存）的发展提出要求。然而，因为内存墙的存在，单一设备
Gocara·2023-09-19 11:27

stable-diffussion-webui+sd-webui-text2video+SadTalker数字人生产力工具安装配置教程（Linux Ubuntu，避坑帖）

因为主流的A100、H100等显卡都是跑在服务器上面的专业卡，而服务器9
水无月繁星·2023-09-19 08:29

《Linux高性能服务器编程》--高级I/O函数

目录1--Pipe()2--dup()和dup2()3--readv()和writev()4--sendfile()5--mmap()和munmap()6--spice()7--tea()8--fcntl()1--Pipe()#includeintpipe(intfd[2]);//成功返回0，失败返回-1pipe()函数可用于创建一个管道，以实现线程间通信；fd[0]和fd[1]分别构成管道的两端
晓晓纳兰容若·2023-09-19 04:25

《Linux高性能服务器编程》--TCP/IP协议族

目录1--TCP/IP协议族2--数据链路层3--网络层4--传输层5--应用层6--封装和分用7--ARP协议的工作原理1--TCP/IP协议族TCP/IP协议族是一个四层协议系统，自底而上分别是数据链路层、网络层、传输层和应用层；2--数据链路层数据链路层两个常用协议：ARP协议（地址解析协议）和RARP协议（逆地址解析协议）；ARP协议：IP地址转换为物理地址（MAC地址）；RARP协议：用
晓晓纳兰容若·2023-09-19 04:53

揭秘英伟达A100、A800、H100、H800 GPU如何实现高性能大模型的百倍训练加速

关键词：Transformer；PLM；SLM；NLM；LLM；Galactica；OPT；OPT-IML；BLOOM；BLOOMZ；GLM；Reddit；H100；H800；A100；A800；MI200
高性能服务器·2023-09-18 12:32

英伟达 H100 vs. 苹果M2，大模型训练，哪款性价比更高？

M1芯片|Uitra|AMD|A100M2芯片|ARM|A800|H100关键词：M2芯片；Ultra；M1芯片；UltraFusion；ULTRAMAN；RTX4090、A800;A100；H100；
高性能服务器·2023-09-18 12:01

如何在SAM时代下打造高效的高性能计算大模型训练平台

关键词：SAM；PCB；SA-1B；Prompt；CV；NLP；PLM；BERT；ZSL；task；zero-shot；data；H100、H800、A100、A800、LLaMA、Transformer
高性能服务器·2023-09-18 12:01

Linux高性能服务器编程 学习笔记 第四章 TCP/IP通信案例：访问Internet上的Web服务器

Web客户端和服务器之间使用HTTP协议通信。我们按以下方式来部署通信实例：在Kongming20上运行wget客户端程序（一个在命令行下使用的网络下载工具，它支持通过HTTP、HTTPS和FTP协议下载文件），在ernest-laptop上运行squid代理服务器程序（主要用于缓存和转发网络请求，从而提高网络性能、安全性和可用性），客户端通过代理服务器的中转，获取Internet上的主机www.
吃着火锅x唱着歌·2023-09-18 11:42

从GFS到GPT，AI Infra的激荡20年

大众对AIInfra的关注点，往往放在AI算力上——比如A100/H100的芯片封锁；比如马斯克又买了一万张GPU，等等。算力无疑是AI浪潮中至关重要的一环，然而AIInfra并不只与算力相关。
高德技术·2023-09-17 07:57

Excel知识点

如公式=A1-B1是普通公式,加不加三键得出的值是相同的,就没必要加而公式=SUM(A1:A100-B1:B100)公式的意思是A1至A100单元格区域分别减去B1至B100单元格区域的值的总和(即=A1
慧灵儿·2023-09-16 20:27

Linux高性能服务器编程 学习笔记 第三章 TCP协议详解

与IP协议相比，TCP协议更靠近应用层，因此在应用程序中有更强的可操作性。一些重要的socket选项都和TCP协议相关。本章从以下方面讨论TCP协议：1.TCP头部信息。TCP头部信息出现在每个TCP报文段中，用于指定通信的源端端口号、目的端端口号，管理TCP连接，控制两个方向的数据流。2.TCP状态转移过程。TCP连接的任意一端都是一个状态机，在TCP连接从建立到断开的过程中，连接两端的状态机将
吃着火锅x唱着歌·2023-09-16 02:13

linux c 多线程 互斥锁、自旋锁、原子操作的分析与使用

问题引入多线程的引入无疑是高性能服务器的必要技术之一，但是如果不控制好临界资源的使用，就
abcd552191868·2023-09-15 21:09

理财是什么？怎样学习理财？

12平均A100%-50%25%B10%10%10%乍一看，A的业绩好，经常能翻一番，非常吸引人；而B的回报率在某些年份也能做到，平均回报也证实了我们的直观判断。但实际
财富智星·2023-09-14 22:03

Houdini 灯光插件工作流程，如何将 HDR Light Studio 与 Houdini 结合使用？

流畅的运行Houdini：Houdini项目渲染慢，本地硬件配置不够，想要加速渲染，在不增加额外的硬件成本投入的情况下，最好的解决方式是使用渲云云渲染，在云端批量渲染，批量出结果，享受高配置、高内存、高性能服务器带来极致的渲染速度
3D渲染技巧分享·2023-09-14 15:06

transformer大语言模型(LLM)部署方案整理

毕竟不是谁都有H100/A100,能有个3090就不错了。目前已经有不少框架支持了大模型的分布式部署，可以并行的提高推理速度。不光可以单机多卡，还可以多机多卡。
yuanlulu·2023-09-14 10:52

Linux高性能服务器——定时器

定时器定时是指在一段时间之后触发某段代码的机制，我们可以在这段代码中依次处理所有到期的定时器。换言之，定时机制是定时器得以被处理的原动力。Linux提供了三种定时方法：socket选项SO_RCVTIMEO和SO_SNDTIMEO；SIGALRM信号；I/O复用系统调用的超时参数；定时方法1.socket选项SO_RCVTIMEO和SO_SNDTIMEO这两个选项仅对与数据接收和发送相关的sock
库博酱·2023-09-14 07:18

Linux高性能服务器——状态机

状态机有的应用层协议头部包含数据包类型字段，每种类型可以映射为逻辑单元的一种执行状态，服务器可以根据它来编写相应的处理逻辑。状态之间的转移是需要状态机内部驱动的。STATE_MACHINE(){Statecur_State=type_A;while(cur_State!=type_C){Package_pack=getNewPackage();switch(cur_State){casetype_
库博酱·2023-09-14 06:45

Linux高性能服务器编程 学习笔记 第二章 IP协议详解

本章从两方面探讨IP协议：1.IP头部信息。IP头部出现在每个IP数据报中，用于指定IP通信的源端IP地址、目的端IP地址，指导IP分片和重组，指定部分通信行为。2.IP数据报的路由和转发。IP数据报的路由和转发发生在除目标机器外的所有主机和路由器上，它们决定数据报是否应该转发以及如何转发。由于32位的IPv4地址即将全部用完，因此人们开发出了新版本的IPv6协议。IP协议为上层协议提供无状态、无
吃着火锅x唱着歌·2023-09-12 12:46

Linux中select poll和epoll的区别

LinuxSocket服务器短编程时，为了处理大量客户的连接请求，需要使用非阻塞I/O和复用，select、poll和epoll是LinuxAPI提供的I/O复用方式，自从Linux2.6中加入了epoll之后，在高性能服务器领域得到广泛的应用
duhf_think·2023-09-10 18:58

正式支持 NVIDIA A100，吞吐量提高 10 倍的Milvus Cloud2.3 使用指南

Milvus2.3正式支持NVIDIAA100！作为为数不多的支持GPU的向量数据库产品，Milvus2.3在吞吐量和低延迟方面都带来了显著的变化，尤其是与此前的CPU版本相比，不仅吞吐量提高了10倍，还能将延迟控制在极低的水准。不过，正如我前面提到的，鲜有向量数据库支持GPU，这其中除了有技术门槛较高的因素外，还涉及诸多不确定性的问题。那么，Milvus为什么要做一件充满挑战的事情？回想Milv
LCHub低代码社区·2023-09-10 18:41

IP/TCP协议详解

面试准备文章目录系列文章目录前言第一章、TCP/协议族1.1层次介绍1.2封装1.3分用前言IP/TCP学习系列目前总共包括4篇，本学习专栏都是自己学习的笔记与总结，前部分来源于游双编著的《Linux高性能服务器编程
滴答滴答的迪迦·2023-09-10 13:12

第一篇 TCP/IP协议详解

TCP协议详解3.1TCP头部结构3.2TCP连接的建立和关闭3.3复位报文段3.4TCP数据传输3.5拥塞控制四、TCP/IP案例：访问Internet上的Web服务器4.1代理服务器总结前言Linux高性能服务器编程第一章学习
游标卡尺的估读·2023-09-10 13:12

《Linux高性能服务器编程》学习笔记——第五章 Linux网络编程基础API(1)

先来学习一下《Linux高性能服务器编程》第五章Linux网络编程基础API。Linux网络API分为三个方面：socket地址API，socket基础API，网络信息API。
爱很遥远·2023-09-10 13:12

Linux高性能服务器编程笔记（一）

前言：在前段时间为了学习网络编程，于是就看了《Linux高性能服务器编程》和《UNIX网络编程卷1：套接字联网API》的部分章节。
guluguluman·2023-09-10 13:40

Linux高性能服务器编程 学习笔记 第一章 TCP/IP协议族

现在Internet使用的主流协议族是TCP/IP协议族，它是一个分层、多协议的通信体系。TCP/IP协议族包含众多协议，我们只详细讨论IP协议和TCP协议，因为它们对编写网络应用程序有最直接的影响。如果想系统学习网络协议，RFC（RequestForComments，评论请求）是首选资料。TCP/IP协议族是一个四层协议系统，自底而上分别是数据链路层、网络层、传输层、应用层。每层完成不同功能，且
吃着火锅x唱着歌·2023-09-10 13:39

Linux高性能服务器编程学习笔记（一）

第5章Linux网络编程基础APILinux高性能服务器编程学习笔记5.1socket地址API5.1.1主机字节序和网络字节序主机字节序–>小端低–>低网络字节序–>大端高–>低主机字节序和网路字节序转换
RadiumYang·2023-09-10 13:09

C++高性能服务器框架——日志系统详解

1|0日志文件系统对文件系统进行修改时，需要进行很多操作。这些操作可能中途被打断，也就是说，这些操作不是“不可中断”(atomic)的。如果操作被打断，就可能造成文件系统出现不一致的状态。例如：删除文件时，先要从目录树中移除文件的标示，然后收回文件占用的空间。如果在这两步之间操作被打断，文件占用的空间就无法收回。文件系统认为它是被占用的，但实际上目录树中已经找不到使用它的文件了。在非日志文件系统中
Linux服务器开发·2023-09-10 02:31

【webserver】 第8节 响应报文的生成

参考了游双老师的《Linux高性能服务器编程》以及牛客网的《Linux高并发服务器开发》课程。在自己复现的基础上进行模块的整合并添加一些小更改。所有代码拥有完备的注释。
几日行云·2023-09-10 01:27

如何在SAM时代下打造高效的高性能计算大模型训练平台

关键词：SAM；PCB；SA-1B；Prompt；CV；NLP；PLM；BERT；ZSL；task；zero-shot；data；H100、H800、A100、A800、LLaMA、Transformer
·2023-09-10 01:45

揭秘英伟达A100、A800、H100、H800 GPU如何实现高性能大模型的百倍训练加速

关键词：Transformer；PLM；SLM；NLM；LLM；Galactica；OPT；OPT-IML；BLOOM；BLOOMZ；GLM；Reddit；H100；H800；A100；A800；MI200
·2023-09-10 01:44

接入 NVIDIA A100、吞吐量提高 10 倍！Milvus GPU 版本使用指南

Milvus2.3正式支持NVIDIAA100！作为为数不多的支持GPU的向量数据库产品，Milvus2.3在吞吐量和低延迟方面都带来了显著的变化，尤其是与此前的CPU版本相比，不仅吞吐量提高了10倍，还能将延迟控制在极低的水准。不过，正如我前面提到的，鲜有向量数据库支持GPU，这其中除了有技术门槛较高的因素外，还涉及诸多不确定性的问题。那么，Milvus为什么要做一件充满挑战的事情？回想Milv
Zilliz Planet·2023-09-08 10:03

飞桨AI Studio——人工智能学习与实训社区

限时免费算力在开发过程中，小伙伴们一直为稀缺的算力苦恼，而高性能服务器的价格更是高居不下。随着海光异构智能计算专区的推出，我们也将提供最优惠算力，为您的深度学习之旅助
·2023-09-07 20:04

飞桨AI Studio——人工智能学习与实训社区

限时免费算力在开发过程中，小伙伴们一直为稀缺的算力苦恼，而高性能服务器的价格更是高居不下。随着海光异构智能计算专区的推出，我们也将提供最优惠算力，为您的深度学习之旅助
·2023-09-07 20:03

优化SOCKS5的方法

1.使用高性能服务器：选择强大且可靠的服务器是优化SOCKS5代理服务器的第一步。确保服务器的配置能够满足您的需求，并具备足够的带宽和处理能力。2.带宽优化：配置适当的带
华科℡云·2023-09-07 10:16

海光异构智能计算专区上线飞桨AI Studio！

限时免费算力在开发过程中，小伙伴们一直为稀缺的算力苦恼，而高性能服务器的价格更是高居不下。随着海光异构智能计算专区的推出，我们也将提供最优惠算力，为您的深度学习之旅助
飞桨PaddlePaddle·2023-09-07 02:56

GPT-5出世，需5万张H100！

-GPT-4可能在大约10000-25000张A100上进行了训练-Meta大约21000A100-Tesla大约7000A100-StabilityAI大约5000A100-Falcon-40B在384
pythoncainiao221·2023-09-06 20:59

接入 NVIDIA A100、吞吐量提高 10 倍！Milvus GPU 版本使用指南

Milvus2.3正式支持NVIDIAA100！作为为数不多的支持GPU的向量数据库产品，Milvus2.3在吞吐量和低延迟方面都带来了显著的变化，尤其是与此前的CPU版本相比，不仅吞吐量提高了10倍，还能将延迟控制在极低的水准。不过，正如我前面提到的，鲜有向量数据库支持GPU，这其中除了有技术门槛较高的因素外，还涉及诸多不确定性的问题。那么，Milvus为什么要做一件充满挑战的事情？回想Milv
·2023-09-05 17:41

超级计算机cpu架构,CPU+GPU+MIC 上海交大超算系统采用三重架构

在9月25日举行的浪潮高性能计算用户大会上，上海交通大学超级计算机中心副主任林新华以及浪潮集团高性能服务器
Mr浪子相依·2023-09-03 22:53
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他