a100高性能服务器

C++高性能服务器网络框架设计与实现

这篇文章将从两个方面来介绍，一个是服务器中的基础的网络通信部件；另外一个是，如何利用这些基础通信部件整合成一个完整的高效的服务器框架。注意：本文以下内容中的客户端是相对概念，指的是连接到当前讨论的服务程序的终端，所以这里的客户端既可能是我们传统意义上的客户端程序，也可能是连接该服务的其他服务器程序。一、网络通信部件我们先从服务程序的网络通信部件开始介绍，需要解决的问题：既然是服务器程序肯定会涉及到
简说Linux·2023-12-01 06:43

c# mqtt高性能服务器端源代码 开源框架包括服务器和客户端，支持mqtt3.0及5.0

c#mqtt高性能服务器端源代码。你还在使用第三方服务软件吗？不如试试这个开发框架，助你一臂之力，无限制，无全开源，无版权约束，全是自主开发。开源框架包括服务器和客户端，支持mqtt3.0及5.0。
「已注销」·2023-12-01 01:42

大模型训练为什么用A100不用4090

事实上，H100/A100和4090最大的区别就在通信和内存上，算力差距不大。H100A1004090TensorFP16算力989Tflops312Tflops330TflopsTensor
金戈鐡馬·2023-11-30 11:32

Linux下C++进行socket连接，多进程+阻塞IO、select进行IO多路复用

如何设计一个高性能服务器？】https://www.bilibili.com/video/BV1WF411R7aK/?
D54·2023-11-29 06:43

滴滴云A100 40G 性能测试 V100陪练！

眼看游戏卡RTX3080发售在即，我终于等到了滴滴云（感谢）A100的测试机会。
托尼不是塔克·2023-11-27 12:06

使用wol远程唤醒linux主机,动手实现Ubuntu系统WOL远程唤醒

具体数据流为：通过互联网远程登录长期开机的树莓派，然后通过树莓派唤醒同一个局域网的高性能服务器。
阳阙·2023-11-27 10:01

一份c/c++Linux后台服务器开发者的技术拓展书单

系统（进阶）5.性能与测试6.运维统计7.分布式架构学习详情路线书籍分享：Linux：KaliLinux渗透测试的艺术linux+c++编程LinuxC编程一站式学习Linux程序设计第4版Linux高性能服务器编程
面试题小能手·2023-11-23 10:58

云服务业界动态简报-20180311

一、京东云京东云云解析已于近日上线，提供可靠稳定的权威域名解析服务，不仅包含基础解析、智能解析、安全防护、EDNS、HTTPDNS、解析报表、自动导入等功能，还拥有高性能服务器集群、多节点部署、极速解析
Captain7·2023-11-23 05:51

C++程序员发展方向

原文发表于2016/4/2515:55:51链接：http://m.blog.csdn.net/Varygod/article/details/51242829一、C++服务器程序员（流媒体后台，游戏后台，高性能服务器后台
yyq_9623·2023-11-23 01:41

揭秘：仅用一块3090，轻松高效部署InternLM-20B大模型！

意味着，要能推理起来InternLM-20B，不得不租用价格高昂的A100服务器。有没有经济一些的方法呢？答案是有的。那就是低比特量化和推理。LMDeploy支持对L
风度78·2023-11-21 10:56

GPU服务器的功能和作用是什么

GPU服务器就是一直基于显卡GPU也就是图形处理器为计算核心的服务器，这种服务器属于高性能服务器。这种服务器在数据处理、人工智能等领域应用很广泛，今天小编就给大家讲一讲GPU服务器的功能和作用吧！
wanhengwangluo·2023-11-20 15:57

【腾讯云 HAI域探秘】高性能服务器引领AI革新浪潮：从AI绘画、知识问答到PyTorch图像分类、视频检测的全方位探索

目录1HAI（高性能应用服务）简介2HAI的应用场景2.1HAI在AI作画中的灵活性与效率2.2深入探索LLM语言模型的应用与性能2.3HAI支持的AI模型开发环境与工具3基于stabledifussio的AI绘画应用实践3.1使用AI模型中的stablediffusion模型服务3.2设置和调整模型参数3.3生成生动形象的高清图画4基于大模型的知识问答实践4.1使用AI模型中的ChatGLM26
cooldream2009·2023-11-20 11:02

IO多路转接之epoll详解

关于对epoll的概念我们可以参考《Linux高性能服务器编程》：epoll是特有的IO复用函数。它在实现上和select、poll有很大差异。首先，epoll使用一组函数来完成任务，而不是单个函数。
smx_dd·2023-11-20 11:21

Kubernetes集群建设规划之work-node选型

是应该采购一些上一代的高性能服务器
UsamaBinLaden·2023-11-20 02:02

关于游双Linux高性能服务器编程代码清单13-4 Segmentation fault (core dumped)报错问题

我尝试了各种改编的或者官方的代码，居然都是错的，最终我发现了问题在于这一行代码sub_process[pid]=user_count;就是这行代码把pid赋予数组，但是这个数组有多大呢，代码如下sub_process=newint[PROCESS_LIMIT];会发现代码最大才65536显然比pid号码要小，所以*100就行了改为如下代码，如果100还不行就1000或者更大sub_process=
我们都是路明非·2023-11-19 22:11

[源码阅读]——Sylar服务器框架：定时器模块

具体关于定时器的讲解大家可以参考本人之前做的阅读笔记：【阅读】《Linux高性能服务器编程》——第十一章。  定时器通常
甄姬、巴豆·2023-11-19 08:32

使用MLC-LLM将RWKV 3B模型跑在Android手机上

0x0.前言这篇文章主要是填一下MLC-LLM部署RWKVWorld系列模型实战（3B模型MacM2解码可达26tokens/s）这里留下来的坑，这篇文章里面介绍了如何使用MLC-LLM在A100/MacM2
just_sort·2023-11-18 22:03

多GPU训练大型模型：资源分配与优化技巧 ｜ 英伟达将推出面向中国的改良芯片HGX H20、L20 PCIe、L2 PCIe

★大模型、人工智能；数据并行；模型并行；流水线并行；混合精度训练、梯度累积；模型卸载CPU；重算；模型压缩；内存优化版优化器；Nvidia；A100;H100；A800;H800;L40s；混合专家；910B
高性能服务器·2023-11-16 12:41

史上最强AI芯片！英伟达H200震撼来袭！141 GB 超大显存，Llama2推理性能翻倍，老黄赢麻了！

相比之前的H100和A100，容量几乎翻倍！NVIDIAH200是首款提供HBM3e的GPU，借助HBM3e，NVIDIAH200以每秒4.8TB的速度提供141GB显存，带宽增加2.4倍。
夕小瑶·2023-11-16 11:07

EXCEL——计算数据分散程度的相关函数

举个例子：=PERCENTILE(A2:A100,0.95)注意事项：如果百分点为非数值型，则PERCENTILE返回#VALUE！错误值。如果百分点1，则PERCEN
zhanglongfei1016·2023-11-14 13:08

这个云平台直接送3090、A100免费无门槛代金券！

点击下方卡片，关注“CVer”公众号AI/CV重磅干货，第一时间送达一、废话不多说：本次读者福利由AutoDL.com赞助，活动规则：前100名向[email protected]发送邮件的读者，AutoDL会直接用邮件回复100元代金券激活码，访问AutoDL官网（www.autodl.com或www.gpuhub.com）注册后可无门槛使用代金券。邮件标题可自拟，为防挖矿黑产，邮件内容必
Amusi（CVer）·2023-11-14 04:33

使用米联客FPGA开发板进行光口开发时遇到的问题总结

使用的开发板型号：米联客MA703FA，实物图如下FPGA型号为a35t米联客提供的开发板资料中的FPGA型号为a100，所以要想使用开发板例程必须进行FPGA的重新选择。
cckkppll·2023-11-12 09:39

一文详解多模态大模型发展及高频因子计算加速GPU算力 | 英伟达显卡被限，华为如何力挽狂澜？

★深度学习、机器学习、多模态大模型、深度神经网络、高频因子计算、GPT-4、预训练语言模型、Transformer、ChatGPT、GenAI、L40S、A100、H100、A800、H800、华为、GPU
高性能服务器·2023-11-11 06:41

GPT-4 Turbo 发布 | 大模型训练的新时代：超算互联网的调度与调优

ChatGPT;SamAltman；AssistanceAPI；GPT4Turbo；DALL-E3；多模态交互；算力调度；算力调优；大模型训练；GH200；snowflake；AGI；AIGC；H100；A100
高性能服务器·2023-11-11 06:08

【服务器租用与托管】什么是服务器租用，为什么要租用服务器呢？

用户采取租用的方式，安装相应的系统软件及应用软件以实现用户独享专用高性能服务器，实现WEB+FTP+MAIL+VDNS全部网络服务功能，用户的初期投资减轻了，可以更专著于自己业务的研发。
luohan248930318·2023-11-11 03:49

飞桨平台搭建PP-YOLOE模型

一、创建项目此博客仅是运行PP-YOLOE源码，这里以变压器渗漏数据集为例COCO数据集太大了，跑不动，V100训练预估计得7天左右，即便是A100也得4天半，变压器渗漏油数据集跑一个小时左右，还可以接受
追寻_无憾·2023-11-10 13:18

英伟达禁令之后，中国AI计算何去何从？

但由于英伟达在全球AI芯片领域一家独大，本次禁令涉及A100、H100等主流AI训练用英伟达GPU，因此这次的芯片禁令也被
脑极体·2023-11-10 07:47

巅峰对决：英伟达 V100、A100/800、H100/800 GPU 对比

近期，不论是国外的ChatGPT，还是国内诸多的大模型，让AIGC的市场一片爆火。而在AIGC的种种智能表现背后，均来自于堪称天文数字的算力支持。以ChatGPT为例，据微软高管透露，为ChatGPT提供算力支持的AI超级计算机，是微软在2019年投资10亿美元建造一台大型顶尖超级计算机，配备了数万个NVIDIAA100GPU，还配备了60多个数据中心总共部署了几十万个NVIDIAGPU辅助。相信
又拍云 UPYUN·2023-11-09 06:51

Netty概述

1.Netty概述1.1Netty简介Netty官网上可以看到最权威的介绍：Netty是一个异步事件驱动的网络应用程序框架，用于快速开发可维护的高性能服务器和客户端。
二仙桥臧克家·2023-11-08 14:53

AI人工智能大模型业务到底有多烧钱？

这意味着公司需要购买大量的高性能服务器、图形处理单元和存储设备，这些都是非常昂贵的。其次，大模型的训练还需要大量的数据。这些数据通常需要从各种渠道收集，例如互联网、合作伙伴、用户上传等。
AI测评社·2023-11-08 02:38

APISpace 手机号码归属地API

毫秒响应：高性能服务器，接口毫秒级响应速度，无需等待。简单易用：直接通过HTTP调用AP
海碗吃饭·2023-11-07 11:58

仿mudou库one thread one loop式并发服务器

目录1.实现目标2.HTTP服务器实现高性能服务器-Reactor模型模块划分SERVER模块：HTTP协议模块：3.项目中的子功能秒级定时任务实现时间轮实现正则库的简单使用通⽤类型any类型的实现4.
Science52·2023-11-07 03:25

Excel VBA系列之单元格方法End

Sub单元格操作3()EndSub2.以A100单元格为基准（实际案例中数据量大的情况可以最后一个单元格为准），定位到A列中最后一个数据所在的单元格。
Excel客旅·2023-11-06 07:11

Linux.NET学习手记（4）

前一回合中我们已经对Jexus作了一个详细深入的学习，如果各位读者有仔细的阅读文章并且有进行实际的操作，相信玩转Jexus这款高性能服务器软件绝对并非难事，至此为止，Jexus的学习到此结束，我们也正式的进入到下一个学习的正题当中
隔着·2023-11-05 04:35

POLL（C/S模型）实现简单聊天室，通过server广播信息

参考Linux高性能服务器编程一书之前只学过select现在学了epoll和poll记录一下。
陈末iiiiiiiiiiii·2023-11-04 13:26

架构&资产

蓝易云高性能服务器点击购买吧-年份送定制U盘点击购买吧-年份送定制U盘点击购买吧-年份送定制U盘点击购买吧-年份送定制U盘点击购买吧-年份送定制U盘点击购买吧-年份送定制U盘点击购买吧-年份送定制U盘知识点
无聊的知识·2023-11-03 14:20

信息收集[端口&CDN&WAF]

蓝易云高性能服务器点击购买吧-年份送定制U盘点击购买吧-年份送定制U盘点击购买吧-年份送定制U盘点击购买吧-年份送定制U盘点击购买吧-年份送定制U盘点击购买吧-年份送定制U盘点击购买吧-年份送定制U盘知识点
无聊的知识·2023-11-03 14:20

【补充上帖】：无聊之路

最近在用人家的A100，但是我这边已经ddl了但是他却突然用了所以我很苦恼该怎么办才能让他退出这次竞争？
鳗小鱼·2023-11-03 06:21

Linux下使用libevent库实现服务器端编程

Ubuntu安装注意事项（先安装openssl开发库）阿里云CentOS服务器端测试例程二、相关知识2.1事件驱动（I/O复用）2.2Libevent库介绍三、服务端编程实例四、测试与分析五、参考文章linux高性能服务器开发十大必须掌握的核心技术原文链接
宁静致远2021·2023-11-02 04:41

高级调试技巧揭秘：深入了解gdb调试正在运行的进程

调试正在运行进程的高级功能2.3.1、进程内存和寄存器的查看与修改2.3.2、跟踪程序执行流程2.3.3、动态修改程序行为三、高级调试技巧与实例分析3.1、多线程程序的调试3.2、性能分析和调优总结博主简介一个热爱分享高性能服务器后台开发知识
Lion Long·2023-11-01 03:46

科技云报道：不堪忍受英伟达霸权，微软、OpenAI纷纷自研AI芯片

英伟达是当之无愧的“AI算力王者”，A100、H100系列芯片占据金字塔顶尖位置，是ChatGPT这样的大型语言模型背后的动力来源。但面对英伟达的独霸天下，科技巨头们都纷纷下场自研AI芯片。
科技云报道·2023-10-31 15:19

Fantasy 源码解析:day01

--记于2023-7-261.github地址:nullhttps://github.com/qq362946/Fantasy/tree/main2.介绍:Fantasy高性能服务器框架Fantasy服务器框架源于
我在某马学前端·2023-10-30 20:51

Linux高性能服务器编程——ch8笔记

第8章高性能服务器程序框架8.1服务器模型服务器启动后，首先创建一个（或多个）监听socket，并调用bind函数将其绑定到服务器感兴趣的端口，然后调用listen函数等待客户连接。
gongyuandaye·2023-10-28 02:48

Linux高性能服务器编程——ch9笔记

第9章I/O复用同时监听多个文件描述符，但本身是阻塞的。9.1select系统调用在一段指定时间内，监听用户感兴趣的文件描述符上的可读、可写和异常等事件是否就绪。:::tipsintselect(intnfds,fd_set*readfds,fd_set*writefds,fd_set*exceptfds,structtimeval*timeout);:::socket可读情况：1）socket内
gongyuandaye·2023-10-28 02:15

高性能服务器线程模型演进 Tomcat Netty Vert.x

HelloWorld让我们从最简单的单线程阻塞模型开始ServerSocketserver=newServerSocket(8080);Socketsocket=server.accept();InputStreaminputStream=socket.getInputStream();byte[]bytes=newbyte[1024];intlen;StringBuildersb=newStri
黄大海·2023-10-27 12:44

BAT 批量替换文件名指定文字

下面的例子是把文件名中的A100变成C100，B100变成D100。
wuchunyu002·2023-10-27 11:18

高性能服务器架构设计总结

服务器需要解决的如下问题：（1）如何检测有新客户端连接？答：IO复用的select、poll、epoll等socketAPI首先关于IO复用机制的比较，目前windows系统支持select、WSAAsyncSelect、WSAEventSelect、完成端口（IOCP），linux系统支持select、poll、epoll。1.select和poll：主动定时轮询是否有可读可写事件，效率不高；2
菠落箩落萝·2023-10-26 07:30

聊聊微服务架构中的雪崩效应及其解决方案

由于当前计算机硬件技术的支持有限，高性能服务器的成本巨大，我们在网站搭建过程中，需要通过软件手段来控制网站雪崩效应，Hystrix可以帮我们保护服务，实现网站的高可用性。
attentionYSF·2023-10-24 06:00

Linux高性能服务器编程-游双——第一章 TCP/IP协议族

1.1体系结构数据链路层->网络层->传输层->应用层1.1.1数据链路层实现网卡接口的网络驱动程序。处理数据在物理媒介上的传输。为上层隐藏了物理网络的不同电气特性。1.1.2网络层实现数据包的选路和转发，因为网络是网状的，从A到B不止有一条路，关键是如何选择路。1.1.3传输层为应用程序提供端到端的通信，只用关心通信传输的起始端和目的端。1.1.4应用层负责处理应用程序的逻辑在用户空间实现1.2
foDol·2023-10-23 14:22

linux高性能服务器编程（跳过TCP/IP协议详解） ---------更新中

linux高性能服务器编程深入解析高性能服务器编程(首更，2021年11.28)一.linux网络编程基础API1.什么是字节序列：现代CPU的累加器一次都能装载8字节的数据，这八字节在内存中排列的顺序将影响到它被累加器装载成长整型
帅得不谈·2023-10-23 14:22
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他