a100高性能服务器

使用MLC-LLM将RWKV 3B模型跑在Android手机上

0x0.前言这篇文章主要是填一下MLC-LLM部署RWKVWorld系列模型实战（3B模型MacM2解码可达26tokens/s）这里留下来的坑，这篇文章里面介绍了如何使用MLC-LLM在A100/MacM2
just_sort·2023-11-18 22:03

多GPU训练大型模型：资源分配与优化技巧 ｜ 英伟达将推出面向中国的改良芯片HGX H20、L20 PCIe、L2 PCIe

★大模型、人工智能；数据并行；模型并行；流水线并行；混合精度训练、梯度累积；模型卸载CPU；重算；模型压缩；内存优化版优化器；Nvidia；A100;H100；A800;H800;L40s；混合专家；910B
高性能服务器·2023-11-16 12:41

史上最强AI芯片！英伟达H200震撼来袭！141 GB 超大显存，Llama2推理性能翻倍，老黄赢麻了！

相比之前的H100和A100，容量几乎翻倍！NVIDIAH200是首款提供HBM3e的GPU，借助HBM3e，NVIDIAH200以每秒4.8TB的速度提供141GB显存，带宽增加2.4倍。
夕小瑶·2023-11-16 11:07

EXCEL——计算数据分散程度的相关函数

举个例子：=PERCENTILE(A2:A100,0.95)注意事项：如果百分点为非数值型，则PERCENTILE返回#VALUE！错误值。如果百分点1，则PERCEN
zhanglongfei1016·2023-11-14 13:08

这个云平台直接送3090、A100免费无门槛代金券！

点击下方卡片，关注“CVer”公众号AI/CV重磅干货，第一时间送达一、废话不多说：本次读者福利由AutoDL.com赞助，活动规则：前100名向[email protected]发送邮件的读者，AutoDL会直接用邮件回复100元代金券激活码，访问AutoDL官网（www.autodl.com或www.gpuhub.com）注册后可无门槛使用代金券。邮件标题可自拟，为防挖矿黑产，邮件内容必
Amusi（CVer）·2023-11-14 04:33

使用米联客FPGA开发板进行光口开发时遇到的问题总结

使用的开发板型号：米联客MA703FA，实物图如下FPGA型号为a35t米联客提供的开发板资料中的FPGA型号为a100，所以要想使用开发板例程必须进行FPGA的重新选择。
cckkppll·2023-11-12 09:39

一文详解多模态大模型发展及高频因子计算加速GPU算力 | 英伟达显卡被限，华为如何力挽狂澜？

★深度学习、机器学习、多模态大模型、深度神经网络、高频因子计算、GPT-4、预训练语言模型、Transformer、ChatGPT、GenAI、L40S、A100、H100、A800、H800、华为、GPU
高性能服务器·2023-11-11 06:41

GPT-4 Turbo 发布 | 大模型训练的新时代：超算互联网的调度与调优

ChatGPT;SamAltman；AssistanceAPI；GPT4Turbo；DALL-E3；多模态交互；算力调度；算力调优；大模型训练；GH200；snowflake；AGI；AIGC；H100；A100
高性能服务器·2023-11-11 06:08

【服务器租用与托管】什么是服务器租用，为什么要租用服务器呢？

用户采取租用的方式，安装相应的系统软件及应用软件以实现用户独享专用高性能服务器，实现WEB+FTP+MAIL+VDNS全部网络服务功能，用户的初期投资减轻了，可以更专著于自己业务的研发。
luohan248930318·2023-11-11 03:49

飞桨平台搭建PP-YOLOE模型

一、创建项目此博客仅是运行PP-YOLOE源码，这里以变压器渗漏数据集为例COCO数据集太大了，跑不动，V100训练预估计得7天左右，即便是A100也得4天半，变压器渗漏油数据集跑一个小时左右，还可以接受
追寻_无憾·2023-11-10 13:18

英伟达禁令之后，中国AI计算何去何从？

但由于英伟达在全球AI芯片领域一家独大，本次禁令涉及A100、H100等主流AI训练用英伟达GPU，因此这次的芯片禁令也被
脑极体·2023-11-10 07:47

巅峰对决：英伟达 V100、A100/800、H100/800 GPU 对比

近期，不论是国外的ChatGPT，还是国内诸多的大模型，让AIGC的市场一片爆火。而在AIGC的种种智能表现背后，均来自于堪称天文数字的算力支持。以ChatGPT为例，据微软高管透露，为ChatGPT提供算力支持的AI超级计算机，是微软在2019年投资10亿美元建造一台大型顶尖超级计算机，配备了数万个NVIDIAA100GPU，还配备了60多个数据中心总共部署了几十万个NVIDIAGPU辅助。相信
又拍云 UPYUN·2023-11-09 06:51

Netty概述

1.Netty概述1.1Netty简介Netty官网上可以看到最权威的介绍：Netty是一个异步事件驱动的网络应用程序框架，用于快速开发可维护的高性能服务器和客户端。
二仙桥臧克家·2023-11-08 14:53

AI人工智能大模型业务到底有多烧钱？

这意味着公司需要购买大量的高性能服务器、图形处理单元和存储设备，这些都是非常昂贵的。其次，大模型的训练还需要大量的数据。这些数据通常需要从各种渠道收集，例如互联网、合作伙伴、用户上传等。
AI测评社·2023-11-08 02:38

APISpace 手机号码归属地API

毫秒响应：高性能服务器，接口毫秒级响应速度，无需等待。简单易用：直接通过HTTP调用AP
海碗吃饭·2023-11-07 11:58

仿mudou库one thread one loop式并发服务器

目录1.实现目标2.HTTP服务器实现高性能服务器-Reactor模型模块划分SERVER模块：HTTP协议模块：3.项目中的子功能秒级定时任务实现时间轮实现正则库的简单使用通⽤类型any类型的实现4.
Science52·2023-11-07 03:25

Excel VBA系列之单元格方法End

Sub单元格操作3()EndSub2.以A100单元格为基准（实际案例中数据量大的情况可以最后一个单元格为准），定位到A列中最后一个数据所在的单元格。
Excel客旅·2023-11-06 07:11

Linux.NET学习手记（4）

前一回合中我们已经对Jexus作了一个详细深入的学习，如果各位读者有仔细的阅读文章并且有进行实际的操作，相信玩转Jexus这款高性能服务器软件绝对并非难事，至此为止，Jexus的学习到此结束，我们也正式的进入到下一个学习的正题当中
隔着·2023-11-05 04:35

POLL（C/S模型）实现简单聊天室，通过server广播信息

参考Linux高性能服务器编程一书之前只学过select现在学了epoll和poll记录一下。
陈末iiiiiiiiiiii·2023-11-04 13:26

架构&资产

蓝易云高性能服务器点击购买吧-年份送定制U盘点击购买吧-年份送定制U盘点击购买吧-年份送定制U盘点击购买吧-年份送定制U盘点击购买吧-年份送定制U盘点击购买吧-年份送定制U盘点击购买吧-年份送定制U盘知识点
无聊的知识·2023-11-03 14:20

信息收集[端口&CDN&WAF]

蓝易云高性能服务器点击购买吧-年份送定制U盘点击购买吧-年份送定制U盘点击购买吧-年份送定制U盘点击购买吧-年份送定制U盘点击购买吧-年份送定制U盘点击购买吧-年份送定制U盘点击购买吧-年份送定制U盘知识点
无聊的知识·2023-11-03 14:20

【补充上帖】：无聊之路

最近在用人家的A100，但是我这边已经ddl了但是他却突然用了所以我很苦恼该怎么办才能让他退出这次竞争？
鳗小鱼·2023-11-03 06:21

Linux下使用libevent库实现服务器端编程

Ubuntu安装注意事项（先安装openssl开发库）阿里云CentOS服务器端测试例程二、相关知识2.1事件驱动（I/O复用）2.2Libevent库介绍三、服务端编程实例四、测试与分析五、参考文章linux高性能服务器开发十大必须掌握的核心技术原文链接
宁静致远2021·2023-11-02 04:41

高级调试技巧揭秘：深入了解gdb调试正在运行的进程

调试正在运行进程的高级功能2.3.1、进程内存和寄存器的查看与修改2.3.2、跟踪程序执行流程2.3.3、动态修改程序行为三、高级调试技巧与实例分析3.1、多线程程序的调试3.2、性能分析和调优总结博主简介一个热爱分享高性能服务器后台开发知识
Lion Long·2023-11-01 03:46

科技云报道：不堪忍受英伟达霸权，微软、OpenAI纷纷自研AI芯片

英伟达是当之无愧的“AI算力王者”，A100、H100系列芯片占据金字塔顶尖位置，是ChatGPT这样的大型语言模型背后的动力来源。但面对英伟达的独霸天下，科技巨头们都纷纷下场自研AI芯片。
科技云报道·2023-10-31 15:19

Fantasy 源码解析:day01

--记于2023-7-261.github地址:nullhttps://github.com/qq362946/Fantasy/tree/main2.介绍:Fantasy高性能服务器框架Fantasy服务器框架源于
我在某马学前端·2023-10-30 20:51

Linux高性能服务器编程——ch8笔记

第8章高性能服务器程序框架8.1服务器模型服务器启动后，首先创建一个（或多个）监听socket，并调用bind函数将其绑定到服务器感兴趣的端口，然后调用listen函数等待客户连接。
gongyuandaye·2023-10-28 02:48

Linux高性能服务器编程——ch9笔记

第9章I/O复用同时监听多个文件描述符，但本身是阻塞的。9.1select系统调用在一段指定时间内，监听用户感兴趣的文件描述符上的可读、可写和异常等事件是否就绪。:::tipsintselect(intnfds,fd_set*readfds,fd_set*writefds,fd_set*exceptfds,structtimeval*timeout);:::socket可读情况：1）socket内
gongyuandaye·2023-10-28 02:15

高性能服务器线程模型演进 Tomcat Netty Vert.x

HelloWorld让我们从最简单的单线程阻塞模型开始ServerSocketserver=newServerSocket(8080);Socketsocket=server.accept();InputStreaminputStream=socket.getInputStream();byte[]bytes=newbyte[1024];intlen;StringBuildersb=newStri
黄大海·2023-10-27 12:44

BAT 批量替换文件名指定文字

下面的例子是把文件名中的A100变成C100，B100变成D100。
wuchunyu002·2023-10-27 11:18

高性能服务器架构设计总结

服务器需要解决的如下问题：（1）如何检测有新客户端连接？答：IO复用的select、poll、epoll等socketAPI首先关于IO复用机制的比较，目前windows系统支持select、WSAAsyncSelect、WSAEventSelect、完成端口（IOCP），linux系统支持select、poll、epoll。1.select和poll：主动定时轮询是否有可读可写事件，效率不高；2
菠落箩落萝·2023-10-26 07:30

聊聊微服务架构中的雪崩效应及其解决方案

由于当前计算机硬件技术的支持有限，高性能服务器的成本巨大，我们在网站搭建过程中，需要通过软件手段来控制网站雪崩效应，Hystrix可以帮我们保护服务，实现网站的高可用性。
attentionYSF·2023-10-24 06:00

Linux高性能服务器编程-游双——第一章 TCP/IP协议族

1.1体系结构数据链路层->网络层->传输层->应用层1.1.1数据链路层实现网卡接口的网络驱动程序。处理数据在物理媒介上的传输。为上层隐藏了物理网络的不同电气特性。1.1.2网络层实现数据包的选路和转发，因为网络是网状的，从A到B不止有一条路，关键是如何选择路。1.1.3传输层为应用程序提供端到端的通信，只用关心通信传输的起始端和目的端。1.1.4应用层负责处理应用程序的逻辑在用户空间实现1.2
foDol·2023-10-23 14:22

linux高性能服务器编程（跳过TCP/IP协议详解） ---------更新中

linux高性能服务器编程深入解析高性能服务器编程(首更，2021年11.28)一.linux网络编程基础API1.什么是字节序列：现代CPU的累加器一次都能装载8字节的数据，这八字节在内存中排列的顺序将影响到它被累加器装载成长整型
帅得不谈·2023-10-23 14:22

Linux 高性能服务器编程——TCP/IP协议族

1TCP/IP协议族体系结构数据链路层：职责：实现网卡接口的网络驱动程序，一处理数据在物理媒介（如以太网、令牌环等）上的传输。常用协议：ARP协议（地址解析协议），RARP协议（逆地址解析协议）——实现了IP地址和机器物理地址之间的相互转换。寻址：使用物理地址（MAC地址）寻址一台机器。因此网络层必须先将目标机器的IP地址转化成其物理地址，才能使用数据链路层提供的服务。网络层：职责：数据包的选路和
ctthuangcheng·2023-10-23 14:21

Linux高性能服务器编程——ch7笔记

第7章Linux服务器程序规范7.1日志Linux提供rsyslogd守护进程接收用户进程输出的日志和内核日志。应用程序使用syslog函数与rsyslogd守护进程通信。voidsyslog(intpriority,constchar*message,…);openlog函数：改变syslog的默认输出方式。setlogmask函数：设置syslog的日志掩码（日志过滤，使日志级别大于日志掩码的
gongyuandaye·2023-10-22 21:41

Linux高性能服务器编程——ch1笔记

第1章TCP/IP协议族1.1TCP/IP协议族体系结构以及主要协议数据链路层网卡接口的网络驱动程序，以处理数据在物理媒介（比如以太网、令牌环等）上的传输。协议：ARP、RARP，实现IP地址和机器物理地址之间的转换。网络层数据包的选路和转发。WAN使用路由器（中间节点）连接分散的主机或LAN。协议：IP，逐跳确定通信路径；ICMP，补充，检测网络连接，如ping。传输层为两台主机上的应用程序提供
gongyuandaye·2023-10-22 21:41

Linux高性能服务器编程——ch5笔记

第5章Linux网络编程基础API5.1socket地址API主机字节序（小端字节序）：整数的高位字节存储在内存的高地址处，而低位字节则存储在内存的低地址处。网络字节序（大端字节序）：相反。voidbyteorder(){union{shortvalue;charunion_bytes[sizeof(short)];}test;test.value=0x0102;if((test.union_by
gongyuandaye·2023-10-22 21:41

Linux高性能服务器编程——ch3笔记

第3章TCP协议详解3.1TCP服务的特点面向连接：在数据读写前必须先建立连接，并分配内核资源。全双工（读写可以通过一个连接进行）。数据交换后必须断开连接，释放系统资源。一对一的，基于广播和多播（目标是多个主机地址）的应用程序不能使用TCP。字节流：发送端执行的写操作次数和接收端执行的读操作次数之间没有任何数量关系，应用程序对数据的发送和接收是没有边界限制的，在TCP发送（接收）缓冲区封装（读出）
gongyuandaye·2023-10-22 21:10

Linux高性能服务器编程——ch4笔记

第4章TCP/IP通信案例：访问Internet上的Web服务器4.1实例总图4.2部署代理服务器客户端和目标服务器之间可能存在多个代理服务器。正向代理：要求客户端自己设置代理服务器的地址。反向代理：设置在服务器端。透明代理：设置在网关上，可以看作正向代理的特殊情况。192.168.1.0/24：CIDR（无类域间路由）表示法，前面是IP地址，后面是子网掩码中1的位数，等价于192.168.1.0
gongyuandaye·2023-10-22 21:10

Linux高性能服务器编程——ch2笔记

第2章IP协议详解2.1IP服务的特点无状态：IP通信双方不同步传输数据的状态信息。IP数据报相互独立，缺点是无法处理乱序和重复的IP数据报。上层协议如果是面向连接的协议（TCP），能够自己处理乱序和重复的报文段。IP数据报头部的标识字段是被用来处理IP分片和重组的，不是指接收顺序。优点是简单高效。UDP和HTTP也是无状态的。无连接：IP通信双方都不长久地维持对方的任何信息。不可靠：IP协议不能
gongyuandaye·2023-10-22 21:40

Linux高性能服务器编程——ch6笔记

第6章高级I/O函数6.1pipe函数用于创建一个管道，以实现进程间通信。intpipe(intfd[2]);读端文件描述符fd[0]和写端文件描述符fd[1]构成管道的两端，默认是阻塞的，fd[0]读出数据，fd[1]写入数据。管道内部传输的数据是字节流。如果fd[1]的引用计数减少至0，即没有任何进程需要往管道中写入数据，则针对f[0]的read操作将返回0，即读取到了文件结束标记（EOF）；
gongyuandaye·2023-10-22 21:02

深入探讨磁盘B树的内部机制：代码实现与理论解析

实际实现与理论解析引言一、背景知识：二叉树到B树的衍变二、B树的性质三、B树节点的定义四、B树的添加4.1、原理解析4.2、代码实现五、B树的删除5.1、原理解析5.2、代码实现六、完整代码总结博主简介一个热爱分享高性能服务器后台开发知识的博主
Lion Long·2023-10-22 16:29

为何红黑树在B/B+树之上仍然占据重要地位？

红黑树和B/B+树的基本原理2.1、红黑树的特点和性质2.2、B/B+树的特点和性质2.3、红黑树和B/B+树的比较三、B/B+树相对于红黑树的优势四、红黑树仍然占据重要地位的原因总结博主简介一个热爱分享高性能服务器后台开发知识的博主
Lion Long·2023-10-22 16:59

车规级高性能服务器,芯驰高性能车规SoC平台介绍-汽车电子-与非网

如前面一篇文章所说的，X9系列芯片用来支持未来智能座舱，X9芯片可以同时支持多块高清屏幕，具备语音交互、手势识别，驾驶员状态监控等功能；图3X9的应用框图V9系列芯片是自动驾驶的核心大脑：作为域控制器核心，V9内置高性能视觉引擎，支持多达18个摄像头输入；图4V9的自动驾驶应用G9系列芯片是未来汽车的智慧信息枢纽，20xCANFD/16xLIN/2x以太网数据包处理引擎，支持国密SM2/3/4/9
裕浩·2023-10-22 04:02

高性能计算环境下的深度学习异构集群建设与优化实践

ACL；算力；计算机视觉；PSU；Transformer；PLM；SLM；NLM；LLM；Galactica；OPT；OPT-IML；BLOOM；BLOOMZ；GLM；Reddit；H100；H800；A100
高性能服务器·2023-10-21 04:05

深度学习模型部署与优化：策略与实践；L40S与A100、H100的对比分析

、BERT、预训练语言模型、Transformer、ChatGPT、GenAI、多模态大模型、视觉大模型、TensorFlow、PyTorch、Batchnorm、Scale、Crop算子、L40S、A100
高性能服务器·2023-10-21 04:05

高性能计算与多模态处理的探索之旅：英伟达GH200性能优化与GPT-4V的算力加速未来

★多模态大模型；GPU算力；LLMS；LLM；LMM；GPT-4V；GH200；图像识别；目标定位；图像描述；视觉问答；视觉对话；英伟达；Nvidia；H100;L40s；A100;H100；A800；
高性能服务器·2023-10-21 04:35

Linux高性能服务器编程 学习笔记 第十七章 系统监测工具

tcpdump是一款经典的抓包工具，即使今天我们已经有了像Wireshark这样更易于使用和掌握的抓包工具，tcpdump仍是网络程序员的必备利器。tcpdump提供了一些选项用以过滤数据包或定制输出格式，常见的选项如下：1.-n：使用IP地址表示主机，而非主机名；使用数字表示端口号，而非服务名。2.-i：指定要监听的网卡接口。-iany表示抓取所有网卡接口上的数据包。3.-v：输出更详细的信息，
吃着火锅x唱着歌·2023-10-20 01:02

Linux高性能服务器编程------学习笔记（一）

简单网络知识回顾和TCP/IP协议族的介绍OSI七层模型和TCP/IP五层网络模型对比：TCP/IP是一个四层的协议系统。主要有数据链路层、网络层、传输层、应用层。本部分重点学习：ICMP协议、ARP协议、DNS协议。令牌环网令牌环网(TokenRing)是一种LAN协议，定义在IEEE802.5中，其中所有的工作站都连接到一个环上，每个工作站只能同直接相邻的工作站传输数据。通过围绕环的令牌信息授
qq_41248788·2023-10-19 23:59
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他