【藏经阁一起读】（68）__《ECS技术实战指南》

【藏经阁一起读】（68）__《ECS技术实战指南》

目录

一、知识收获

（1）、CIPU

（2）、RDMA

二、个人建议

---

一、知识收获

（1）、CIPU

1、多模态、海量数据、超大模型成为发展方向，模型参数规模的快速增长，以及在工程上极难处理，这种发展趋势也带来了巨大的计算挑战。

大模型在训练，微调和应用上线的阶段是最消耗算力的。预训练之后的模型还需要Finetune，大模型业务的几个关键环节，对应算力的需求都十分惊人，带来的算力挑战不小。文中全面解释了，大模型时代如何利用弹性计算服务应对大算力挑战

2、AIACC是基于阿里云laaS资源推出的神龙A1性能加速套件，用于优化基于Al主流计算框架搭建的模型，能显著提升训练和推理性能。

AIACC神龙Ai推理加速套件由AIACC—Torch（Pytorch推理加速引擎）、AIACC—MLIR（MLIR推理加速引擎）、AIACC—HRT（AIACC算子深度加速引擎）等组件构成。AIACC神龙Ai性能加速套件能够为SD提供加速优化支持。

文章中同时详细介绍了SD的使用方法，举例对比普通状态下和阿里云AIACC加速下的出图和计算速度的不同

3、AIGC，全称是Al Generated Content，是指Al内容生成，本质上是一种生成式AI。

它所覆盖的范围比较广，包括LLM，即大语言模型。从广义上来讲，大语言模型就是从大规模数据集上进行自监督训练，参数量级在10亿、百亿甚至更多。

这种语言模型训练任务可以分为以下两个部分：
Pretrain：大量数据提取共性特征，作为不同场景的基础模型，它的定位是通用性，对训练资源要求比较高，是各大公司实现通用基础模型的必要途径；
Finetune：少量数据适应特定领域模型，它面向的是下游任务，定位在于特定性，这个在目前这种大语言模型场景下对训练要求也很高，也是各个公司希望基于自已有的基础模型和特有数据集，做定制化产业升级和创新应用开发的实现方式。

4、阿里云云基础设施处理器CIPU技术是取代传统CPU的新一代云计算体系架构的核心。

在云的环境下，CIPU解决云的弹性、多租户问题。它把存储资源、网络资源、CPU资源，全部通过CIPU纳管，就是物理资源加上CIPU后就是一个云化的虚拟计算资源池。

CIPU和CPU、GPU的差别：
（1）、安全
（2）、加速数据。CPU是通用计算，GPU加速计算、CIPU加速数据。
（3）、laas池化。

5、弹性RDMA ,是阿里云自研的云上弹性 RDMA网络，兼具传统RDMA网络高吞吐、低延迟特性，同时支持秒级的大规模RDMA组网。
基于弹性RDMA，开发者可以将HPC应用软件部署在云上，获取成本更低、弹性更好的高性能应用集群；也可以将 VPC网络替换成弹性RDMA 网络，加速应用性能。

（2）、RDMA

6、软件跨架构迁移的原理和实践（x86->ARM)
7、云原生算力时代-倚天实例技术架构与最佳实践解析

二、个人建议

本书是阿里云弹性计算技术公开课的演讲合辑，实用，干货，是一本非常有用的参考书。

个人建议能否在文章中附上阿里云相关的课程训练营、相关的实验，这样读完书可以继续学习相关知识，有同时学习这方面的人可以一起讨论相关问题，动手实验可以加深学习的效果。

         推荐阅读：

大数据的关键技术之——大数据采集

[你找到牵手一辈子的人了吗？] 七夕情人节特辑

数字技术能让古籍“活过来”吗？

心情不好时，帮自己训练个AI情绪鼓励师吧（基于PALM 2.0 finetune)

深度学习框架TensorFlow

人工智能开发人员工作流程、看法、工具统计数据

2023 年6月开发者调查统计结果——最流行的技术（2）

2023 年6月开发者调查统计结果——最流行的技术（1）

让Ai帮我们画个粽子，它会画成什么样呢？

​​​	​​​	​​​
给照片换底色（python+opencv）	猫十二分类	基于大模型的虚拟数字人__虚拟主播实例
​​​	​​​	​​​
计算机视觉__基本图像操作（显示、读取、保存）	直方图（颜色直方图、灰度直方图）	直方图均衡化（调节图像亮度、对比度）
​​​	​​​	​​​
语音识别实战（python代码）(一）	人工智能基础篇	计算机视觉基础__图像特征

​​​
matplotlib 自带绘图样式效果展示速查（28种，全）
​​​
Three.js实例详解___旋转的精灵女孩(附完整代码和资源)（一）
​​​	​​​	​​​
立体多层玫瑰绘图源码__玫瑰花python 绘图源码集锦	Python 3D可视化（一）	让你的作品更出色——词云Word Cloud的制作方法（基于python，WordCloud，stylecloud)
​​​	​​​	​​​
python Format()函数的用法___实例详解（一）(全，例多）___各种格式化替换，format对齐打印	用代码写出浪漫__合集（python、matplotlib、Matlab、java绘制爱心、玫瑰花、前端特效玫瑰、爱心）	python爱心源代码集锦（18款）
​​​	​​​	​​​
Python中Print()函数的用法___实例详解(全，例多）	Python函数方法实例详解全集(更新中...)	《 Python List 列表全实例详解系列（一）》__系列总目录、列表概念
​​​	​​​
用代码过中秋，python海龟月饼你要不要尝一口？	python练习题目录
​​​	​​​	​​​
草莓熊python turtle绘图（风车版）附源代码	​草莓熊python turtle绘图代码（玫瑰花版）附源代码	​草莓熊python绘图（春节版，圣诞倒数雪花版）附源代码
​​​	​​​
巴斯光年python turtle绘图__附源代码	皮卡丘python turtle海龟绘图（电力球版）附源代码

​​​	​​​	​​​
Node.js (v19.1.0npm 8.19.3) vue.js安装配置教程（超详细）	色彩颜色对照表（一）(16进制、RGB、CMYK、HSV、中英文名)	2023年4月多家权威机构____编程语言排行榜__薪酬状况
​​​​	​​​	​​​
手机屏幕坏了____怎么把里面的资料导出（18种方法）	【CSDN云IDE】个人使用体验和建议（含超详细操作教程）（python、webGL方向)	查看jdk安装路径，在windows上实现多个java jdk的共存解决办法，安装java19后终端乱码的解决

​​​
vue3 项目搭建教程（基于create-vue，vite，Vite + Vue）
​​​	​​​	​​​
2023年春节祝福第二弹——送你一只守护兔，让它温暖每一个你【html5 css3】画会动的小兔子，炫酷充电，字体特	别具一格，原创唯美浪漫情人节表白专辑，(复制就可用)（html5,css3,svg)表白爱心代码(4套)	SVG实例详解系列（一）(svg概述、位图和矢量图区别（图解）、SVG应用实例）
​​​	​​​	​​​
【程序人生】卡塔尔世界杯元素python海龟绘图（附源代码），世界杯主题前端特效5个（附源码）	HTML+CSS+svg绘制精美彩色闪灯圣诞树，HTML+CSS+Js实时新年时间倒数倒计时(附源代码)	2023春节祝福系列第一弹（上）（放飞祈福孔明灯，祝福大家身体健康）（附完整源代码及资源免费下载）

​​​	​​​	​​​
tomcat11、tomcat10 安装配置（Windows环境）（详细图文）	Tomcat端口配置（详细）	Tomcat 启动闪退问题解决集（八大类详细）