我们已经进入云计算下半场,不再像上半场在纠结要不要上云,而是讨论怎么上云?才能把云计算的价值发挥到淋漓尽致。如何把云计算与不同的业务场景深度结合?如何让技术真正作用于企业?如何节省企业IT部署成本?
谁也不知道答案,直到“云原生”来了。
◆◆云原生是什么◆◆
云原生是什么?这个众说纷纭,没有统一的定义,姑且以老大哥CNCF的定义来了解云原生。
老大哥?CNCF?
CNCF,全称为Cloud Native Computing Foundation,中文译为“云原生计算基金会”。成立于2015年12月11日,CNCF是Linux基金会旗下的基金会。CNCF致力于培育和维护一个厂商中立的开源生态系统,来推广云原生技术。CNCF是云原生领域影响力最大最有话语权的组织。
说起CNCF的故事,还要从Cgroups(control groups,控制组群)开始说起,时间轴回到16年前。
2004年,谷歌开始使用容器技术,于2006年发布了Cgroups,最初叫Process Container(进程容器)。
Process Container的目的非常直白,它希望能够像虚拟化技术那样给进程提供操作系统级别的资源限制、优先级控制、资源审计能力和进程控制能力。带着这样的设计思路,Process Container在2006年由Google的工程师正式推出后,第二年就进入了Linux内核主干。
因为在Linux内核中,容器(container)这个名词有许多不同的意义,为避免混乱,就更名为Control Groups,也就是Cgroups。
2013 年,Docker 项目正式发布,2014 年,K8s项目也正式发布。
原因非常容易理解,因为有了容器和 Docker 之后,就需要有一种方式去帮助大家方便、快速、优雅地管理这些容器,这就是K8s项目的初衷。
K8s是云原生的基石,后面会细讲。在 Google 和 Redhat 发布了K8s 之后,这个项目的发展速度非常之快。
2015 年,由Google、Redhat 以及微软等大型云计算厂商以及一些开源公司共同牵头成立了 CNCF 云原生基金会。CNCF成立之初,就有22个创始会员,而且K8s也成为了 CNCF 托管的第一个开源项目。
在这之后,CNCF 迅猛发展。截止2020年2月,从官网看到数据显示有433个会员。
那么CNCF是如何定义云原生的呢?
翻译为中文:
云原生技术有利于各组织在公有云、私有云和混合云等新型动态环境中,构建和运行可弹性扩展的应用。云原生的代表技术包括容器、服务网格、微服务、不可变基础设施和声明式API。
这些技术能够构建容错性好、易于管理和便于观察的松耦合系统。结合可靠的自动化手段,云原生技术使工程师能够轻松地对系统作出频繁和可预测的重大变更。
云原生计算基金会(CNCF)致力于培育和维护一个厂商中立的开源生态系统,来推广云原生技术。我们通过将最前沿的模式民主化,让这些创新为大众所用。
除了CNCF关于云原生的定义,网络上流传的另一个版本是Pivotal 公司的 Matt Stine于2013年首次提出云原生概念;2015年,云原生刚推广时,Matt Stine在《迁移到云原生架构》一书中定义了符合云原生架构的几个特征:12因素、微服务、自敏捷架构、基于API 协作、扛脆弱性。
到了2017年,Matt Stine 改了口风,将云原生架构归纳为模块化、可观察、可部署、可测试、可替换、可处理6特质;而Pivotal 官网对云原生概括为4个要点:DevOps+持续交付+微服务+容器。
云原生所需能力与特征 by:CNCF大使 宋净超
MattStine认为云原生它是一个思想的集合,包括DevOps、持续交付(Continuous Delivery)、微服务(MicroServices)、敏捷基础设施(Agile Infrastructure)、康威定律(Conways Law)等。
云原生即包含技术(微服务,敏捷基础设施),也包含管理(DevOps,持续交付,康威定律,重组等)。云原生也可以说是一系列云技术、企业管理方法的集合。
我们以CNCF官方的定义来接着了解。云原生的代表技术包括容器、服务网格、微服务、不可变基础设施和声明式API。那么这些技术都是什么?这些技术有什么联系?
◆◆云原生代表技术◆◆
容器
一般我们说的“容器”(LinuxContainer,LXC),都是“Linux容器”(当然微软也在搞容器,但还没linux那么成熟)。开源解决方案供应商红帽官网给出的容器定义:
Linux® 容器是与系统其他部分隔离开的一系列进程。运行这些进程所需的所有文件都由另一个镜像提供,这意味着从开发到测试再到生产的整个过程中,Linux 容器都具有可移植性和一致性。因而,相对于依赖重复传统测试环境的开发渠道,容器的运行速度要快得多。容器比较普遍也易于使用,因此也成了 IT 安全方面的重要组成部分。
容器提供进程级的隔离,可以将操作系统管理的资源划分到相互隔离的组中,在相互隔离的组之间解决资源使用存在冲突的问题。比如应用程序(Application,APP )APP 1 只能在centos 操作系统上运行,APP2只能在ubuntu操作系统上运行,而同一个操作系统同时运行APP1和APP2就产生冲突,容器技术则恰恰可以解决这类问题。目前主流的容器技术有Docker、LXD以及RKT等。
Docker
说到容器,就不得不说Docker。
2010年,几个大胡子的年轻人在美国旧金山成立了一家名叫“dotCloud”的公司。这家公司主要提供基于PaaS的云计算技术服务。具体来说,是和LXC有关的容器技术。LXC,就是Linux容器虚拟技术(Linux container)
后来,dotCloud公司将自己的容器技术进行了简化和标准化,并命名为——Docker。
Docker项目发布时,无非也是LXC的一个使用者,它创建和使用应用容器的逻辑跟Warden等竞争对手没有本质不同。不过,我们现在也知道,真正让PaaS项目无所适从的,是Docker项目最厉害的杀手锏:容器镜像。
Docker项目通过容器镜像,直接将一个应用运行所需的完整环境,即:整个操作系统的文件系统也打包了进去。这种思路,可算是解决了困扰PaaS用户已久的一致性问题,制作一个“一次发布、随处运行”的Docker镜像的意义,一下子就比制作一个连开发和测试环境都无法统一的Buildpack高明了太多。
Docker项目大大降低了容器技术的使用门槛,轻量级,可移植,虚拟化,语言无关,写了程序扔上去做成镜像可以随处部署和运行,开发、测试和生产环境彻底统一了,还能进行资源管控和虚拟化。
Docker作为一种开源应用容器引擎,是为开发人员和系统管理员设计的用于构建、发布和运行分布式应用的平台,典型的Docker平台Kubernetes、Openshift V3、Flynn、Deis等。
Docker允许开发人员将各种应用以及依赖包打包到一个可移植的Docker容器中,以Docker容器为资源分割和调度的基本单位,封装整个软件运行时的环境,然后发布到Linux机器上。
Docker设计原理如上图所示。按照Docker的设计方案,应用软件的交付过程如同海上运输,操作系统OS如同一个货轮,每一个在OS基础上的软件都如同一个集装箱,用户可以通过标准化手段自由组装运行环境,同时集装箱的内容可以由用户自定义,也可以由专业人员(开发人员或系统管理员)定制,如此一来,交付一个应用软件产品,就相当于交付一系列标准化组件的集合。
一句话解释Docker?
没有集装箱就没有全球化,Docker就是IT世界里的集装箱。
有了容器,就需要编排管理容器的生命周期,kubernetes要了解一下。
Kubernetes
说一下kubernetes,kubernetes一度被大家称为云原生的基石。
K8s,全称是Kubernetes。这个单词来自于希腊语,含义是舵手或领航员。K8s是它的缩写,用“8”字替代了“ubernete”这8个字符。
K8s并不是一件全新的发明。它是谷歌根据其内部使用的 Borg 改造成的一个通用容器编排调度器,于2014年6月开源,同年7月,微软、Red Hat、IBM、Docker等公司,相继加入K8s。2015年,谷歌将其捐赠给 Linux 基金会下属的云原生计算基金会(CNCF),K8s也成为CNCF第一个项目。
K8s的架构,略微有一点复杂,我们简单来看一下。
一个K8s系统,通常称为一个K8s集群(Cluster)。这个集群主要包括两个部分:一个Master节点(主节点)和一群Node节点(计算节点)。
列举下一些专用术语的解释。
Master(主节点):控制 K8s 节点的机器,也是创建作业任务的地方。
Node(节点):这些机器在 K8s 主节点的控制下执行被分配的任务。
Pod:由一个或多个容器构成的集合,作为一个整体被部署到一个单一节点。同一个 pod 中的容器共享 IP 地址、进程间通讯(IPC)、主机名以及其它资源。Pod 将底层容器的网络和存储抽象出来,使得集群内的容器迁移更为便捷。
Replicationcontroller(复制控制器):控制一个 pod 在集群上运行的实例数量。
Service(服务):将服务内容与具体的 pod 分离。Kubernetes服务代理负责自动将服务请求分发到正确的 pod 处,不管 pod 移动到集群中的什么位置,甚至可以被替换掉。
Kubelet:这个守护进程运行在各个工作节点上,负责获取容器列表,保证被声明的容器已经启动并且正常运行。
kubectl: 这是 Kubernetes 的命令行配置工具。
理解完K8s 部分专业术语,就大致对K8s有个了解了。
云可以为我们提供稳定而唾手可得的基础设施,但是业务上云成了一个难题,K8s 的出现与其说是从最初的容器编排解决方案开始,倒不如说是为了解决应用上云(即云原生应用)这个难题。
CNCF 中托管的一系列项目即致力于云原生应用整个生命周期的管理,从部署平台、日志收集、Service Mesh(服务网格)、服务发现、分布式追踪、监控以及安全等各个领域通过开源软件为我们提供一整套解决方案。
Google 通过将云应用进行抽象简化出的 Kubernetes 中的各种概念对象,如Pod、Deployment、Job、StatefulSet 等,形成了Cloud Native 应用的通用可移植的模型,Kubernetes 作为云应用的部署标准,直接面向业务应用,大大提高了云应用的可移植性,解决云厂商锁定的问题,让云应用可以在夸云之间无缝迁移,甚至用来管理混合云,成为企业 IT 云平台的新标准。
微服务
在介绍微服务时,首先得先理解什么是微服务,顾名思义,微服务得从两个方面去理解,什么是"微"、什么是"服务",微 狭义来讲就是体积小、著名的 "2 pizza 团队" 很好的诠释了这一解释(2 pizza 团队最早是亚马逊 CEO Bezos提出来的,意思是说单个服务的设计,所有参与人从设计、开发、测试、运维所有人加起来只需要2个披萨就够了)。
而所谓服务,一定要区别于系统,服务一个或者一组相对较小且独立的功能单元,是用户可以感知最小功能集。
传统的单体架构是以整个系统为单位进行部署,而微服务则是以每一个独立组件(例如用户服务,商品服务)为单位进行部署。对于单体应用,如果发现某一业务的请求量非常大,那么是无法单独扩展该业务的,只能拷贝整个单体应用,再部署一套环境,来实现集群。正因为单体应用的缺陷,才有了微服务。
微服务和单体应用的区别,可以用Martin Fowler的这张图来解释:
图中左边是单体架构的集群,右边是微服务集群。
什么意思呢?比如根据每个服务的吞吐量不同,支付服务需要部署20台机器,用户服务需要部署30台机器,而商品服务只需要部署10台机器。这种灵活部署只有微服务架构才能实现。
而近几年流行的Docker,为微服务架构提供了有效的容器。
服务网格
服务网格( Service Mesh )是指用以处理服务与服务之间通信的基础设施层。其最早由Buoyant公司(开发Service Mesh项目Linkerd的公司)提出,并在内部使用。该公司2016年9月29日第一次公开使用这个术语。
Service Mesh一般用于微服务应用的可配置基础架构层( configurable infrastructure layer )。Istio( 由Google、IBM、Lyft公司在背后进行支持 ) 是目前最广为人知的一款服务网格架构。
Kubernetes(由Google最早进行设计并开源)是目前Istio唯一支持的容器组织框架。
为什么Service Mesh这么受欢迎?对许多公司来说,Docker 和 Kubernetes 这样的工具已经 "解决了部署问题",或者说几乎解决了。但他们还没有解决运行时的问题,这就是服务网格的由来。
什么是解决了部署问题?使用 Docker 和 Kubernetes 等功能可显著减轻部署的增量操作负担。使用这些工具,部署100个应用或服务不再是部署单个应用的100倍。这是向前迈出的一大步,对许多公司来说,这导致采用微服务的成本大幅降低。这不仅是因为 Docker 和 Kubernetes 所提供了强大的抽象,而且还因为它们使整个组织的打包和部署模式过程标准化了。
Service Mesh的出现,弥补了Kubernetes在微服务的连接、管理和监控方面的短板,为Kubernetes提供更好的应用和服务管理。因此,Service Mesh的代表Istio一经推出,就被认为是可以和Kubernetes形成双剑合璧效果的微服务管理的利器,受到了业界的推崇。
不可变基础设施
在传统的可变服务器基础架构中,服务器会不断更新和修改。使用此类基础架构的工程师和管理员可以通过SSH连接到他们的服务器,手动升级或降级软件包,逐个服务器地调整配置文件,以及将新代码直接部署到现有服务器上。换句话说,这些服务器是可变的;它们可以在创建后进行更改。
可变基础设施通常会导致以下问题:
在灾难发生的时候,难以重新构建服务。持续过多的手工操作,缺乏记录,会导致很难由标准初始化后的服务器来重新构建起等效的服务。
在服务运行过程中,持续的修改服务器,就犹如程序中的可变变量的值发生变化而引入的状态不一致的并发风险。这些对于服务器的修改,同样会引入中间状态,从而导致不可预知的问题。
不可变基础架构是另一种基础架构范例,其中服务器在部署后永远不会被修改。程序设计中不可变变量(ImmutableVariable)就是在完成赋值后就不能发生更改,只能创建新的来整体替换旧的。由于具有这样的特性这种变量可以在并发环境下安全的使用。对于基础设施的不可变性,最基本的就是指运行服务的服务器在完成部署后,就不在进行更改。
不可变基础架构的好处包括基础架构中更高的一致性和可靠性,以及更简单,更可预测的部署过程。
它可以缓解或完全防止可变基础架构中常见的问题,例如配置漂移和雪花服务器。但是,有效地使用它通常包括全面的部署自动化,云计算环境中的快速服务器配置,以及处理状态或短暂数据(如日志)的解决方案。
声明式API
声明式(Declarative)的编程方式一直都会被工程师们拿来与命令式(Imperative)进行对比,这两者是完全不同的编程方法。
我们最常接触的其实是命令式编程,它要求我们描述为了达到某一个效果或者目标所需要完成的指令,常见的编程语言 Go、Ruby、C++ 其实都为开发者了命令式的编程方法,
声明式和命令式是两种截然不同的编程方式:
在命令式 API 中,我们可以直接发出服务器要执行的命令,例如: “运行容器”、“停止容器”等;
在声明式 API 中,我们声明系统要执行的操作,系统将不断向该状态驱动。
通俗的说,命令式编程是第一人称,我要做什么,我要怎么做。 操作系统最喜欢这种编程范式了, 操作系统几乎不用"思考", 只要一对一的将代码翻译成指令就可以了。 而声明式编程则类似于"第二人称", 也就是你要做什么。 有点"产品经理"和"开发“之间的关系,"产品经理"只负责提需求,而"开发"怎么实现他不并关心。
让我们来总结一下上面提到的技术和工具。
k8s是整个云原生的基石,云原生的整个生态体系都是依靠k8s建立起来的。
容器(Container)是k8s的底层引擎;
Docker是应用最广的容器工具;
微服务是docker的好搭档;
服务网格是微服务的辅助,建立在k8s上的针对请求的扩展功能;
不可变基础设施是现代运维的基石;
声明式API是k8s的编码方式;
◆◆云原生应用价值◆◆
由于篇幅关系,简单列举三项云原生应用价值。
1)快速迭代
利用云原生应用程序开发,意味着使用敏捷与可扩展的组件,如以Kubernetes为代表的容器来提供离散和可重用的功能,这些功能以良好描述的方式集成,甚至跨越多云等技术边界,这使得交付团队可以使用重复的自动化和编排来快速迭代。
2)自动部署
云原生方法远优于传统的面向虚拟化的业务流程,传统方法需要投入大量的精力来构建开发环境,以及软件交付过程中的其他不同环境。而云原生架构具备自动化和组合功能,并且依赖于可靠、经过验证和审核的已知良好流程的基础,交付十分敏捷,而不再需要人工干预重复执行。
3)独立高效
云原生带来了微服务化架构,一个微服务基本是一个能独立发布的应用服务,因此可以作为独立组件升级、灰度或复用等,对整个大应用的影响也较小,每个服务可以由专门的组织来单独完成,依赖方只要定好输入和输出口即可完全开发、甚至整个团队的组织架构也会更精简,因此沟通成本低、效率高。
谈云原生就要谈云计算,不和云计算对比都是耍流氓。云计算的第一个浪潮是关于成本节约和业务敏捷性,尤其是云计算的基础设施更加廉价。
很多企业倾向于使用微服务架构来开发应用。微服务开发快速,职责单一,能够更快速的被客户所采纳。同时,这些应用能够通过快速迭代的方式,得到进化,赢得客户的认可。云原生可以打通微服务开发、测试、部署、发布的整个流程环节。
云供应商为迎合市场,提供了满足各种场景方案的 API,例如用于定位的 Google Maps,用于社交协作的认证平台等。将所有这些 API 与企业业务的特性和功能混合在一起,可以让他们为客户构建独特的方案。所有这些整合都在 API 层面进行。这意味着,不管是移动应用还是传统的桌面应用都能无缝集成。所以,采用云原生所开发的应用都且具备极强的可扩展性。
软件不可能不出故障。传统的企业级开发方式,需要有专职人员来对企业应用进行监控与维护。而在云原生架构下,底层的服务或者是API都由将部署到云中,等价于将繁重的运维工作转移给了云平台供应商。这意味着客户应用将得到更加专业的看护,同时,也节省了运维成本。
◆◆结 语◆◆
9年前,Netscape公司的创始人马克·安德森说:“软件正在吞噬世界”;6年前,OpenStack基金会创始人Jonathan Bryce 补充说:“世界的一切源于开源”;再之后,业内普遍认同“云计算已改变了天空的颜色”;但近两年云计算概念又被清晰细分,“云原生”才是那条最大的鱼。
“大鱼”来了,我们能做的不是墨守成规,而是拥抱“大鱼”,时代在召唤云原生,但是云原生不是一蹴而就,而是有个循序渐进的过程。排斥云原生,了解云原生,拥抱云原生,追随云原生。
参考资料:
3.云原生的不同解释及正确含义,倚天码农
4.10分钟看懂Docker和K8S,鲜枣课堂
5.CNCF官方大使张磊:什么是云原生?
如果阅读有收获,求帮忙扩散文章!感谢!
边缘计算社区:促进边缘计算领域知识传播,中立,客观,如果你关注边缘计算、5G、物联网、云原生等领域请关注我们。