云计算与大数据技术应用

云计算概论

  • 什么是云计算
    • 云计算概述
      • 云计算的主要部署模式
        • 云技术产业现状

什么是云计算

如今越来越多的应用正在迁移到“云”上,如我们生活中接触的各种“云盘”存储。实际上,“云”并不新潮,已经持续了超过10年,并还在不断扩大到所有领域。可预见的事:下一个10年中,几乎所有的应用都会部署到云端,而它们中的大部分都将直接通过你手中的移动设备,为我们提供各种各样的服务。为什么会需要“云”?传统的应用正在变得越来越复杂:需要支持更多的用户,需要更强的计算能力,需要更加稳定安全等等,而为了支撑这些不断增长的需求,企业不得不去购买各类硬件设备(服务器,存储,带宽等等)和软件(数据库,中间件等等),另外还需要组建一个完整的运维团队来支持这些设备或软件的正常运作,这些维护工作就包括安装、配置、测试、运行、升级以及保证系统的安全等。便会发现支持这些应用的开销变得非常巨大,而且它们的费用会随着你应用的数量或规模的增加而不断提高。这也是为什么即使是在那些拥有很出色IT部门的大企业中,那些用户仍在不断抱怨他们所使用的系统难以满足他们的需求。而对于那些中小规模的企业,甚至个人创业者来说,创造软件产品的运维成本就更加难以承受了。所以,云计算,应运而生——更大、更快、更强针对上述问题解决方案便是“云计算”!将应用部署到云端后,可以不必再关注那些令人头疼的硬件和软件问题,它们会由云服务提供商的专业团队去解决。使用的是共享的硬件,这意味着像使用一个工具一样去利用云服务(就像插上插座,你就能使用电一样简单)。只需要按照你的需要来支付相应的费用,而关于软件的更新,资源的按需扩展都能自动完成。二、形象点来说说“云计算”
【1】 水龙头观点论:当需要的时候,扭开水龙头,水就来了,我只需要操心交水费就是了!当你需要用一个软件时,你不用跑去电脑城,打开应用商店,它就下载下来了,你只需要交钱就是了;当你想看报纸的时候,你不用跑去报刊亭,只要打开头条新闻,新闻唾手可得;当你想看书的时候,你不用跑去书城,只需要打开阅读软件,找到这样的一本书,在手机上阅读;当你想听音乐的时候,你不用再跑去音像店苦苦找寻CD光碟,打开音乐软件,就能聆听音乐;云计算,像在每个不同地区开设不同的自来水公司,没有地域限制,优秀的云软件服务商,向世界每个角落提供软件服务——就像天空上的云一样,不论你身处何方,只要你抬头,就能看见!
【2】荤段子观点论:网上很流行的一种比喻:男人找个女友或老婆是自建私有云,单身约炮或者到娱乐场所消费是公有云服务,按需使用并可弹性扩容,已婚男人找二奶小蜜则属于混合云。这种解释方式对男人比较适用,通常稍微一解释就心领神会!
【3】共享单车-滴滴出行需要用车,云计算或者云服务好比乘坐出租车或专车快车共享单车,随时需要随时用,按用量(路程)付费即可。自己买车开车是混合云,车是自己的,出去付费停车或加油相当于部分使用公有云,而亚马逊或微软云在国内跟黑车差不多被政策限制
【4】一日三餐吃货论:饿了要吃饭,在家里自己做饭属于自建私有云,需要建造厨房购买锅碗瓢盆柴米油盐等,吃完饭还需要自己刷锅洗碗等运维工作,费时费力;外面餐馆提供的就相当于公有云服务,按需胡吃海塞吃完结账抹嘴走人,餐馆后厨如何安排做菜顺序并加快出菜速度就是负载均衡和虚拟化概念;请厨师到家里上门做饭则属于典型的混合云,在资产安全的情况下有限使用公有云。三、“云计算”的五大特点大规模、分布式“云”一般具有相当的规模,一些知名的云供应商如Google云计算、Amazon、IBM、微软、阿里等也都拥能拥有上百万级的服务器规模。而依靠这些分布式的服务器所构建起来的“云”能够为使用者提供前所未有的计算能力。虚拟化云计算都会采用虚拟化技术,用户并不需要关注具体的硬件实体,只需要选择一家云服务提供商,注册一个账号,登陆到它们的云控制台,去购买和配置你需要的服务(比如 云服务器,云存储,CDN等等),再为你的应用做一些简单的配置之后,你就可以让你的应用对外服务了,这比传统的在企业的数据中心去部署一套应用要简单方便得多。而且你可以随时随地通过你的PC或移动设备来控制你的资源,这就好像是云服务商为每一个用户都提供了一个IDC(Internet Data Center)一样。高可用性和扩展性那些知名的云计算供应商一般都会采用数据多副本容错、计算节点同构可互换等措施来保障服务的高可靠性。基于云服务的应用可以持续对外提供服务(7*24小时),另外“云”的规模可以动态伸缩,来满足应用和用户规模增长的需要。按需服务,更加经济用户可以根据自己的需要来购买服务,甚至可以按使用量来进行精确计费。这能大大节省IT成本,而资源的整体利用率也将得到明显的改善。安全网络安全已经成为所有企业或个人创业者必须面对的问题,企业的IT团队或个人很难应对那些来自网络的恶意攻击,而使用云服务则可以借助更专业的安全团队来有效降低安全风险。

云计算概述

一、云计算定义
  美国国家标准与技术研究院(NIST)定义:云计算是一种按使用量付费的模式,这种模式提供可用的、便捷的、按需的网络访问, 进入可配置的计算资源共享池(资源包括网络,服务器,存储,应用软件,服务),这些资源能够被快速提供,只需投入很少的管理工作,或与服务供应商进行很少的交互。

PS:云计算过去用来表示电信网,后来也用来表示互联网和底层基础设施的抽象。它是分布式计算(Distributed Computing)、并行计算(Parallel Computing)、效用计算(Utility Computing)、 网络存储(Network Storage Technologies)、虚拟化(Virtualization)、负载均衡(Load Balance)、热备份冗余(High Available)等传统计算机和网络技术发展融合的产物。

二、云算机分类

(1)按网络结构分类

  张三、李四、王五住一栋楼,楼下一个大规模的饭店。张三一直在家做饭,这是私有云,厨房是自建机房。李四一直在饭店吃,这是公有云,饭店是云数据中心。王五牛叉,在饭店有个固定包间,包间不对外人开放,这是托管型私有云(有的厂商将其定义为专有云),包间是云数据中心中的托管服务器。张三家有天来了十多个客人,这是业务突增。家里装不开,要去饭店,这是私有云转公有云。张三妈妈省吃俭用,对张三说,你们去吧,我和你爸在家吃,对张三家来说这是混合云。如果饭店仅对某个特定人群比如学生开放,这就相当于社区云。当然,举例不十分恰当,毕竟饭还是买的,而云是租的,此点切记 。

私有云

  私有云是为某个特定用户/机构建立的,只能实现小范围内的资源优化,因此并不完全符合云的本质--社会分工,所以 Openstack 等开源软件带来的私有云繁荣可能只是暂时的,会有越来越多的客户发现廉价的硬件和免费的软件并不是打造私有云的充分条件,精细的管理、7×24运维所耗去的总成本(TOC)不比公有云低,而且随着公有云厂商运营能力的进步,这种趋势会越来越明显。托管型私有云在一定程度上实现了社会分工,但是仍无法解决大规模范围内物理资源利用效率的问题。

公有云

  公有云是为大众建的,所有入驻用户都称租户,不仅同时有很多租户,而且一个租户离开,其资源可以马上释放给下一个租户,一如饭店里一桌顾客走了马上迎来下一桌顾客。公有云是最彻底的社会分工,能够在大范围内实现资源优化,因此,不管道路如何曲折,前途总是光明的。当然公有云尤其是底层公有云构建,不是一般人能玩的了的,就像开个三五桌的饭店谁都能行,开个三五万桌的饭店就要看资金和本事了。很多客户担心公有云的安全问题,敏感行业、大型客户可以考虑,但一般的中小型客户,不管是数据泄露的风险,还是停止服务的风险,公有云都远远小于自己架设机房。

社区云

  社区云是介于公有、私有之间的一个形式,每个客户自身都不大,但自身又处于敏感行业,上公有云在政策和管理上都有限制和风险,所以就多家联合做一个云平台。

混合云

  混合云是以上几种的任意混合,这种混合可以是计算的、存储的,也可以两者兼而有之。在公有云尚不完全成熟、而私有云存在运维难、部署实践长、动态扩展难的现阶段,混合云是一种较为理想的平滑过渡方式,短时间内的市场占比将会大幅上升。并且,不混合是相对的,混合是绝对的。在未来,即使不是自家的私有云和公有云做混合,也需要内部的数据与服务与外部的数据与服务进行不断的调用(PaaS 级混合)。并且还有可能,一个大型客户把业务放在不同的公有云上,相当于把鸡蛋放在不同篮子里,不同篮子里的鸡蛋自然需要统一管理,这也算广义的混合。

专有云

  专有云相当于是将企业的私有云建立在云服务企业的数据中心,以类似于云托管的方式,在公有云架构上开辟出符合自身业务架构与安全性要求的云平台系统。

(2)按服务类型分类

服务类型:Iaas、Paas、Saas

云计算与大数据技术应用_第1张图片

IaaS:基础设施服务,Infrastructure-as-a-service

PaaS:平台服务,Platform-as-a-service

SaaS:软件服务,Software-as-a-service

它们有什么区别呢?

IBM 的软件架构师 Albert Barron 曾经使用披萨作为比喻,解释这个问题。David Ng 进一步引申,让它变得更准确易懂。

请设想你是一个餐饮业者,打算做披萨生意。
你可以从头到尾,自己生产披萨,但是这样比较麻烦,需要准备的东西多,因此你决定外包一部分工作,采用他人的服务。你有三个方案:

方案一:IaaS

他人提供厨房、炉子、煤气,你使用这些基础设施,来烤你的披萨。

方案二:PaaS

除了基础设施,他人还提供披萨饼皮。

你只要把自己的配料洒在饼皮上,让他帮你烤出来就行了。也就是说,你要做的就是设计披萨的味道(海鲜披萨或者鸡肉披萨),他人提供平台服务,让你把自己的设计实现。

方案三:SaaS

他人直接做好了披萨,不用你的介入,到手的就是一个成品。你要做的就是把它卖出去,最多再包装一下,印上你自己的 Logo。

上面的三种方案,可以总结成下面这张图:

云计算与大数据技术应用_第2张图片

从左到右,自己承担的工作量(上图蓝色部分)越来越少,IaaS > PaaS > SaaS。

对应软件开发,则是下面这张图:

————————————————

云计算与大数据技术应用_第3张图片
云计算与大数据技术应用_第4张图片

三、云计算特点

(1) 超大规模:“云”具有相当的规模,Google云计算已经拥有100多万台服务器, Amazon、IBM、微软、Yahoo等的“云”均拥有几十万台服务器。企业私有云一般拥有数百上千台服务器。“云”能赋予用户前所未有的计算能力。

(2) 虚拟化:云计算支持用户在任意位置、使用各种终端获取应用服务。所请求的资源来自“云”,而不是固定的有形的实体。应用在“云”中某处运行,但实际上用户无需了解、也不用担心应用运行的具体位置。

(3) 高可靠性:“云”使用了数据多副本容错、计算节点同构可互换等措施来保障服务的高可靠性,使用云计算比使用本地计算机可靠。

(4) 通用性:云计算不针对特定的应用,在“云”的支撑下可以构造出千变万化的应用,同一个“云”可以同时支撑不同的应用运行。

(5) 高可扩展性:“云”的规模可以动态伸缩,满足应用和用户规模增长的需要。

(6) 按需服务:“云”是一个庞大的资源池,你按需购买;云可以像自来水,电,煤气那样计费。

(7) 极其廉价:由于“云”的特殊容错措施可以采用极其廉价的节点来构成云,“云”的自动化集中式管理使大量企业无需负担日益高昂的数据中心管理成本,“云”的通用性使资源的利用率较之传统系统大幅提升,因此用户可以充分享受“云”的低成本优势,经常只要花费几百美元、几天时间就能完成以前需要数万美元、数月时间才能完成的任务。

云计算可以彻底改变人们未来的生活,但同时也要重视环境问题,这样才能真正为人类进步做贡献,而不是简单的技术提升。

(8) 潜在的危险性:云计算服务除了提供计算服务外,还必然提供了存储服务。但是云计算服务当前垄断在私人机构(企业)手中,而他们仅仅能够提供商业信用。对于政府机构、商业机构(特别像银行这样持有敏感数据的商业机构)对于选择云计算服务应保持足够的警惕。一旦商业用户大规模使用私人机构提供的云计算服务,无论其技术优势有多强,都不可避免地让这些私人机构以“数据(信息)”的重要性挟制整个社会。

云计算的主要部署模式

云计算、大数据、物联网、人工智能,可谓是最近几年大热之词,热度一浪高过一浪,今天主要介绍的是云计算,私有云、公有云、混合云、社区云,大家都耳熟能详,却不知道属于什么,这篇文章以云计算部署模型和服务模式为主题,为大家介绍。

云计算的4种部署模型:

1.私有云,云端资源只给一个单位组织内的用户使用,这是私有云的核心特征。而云端的所有权、日常管理和操作的主体到底属于谁并没有严格的规定,可能是本单位,也可能是第三方机构,还有可能是二者的联合。云端位于本单位内部,也可能托管在其他地方。

2.社区云,云端资源专门给固定的几个单位内的用户使用,而这些单位对云端具有相同诉求(如安全要求、云端使命、规章制度、合规性要求等)。云端的所有权、日常管理和操作的主体可能是本社区内的一个或多个单位,也可能是社区外的第三方机构,还可能是二者的联合。云端可能部署在本地,也可能部署于他处。

3.公共云,云端资源开放给社会公众使用。云端的所有权、日常管理和操作的主体可以是一个商业组织、学术结构、政府部门或者它们其中的几个联合。云端可能部署在本地,也可能部署于其他地方,比如郑州市民公共云的云端可能就建在郑州,也可能建在洛阳。

4.混合云,混合云由两个或两个以上不同类型的云(私有云、社区云、公共云)组成,它们各自独立,但用标准的或专有的技术将它们组合起来,而这些技术能实现云之间的数据和应用程序的平滑流转。由多个相同类型的云组合在一起属于多云的范畴,比如两个私有云组合在一起,混合云属于多云的一种。由私有云和公共云构成的混合云是目前最流行的——当私有云资源短暂性需求过大时,自动租赁公共云资源来平抑私有云资源的需求峰值。例如,网站在节假日期间点击量巨大,这时就会临时使用公共云资源来应急。

云计算的3种服务模式:

1.软件即服务,云服务提供商把IT系统中的应用软件层作为服务出租出去,消费者不用自己安装应用软件,直接使用即可,这进一步降低了云服务消费者的技术门槛。

2.平台即服务,云服务提供商把IT系统中的平台软件层作为服务出租出去,消费者自己开发或者安装程序,并运行程序。

3.基础设施即服务,云服务提供商把IT系统的基础设施层作为服务出租出云,由消费者自己安装操作系统、中间件、数据库和应用程序

云技术产业现状

全球云计算的发展现状

2018年全球云计算(Iaas/Paas/Saas)市场规模达到2720亿美元,预计到2023年增加至6233亿美元,19-23年CAGR18%;市场份额方面,18Q4亚马逊AWS占比35%,超出了第2-5名市场参与者的总和。

2018年全球云计算市场规模达到2720亿美元
云计算与大数据技术应用_第5张图片

数据来源:公开资料整理

18Q4亚马逊AWS全球市场份额35%

云计算与大数据技术应用_第6张图片

数据来源:公开资料整理

与美国等发达国家相比,我国云计算发展仍有较大空间。由于我国行业起步较晚,总体上企业机构对于云计算的投资占比不高。2017年我国企业云计算相关支出占IT总支出的比例14.4%,该指标在美国则高达29.1%。其中,我国企业对于公有云的投入仅占6.5%,虽然较2015年接近翻倍,但距离美国的23.9%仍有不小差距。

3、我国云计算的发展现状

2017年我国云计算整体市场规模达691.6亿元,同比增长34.32%。其中,公有云市场规模达到264.8亿元,同比增长55.7%,预计2018—2021年仍将保持快速增长态势,到2021年市场规模将达到902.6亿元;私有云市场规模达到426.8亿元,同比增长23.8%,预计未来几年将保持稳定增长,到2021年市场规模将达到955.7亿元。

中国公有云市场规模及增速

云计算与大数据技术应用_第7张图片

数据来源:公开资料整理

中国私有云市场规模及增速
云计算与大数据技术应用_第8张图片

数据来源:公开资料整理

从市场结构来看,我国云计算市场以私有云为主,2017年其占比达到61.71%,而在全球云计算市场中,公有云市场份额达到88.35%。国内外云计算市场的结构差异主要来源于国内客户对云计算的了解不足、云计算标准缺失、与原信息系统的兼容性问题等因素,目前大中型企业是我国云计算服务的主要用户,而出于对安全性和可控性的追求,该部分客户通常选择私有云作为其IT部署架构,造成了我国云计算市场中公有云的市场份额较少。

中国公有云和私有云市场份额
云计算与大数据技术应用_第9张图片

数据来源:公开资料整理

全球公有云和私有云市场份额

云计算与大数据技术应用_第10张图片

数据来源:公开资料整理

同时,从服务模式来看,我国公有云市场内部也存在着企业级SaaS服务市场占比偏低的问题:2017年,国内IaaS市场成为游戏、视频、移动互联网等领域中小企业IT资源建设的首选,占据了云计算市场56.16%的份额;而由于我国SaaS服务的开放程度不够、易用性不足以及市场环境欠佳,尽管SaaS服务亦在公有云市场规模中占据了一定比例,但是其市场份额主要来自于以云存储等基础服务为主的消费级SaaS市场,企业级SaaS市场仅占SaaS服务市场规模的10%。我国企业级SaaS市场的发展缓慢也是导致了SaaS市场与其上游PaaS市场的规模仅占我国公有云市场的4成,与它们在全球公有云市场中约6成的市场规模形成了对比。

总的来说,我国云计算市场规模增长迅速,但是其体量仍与我国的经济总量并不相称:2017年,我国云计算市场的全球份额占比仅为约9%,而美国云计算四巨头亚马逊、微软、谷歌以及IBM的云计算营收达到全球市场份额的约40%,其中,仅亚马逊一家就占据全球云计算市场份额的31.50%。

这主要是由于,目前我国云计算市场用户仍以互联网原生行业,如游戏、电商、视频为主。该领域用户对云计算的接受与熟悉程度较高,且其自身特点亦适合云计算的部署方式,因此最早完成云计算架构的部署,而金融、政府、工业等对私密性、稳定性、实时性要求较高、系统迁移难度较大的行业其整体迁移时间较晚。未来,随着国家对于云计算发展的大力支持、对物联网所产生的海量大数据的存储与分析需求不断增长,以及相关云计算技术的继续更新与优化,我国云计算产业链的下游应用市场将得到持续拓展,云计算市场亦将随之不断壮大,为相关公司带来显著成长红利。

4、我国对云计算的政策支持

与传统IT部署结构相比,云计算实现了资源的按需供给以及数据的充分利用,为物联网、大数据等新兴领域的发展提供了基础支撑,未来将成为我国信息化建设主要形态和建设网络强国、制造强国的重要支撑,推动经济社会各领域信息化水平大幅提高。近年来,政府出台了一系列政策以促进云计算产业的发展。

我国对云计算的相关政策支持

云计算与大数据技术应用_第11张图片

数据来源:公开资料整理

2017年前,我国云计算政策旨在为云计算产业提供战略规划及发展环境,虽然部分文件要求促进云计算在电子政务、协同制造、普惠金融与高效物流等领域的应用,但是其措施主要以鼓励应用及试点示范为主。而2017年4月发布的《云计算发展三年行动计划》则明确提出要开展以应用促进云计算发展的行动,通过推进政务云应用及发展工业云服务来带动云计算产业快速发展、推动云计算的普及推广与深入应用。

其中,在政务云领域,《云计算发展三年行动计划》鼓励地方主管部门加大利用云计算服务的力度,应用云计算整合改造现有电子政务信息系统,提高政府运行效率;随后,2017年5月印发的《政务信息系统整合共享实施方案》强调,要鼓励推广云计算、大数据等新技术新模式的应用与服务,提升集约化建设水平,并要求于2017年12月底前,完善政府购买信息系统、数据中心、数据资源等信息化服务的相关政策。

在工业云领域,《云计算发展三年行动计划》支持骨干制造业企业、云计算企业联合牵头搭建面向制造业特色领域的工业云平台,推动制造业转型升级和提质增效,并支持钢铁、汽车、轻工等制造业重点领域行业协会与专业机构、骨干云计算企业合作建设行业云平台,提高行业发展水平和管理水平;此外,2018年8月,工信部印发《推动企业上云实施指南(2018-2020年)》,提出到2020年,力争实现企业上云比例和应用深度显著提升,云计算在企业生产、经营、管理中的应用广泛普及,全国新增上云企业100万家,形成典型标杆应用案例100个以上,形成一批有影响力、带动力的云平台和企业上云体验中心。

《云计算发展三年行动计划》具体内容
云计算与大数据技术应用_第12张图片

数据来源:公开资料整理

阻碍企业用户引入云计算的原因主要是其对云计算的了解不足,暂时无法做出相应规划,而企业用户在首次规划部署云产品时则面临缺乏成功案例进行参考以及云计算的标准缺失等问题。对此,《云计算发展三年行动计划》表示,将大力发展面向云计算的信息系统规划咨询、方案设计、系统集成和测试评估等服务,并指导标准化机构加快制定云计算资源监控、服务计量计费、应用和数据迁移、工业云服务能力总体要求、云计算服务器技术要求等关键急需技术、服务和应用标准。

阻碍企业用户引入云计算的原因p-0

云计算与大数据技术应用_第13张图片

数据来源:公开资料整理

首次规划部署云产品时遇到的问题

云计算与大数据技术应用_第14张图片

数据来源:公开资料整理

我们认为,《云计算发展三年行动计划》及随后各项政策中以应用促进云计算发展的行动充分表明,我国云计算产业已经度过市场培育以及政府规划时期,迈入了由政府拉动市场需求,促进企业通过市场活动来支持政府宏观规划的政企互动时代。《云计算发展三年行动计划》以政务云、工业云为切入点、开展应用促进行动,将增加用户对于云计算的认知、加速相关标准的建立,为云计算发展创造良好的市场环境。此外,《云计算发展三年行动计划》提出,我国云计算产业规模要从“十二五”末期的1500亿元增长至2019年的4300亿元,复合增长率达30%,彰显了政府对于政务云及工业云的产业带动作用的信心。我们认为,政务云与工业云的潜在需求将被充分释放,未来我国云计算产业高速发展可期。

二、我国云计算的发展趋势

1、云计算将与物联网、大数据协同发展

物联网是在互联网的基础上,将其用户端延伸和拓展到任何物品和物品之间,进行信息交换和通信的一种网络。物联网已经成为我国全面构筑经济社会数字化转型的关键基础设施:在工业物联网领域,其发展模式已经初步成型,形成了智能化生产、网络化协同、个性化定制以及服务化转型四大应用模式,其中农业物联网应用示范已经初显成效,推动农业环境监测、精准农业生产、农产品溯源、设备诊断、农产品电商等应用加快成熟在消费物联网领域;在消费物联网领域,物联网不再仅限于对家庭和个人提供消费升级的一些新产品,共享单车、共享充电宝、共享按摩椅等共享经济已经开始对人们的衣食住行等各方面产生作用,从一定程度上体现出物联网带来的生活方式的改变;在智慧城市物联网领域,物联网可以实施全面地表述城市的运行状态,支撑监测、预测和假设分析等各类应用,实现智能管理和调控,其中智能安防、智慧环保、智能交通已经成为我国智慧城市建设的刚性需求。

物联网的十大应用场景

云计算与大数据技术应用_第15张图片

数据来源:公开资料整理

因为物联网拥有比互联网和移动互联网更多的连接点,物联网的快速发展将使全球数据呈现指数增长的趋势。2018年,全球物联网连接数70亿台,到2022年将有超过500亿的终端与设备联网,而物理设备在借助物联网接入网络的同时,每分每秒都将产生海量的数据:到2025年,全球数据圈将从2018年的33ZB增至2025年的175ZB,并且中国数据圈将以48.6ZB成为世界最大的数据圈(1ZB=1,048,576PB,1PB=1,048,576GB)。大数据作为一种重要的战略资产,未来,其深度应用将不同程度地渗透到每个行业领域和部门:在行业商业类应用方面,大数据可以帮助企业挖掘客户的潜在需求、提高其决策的准确性、推动传统行业转型升级、提高城市居民的生活品质;在政府服务类应用方面,大数据能够为政府管理在城市规划、交通管理、舆情监控和安防领域提供强大的决策支持,并提高社会整体层面的业务协同效率。

物联网、大数据的发展离不开云计算的支持。由于以物联网数据为代表的大数据具有大量化、多样化、快速化及价值化的四大特征,大数据应用属于数据密集型计算,传统的存储及处理技术无法胜任大数据的“变现”

大数据的4V特征

云计算与大数据技术应用_第16张图片

数据来源:公开资料整理

为满足大规模、持续的数据在服务器、网络交换机以及存储器之间进行快速、频繁的移动,数据密集型计算的工作原理是将数据切分成多个片段,对每个片段同时执行相同的操作:以100MB/s的磁盘读取带宽速度从1个1TB磁盘上读取数据需要花费10,000秒,而如果将1TB数据均匀地分布到100个磁盘上并同时进行数据读取,则只需要花费100秒,其效率提高了100倍。由此可见,数据并行计算是大数据的核心支撑技术,而云计算作为一种把成千上万台服务器整合起来,为用户提供灵活的资源分配和任务调度能力的系统架构技术,天然地成为大数据的最佳承载平台。

2017年以来,我国物联网市场进入实质性发展阶段,全年市场规模突破1万亿元,年复合增长率超过25%。我国物联网加速进入“跨界融合、集成创新和规模化发展”的新阶段,提出强化产业生态布局、完善技术创新体系、完善标准体系、推进规模应用、完善公共服务体系、提升安全保障能力等六大重点任务,预计到2020超过65%的企业和组织将应用物联网产品和方案。在大数据方面,中国信息通信研究院测算,2017年我国大数据产业规模为4700亿元,同比增长30%,其中大数据软硬件产品的产值约为234亿元,同比增长39%。在应用层面,为金融、政务、电商三个行业提供大数据产品和解决方案的企业最多,其占比分别为63%、57%以及47%。未来,随着大数据在各行业的市场潜力不断显现、融合深度不断增强、应用程度不断深化,我国大数据产业将继续保持高速增长的发展态势。

我国物联网市场规模及预测

云计算与大数据技术应用_第17张图片

数据来源:公开资料整理

我国大数据市场规模及预测

云计算与大数据技术应用_第18张图片

数据来源:公开资料整理

未来,互联网的功能和结构将与人类大脑高度相似,将同时具备互联网虚拟感觉、虚拟运动与虚拟中枢神经。其中,物联网将充当互联网的感觉和运动神经系统,大数据将代表互联网的信息层,是互联网智慧和意识产生的基础,而云计算将是互联网的核心硬件层和软件层的集合,也是互联网的中枢神经系统。云计算作为新一代的IT基础架构部署方案,随着物联网及大数据产业的发展,将享受到相应的叠加红利。我们认为,云计算将与物联网、大数据实现协同发展,共同促进我国新一代信息基础设施的建设。

互联网虚拟大脑结构图

云计算与大数据技术应用_第19张图片

数据来源:公开资料整理

2、容器技术深化云计算应用

尽管我国云计算产业的市场前景广阔,目前,我国云计算市场的下游应用还有待深化。2017年,在我国公有云市场中,企业级SaaS(软件即服务)市场仅占SaaS服务市场规模的10%,且采用SaaS服务的企业中,有将近70%使用云邮箱、统一通信平台等大多是免费的基础通讯软件服务,采用ERP、CRM等企业管理软件服务和专业的行业应用软件服务的用户均低于50%。而在全球云计算市场,CRM、ERP与供应链管理三大企业级SaaS服务占据了全球SaaS服务市场63%的份额。

全球SaaS服务细分市场

云计算与大数据技术应用_第20张图片

数据来源:公开资料整理

同时,中国信息通信研究院指出,在我国私有云市场中,2017年硬件市场规模为303.4亿元,占比71.1%,而软件市场规模仅为66.6亿元,占比为15.6%。私有云行业中软硬件细分市场规模差距悬殊的原因主要是,仅有约四分之一的企业选择把核心业务系统运行在专有云上,70%以上企业的私有云上承载的主要是其企业管理系统。我们认为,随着以容器技术为代表的新兴技术的发展,我国公有云与私有云市场中核心应用未能上云的问题有望得到解决,云计算产业将迎来更为广阔的发展空间。

容器指的是以镜像形式存储的、虚拟的、被隔离的运行时环境。其与目前使用较多的服务器虚拟化技术的不同之处在于:服务器虚拟化技术虽然通过在硬件和操作系统之间引入虚拟化层,解除了操作系统与物理主机之间的紧耦合,实现了根据应用系统的需要自动生成、拓展所需的硬件资源,但是,有时其面临着必须虚拟出一整台计算机来运行一个简单应用的窘境,造成了相当的系统资源浪费;而容器技术通过跨容器共享操作系统架构,只需构建几十MB大小的二进制文件与代码库用以运行应用,而非像服务器虚拟化技术一样需要构建数十GB大小的操作系统,在具备出色的轻量化特性的同时,还能提供与虚拟机相同的资源隔离与分配功能。与服务器虚拟化相比,容器虚拟化实现了对资源在更细粒度的分配与控制,具有在拓展性、易用性及可迁移性上的优势。

服务器虚拟化架构

云计算与大数据技术应用_第21张图片

数据来源:公开资料整理

容器虚拟化架构
云计算与大数据技术应用_第22张图片

数据来源:公开资料整理

容器虚拟化技术的优点

云计算与大数据技术应用_第23张图片

数据来源:公开资料整理

容器虚拟化的这些优点将为PaaS(平台即服务)带来变革。PaaS是构建在云计算基础设施之上的软件研发平台,在云架构中处于中间层,对在其上层的云计算应用软件开发起到促进作用。PaaS在公有云和私有云的核心应用上云过程中都扮演着重要的角色:PaaS可以分为应用部署和运行平台APaaS(ApplicationPlatformasaService)与集成平台(IPaaS)两类;其中,人们经常说的PaaS平台基本上指的是APaaS,如GoogleAppEngine,主要被用于解决独立软件开发商的单个应用如何被集成至公有云平台中;而IPaaS则主要被应用于私有云中以解决多个企业内部应用间如何集成和交互的问题。目前,我国云计算行业的应用市场未能完全打开,很大程度是由于PaaS市场发展缓慢所导致的。

我国PaaS市场发展缓慢的原因

云计算与大数据技术应用_第24张图片

数据来源:公开资料整理

容器虚拟化技术的应用有望解决我国PaaS市场发展缓慢的问题。由于容器虚拟化技术以位于操作系统之上的轻量级虚拟化方案和类似于软件版本管理的镜像管理模式等技术为核心,基于容器的PaaS平台可以把用户的每个应用部署到一个单独的容器之中,用户既不需要学习新的存储系统和数据库系统的使用,也不需要重新开发应用。同时,通过使用容器虚拟化技术,开发者可以将整个应用解耦为较小的功能组件,并将组件更进一步从底层的硬件中分离出来,独立运行在一个容器中,再根据消费者和用户的个性化需求,快速组装通用软件形成个性化的解决方案,大大提高了应用程序的创建及维护效率。此外,对于使用公有云PaaS平台的开发者来说,容器虚拟化技术可以帮助他们轻易地实现应用在不同云平台间的平滑迁移,消除了其恐被公有云PaaS平台绑定,进而影响其利润空间的顾虑。

目前,云计算容器技术的重要性已经得到业内的广泛认可。2017年,在被调查的783家企业中,30.1%的企业已经投入生产,36.3%的企业表示正在测试环境,另外,还有24.5%的企业则正在评估,尚未应用容器技术的企业仅有9.1%。同时,已经应用容器技术的企业中(包括正在测试的企业),出于部署速度快而使用容器技术的企业最多,占比为62.9%,其次,55.6%的企业认为支持快速弹性扩容是应用容器技术的主要原因。另外,有助于微服务架构的实现(36.2%)以及有助于降低成本(34%)也是部分企业应用容器技术的驱动力。我们认为,加大云计算容器这一新兴技术的应用有望实现我国在云服务领域的弯道超越,促进国内云计算产业应用的深化。

企业应用云计算容器技术的原因
云计算与大数据技术应用_第25张图片

数据来源:公开资料整理

3、云计算将推动自主可控产业的发展

信息化代表新的生产力和新的发展方向,已经成为引领创新和驱动转型的先导力量。云计算、物联网、大数据、人工智能等新技术驱动网络空间从人人互联向万物互联演进,数字化、网络化、智能化将无处不在。现实世界和数字世界日益交汇融合,全球治理体系面临深刻变革。网络空间已成为国家继陆、海、空、天四个疆域之后的第五疆域,与其他疆域一样,网络空间也须体现国家主权,保障网络空间安全就是保障国家主权。

2018年4月16日,美国商务部工业与安全局以中兴通讯对涉及历史出口管制违规行为的某些员工未及时扣减奖金和发出惩戒信,并在2016年11月30日和2017年7月20日提交给美国政府的两份函件中对此做了虚假陈述为由,禁止美国公司向中兴通讯出口电讯零部件产品。期限为7年。2018年7月12日,在与美国供应商的商业往来中断近三个月后,中兴通讯以14亿美元的罚款及保证金为代价,与美国商务部签署了取消制裁协议。中兴通讯并不是美国对我国在信息领域进行技术封锁的个案:2018年8月1日,美国商务部以国家安全和外交利益为由,将44家中国企业列入出口管制清单,涉及导航、半导体、通讯技术等多个子领域;2019年5月15日,美国总统特朗普签署行政命令,宣布进入国家紧急状态,允许美国禁止被“外国对手”拥有或掌控的公司提供电信设备和服务;5月16日,美国商务部产业与安全局(BIS)将华为及其非美国附属68家公司纳入“实体清单”。

我国与美国在贸易摩擦中一系列事件反映出,我国在信息技术领域仍然面临核心技术受制于人的巨大隐患。信息技术产品生态体系由硬件、基础软件和应用三部分构成:硬件包括芯片、存储器和输入输出设备;基础软件包括操作系统以及数据库、中间件、办公套件等支撑软件。我国在芯片和操作系统等计算机关键软硬件领域主要依赖于跨国公司的产品。

信息技术产品生态体系框架

云计算与大数据技术应用_第26张图片

数据来源:公开资料整理

芯片是整个信息系统的运算和控制中心,承担着处理指令、执行操作、控制时间、处理数据等功能;操作系统是应用软件与硬件之间的桥梁,用来对整个信息系统的硬件和软件资源进行配置和管理,控制所有应用程序运行;由于软件在硬件平台上运行需要进行复杂的编译过程,不同芯片难以实现运行于其上的操作系统的互相兼容,因此,作为整个信息系统的心脏,芯片对于信息技术产品产业链的整合以及生态系统的建设具有引导作用:一个在市场上处于弱势地位的芯片,将无法驱使软件企业针对其进行适配,从而无法构建一个软件企业以其为核心、协同发展的良性生态。

在国际市场上,Intel便凭借其与Windows的生态联盟成为了PC领域的统治者:一方面,由于摩尔定律的存在,在成本不变的情况下,集成电路上可容纳的元器件的数目每隔约18-24个月便会增加一倍,性能也会随之提升一倍,Intel即可凭借其先发优势轻松抵御后进者的挑战;另一方面,随着Intel硬件性能的提高,Windows也在不断地推出功能更加丰富的新一代操作系统,由于Windows操作系统以及相关软件产品均是基于Intel芯片所开发的,Intel与Window便形成了联盟式发展,集聚了硬件生产商、软件开发商、整机商等企业,共同产生了强大的竞争优势。目前,全球有80%的PC使用Intel的处理器,超过90%的PC使用微软的Windows操作系统。

以Intel与Windows为核心的产业生态体系

云计算与大数据技术应用_第27张图片

数据来源:公开资料整理

由于我国芯片产业的核心技术相对落后,未能在其基础上形成完整、强大的信息产业生态体系,我国虽然已经是一个网络大国,但还不是网络强国。2017年中国进口集成电路3770亿块,同比增长10.1%,进口金额2601.4亿美元,同比增长14.6%;2017年中国出口集成电路2043.5亿块,同比增长13.1%,出口金额668.8亿美元,同比增长9.8%。我国集成电路进出口金额差距悬殊,其进口额从2015年起已连续三年超过原油,从侧面反映了我国芯片产业与国外相比仍有较大差距。

目前,在CPU核心技术的可控性上,我国主要采取自主研发与引进消化吸收两条路线。其中,自主研发路线上有龙芯、申威处理器等产品:龙芯的主要研发团队为中国科学院计算所,其购买了MIPS32/64位架构的永久授权,自主设计了相应的指令集与微结构,拥有完全的知识产权;申威处理器由国家高性能通用集成电路(上海)设计中心自主研发,采用Alpha指令集,由于Alpha相关技术专利大多已过期,因此申威处理器是一款具有完全自主知识产权的处理器。引进消化吸收路线上有飞腾处理器以及天津海光的禅定处理器等产品:飞腾处理器的核心研究团队为国防科技大学计算机学院,其购买了ARM自主化程度最高的架构授权,可进行自主CPU基础架构的研发;天津海光的禅定处理器是天津海光与AMD成立的合资公司所生产的面向中国市场的X86处理器。

在CPU方面,我国技术路线基本涵盖了国际所有芯片技术方向,呈现主攻路线不统一的状态,造成了科技资源配置的分散。目前,硬件和整机厂商对国产CPU还存在质疑,大量的通用软件也没有针对国产CPU架构开发单独的适配版本,进一步恶化了国产CPU在大众消费市场上的困境。此外,目前国内CPU在制造工艺上落后国外两代,如高端光刻机、CPU设计EDA工具等高度依赖国外,只有对性能要求不是很高的CPU才会采用境内工艺生产。因此,国产CPU产业呈现上下游各环节协同不够、自主生态不完备的状态。

我们认为,云计算的出现将成为我国在自主可控领域实现突破的契机。一方面,在云计算时代,数据中心由大量低端X86服务器堆积而成,已不再盲目追求单个CPU的计算速度,此外,摩尔定律的逐渐失效也为国产CPU厂商的奋起直追提供了条件;另一方面,云计算时代算力的高度集中使得我国信息技术产业的核心芯片与基础软件不再由单个终端用户决定,凭借国家意志,国产芯片可以在少数云计算龙头供应商上推广应用、迅速普及,从而搭建起相应的产业生态圈,并实现其内部的良性循环。

你可能感兴趣的:(云计算与大数据技术应用)