“人工智能”再问网络安全

随着大数据的应用，人工智能逐渐走入千家万户并显示出巨大的市场空间，随之而来的安全漏洞问题同样不容忽视，有些甚至已经显现。

需要强调的是，传统网络漏洞带来的损失一般是信息泄露、银行卡盗刷等欺诈、盗窃行为，这些损失往往可以用金钱衡量，相对比较低，而针对人工智能的网络攻击带来的损失，有可能迅速传导给消费者，严重时会危及生命。

因此，如何完善现有技术手段加强监管，并利用大数据等创新方式予以制衡，成为需要思考解决的问题。

人工智能市场广阔

在此前举行的中国互联网大会上，谷歌公司展示的一段人工智能概念视频让人印象深刻。视频中家庭保姆机器人通过安装在各个角落里的对话装置，与人畅快沟通，并可以接受语言指令，从事控制电视、电脑，安排出行，告知天气等一系列复杂工作。

“随着技术革新，一些看似只有在电影中出现的场景正在成为现实。”在接受《瞭望》新闻周刊采访时，谷歌公司北京研发中心总经理赵泽红谈到，AlphaGo战胜围棋高手如此受关注，因为围棋过去被认为是人工智能的一个瓶颈，其复杂度是10的171次方，过去穷尽AI算法是不可能做到的。

“Google让AlphaGo作为机器人学习，靠经验去挑选最佳选择，这只是一个应用，以后我们能够利用这个技术为人类解决高深的问题，比如说个人助理、金融、医疗、中药，都可以用这个来学习。”赵泽红表示。

事实上，随着技术的逐渐完善，人工智能技术已越来越多地进入到工业、生活等诸多领域。

无人驾驶就是其中的一大热点。“现在很多公司都在利用人工智能技术研究无人驾驶，而特斯拉去年已经在新车型上实现了这个功能。等红灯、保持车距、躲避障碍物都没问题，打一下转向灯，就能自己并线。以前堵车得一脚油门一脚刹车踩到腿抽筋，现在可以完全解放手和脚。”360公司创始人兼总裁、360企业安全集团董事长齐向东向记者谈到。

在工业领域，人工智能同样具有广泛的应用市场。例如富士康在2011年就已经推进机器换人行动，根据最新报道，富士康最近一次性换下六万名工人，目前共拥有机器人员工数量超过5万。除了工厂，保安、管家、餐饮服务，乃至于大人、小孩的看护服务，也都逐渐开始采用机器人。

采访中，英特尔战略合作与创新总监、机器人产业负责人张志斌告诉记者，英特尔公司在4月份发布了机器人开发套件，包括三维摄像头技术，利用这个开发套件，人们可以快速组成自己的机器人基本系统。目前英特尔在中国研究院及全球研究小组做了数个围绕机器人的参考系统，并将其中一系列关键核心技术推送给企业的合作伙伴。

市场研究机构MarketsandMarkets的数据显示，随着机器学习和自然语言处理技术在媒体、广告、零售、金融和保健领域的广泛应用，人工智能市场规模将从2014年的4.2亿美元增长至2020年的50.5亿美元。而研究机构Gartner称，预计2018年，全世界将有60亿台设备用上人工智能技术，这些设备包括互联网家电、汽车和可穿戴设备等物联网产品。

传统方法无法有效防御

“特斯拉要实现这些，依靠的是遍布车身的上百个传感器将源源不断的数据发送给它的自动驾驶系统。但我们通过研究发现，其实可以利用数据欺诈等手段远程控制汽车，让汽车偏航，甚至逼停汽车造成事故。”齐向东的担忧反映出人工智能所潜藏的安全问题。

采访中，有业内人士谈到，当工厂、保安、家政、餐饮服务乃至老人和小孩的看护等都大量使用机器人时，其控制系统一旦被网络攻击，工厂的废品率会大幅升高，小孩、老人的安全会受到威胁。

国内一知名网络安全公司梳理最近12个月发生的十大网络攻击事件，与人工智能相关的事件占比达到60%。包括在去年12月份，乌克兰的电厂遭到黑客攻击，导致乌克兰西部数百个家庭停电，这是全球首例因为网络攻击导致电厂停电的事故；今年3月与叙利亚有关联的激进黑客组织对一家自来水厂发起网络攻击后，致使进入自来水中的化学物质含量改变，阻碍了净水过程。

今年1月份，加拿大安全情报局披露了一组数据：加拿大电厂输电网、航空软件等一系列政府基础设施遭受了25次来自国外黑客的攻击，这些攻击都会导致供水、能源、电力乃至学校和医院发生更大的安全事故。

需要警惕的是，针对人工智能的网络攻击有时甚至会威胁到生命。美国政府2015年就曾对医疗设备可能遭受的黑客攻击做出警告，医疗器械被黑客入侵，患者可能因为设备的原因受到伤害甚至死亡，医疗设备可能会被远程修改，以输出致死剂量的药物。

“当前，互联网加速向各领域深入融合，移动互联网、大数据、物联网、云计算等新兴技术和互联网金融、工业互联网等新应用、新形态不断涌现，互联网已经成为我国最具活力的产业创新发展平台。”工信部网络安全管理局副局长李学林谈到，与此同时，近年来国际上网络攻防对抗和冲突逐步升级，跨境网络攻击活动日趋频繁，给我国网络安全敲响了警钟。一方面，针对工业控制系统和重要信息系统的高级持续威胁等网络攻击正愈演愈烈，应用软件、供应链、智能联网设备等的安全问题开始显现。另一方面，我国网络核心设备和关键技术受制于人的局面尚未得到根本扭转，网络安全防护能力相对薄弱，难以应对高级别网络安全威胁。

更重要的是随着“互联网+”、大数据、网络融合等战略实施，网络安全的威胁也进入国计民生的领域。电信和互联网企业收集处理大量用户个人数据、生产运行数据、政务数据等重要数据，面临着很大的安全挑战。信息窃取、数据泄露等事件时有发生，网络数据安全和用户信息保护形势日趋严峻。

互联网从业者普遍表示，传统应对网络安全方法的核心是对网络划分边界，只要守住边界便可以保障网络安全。但人工智能可以通过企业内网大数据系统，直接遥控消费者的使用终端，如此边界不复存在，传统方法已经无法有效防御利用人工智能技术的网络攻击。

安全是前提和保障

安全是发展的前提，发展是安全的保障，安全和发展要同步推进。中国互联网协会创会理事长、中国工程院院士胡启恒表示，互联网已成为生活中不可或缺的助手，所以如何使互联网更加可信赖，尤为关键，解决这个问题要加强监管，并在技术上开发新办法。

在工信部经济技术合作中心副主任曹建华看来，利用大数据等创新方式是一条值得探索的路径。

齐向东也认为，在当前的背景下，要解决安全问题，必须要有创新的解决方案。“移动互联网、车联网、手机、平板电脑、各种各样的智能硬件以及遍布地球各个角落的各式各样的传感器，它们都是大数据的来源和载体，不断地产生数据、分析数据、利用数据。要解决它们的安全问题，也必须要用大数据的方法。”他说。

在齐向东看来，一个人可以把自己的面容、声音、指纹伪装起来，但是没有办法伪装行为，在网络上就是数据。所以数据能看穿一切，说明一切。

“在网络上的任何访问行为都会留下痕迹，网络攻击者的行为和我们正常的网上访问的数据行为是不一样的，一个潜在的网络攻击行为会产生可疑的流量和动作，依据这样的数据，我们就能够发现我们是否被攻击了、我们被谁攻击了、攻击者对我们的什么数据比较关心，以及我们应该怎么掐断这个攻击源。”他表示。

在这方面，中国同发达国家相比还存在明显差距。市场研究机构Gartner2015年发布的数据显示，全球2015年信息安全支出达833.78亿美元，其中北美地区339.38亿美元，西欧地区225.14亿美元，而大中华区仅有32.15亿美元，与经济体量明显不相称。

另据权威调研机构IDC的数据显示，我国信息安全投入占IT投入比重在1%～2%，同期北美和欧洲企业信息安全投入占IT支出比重达到8%～14%。

针对这一状况，李学林建议，进一步深化网络基础设施安全防护，各企业要统筹处理好网络数据开发和应用安全的关系，建立健全网络数据安全管理制度，并不断加大安全投入、加强安全技术手段建设和创新，提升网络安全的防御能力。

曹建华表示，可推动云安全在标准制定、规划建设和服务国家以及民生工程方面开展一些产业建设和应用。并进一步深化网络基础设施安全防护，网络基础设施是各类关键信息基础设施中的基础，是网络安全的重中之重，各相关企业要充分认识到维护网络安全设施的重要性。

此外有专家认为，企业在用户信息收集、传输、存储、使用等各个阶段都要把好关，防止数据的滥用。同时也要做好数据安全防护工作，防止因非数据源访问、网络攻击等事件窃取数据，确保重要信息和重要敏感数据的安全。同时持续加强网络安全技术能力建设，建立健全网络安全信息共享机制。

采访中，本刊记者了解到，目前工信部正在研究制定通信行业网络安全技术手段建设的指导意见，建造国家级网络安全大数据中心，形成全网安全态势感知和安全防御能力，为国家部门提供强有力的网络安全支撑服务。

====================================分割线================================

本文转自d1net（转载）