人工神经网络的发展现状,神经网络未来发展趋势

人工神经网络的发展现状,神经网络未来发展趋势_第1张图片

人工神经网络的发展

现代意义上对神经网络(特指人工神经网络)的研究一般认为从1943年美国芝加哥大学的生理学家W.S.McCulloch和W.A.Pitts提出M-P神经元模型开始,到今年正好六十年。

在这六十年中,神经网络的发展走过了一段曲折的道路。

1965年M.Minsky和S.Papert在《感知机》一书中指出感知机的缺陷并表示出对这方面研究的悲观态度,使得神经网络的研究从兴起期进入了停滞期,这是神经网络发展史上的第一个转折。

到了20世纪80年代初,J.J.Hopfield的工作和D.Rumelhart等人的PDP报告显示出神经网络的巨大潜力,使得该领域的研究从停滞期进入了繁荣期,这是神经网络发展史上的第二个转折。

到了20世纪90年代中后期,随着研究者们对神经网络的局限有了更清楚的认识,以及支持向量机等似乎更有前途的方法的出现,“神经网络”这个词不再象前些年那么“火爆”了。

很多人认为神经网络的研究又开始陷入了低潮,并认为支持向量机将取代神经网络。

有趣的是,著名学者C.-J.Lin于2003年1月在德国马克斯·普朗克研究所所做的报告中说,支持向量机虽然是一个非常热门的话题,但目前最主流的分类工具仍然是决策树和神经网络。

由著名的支持向量机研究者说出这番话,显然有一种特殊的意味。事实上,目前神经网络的境遇与1965年之后真正的低潮期相比有明显的不同。

在1965年之后的很长一段时期里,美国和前苏联没有资助任何一项神经网络的研究课题,而今天世界各国对神经网络的研究仍然有大量的经费支持;1965年之后90%以上的神经网络研究者改变了研究方向,而今天无论是国际还是国内都有一支相对稳定的研究队伍。

实际上,神经网络在1965年之后陷入低潮是因为当时该领域的研究在一定意义上遭到了否定,而今天的相对平静是因为该领域已经走向成熟,很多技术开始走进生产和生活,从而造成了原有研究空间的缩小。

在科学研究中通常有这么一个现象,当某个领域的论文大量涌现的时候,往往正是该领域很不成熟、研究空间很大的时候,而且由于这时候人们对该领域研究的局限缺乏清楚的认识,其热情往往具有很大的盲目性。

从这个意义上说,过去若干年里各领域研究者一拥而上、各种专业刊物满眼“神经网络”的风光,其实是一种畸形繁荣的景象,而对神经网络的研究现在才进入了一个比较理智、正常的发展期。

在这段时期中,通过对以往研究中存在的问题和局限进行反思,并适当借鉴相关领域的研究进展,将可望开拓新的研究空间,为该领域的进一步发展奠定基础。

神经网络优缺点,

优点:(1)具有自学习功能AI爱发猫 www.aifamao.com。例如实现图像识别时,只在先把许多不同的图像样板和对应的应识别的结果输入人工神经网络,网络就会通过自学习功能,慢慢学会识别类似的图像。自学习功能对于预测有特别重要的意义。

预期未来的人工神经网络计算机将为人类提供经济预测、市场预测、效益预测,其应用前途是很远大的。(2)具有联想存储功能。用人工神经网络的反馈网络就可以实现这种联想。(3)具有高速寻找优化解的能力。

寻找一个复杂问题的优化解,往往需要很大的计算量,利用一个针对某问题而设计的反馈型人工神经网络,发挥计算机的高速运算能力,可能很快找到优化解。

缺点:(1)最严重的问题是没能力来解释自己的推理过程和推理依据。(2)不能向用户提出必要的询问,而且当数据不充分的时候,神经网络就无法进行工作。

(3)把一切问题的特征都变为数字,把一切推理都变为数值计算,其结果势必是丢失信息。(4)理论和学习算法还有待于进一步完善和提高。

扩展资料:神经网络发展趋势人工神经网络特有的非线性适应性信息处理能力,克服了传统人工智能方法对于直觉,如模式、语音识别、非结构化信息处理方面的缺陷,使之在神经专家系统、模式识别、智能控制、组合优化、预测等领域得到成功应用。

人工神经网络与其它传统方法相结合,将推动人工智能和信息处理技术不断发展。

近年来,人工神经网络正向模拟人类认知的道路上更加深入发展,与模糊系统、遗传算法、进化机制等结合,形成计算智能,成为人工智能的一个重要方向,将在实际应用中得到发展。

将信息几何应用于人工神经网络的研究,为人工神经网络的理论研究开辟了新的途径。神经计算机的研究发展很快,已有产品进入市场。光电结合的神经计算机为人工神经网络的发展提供了良好条件。

神经网络在很多领域已得到了很好的应用,但其需要研究的方面还很多。

其中,具有分布存储、并行处理、自学习、自组织以及非线性映射等优点的神经网络与其他技术的结合以及由此而来的混合方法和混合系统,已经成为一大研究热点。

由于其他方法也有它们各自的优点,所以将神经网络与其他方法相结合,取长补短,继而可以获得更好的应用效果。

目前这方面工作有神经网络与模糊逻辑、专家系统、遗传算法、小波分析、混沌、粗集理论、分形理论、证据理论和灰色系统等的融合。参考资料:百度百科-人工神经网络。

未来的人工神经网络将会怎样改变我们的生活。

1、客服行业/行政助手传统客服、企业内部行政,这种机械性、重复性、程式化的重复体力劳动的工作将会被专业的行政/客服机器人所替代。

2、翻译行业打破语言界限,帮助人类进行跨民族、跨语种、跨文化的交流,一直以来都是“翻译”这一专业领域的神圣指责,且深深的在全球化的大潮中,被重要依赖着。

3、服务于公共交通的司机、公交车司机交通改变了人类生存的空间感和时间感,交通行业的发展和速度效率的提升,极大的提升了社会效率和人类生活体验。

但每年不断增加的汽车保有量和随之快速上升的交通事故,也造成了不可挽回的生命及财产损失。4、制造业流水线工人人工智能最常让人浮想联翩的技术领域,毫无疑问是机器人,尤其是工业制造机器人领域。

现在在高端科技制造、精密机械制造、主流汽车生产和甚至手机生产线中,工业机器人是标配。大量的工业应用故事,已经明确地指明了未来工业生产的方向。

5、基础医学服务和辅助医疗近年来在医疗行业,多家企业源源不断地向人工智能技术应用方向注入大量资金,尤其是降低医疗成本、增加医疗效果、提升医疗效率、改善患者健康领域。

在某些情境下,人工智能的深度学习能力已超越医生。专家预测2020年医疗人工智能将持续增长,尤其是在成像、诊断、预测分析和管理领域。

6、金融审计和风控人工智能的知识图谱、深度学习、大数据处理等技术在金融行业已有广泛的应用,通过专业策略深度应用下,对金融领域数据的监控和数据分析、决策方向极大的提高了业务处理效率,并且在每日新增和历史的金融海量数据下,人工智能的效率是人工不可企及的。

7、便利店收银员无营业员超市,又称为无人超市。负责收钱的不是营业员,而是一个具备摄像头、人脸识别、机器交互终端、扫码设备的自动收款机器人。这种无须排队结账的实体店:刷手机进店、选品、拿货,然后走人!

这种黑科技早已于2016年,随着AmazonGo无人超市的正式上线成为现实。

特点优点:人工神经网络的特点和优越性,主要表现在三个方面:1、具有自学习功能例如实现图像识别时,只在先把许多不同的图像样板和对应的应识别的结果输入人工神经网络,网络就会通过自学习功能,慢慢学会识别类似的图像。

自学习功能对于预测有特别重要的意义。预期未来的人工神经网络计算机将为人类提供经济预测、市场预测、效益预测,其应用前途是很远大的。2、具有联想存储功能用人工神经网络的反馈网络就可以实现这种联想。

3、具有高速寻找优化解的能力寻找一个复杂问题的优化解,往往需要很大的计算量,利用一个针对某问题而设计的反馈型人工神经网络,发挥计算机的高速运算能力,可能很快找到优化解。

人工智能未来发展趋势有那些?

深度学习的职业发展方向有哪些?

当前,人工智能发展借助深度学习技术突破得到了全面关注和助力推动,各国政府高度重视、资本热潮仍在加码,各界对其成为发展热点也达成了共识。

本文旨在分析深度学习技术现状,研判深度学习发展趋势,并针对我国的技术水平提出发展建议。一、深度学习技术现状深度学习是本轮人工智能爆发的关键技术。

人工智能技术在计算机视觉和自然语言处理等领域取得的突破性进展,使得人工智能迎来新一轮爆发式发展。而深度学习是实现这些突破性进展的关键技术。

其中,基于深度卷积网络的图像分类技术已超过人眼的准确率,基于深度神经网络的语音识别技术已达到95%的准确率,基于深度神经网络的机器翻译技术已接近人类的平均翻译水平。

准确率的大幅提升使得计算机视觉和自然语言处理进入产业化阶段,带来新产业的兴起。深度学习是大数据时代的算法利器,成为近几年的研究热点。和传统的机器学习算法相比,深度学习技术有着两方面的优势。

一是深度学习技术可随着数据规模的增加不断提升其性能,而传统机器学习算法难以利用海量数据持续提升其性能。

二是深度学习技术可以从数据中直接提取特征,削减了对每一个问题设计特征提取器的工作,而传统机器学习算法需要人工提取特征。

因此,深度学习成为大数据时代的热点技术,学术界和产业界都对深度学习展开了大量的研究和实践工作。深度学习各类模型全面赋能基础应用。卷积神经网络和循环神经网络是两类获得广泛应用的深度神经网络模型。

计算机视觉和自然语言处理是人工智能两大基础应用。卷积神经网络广泛应用于计算机视觉领域,在图像分类、目标检测、语义分割等任务上的表现大大超越传统方法。

循环神经网络适合解决序列信息相关问题,已广泛应用于自然语言处理领域,如语音识别、机器翻译、对话系统等。深度学习技术仍不完美,有待于进一步提升。

一是深度神经网络的模型复杂度高,巨量的参数导致模型尺寸大,难以部署到移动终端设备。二是模型训练所需的数据量大,而训练数据样本获取、标注成本高,有些场景样本难以获取。

三是应用门槛高,算法建模及调参过程复杂繁琐、算法设计周期长、系统实施维护困难。四是缺乏因果推理能力,图灵奖得主、贝叶斯网络之父JudeaPearl指出当前的深度学习不过只是“曲线拟合”。

五是存在可解释性问题,由于内部的参数共享和复杂的特征抽取与组合,很难解释模型到底学习到了什么,但出于安全性考虑以及伦理和法律的需要,算法的可解释性又是十分必要的。因此,深度学习仍需解决以上问题。

二、深度学习发展趋势深度神经网络呈现层数越来越深,结构越来越复杂的发展趋势。为了不断提升深度神经网络的性能,业界从网络深度和网络结构两方面持续进行探索。

神经网络的层数已扩展到上百层甚至上千层,随着网络层数的不断加深,其学习效果也越来越好,2015年微软提出的ResNet以152层的网络深度在图像分类任务上准确率首次超过人眼。

新的网络设计结构不断被提出,使得神经网络的结构越来越复杂。

如:2014年谷歌提出了Inception网络结构、2015年微软提出了残差网络结构、2016年黄高等人提出了密集连接网络结构,这些网络结构设计不断提升了深度神经网络的性能。

深度神经网络节点功能不断丰富。为了克服目前神经网络存在的局限性,业界探索并提出了新型神经网络节点,使得神经网络的功能越来越丰富。

2017年,杰弗里辛顿提出了胶囊网络的概念,采用胶囊作为网络节点,理论上更接近人脑的行为,旨在克服卷积神经网络没有空间分层和推理能力等局限性。

2018年,DeepMind、谷歌大脑、MIT的学者联合提出了图网络的概念,定义了一类新的模块,具有关系归纳偏置功能,旨在赋予深度学习因果推理的能力。深度神经网络工程化应用技术不断深化。

深度神经网络模型大都具有上亿的参数量和数百兆的占用空间,运算量大,难以部署到智能手机、摄像头和可穿戴设备等性能和资源受限的终端类设备。

为了解决这个问题,业界采用模型压缩技术降低模型参数量和尺寸,减少运算量。目前采用的模型压缩方法包括对已训练好的模型做修剪(如剪枝、权值共享和量化等)和设计更精细的模型(如MobileNet等)两类。

深度学习算法建模及调参过程繁琐,应用门槛高。为了降低深度学习的应用门槛,业界提出了自动化机器学习(AutoML)技术,可实现深度神经网络的自动化设计,简化使用流程。

深度学习与多种机器学习技术不断融合发展。

深度学习与强化学习融合发展诞生的深度强化学习技术,结合了深度学习的感知能力和强化学习的决策能力,克服了强化学习只适用于状态为离散且低维的缺陷,可直接从高维原始数据学习控制策略。

为了降低深度神经网络模型训练所需的数据量,业界引入了迁移学习的思想,从而诞生了深度迁移学习技术。迁移学习是指利用数据、任务或模型之间的相似性,将在旧领域学习过的模型,应用于新领域的一种学习过程。

通过将训练好的模型迁移到类似场景,实现只需少量的训练数据就可以达到较好的效果。三、未来发展建议加强图网络、深度强化学习以及生成式对抗网络等前沿技术研究。

由于我国在深度学习领域缺乏重大原创性研究成果,基础理论研究贡献不足,如胶囊网络、图网络等创新性、原创性概念是由美国专家提出,我国研究贡献不足。

在深度强化学习方面,目前最新的研究成果大都是由DeepMind和OpenAI等国外公司的研究人员提出,我国尚没有突破性研究成果。

近几年的研究热点生成式对抗网络(GAN)是由美国的研究人员Goodfellow提出,并且谷歌、facebook、twitter和苹果等公司纷纷提出了各种改进和应用模型,有力推动了GAN技术的发展,而我国在这方面取得的研究成果较少。

因此,应鼓励科研院所及企业加强深度神经网络与因果推理模型结合、生成式对抗网络以及深度强化学习等前沿技术的研究,提出更多原创性研究成果,增强全球学术研究影响力。

加快自动化机器学习、模型压缩等深度学习应用技术研究。依托国内的市场优势和企业的成长优势,针对具有我国特色的个性化应用需求,加快对深度学习应用技术的研究。

加强对自动化机器学习、模型压缩等技术的研究,加快深度学习的工程化落地应用。加强深度学习在计算机视觉领域应用研究,进一步提升目标识别等视觉任务的准确率,以及在实际应用场景中的性能。

加强深度学习在自然语言处理领域的应用研究,提出性能更优的算法模型,提升机器翻译、对话系统等应用的性能。

来源:产业智能官END更多精彩内容请登录官方网站往期精选▼1.饮鹿网2018-2019年中国人工智能产业创新百强榜单发布!2.饮鹿网2018-2019年中国人工智能产业Top20投资机构榜单发布!

3.饮鹿网2018-2019年中国大数据产业创新百强榜单发布!4.饮鹿网2018-2019年中国大数据产业Top20投资机构榜单发布!

5.饮鹿网2018-2019年中国物联网产业创新百强榜单发布!6.饮鹿网2018-2019年中国5G与物联网产业TOP20投资机构榜单发布!

7.饮鹿网2018-2019年中国集成电路产业创新百强榜单发布!8.饮鹿网2018-2019年中国集成电路产业Top20投资机构榜单发布!

9.饮鹿网2018-2019年中国企业服务产业创新百强榜单发布!10.饮鹿网2018-2019年中国企业服务产业TOP20投资机构榜单发布!

人工智能未来的发展前景怎么样?

1、AI技术开放平台增长率为116.3%AI技术平台与A应用模型效率化生产平台均开放AP接口,将对应能力输送给下游,并吸收下游更新的产品与技术,从横向与纵向拓展业务的广度与深度;同时,AI技术开放平台与AI应用模型效率化生产平台之间也会进行能力的互换,共同促进AI技术的发展。

随着数据量与AI算力的提升,可落地的场景与算法的交互变得愈加频繁,二者结合开发出的AI应用模型就需要更大量地通过AP调用AI技术开放平台的AI技术能力。

2020年我国AI技术开放平台市场规模为225亿元,相较于2019年同比增率达到116.3%。按AI技术能力划分,计算机视觉类与语音技术类收入占比达72.2%,是收入的主要贡献来源。

人脸识别、人体识别、OCR文字识别、图像识别等构成了计算机视觉类业务的主要技术能力,且计算机视觉类的技术价格相较于其他技术而言更高,应用领域也更为广泛。

现阶段的市场集中度相对分散,未来,能持续投入成本、研发出强劲算法的厂商有望占领更多的市场份额,市场集中度亦会因此提升。

2、AI应用模型效率化生产增长116.7%AI应用模型效率化生产平台是全栈式的、可实现流水线开发的A应用模型生产工具。

假若每次开发模型都需要算法工程师单独完成从生产到上线的全流程搭建,就会导致很多时间的耗损与A模型开发成本的浪费。

集成了数据、算法与算力的相应开发工具的模型开发工具包—AI应用模型效率化生产平台应运而生。

2020年我国AI应用模型效率化生产的市场规模达到23亿元,虽然市场规模较小但是增速飞快,2020年市场规模同比增速高达116.7%。

从部署方式分类的市场细分来看,AI应用模型效率化生产平台有三种部署方式,分别为共同共有云、私有云和混合云。从部署方式的市占情况来看,当前市场以私有云占比为主,目前市场占比高达75%。

同时,从未来的发展趋势来看,未来市场的主体将依然是私有云。下游客户往往岀于数据安全与隐私的考虑,偏好私有云部署,私有云市场仍是一片蓝海。

预计2025年,私有云部署方式市场规模将达160亿元,出现大幅度增长——以上数据参考前瞻产业研究院《中国人工智能行业市场前瞻与投资战略规划分析报告》

人工神经网络是哪一年由谁提出来的

人工神经网络是1943年,心理学家W.S.McCulloch和数理逻辑学家W.Pitts提出来。

他们通过MP模型提出了神经元的形式化数学描述和网络结构方法,证明了单个神经元能执行逻辑功能,从而开创了人工神经网络研究的时代。1949年,心理学家提出了突触联系强度可变的设想。

60年代,人工神经网络得到了进一步发展,更完善的神经网络模型被提出,其中包括感知器和自适应线性元件等。

M.Minsky等仔细分析了以感知器为代表的神经网络系统的功能及局限后,于1969年出版了《Perceptron》一书,指出感知器不能解决高阶谓词问题。

扩展资料人工神经网络的特点和优越性,主要表现在三个方面:第一,具有自学习功能。

例如实现图像识别时,只在先把许多不同的图像样板和对应的应识别的结果输入人工神经网络,网络就会通过自学习功能,慢慢学会识别类似的图像。自学习功能对于预测有特别重要的意义。

预期未来的人工神经网络计算机将为人类提供经济预测、市场预测、效益预测,其应用前途是很远大的。第二,具有联想存储功能。用人工神经网络的反馈网络就可以实现这种联想。第三,具有高速寻找优化解的能力。

寻找一个复杂问题的优化解,往往需要很大的计算量,利用一个针对某问题而设计的反馈型人工神经网络,发挥计算机的高速运算能力,可能很快找到优化解。

 

你可能感兴趣的:(神经网络,机器学习,人工智能)