2021年人工智能和机器学习趋势：ModelOps运动

作者： Jelani Harper是为信息技术市场服务的编辑顾问。他专门研究数据驱动的应用程序，重点是语义技术，数据治理和分析。

人工智能的过去现在和将来都被封装在一个单一的新兴概念，一个混合术语中，同时详细说明了当今的现状以及来年的发展方向。

ModelOps概念之所以成为AI的象征，是因为它充分证明了AI的广度（从机器学习到知识库），Gartner指出其中涉及规则，代理，知识图等。

ModelOps不仅仅是简单地操作和管理AI模型。它的目的是快速，大规模，全面地负责，并以解决最关键任务的业务问题（即使不是针对社会的问题）的方式进行。

此外，它涉及在现场进行操作，同时利用云技术的优势，而当涉及到AI的机器学习能力时，则采用了一系列基于有监督，无监督甚至强化学习的方法。

这些功能的隐含需求是需要将机器学习模型定位在边缘，取代其传统的训练数据限制（和方法），并吸收从流数据到静态数据的所有内容，以根据最新的可能数据进行预测。

或者，正如SAS首席数据科学家Wayne Thompson所说：“目前，大多数组织都只是在检查模型的分数，并使用旧的离线模型查看模型的分数是否已更改。最先进的技术实际上是将模型放入训练环境，并同时部署和训练并更新模型的权重。”

模型操作

在许多方面，ModelOps只是模型管理的更新术语，尽管它承认AI不仅是统计信息，同时还优先考虑及时部署。当组织可以加快针对任何特定用例的量身定制的模型的创建和操作时，ModelOps就是完美的。汤普森举了一个银行业的例子，该机构“想要一个按钮系统，并使事情像工厂一样运转。” 而且，是的，他们希望能够在任何时间检查点并查看是否一切正常，但他们希望真正实现自动化。”

围绕模型管理量身定制的平台以多种方式促进了这些好处。首先，他们可以通过以下方式对模型及其结果进行评分：将这些模型放入ASTORE之类的软件包或评分函数中，然后移交给更为保守，结构化得多，监管程度更高的[受众]：有99999个内容需要依靠模型的稳定性。”汤普森说。他们还可以通过API将模型生产集成到工作流中，从而说明云对AI的重要性。最重要的是，他们可以将模型输入到生产点中，以动态调整权重和测量值，而不使用过时或历史数据。

边缘

物联网和边缘计算为实时更新模型提供了无与伦比的机会来应对模型漂移，否则这种漂移会随着时间的流逝而发生。鉴于ModelOps在财务中的用例涉及针对目标客户的微细分化大规模地自动化模型的脚手架和交付，而引人注目的IoT部署则以流数据和（通常是）计算机视觉的卓越公共（和私人）健康问题为中心。汤普森反映，所谓的AIoT的主要问题是将可靠的模型输入到端点小工具中，“因为深度学习模型是如此之大”。

汤普森指出，一种可靠的解决方案是将它们放置在“ ASTORE文件中，这只是一个二进制blob，我们将所有这些系数打包到其中，以便对您透明”。“该二进制文件被存储并压缩，然后可以共享。” 使用这种方法，组织可以支持计算机视觉和对象检测用例，以确保人们保持社交距离，实现联系人跟踪或仅监视工业Internet中的设备资产运行状况。而且，他们可以利用一种方法来调整模型以适应实际的生产数据，同时利用TinyML的体系结构和硬件最佳实践。

云MLOps

云对ModelOps的生命力几乎是无与伦比的，尤其是当前对远程协作的重视。竞争性ModelOps解决方案采用容器化，易于部署；云提供了许多模型采购选项。几乎所有工作流程都只是一个API调用。云正越来越成为训练机器学习模型的平台，它是其三种主要形式的强大起点：

有监督的学习：这种机器学习需要标签上的训练数据。根据汤普森的说法，“其中一些模型（如推荐引擎）在构建用户项目数据集时实际上是在线学习的。” 云中的这些实时输入会在客户每次购买时进行更新，例如，为模型提供最佳培训。汤普森承认：“在收集数据时，您可以实际训练该模型的次数越多，您的模型就会越新。”
强化学习：这种机器学习类型避开了典型的训练数据集；取而代之的是，代理根据汤普森所谓的奖励和约束一系列与环境动态交互。先进的云措施使组织可以让代理在模拟中学习，然后“将模拟环境与实际环境交换；这是相同的API，因此增强剂对此不可知。”汤普森观察到。“而且，有可能再次同时部署和训练。”
无监督学习： 这种学习形式涉及没有标签的训练数据。它基于聚类技术和降维措施，这在大规模处理数据时非常有用。SAS高级研究，开发部SAS高级总监Gul Ege说，这些措施“通过将500个变量减少为三个变量，可以帮助您减少维度。” Ege解释说，此功能对于IoT流数据部署至关重要，例如使用计算机视觉观察生产线，以及“设计真正需要保留的数据的哪些部分，而无需在不使用云的情况下”。“剩下的只是噪音，或者……太多数据说明了同一件事。

预测性与规范性分析

机器人过程自动化已成为将AI的预测有效性转化为一种规定性方法的最广泛采用的方法之一。根据一个网络首席运营官Joe Bellini表示，这些机器人不仅“能够分析和预测，而且能够实际执行和执行。而且，您可以使其自主。” 通过为虚拟代理提供机器学习功能，他们可以识别组织之间的供应链网络趋势，例如，确定如何最好地应对预期的短缺。贝利尼证实：“代理商不仅可以根据网络中可用的数据推荐处方，而且代理商还可以执行已做出的决定，使之具有可行性。” “因此，实际上要更改计划，更改时间表，更改运营商的负载，重新分配。”

机器人程序还可以实施必要的细节，以从规范分析中获利，产品和解决方案市场营销副总裁Automation Anywhere产品和解决方案市场营销副总裁Kevin Murray将其称为“围绕自动化的最后一步活动”。他概述了一个服务台用例，其中人工智能系统在机器人被要求执行“神奇的建议发生后，下游发生的所有信息”之前，向客户推荐了替换产品。AI的相关RPA趋势包括将单个机器人组装成能够与跨环境的数据，系统和计算范例集成的全面数字助理。将这些功能与强化学习结合使用，可能会成为AI逐步发展为通用AI的长期解决方案。

自然语言技术

会话式AI仍然融合了自然语言处理，自然语言理解，自然语言生成和自然语言查询等方面，仍然是自然语言技术的巅峰之作。这是一种在没有物理接触的情况下与系统进行交互的实用方法，这在当代社会环境中广受赞誉。根据TopQuadrantCTO拉尔夫·霍奇森（Ralph Hodgson）不过，自然语言技术可能很快将包含图像数据的合成，这预示着图像识别和NLP领域之间的融合。霍奇森表示，基于他所谓的“单词向量”，这些功能可以“使文本文档与图像一起显示”。当前的应用程序包括非结构化的文本数据，这些数据在整个企业中不断涌现。霍奇森预言：“神经网络将针对文本图像来处理文档。”

结论

ModelOps的整体导入是二进制的。它确保了对诸如生命周期管理之类的数据治理必需品的模型责任，并迅速将模型放置在最适合企业的位置。这些部署中的许多部署，无论涉及自然语言交互还是计算机视觉，都处于网络边缘。当前的公共卫生危机加剧了这种需求，并且ModelOps值得。

“一年前我们要开设没有收银员的商店，这似乎很愚蠢，但现在看来似乎很相关。” Equinix裸机金属战略与营销副总裁雅各布·史密斯（Jacob Smith）表示。“与运送杂货的无人机一样。” 这种相关性使得必须用最新数据连续更新预测模型，以便同时进行部署，培训和优化。