AI存在信任问题，区块链能提供帮助吗？

区块链的商业应用，比如供应链追踪，一直以来都没有取得成功。但有人表示，该技术可能作为一种验证人工智能算法的工具而找到其存在的价值。

确保人工智能算法的安全性、公正性和准确性的困难正使一些公司转向一种曾被吹捧为革命性但在商业领域未能获得成功的技术，那就是区块链。

区块链以支持比特币和其他加密货币而闻名，它是一种数据结构，可以创建数字交易账本，并在计算机网络中共享。它利用密码学，使网络中的每个参与者能够安全地向账本添加信息，而无需中央机构的参与。一旦交易完成，区块链将保留其不可变的记录。

鉴此，数据分析公司FICO和区块链初创企业Casper Labs表示，他们正在应用该技术来跟踪构建和训练人工智能算法的过程。

他们表示，这是一个及时而紧迫的应用，因为人工智能在各个业务领域大量应用，而公司发现自己不能总是信任其输出结果。与此同时，政府监管机构正在对公司施加更多压力，要求增加算法的透明度和可审计性。

以前的区块链商业应用，包括供应链追踪，在市场上未能获得推广。人工智能的大规模应用是否能成为区块链发展的助力尚有待确定。

FICO的首席分析官Scott Zoldi表示，**区块链可以追踪算法训练时使用的数据，以及训练时间、训练人员以及对数据的验证和核实所采取的其他步骤。**通常情况下，构建人工智能模型的公司会尝试跟踪这些数据，但使用区块链可以更容易地获得共享的、一致的、可信赖的记录，他说。

“区块链无法阻止算法出错或展现偏见，但它可以提供可审计的记录，以说明其中原因”，他说。

“我们发现区块链可以将事情分解为小而可行的小型合同。我们可以验证每一个步骤都是在一个非常高的粒度级别上完成的，” Zoldi说道。”具备这种不可变性，可以带来透明度和诚实度。”

区块链并不能解决人工智能模型的可解释性问题，或者说AI模型的“黑匣子”问题。单独使用区块链无法确定为什么人工智能模型会给出特定的答案。但它承诺提供更好的记录，以帮助回答这个问题，Zoldi表示。

一些首席信息官对此持怀疑态度。支付公司Fleetcor Technologies的首席信息官Scott duFour表示：”我们完全赞成更严格的AI治理，但使用区块链有点像找钉子的锤子。”他说，区块链可能有助于增强对人工智能系统的信任，但前提是它必须与已经在使用的其他工具相辅相成，这些工具帮助设计师理解和解释人工智能模型的预测。

目前，FICO的工具正在内部使用，但计划在今年晚些时候向客户推出。

与此同时，总部位于瑞士的Casper Labs正在与IBM合作开发自己的工具，该工具将提供“版本控制”：它记录了在某个特定时间对某个模型产生影响的数据和参数，如果公司开始发现模型中存在偏见或错误，他们可以恢复到较早的版本，首席执行官Mrinal Manohar说。

改正算法中的偏见仍然是一个困难而耗时的过程，公司通常缺乏相应的系统和工具。

Casper Labs的工具目前正在进行测试阶段，预计将在今年第三季度与IBM的watsonx AI治理平台集成上市，尽管它并不仅限于watsonx平台，Manohar说道。AI治理平台旨在指导技术的使用，并管理与之相关的风险。