可信任的AI：关于人机伦理关系的思考「AI产品/工程落地」

关注：决策智能与机器学习，深耕AI脱水干货

作者 |   Lee Schlenker

来源 |  towardsdatascience

前言：如果说数字伦理不是什么新鲜事，那么每一代信息技术都加剧了对人类伦理方面的挑战。随着人工智能在商业和社会中的应用变得越来越雄心勃勃，数字伦理已成为个人和政府日益关注的问题。伦理涉及一系列社会习俗，这些习俗可以培养“我们批判性思考道德价值观的能力，并根据这些价值观指导我们的行动”。数字伦理的特殊性是什么，这些考虑与一般伦理的考虑有何不同?这些担忧更多的是程度问题，而不是种类问题，因为每一代信息技术都给人类带来越来越突出的挑战。在本文中，我们调查了四个关键问题的起源，帮助厘清目前的焦点关注。

人工智能能理解人类的价值吗?

二战结束后，诺伯特•维纳(Norbert Wiener)在控制论方面的研究集中在人类能在多大程度上信任自动化这个问题上。在他从事反导弹通信系统的工作期间，维纳对人类和机器通信和控制系统之间的相互依赖性产生了兴趣。尽管他是发展自动化的强烈倡导者，但他在《人类对智能的使用》一书中表达了对人类非人化和从属地位日益增长的担忧。他特别指出，将决策托付给不能进行抽象推理的计算机程序是危险的，因此，这些程序极不可能理解人类价值的本质。

信息科技是否带来新的伦理问题?

30年后，医学教授、研究人员沃尔特•马纳(Walter Maner)创造了“计算机伦理”一词，用来描述“由计算机技术加剧、改变或制造”的伦理问题。在关注因使用计算机技术而产生的道德决策的特殊性时，他认为计算机应用程序与以前的技术创新有根本的不同，因为它们的设计、复杂性和延展性使它们可以应用于无数的领域。他指出，每当政府和社会感到支持技术创新时，由此产生的伦理决策往往不得不在政策真空中做出。他进一步指出，在讨论计算机技术时，伦理困境的性质和范围往往被歪曲。他的结论是，计算机参与人类行为可能会产生全新的伦理问题。

信息技术能通过编程来模仿人类吗?

信息技术在本质上是道德中立的，还是它的使用本身就会产生道德后果?在他40年前的开创性文章中，“什么是计算机伦理?”， James Moor总结了他关于技术伦理足迹的思想。他认为，计算机至少是程序和算法的道德影响媒介，无论这是否有意为之，它都挑战着人类的本性。他预见到计算机可以被编程成为隐性伦理代理，换句话说，人类可以选择管理信息技术，以避免不道德的结果。他还提出了一种更具挑战性的可能性，即利用经过编程、能够按道德行事的算法，把计算机创造成明确的道德代理人。最后，他设想了一个全道德主体的世界，在这个世界里，机器将能够阐明与人类相容的道德选择。

今天的数字伦理是道德行为的代理吗?

如果人工智能都是关于环境的，那么环境是如何影响我们的伦理观的呢?Krystyna Gorniak - kocikowska对伦理学辩论的主要贡献被称为Gorniak假说：计算机伦理学是应用伦理学的未来，并将很快成为全球伦理学体系的基础。Gorniak认为，伦理考虑在过去反映了当地的经验、历史和习俗，这反过来解释了为什么不同文化的伦理立场往往不同。她认为计算机伦理不受局部约束，即计算机逻辑构成了人类和机器如何互动的一个真正的普遍观点。她的结论是，自动化的普及将导致“计算机伦理”成为伦理的代表，成为信息时代道德行为的基础。虽然哥尼亚克假说受到了黛博拉·约翰逊等作者的质疑，但计算机伦理与全球商业、教育和立法的发展是不可否认的。

当前关于数字伦理的争论

今天对数字伦理的讨论将这些论点进一步推进了一步。这场辩论超越了计算机和自动化的道德后果，涉及到数据驱动决策的道德问题。道德上的挑战并不仅仅来自数据本身的质量和相关性，而是来自人类如何使用数据来感知、预测和评估行动的进程。每一代新信息技术都扩大了人类和人工智能的目标和应用领域，并由此改变了产生伦理选择的环境。数字伦理的最终结果不是一个区分是非的问题，而是为数字技术的开发人员和最终用户构建合适的框架来验证可接受的数据实践。

历史精华好文

• 专辑1：AI产品/工程落地

• 专辑2：AI核心算法

• 专辑3：AI课程/资源/数据

交流合作

请加微信号：yan_kylin_phenix，注明姓名+单位+从业方向+地点，非诚勿扰。

参考资料

[i] Churchill L.R., Are We Professionals? A Critical Look at the Social Role of Bioethicists”. Daedalus. 1999. pp. 253–274.

[ii] Bynum, Terrell, “Computer and Information Ethics”, The Stanford Encyclopedia of Philosophy (Summer 2018 Edition), Edward N. Zalta (ed.)