打卡 | 《前哨》人工智能大会上的23条准则

Asilomar 人工智能会议定下的23条准则

第一，研究的目的并不仅仅是创造智能，而应该产生造福人类的智能。

第二，研究的资助不仅要投资于开发，还要投资于相应的研究项目，才能保证人工智能研究顺利发展。

第三，科学和政策相连接，科学家和政策制定者要互相沟通、充分理解。

第四，在人工智能研究领域要鼓励合作，不鼓励产生军备竞赛，不能为了超越对手而研究。

第五，强调团队合作和协同，避免互相竞争。

第六，人工智能系统开发必须保证安全性。

第七，失败过程透明，向第三方公开人工智能失误的原因。

第八，判断透明，人要了解人工智能内部发展，从而自主决定何时接管人工智能，掌控人工智能。

第九，充分评估道德风险，要对所建立的人工智能系统全面负责。

第十，人工智能系统的价值观判断应与人类一致。

第十一，人类价值优先。

第十二，尊重个人隐私。

第十三，强调自由和隐私，数据属于人。

第十四，共享利益，人工智能应尽可能造福更多人。

第十五，共享繁荣，人工智能给经济带来的繁荣也应造福全社会。

第十六，人类控制，人工智能要被人完全掌控。

第十七，不能利用人工智能颠覆现有系统或利用人工智能转变社会行为。

第十八，禁止人工智能军备竞赛。

第十九，对人工智能未来能力要有充分的关注与评估，不能对它的潜力设限。

第二十，对人工智能要给予同等重要的关注，提供同等重要的资源。

第二十一，分配相关资源、提供相关努力，将风险置于可控范围之内。

第二十二，充分关注重复性的自我改进，防止指数级增长带来预想不到的结果。

第二十三，共同利益，人工智能（尤其超级人工智能）要符合所有人类的道德价值观，符合人类共同利益。

心得

今天的AI准则让我想起了阿西莫夫笔下的"The Three Laws"，又被称为"Asimov's Laws"。

1. A robot may not injure a human being or, through inaction, allow a human being to come to harm.

2. A robot must obey the orders given it by human beings except where such orders would conflict with the First Law.

3. A robot must protect its own existence as long as such protection does not conflict with the First or Second Laws.

翻译成中文即“三法则”

1. 机器人不得伤害人类，或袖手旁观，让一个人受到伤害。

2. 机器人必须遵守人类的命令，除非该命令与第一法则冲突。

3. 机器人必须保护自身的存在，只要这种保护不与第一或第二个法则冲突。

不得不佩服当年阿西莫夫只用短短的三条法则就概括了机器人的行为准则。今天的科学界们制定的人工智能准则也开启了一个人机共存时代的新纪元。

我向往有一天，身边能有像Intersteller里CASE那样的AI机器人，陪我探索未知的宇宙。