依据辨认控制能力划分智能机器人刑事责任

Tencentccc

题图 |网络

      人工智能是指使机器像人一样去完成某项任务的软硬件技术。对智能机器人的合理应用，将会带来许多行业的重大变革，并在较大程度上通过解放劳动力，促进社会的深度和快速发展。但是如果设计者或使用者对智能机器人进行不当利用，甚至将其作为实现犯罪意图的工具，抑或是智能机器人本身在具有独立意志之后产生了犯罪意图，进而实施严重危害社会的行为，将会给人类社会带来极大的威胁，甚至会导致人类社会的毁灭。

强弱智能机器人之界分

      以智能机器人是否具有辨认能力和控制能力，可以将智能机器人划分为弱智能机器人与强智能机器人。目前，弱智能机器人的使用，为我们的生活带来了极大便利，我们已经进入了弱人工智能时代。弱智能机器人虽然可以在设计和编制的程序范围内进行独立判断并自主作出决策，但不具有辨认能力和控制能力，其实现的只是设计者或使用者的意志。

人类是弱智能机器人的创造者，可以通过程序给弱智能机器人设定行为目的和行为边界。此时，弱智能机器人的设计者或使用者完全有可能让弱智能机器人为己所用，实现自己的犯罪目的，如制造专门用来杀人的弱智能机器人，实现自己非法剥夺他人生命的目的。在这种情况下，弱智能机器人实施的严重危害社会的犯罪行为，本质上是为了实现他人的犯罪意志，我们理应将该弱智能机器人看作他人实施犯罪行为的工具。

强智能机器人具有辨认能力和控制能力，可以超出设计和编制的程序范围，进行自主决策并实施相应行为，实现其自身的意志。虽然到目前为止，智能机器人仍只能在设计和编制的程序范围内实施行为，实现设计者或使用者的意志，但是随着深度学习、神经网络、蒙特卡洛树搜索、类脑智能等技术的不断发展和完善，出现具有辨认能力和控制能力、能够在设计和编制的程序范围外作出自主决策并实施相应行为、实现自身意志的智能机器人，并非无稽之谈。

强智能机器人在设计和编制的程序范围外作出自主决策并实施相应行为时，其并未受到设计者或使用者等任何人为设置或操控，完全是自发实施的。强智能机器人实施的这种犯罪行为和其他具有刑事责任能力的主体实施的犯罪行为相去无几。所以，当强人工智能时代到来时，我们的社会将会面临难以预知的风险。

弱人工智能时代的刑事风险与刑事责任

      弱智能机器人不具有辨认能力和控制能力，其实现的只是设计者或使用者的意志。因此，我们可以将弱智能机器人看作是人类改造世界的新型工具。相较于普通工具，弱智能机器人的优势在于其可以在某一方面完全替代人类自身的行为，达到人类预期的目的。如果这一优势被犯罪分子所利用，其就会在付出更小代价的同时，带来更大的社会危害。一方面，借助弱智能机器人会在一定程度上为犯罪分子实施犯罪行为带来便利，并使其犯罪行为取得事半“功”倍的效果。另一方面，犯罪分子将智能机器人作为犯罪工具，可能会衍生新类型的犯罪。

但应当看到，弱智能机器人不具有独立意志，只能在设计和编制的程序范围内实施行为，相当于设计者或使用者实施犯罪行为的工具。所以，弱智能机器人不可能作为犯罪主体而承担刑事责任。在弱智能机器人被设计者或使用者利用来实施犯罪行为的情况下，设计者或使用者通过程序给弱智能机器人设定行为目的和行为边界。

此时的弱智能机器人虽然有可能基于深度学习和算法作出相应判断并进而实施行为，但这些判断和行为仍是在程序控制范围之内，实现的是设计者或使用者的意志，其行为完全符合设计者设计和编制程序的目的。即使弱智能机器人实施了严重危害社会的行为，也只能将其视为设计者或使用者实施犯罪行为的工具，弱智能机器人本身不应当承担刑事责任，而应当由弱智能机器人的设计者或使用者承担刑事责任。此时，对设计者或使用者，可按照其利用弱智能机器人所实施行为的性质进行定罪量刑。

强人工智能时代的刑事风险与刑事责任

      强智能机器人具有辨认能力和控制能力，其可以在自主意志和意识的支配下，独立实施严重危害社会的行为。此时，完全可以将强智能机器人作为刑事责任主体对待。

根据刑法第17条规定，刑事责任主体需具备以下条件：第一，实施了严重危害社会的行为；第二，具备刑事责任能力；第三，依法应当承担刑事责任。笔者认为，强智能机器人符合刑法规定的刑事责任主体所需要具备的条件。

首先，强智能机器人自主决定并在设计和编制的程序范围外实施严重危害社会的行为时，已经满足了成为刑事责任主体的第一个条件。其次，在设计和编制的程序范围外实施严重危害社会行为的强智能机器人与自然人一样具有辨认能力和控制能力。强智能机器人可以通过其“电子眼”“电子耳”认识到事实，同时，强智能机器人拥有极其快速的处理能力、反应速度和极为精准的控制能力，能够凭借大数据与高速运算能力对行为做出精准的控制。所以，强智能机器人也满足了成为刑事责任主体的第二个条件。当然，强智能机器人要成为刑法上的刑事责任主体，还需要刑事立法加以明确。

同时应当看到，与自然人责任主体不同，强智能机器人不具有生命体，其独立意志可以追根溯源到设计者为其编制的程序，同时使用者在使用过程中的行为也有可能触发强智能机器人的敏感点，使其产生实施危害社会行为的冲动并进而付诸实践。强智能机器人的设计者或使用者作为创造主体和控制主体，理应对强智能机器人的行为负有监督义务，并对其可能实施的严重危害社会的行为负有预见义务并尽其所能避免此类行为的发生。

所以，当强智能机器人实施了严重危害社会的行为时，除了追究强智能机器人的刑事责任外，负有预见义务和监督义务的设计者或使用者也有被追究刑事责任的可能。如果强智能机器人的设计者或使用者违反了预见义务，那么其可能承担的是一般过失犯罪的刑事责任；如果强智能机器人的设计者或使用者违反了监督义务，那么其可能承担的是监督过失的刑事责任；如果强智能机器人的设计者或使用者既不可能预见危害结果的产生，也确实履行了监督义务，那么其可能不需要承担刑事责任，此为意外事件或由强智能机器人独立承担刑事责任。（刘宪权、房慧颖：华东政法大学）