不受控的權力才是AI的最大威脅

    曾經在英國電視節目中笑言“會毀滅世界”的蘇菲婭，最近被沙特阿拉伯授予國民身份，成為首位地球“公民”。她那人工智能的歪嘴露齒笑容，讓全世界感到不寒而慄。

Sophia

    恐懼可分兩層：一、知識和智能的兩極化造成權力和財富兩極化的進一步擴大；二、人工智能最終統治甚至奴役人類。

    貧富的懸殊和教育程度的差異，這兩大馬太效應在近百年來愈演愈烈。在互聯網剛興起之時，人們曾經寄望資訊共享消弭不同國家、不同階層知識上和財富上的差距，但隨着權貴資本主義的氾濫和極權的閉關自守，期盼終成鏡花水月，兩極化不但沒有減少，反而進一步擴大。信息科技不但沒有為大多數中產及草根帶來更多財富和尊嚴，無形的項鏈反而變得更為精準和堅固，也讓更少的人能夠控制和統治更多的人，甚至變得更輕鬆。

    美國白宮透過無人機直接精準殺人，是最廣為人知的案例。從2004年至2015年，美軍出動無人機空襲至少七百二十四次，殺了四千多名巴基斯坦人。“距離產生冷漠，我們離受害者越遠，越心狠手辣。”心理學家說。科技的發展讓這個距離不斷拉大，精準度不斷提高。而人工智能的登場，將進一步拉大統治者與被統治者之間的關係，而對那些沒有選票和輿論壓力的統治者而言，更是難以想像。頂層和底層之間的環節越來越少，需要人類的工種也越來越少，中產自然日漸薄弱。機器越通人性，人會越少人性。這對統治者和大資本家來說，絕對是好消息：只要能掌握最新的科技，壽命會越來越長，江山更會越來越穩固。

    人工智能最可怕的是能夠無止境地學習並整合各類知識，一個自然人個體思考能力在其面前，可能連螞蟻都不如。不久的將來，人類之間最大的爭端可能就是在這種“思考能力”資源的爭奪。誰站在人工智能金字塔頂端，誰就是這個世界的主宰。

    在進入第二層關於《終結者》或《廿二世紀殺人網絡》式未來的擔憂前，人類最應該做的是把人工智能背後的權力關在籠子裡。但這幾乎是不可能的……  (凌谷)

原載於澳門日報2017年11月1日新園地南書房