OpenAI研发神秘“Q*”模型：科学家认输，AI赢了人类关键一战
图片来源：视觉中国
作者丨叶蓁 编辑丨康晓
出品丨深网·腾讯新闻小满工作室
在山姆·奥特曼（Sam Altman）被OpenAI前董事会突然罢免之前，数位研究人员向董事会发送了一封信，警告称他们发现了一种能够威胁到人类的强大人工智能。
据外媒报道，知情人士透露，OpenAI首席技术官米拉·穆拉蒂（Mira Murati）周三向员工透露，关于“Q*”取得人工智能技术突破的信，是促成前董事会采取行动罢免奥特曼的原因。
奥特曼被解雇之前，曾在亚太经合组织CEO峰会上透露，该公司最近取得的一项技术进步，能够“推开无知的面纱，推进发现的前沿。”
这是由OpenAI首席科学家伊尔亚·苏茨克维（Ilya Sutskever）牵头完成的技术突破，研究人员雅库布·帕乔基（Jakub Pachocki）和西蒙·西多尔（Szymon Sidor）根据苏茨克维的突破性技术，搭建出一个名为“Q*”（发音为Q-Star）的模型。（注：上周末奥特曼被突然罢免之后，帕乔基和西多尔随即宣布辞职）
这款模型的开发速度惊动了一些专注于人工智能安全的研究人员。这个苏茨克维7月份组建的安全团队，致力于限制比人类聪明得多的人工智能系统的威胁，他们担心该公司没有适当的保护措施来商业化这种先进的人工智能模型。
有评论说，IIya Sutskever的孤立无援，山姆·奥特曼的成功归来，是科学家的悲歌，理性最后输给了资本。
遥远未来，如果有一天，AI无所不能，山姆·奥特曼罢免事件会成为一个标志性节点。那时人们会纪念谁？山姆·奥特曼还是科学家Ilya Sutskever？不同的人有不同的答案，判断标准和价值观的分裂，早已泾渭分明。
01
新董事会组建：内斗双方的妥协
三天换三个CEO的OpenAI的宫斗大戏落下帷幕。23日下午，OpenAI在推特上官宣创始人山姆·奥特曼（Sam Altman）将回归重新担任CEO。山姆·奥特曼第一时间转发了帖子，并配上了爱心和敬礼的表情。
这场内斗几经反转，山姆·奥特曼阵营获得了最后的胜利。山姆·奥特曼阵营包括微软CEO、OpenAI 几乎所有高管和员工、背后投资人以及硅谷创投圈人士。
OpenAI首席科学家IIya Sutskever的董事会阵营在这场宫斗大戏中落败了。董事会阵营包括四位董事会成员，IIya Sutskever与董事会的两位成员Helen Toner、Tasha McCauley出局。
OpenAI组成了新的三人董事会，名单堪称豪华：主席Bret Taylor，是前 Salesforce高管，在马斯克收购Twitter时曾担任Twitter董事会主席；Larry Summers，经济学家、曾任财政部长和哈佛大学校长；Adam D’Angelo保留席位。
消息称任职Quora CEO的Adam D’Angelo是发起此次政变的核心推手，他留在董事会某种程度上意味着奥特曼方面也做出了让步。
奥特曼并未回归董事会，表面从制度上看，未来董事会对他会有更大的制衡能力，可以继续发起对他的审查。但问题在于，如果董事会主要成员和奥特曼保持一致行动呢？
有消息称，未来董事会可能扩充到九人，微软有望拿到更多权益。
笙歌归院落，灯火下楼台。OpenAI罢免CEO引发的舆论浪潮，在资本力量的一路高歌猛进下逐渐归于沉寂。
而这次主导罢免山姆·奥特曼的OpenAI的首席科学家Ilya Sutskever，却成为一个孤独的存在。
工资、股票、成就感相关的现实利益远高过理想，700多个员工，几乎没有人支持科学家。
02
“皆大欢喜”的回归
AI时代的宫斗戏可谓风驰电掣。
当年乔布斯被迫离开苹果后，重新归来后已经是12年后，而山姆·奥特曼的归来仅仅用了5天时间。过往互联网的时间尺度是以“狗年”来计算的，互联网人的一年相当于普通人的7年。当ChatGPT定义未来后，连公司的宫斗节奏也显示出了光速。
山姆·奥特曼发表推文：“在新董事会和Satya（微软CEO）的支持下，我期待着重返OpenAI，并继续维系和微软的紧密合作关系。”
这次罢免山姆·奥特曼的首席科学家Ilya Sutskever也转发了雷格·布洛克曼的推文。临时CEO希尔 Emmett Shear表示，经过了72小时的工作，看到现在这样的成果很高兴。
宫斗大戏此前已经经历三次大反转。
OpenAI美国时间11月17日突发声明，宣布公司首席执行官山姆·奥特曼将被解雇，公司现首席技术官米拉·穆拉（Mira Murati ）蒂被任命为临时首席执行官。山姆·奥特曼被罢免震惊了中美科技圈。
OpenAI首席科学家IIya Sutskever主导了此次罢免；六位董事会成员中的四位，在奥特曼和董事长雷格·布洛克曼不在场的情况下，四票通过做出了决定；奥特曼被罢免的主要原因，是因为种种行为违背了OpenAI“非营利性组织”的信仰。
值得注意的是，三位独立董事，德安吉洛是Quora首席执行官，麦考利和托纳是乔治敦大学安全与新兴技术中心的战略主管，他们都与有效利他主义运动（Effective Altruism，简称EA）有关。而该组织的最大价值主张便是把财富利润分配给更多需要钱的贫困人口。
第一次反转在19日，山姆·奥特曼奥特曼正谈判重返OpenAI担任首席执行官。作为交易的一部分内容，OpenAI的非营利董事会董事可能会辞职。
虽然不占有董事会席位，但微软在OpenAI的“宫斗”戏中扮演着最重要的角色。微软 CEO 纳德拉是在 OpenAI 高管、投资人和董事会之间谈判斡旋的核心人物，并一直亲自协助临时 CEO Mira Murati 讨论山姆·奥特曼回归的事宜。
在微软CEO 萨提亚·纳德拉的斡旋下，山姆·奥特曼也以访客身份回回到了 OpenAI 旧金山总部。他在 X 上表示，“这是我第一次也是最后一次佩戴访客牌。”
第二次反转很快到来，Ilya Sutskever 对员工表示，尽管 OpenAI 高管试图让山姆·奥特曼回归，但他不会再担任公司首席执行官一职，视频流媒体网站 Twitch 联合创始人 Emmett Shear 将接任临时首席执行官。
20日下午四点，微软首席执行官纳德拉宣布，OpenAI创始人山姆·奥特曼和Brockman将加入微软，领导一个新的高级AI研究团队。
然而，第三次反转很快到来，仅仅一天之后，山姆·奥特曼就宣布了回归。
OpenAI目前出现的混乱局面，跟该公司错综复杂的治理结构相关。这种结构旨在使OpenAI能够筹集数百甚至数千亿美元，以成功完成建设通用人工智能(AGI)的任务，同时防止资本的力量，特别是一个科技巨头控制通用人工智能。奥特曼本人在很大程度上负责这种独特的治理结构设计。
03
伦理挡不住科技的车轮
争议和非共识把科学家和管理者置于两端。而这次OpenAI罢免CEO的事件，更像是一个跷跷板，一端是孤单的首席科学家，而另一端是山姆·奥特曼和OpenAI的700个员工和投资人等，力量对比之悬殊，但科学家为什么选择了孤注一掷？
Ilya Sutskever和独立董事对抗五大力量。第一股力量是第一大金主的微软，第二股力量是投资机构；第三股力量是在OpenAI生态下的公司们；第四股力量是山姆·奥特曼；第五股力量是OpenAI的700号员工。
这种对抗使得资本的力量来袭时，Ilya Sutskever即刻就呈现出了认输的状态，几乎毫无对抗的能力。当然也有一种说法是硅谷科学家是懂政治的，但是一个懂政治的人怎么可能没有后手，那他为什么要放手一搏？
Ilya Sutskever也是OpenAI的创始成员之一。他是人工智能和深度学习领域的顶尖专家，是有着“人工智能教父”之称的Geoffrey Hinton的学生。
和更信奉硅谷“有效加速主义”的奥特曼相比，Ilya Sutskever 更强调安全和AI的价值观，在最底层与人对齐。
有一种可能是：Ilya Sutskever认为OpenAI已经实现了AGI。
在AI研究狂飙突进的这几年，有意思的是，有名的科学家与科技公司巨头们，分成了截然对立的两个阵营，争论不休。老生常谈的最近一场争论是以霍金和埃隆·马斯克为代表的悲观阵营，认为人工智能有潜在的危险，甚至可能毁灭人类。
这场争论与200年间的其他场次略显不同，因为人们没有料到，本应被称为是“疯狂科学家”的人，竟然站在了悲观者的立场上，而谷歌等科技巨头在这种悲观声浪中，相继出台了自己的AI不作恶原则。
年内早些时候，埃隆·马斯克多次在社交媒体上表达了自己对OpenAI非常规结构及其对整个AI行业影响的担忧。
“马斯克讲过他的很多担忧，我们要看今天学界最担心什么，一方面是人类文明被机器文明取代了，这是我们狭隘的一部分，我们早晚会接受这个事实，就像我们的孩子比我们强一样的，这是人类的一个延续，”百川智能创始人王小川曾告诉《深网》。
但在王小川看来，“有了ChatGPT之后，可以把它当做人类文明的一部分，要拥有一种大我的想法，也许有一天人类从肉身里面已经消亡了，但机器文明很发达，那也是人类文明的一个延续，我不觉得是取代这样一个概念，而是我们自然的一个进化。”
让王小川更担忧的是：“我更担心的是未来巨头因为用不好机器，使得机器带来了文明的毁灭，这是我们需要担心的事情，就像核弹毁灭了世界一样的，大家可能最终聚焦在没有控制它，之后不仅是人的灭亡，也是人类文明的灭亡。”
伴随着微软和山姆·奥特曼的归来，留在科学家Ilya Sutskever面前的现实也非常骨感。
在这场“OpenAI政变”事件中，微软公司获得了它最想要的结果，不仅保住了其对OpenAI约130亿美元的投资，还介入了公司的管理改革，有望在人工智能相关项目获得更多的话语权。
对此，一些科技行业的高管越来越担心，人工智能的开发集中在少数公司手中，这可能会让他们对这项快速发展的技术拥有过多的控制权。
美国房地产大亨Frank McCourt表示，AI可能会给科技巨头带来太多的力量，用户已经失去了对数据的控制，科技巨头正在利用这些数据来赚取利润。
McCourt认为，大型科技公司和社交媒体巨头正在对我们的社会造成深远的破坏，而人工智能可能会让情况变得更糟。
而此次政变失败后，科学家Ilya Sutskever正在失去对OpenAI未来方向制衡的力量。
《未来预言机》评论称，其他人想要一个巨型印钞机，一个人工智能领域的霸主，而Ilya Sutskever想要一个能像父母照顾婴儿一般来照顾人类的人工智能。
知名科幻作家王晋康曾提到，“现在最大的担忧是，既然人工智能已经在诸多领域碾压了人类，那么它将来会不会在科学发现上碾压人类？会不会在社会意义上也碾压人类？我曾经提过机器大妈妈的说法，就是人类在一个机器大妈妈的溺爱下，过着生不如死的生活。”
科技和伦理的矛盾从来没有像现在这样尖锐。但是，正如一位外国科学家所说，在社会发展中，科学技术的车轮是不可阻挡的，伦理道德只能在车前撒一些四脚钉。科学技术将来肯定是要战胜伦理的，即便可以暂时阻挡一时，但是长远来说是阻挡不住的。
免责声明：本文来自腾讯新闻客户端创作者