活动报名｜如何间接监督人工智能做人所不能做的事情

2023年05月19日（星期五）11:00-12:00，由智源社区主办的「青源Live 第61期线上活动：间接监督AI“行人所不能行”。本期活动将在线举办，「阅读原文」报名即可参加。

钟瑞麒

加州大学伯克利分校计算机系博士生，师从Jacob Steinhardt和Dan Klein，专注于自然语言处理和人工智能对齐（AI alignment）问题的研究。于2019年哥伦比亚大学本科毕业。

间接监督AI“行人所不能行”

当我们自己都难以界定正确答案时，我们是否还能监督强大的人工智能系统去做我们自己做不了的事情？在这个报告中，我将介绍两个自然语言处理任务：

1）自动在大型文本数据集中找到规律，并用自然语言解释它们；
2）使用非程序员在人工智能系统的帮助下对复杂的SQL程序进行标记，并达到与数据库专家相当的准确率。我们帮助人类以高效但低成本的方式间接监督人工智能，并利用它们产生了此前甚至专家都没注意到的发现。

当我们自己都难以界定正确答案时，我们是否还能监督强大的人工智能系统去做我们自己做不了的事情？

讲者会在活动中介绍一个概念框架来介绍如何监督人工智能做人所不能做的事情，并如何应用这个框架开展具体的科研并搭建一个系统。

课前阅读：

1）论文标题：

Active Programming by Example with a Natural Language Prior

论文地址：

https://arxiv.org/abs/2205.12422

2）论文标题：

Describing Differences between Text Distributions with Natural Language 

论文地址：

https://arxiv.org/abs/2201.12323 

关于智源社区

智源社区是互联网上没有围墙的人工智能实验室，我们的远景是围绕智能科学，建立紧密协作的学术共同体，构筑开放研究平台与协作工具，加速新线索发现、假设提出、提案产生，并在这个过程中，培养出新一代问题的发现者和解决者。

关于安远AI

安远AI的使命是融合各方，推动新兴科技长远向善发展，引领人机关系走向安全、可信、可靠的未来。安远AI致力于建立人工智能安全和风险研究的技术社区，旨在为青年学者同该领域学术界和产业界搭建沟通桥梁。

活动时间：5月19日（周五）11:00-12:00

活动形式：线上直播，扫描下方二维码报名或点击阅读原文报名

主持人：方亮 安远AI