YouTube宣布要求披露AI生成的内容并添加标签

不知道大家在逛YouTube的时候有没有刷到过一些画面和人物看起来不太自然的视频。

没错，这些视频里面的画面和人物可能都是由AI生成的。

近日，YouTube 产品管理副总裁在官方博客文章上表示：生成式 AI 有潜力在 YouTube 上激发创造力，并改变平台上观众和创作者的体验，但同样重要的是，无论其生成方式如何，上传到 YouTube 的所有内容均须遵守社区准则。

下面是YouTube计划推出的一些变化。

披露要求和新内容标签

为了维护平台上健康的信息生态系统，YouTube 制定了长期政策，禁止通过技术手段操纵可能会误导观众进而造成严重伤害风险的内容。然而，生成式AI强大的新叙事形式也可用于生成有可能误导观众的内容，特别是如果观众不知道视频已被更改或合成创建的情况下。

为了解决这个问题，在接下来的几个月里，YouTube 将推出更新，确保用户在看到合成内容时收到通知。具体来说，平台将要求创作者披露何时创建了真实的更改或合成内容，包括使用了什么AI工具。

当创作者上传内容时，YouTube将提供新选项供他们选择，以表明内容是否包含真实的更改或AI合成素材。例如，一些AI生成的视频，描述了从未发生过的事件，或者内容显示某人说或做了他们实际上没有做过的事情。

当内容涉及敏感话题（例如选举、持续冲突和公共卫生危机或公职人员）时，上面的要求就变得尤其重要。一贯选择不披露AI创作信息的创作者将会受到内容删除、YouTube 合作伙伴计划暂停或其他处罚。在此政策推出之前，平台会与创作者沟通，确保他们了解这些新要求。

平台将告知用户，内容可能会以两种方式被更改或合成。描述面板中将添加一个新标签，表明某些内容已被更改或合成。对于涉及敏感主题的某些类型的内容，YouTube将在视频播放器上应用更显眼的标签。

大模型研究测试传送门

GPT-4传送门（免墙，可直接测试，遇浏览器警告点高级/继续访问即可）：
http://hujiaoai.cn

还有一些领域，仅靠标签可能不足以减轻伤害风险。所以一些合成视频，无论是否带有标签，如果违反社区准则，都将被删除。例如，显示真实暴力的合成视频仍可能被删除。

随着这些新更新的推出，在 YouTube 平台上的生成式 AI 产品和功能创建的内容将被明确标记为已更改或合成。

为创作者、观众和艺术家提供新选择

当某个人物的脸部或声音在未经许可而被数字化生成或歪曲观点时，社区（包括创作者、观众和艺术家）反馈很明显，YouTube正在为之做出一些努力。

在接下来的几个月中，YouTube将使用隐私请求流程来请求删除AI生成的个人的面部或声音等内容。

并非所有内容都会从 YouTube 中删除，平台在评估这些请求时会考虑多种因素。包括内容是否是模仿或讽刺，是否可以唯一识别是某个人，或者内容是否以公职人员或知名人士为主角等等。

平台还会为音乐合作伙伴提供请求删除AI生成的模仿艺术家独特的歌声或说唱声音的音乐内容的功能。

用AI技术进行内容审核

YouTube 的审核人员讲使用AI检测工具来不断提高内容审核系统的速度和准确性。

比如当新的有害内容出现时，原本的YouTube 系统没有足够的背景来大规模地理解和识别它们。但生成式AI可以帮助YouTube 快速扩展AI分类器所训练的信息集，帮助YouTube 能够更快地识别和捕捉这些内容。AI系统的速度和准确性的提高将减少审阅者接触到的有害内容的数量。

未来，YouTube 将思考如何在多年投资的基础上建立能够规模化管理内容的团队和技术。

国内的AI内容审核政策

在国内，其实抖音在5月9日就发布了《关于人工智能生成内容的平台规范暨行业倡议》，9月8号已经出了最新规定，创作者发布由人工智能生成的内容时，需添加声明“内容由AI生成”，帮助用户区分虚拟与真实。

公告规定，AI生成内容指利用生成式AI技术，自动生成的视频、图像、文本等内容，包括但不限于：AI合成的真人视频、AI公众人物、AI卡通动漫、AI风景等等。

如创作者未按照《规范》添加标识，或是错误添加标识，平台将提示创作者进行添加，并可能限制相关内容的传播，直至正确添加标识。

对于屡次未添加或错误添加的，平台将视违规情节和造成的影响，对账号进行处罚，包括但不限于取消投稿权限、取消营利权限、抹除账号粉丝、封禁账号等。

总结来看，在AI内容审核方面，抖音走到了YouTube 前面：You老弟，多学多看，未来前途无量！