教科文组织发布指南：积极推动生成式AI在教育中的应用与监管

随着新学期的到来，联合国教科文组织发布了首个全球指南，关于教育与研究中生成式人工智能（AI）的应用，强烈建议各国政府针对此技术施行相应规范并提供教师培训，确保其在教育场景中遵循人本原则。

自去年11月ChatGPT面世，生成式AI便受到了广泛关注。尽管今年1月，ChatGPT的活跃用户已破亿，但到7月，全球仅中国制定了相关的管理措施。

机遇与风险

教科文组织总干事阿祖莱表示，生成式AI可为人类开创光明未来，但同样存在伤害的风险。她认为，若缺乏公众参与与政府监管，难以将此技术纳入教育体系。

基于此，结合教科文组织早前的《人工智能伦理建议书》及《北京共识》，该指南旨在回应全球教育部长的关注，协助政策制定者与教育工作者充分挖掘AI之潜能，为学生创造更好的学习环境。

生成式AI的种种议题

此指南不仅定义了生成式AI，还详述了其工作方式，以及它对教育的潜在影响。包括加深数字鸿沟、超前的技术发展步伐、未经授权的内容使用、模型的不透明性、网络内容污染、与现实脱节的产出、损害多样性观点，以及助长假信息的传播等。

教科文组织特别提到，ChatGPT的模型主要基于北方国家的价值观进行训练，这无疑加剧了数据差异的问题。

以人为本

面对这些问题，教科文组织在指南中坚持，教育领域的AI应用必须以人为核心，目标是服务人类，为创造一个更包容、公正、可持续的未来。从治理角度，它要求对AI实施适当的管理，确保透明度与公众问责。

七步监管策略

依此原则，教科文组织给各国提供了七步策略，针对生成式AI的监管，制定教育研究的伦理框架。

这些步骤包括： 

批准国际或地区通用数据保护条例（GDPR），或在国家层面制定这一条例；

采取/修订并资助关于人工智能的“全政府”战略； 

巩固和实施针对人工智能伦理问题的专门监管措施； 

调整或执行现有版权法以管制人工智能生成的内容； 

细化针对生成式AI的监管框架； 

为教育和研究领域正确使用生成式AI进行能力建设；

思考生成式AI对教育与研究的长期影响。

学校准备不足

教科文组织强调，使用AI工具的年龄限制应设为13岁。该组织的研究表明，与出版新的教科书相比，在课堂使用生成式AI工具所需要的授权更少。

同时，教科文组织还批评，全球教育界在AI工具的伦理和教学整合上仍不尽人意，并且强调：全球教育界在伦理和教学结合使用AI工具上还有很长的路要走。

在年初的一项调查显示，全球450多所学校中，不到10%有关于生成式AI应用的政策或指导。这主要归咎于国家的监管缺失。