ChatGPT为教育发展带来便利与机遇，但也有伦理风险

2022年11月，美国人工智能研究实验室Open AI推出全新聊天机器人模型ChatGPT。凭借出色的生成语言文本能力，ChatGPT在上线后短短5天内便获得100百万用户，2个月的时间，月用户突破1亿，成为史上增长最快的“现象级”应用。作为一种强大的自然语言处理模型，ChatGPT在教育领域展现出了巨大的潜力。它可以成为教学辅助工具、搭建自主学习平台、节约人力资源成本等等。然而，ChatGPT为教育发展带来便利与机遇的同时，我们必须认识到它所带来的伦理风险。

一、知识维度：学习逐渐走向差异化

一方面，ChatGPT拥有强大的数据采集和分析能力，可以为学生提供精准答案，学生只需要通过简单的问答便可轻松完成学习任务。这种“投喂式”的信息获取模式短期来看似乎帮助学生提高了学习“效率”，但从长远来看将导致学生产生“智能”依赖，使学生丧失学习自主性。有调查发现，89%的美国大学生已经在用ChatGPT完成留学作业，53%的学生使用它来撰写论文，甚至有48%的学生依赖它完成考试。另一方面，学习是一个思考的过程，而ChatGPT可以让学生直接跳过思考的过程就轻松获得答案，这无疑使学生不再运用大脑理解教学内容，减少了学生深度思考的机会，弱化了学生学习迁移的能力。美国心理学家Betsy Sparrow曾做过一项实验：她要求实验对象阅读所看到的信息，接着打字输入电脑。同时跟一半的人说这些输入的信息会存储在电脑中，而跟另一半人说这些信息不久后会被删除。接着请所有人尽量回忆所看到的信息。结果发现，那些认为信息会被存储起来的人所记的内容较少，而认为信息会被删除的人记得较多。这种现象被称为“Google效应”：如果大脑认为“反正信息都会存储在电脑中”大脑就会开始节能，不那么专注于记忆、学习。同理，如果ChatGPT会让学生产生“反正ChatGPT会找到答案”“反正ChatGPT可以帮我完成”等等类似心理，那么大脑一定会设法走捷径，与知识记忆和简单逻辑推理关联的突触连接将大量减少，最终导致人脑的选择性退化。显然，这与教育的本质和追求背道而驰。

二、情感维度：师生主体地位逐渐削弱

师生关系是重要的人际关系之一。然而，ChatGPT的出现可能使师生之间的情感交流缺失。一方面，传统的“师—生”二元教学关系，随着ChatGPT等人工智能技术的介入，逐渐转变为“师—机—生”的三元新型教学关系。在这种关系下，学生降低了对教师的依赖，教师不再是知识和信息的“垄断者”，学生拥有更多获取知识和信息的渠道。因此，教师的知识权威地位不断被削弱，教学异化为单向度的知识传授，师生关系逐渐变得淡漠，这背离了技术优化教学的初衷。另一方面，虽然ChatGPT具备一定的知识基础、推理能力和表达能力，但作为一种基于数据训练的科学技术，它并不具备自我意识。在面对情感交流、人文关怀等非预设性问题时还无法展现出超越人类教师的创造性与独特性。学生长时间、习惯性地沉浸于人工智能世界，而拒绝与真实生活中的同学师长互动交流。这有可能导致学生社会化不足，不利于学生的情感发展和健全人格的形成。

三、技术维度：智能算法存在明显缺陷

当前ChatGPT的智能算法还存在着明显的缺陷。第一，“算法黑箱”忽视了教育主体的知情权。ChatGPT给出回答的过程就像是某种“技术黑箱”，具有不透明性和不可解释性[4]。具体而言，人们只知道ChatGPT给出的某种确定答案，但对其思考过程、运作过程、获取过程难以进一步了解，甚至ChatGPT也无法作出解释。这是因为人工智能的开发者设计了某个算法模型，但不会告知某个参数的具体权重，也不会告知某个结果何以得出，使用户难以判断结论的真假。第二，预训练语言模型是根据已有的语言数据训练得到的“经验”模型，据此实现对未知的测试数据的最优预测，但是语言数据中可能存在大量偏见、歧视成分，这就无法避免数据偏见问题，例如ChatGPT的回答可能带有地域偏见、群体偏见等。因此，ChatGPT等人工智能技术的算法可能会隐秘的遮蔽教育的公平性。第三，数据的真实性、时效性难以保证。ChatGPT的回答是根据文本数据所组成的训练集进行学习，通过概率统计学的相关算法给出一个概率较高的答案，尽管它可以快速提供大量的信息，但其信息的可信度与时效性仍难以得到保证，生成的内容可能存在事实性错误、知识盲区、概念误用等问题，这些不准确消息若不加以甄别，会对学生产生严重的误导。

四、建议与展望

美国技术哲学家伊德提出一个观点：“面对技术我们应该从实践的角度来观察他可能带来的影响。”虽然ChatGPT可能会给教育带来巨大的冲击，但一味的禁止学生使用是掩耳盗铃，注定是徒劳的，教育阻挡不住科技的发展与应用，关键是如何引导他们以合乎道德规范的方式去使用他们[6]。基于此，我们提出以下建议。

首先，学校应该坚持育人的基本立场，重视情感教育和人文关怀。

教育的本质是育人，ChatGPT虽有助于学生掌握知识，为学习提供便利，但不能实现育人的目标。同时，学校还应加快教学模式的转变，推动教学数字化转型。

其次，相关部门可以制定伦理指南，完善制度保障。

一方面制定ChatGPT使用与应用指南，明确伦理界限。另一方面，还应综合多种举措，监督ChatGPT在教育环境下的使用，以防止不当应用行为的出现。

最后，在技术层面上加速技术革新，以促进教育发展。

当前ChatGPT技术本身还存在一定缺陷，需要科技公司不断优化和升级，不断提高算法透明度、信息准确性并避免“算法歧视”等问题的出现。