目前,ChatGPT还是一种仍未成熟的技术,当其介入高职教育生态后,高职院校师生在享受ChatGPT带来的便利的同时,也应该明白ChatGPT引发的风险也会随之进入高职教育领域,如存在知识信息、伦理意识与学生主体方面的风险与挑战等(如图1所示)。
尽管ChatGPT在高技术领域中呈现出越来越广泛的应用前景,但我们也需要意识到其在应用过程中可能带来的知识信息风险。这些风险主要包括以下几个方面。
第一,信息的真实性难以得到保障。尽管ChatGPT可以给高职院校师生快速提供他们想要的反馈答案,但其信息具有不透明性以及答案的准确性可能存在巨大质疑。OpenAI也坦然承认,ChatGPT有时回复的答案让人觉得看似合乎事实但又不太准确,因为其在反馈学习期间的信息来源并不真实。高职院校的师生以为ChatGPT给出了某个正确的回答,但是他们并不了解得到这个答案的过程,也没有进行探究,因为ChatGPT的算法模型是由研发者设计的,而此模型并没有告诉高职院校的老师和学生这个结论是怎样得到的。
第二,知识的权威性难以辨别。由于ChatGPT训练模型的数据受限于2021年之前,因此其对于2021年之后产生的新知识和信息的认知能力是非常有限的。此外,ChatGPT在处理理科知识方面的问题时较为困难,相比之下,其对于文科知识和问题的回答更为熟练,例如描述一个词语的含义或由来。但是,ChatGPT在遇到一些中文或者个性化比较强的问题时,并不能给出精确的回答。这样看来,这些限制都会影响到ChatGPT知识的权威性。
第三,知识系统性难以确保。知识缺乏系统性,也就是知识碎片化。知识碎片化指知识处于一种被不断切割的状态,将知识划分为不同的点来学习,知识粒度越来越细、知识细节越来越详尽[3]。ChatGPT对高职院校师生问题的回答大多是基于问答的模式,这种模式虽然具有高效性,但很难保证其回答具有系统性。对于高职院校的学生来说,这可能导致学生无法将学到的知识点有机地组织在一起。因此,一方面,随着数字化时代的到来,高职院校的师生越来越适应了碎片化知识的特点;但在另一方面,由于这些碎片化的知识点之间难以建立联系,如何在高职院校学生的头脑中建立起知识的整体框架,从而深入理解和应用相应的知识点,仍然是一个挑战。
ChatGPT的问世,让高职教育界在面对日益增长的信息化需求时,有了新的技术途径。但是,ChatGPT应用于高职教育领域也可能引发一些伦理问题和风险。在使用ChatGPT时,需要我们注意以下数据隐私等方面的问题,避免泄露个人隐私。
第一,高职院校数据泄露风险。高职院校教师和学生在向ChatGPT平台提问以及获取回答的过程中,通常会涉及大量的教育数据。当教师和学生提问时,他们可能会分享个人信息、教学材料和其他与教育有关的数据。在ChatGPT提供回答时,它需要读取这些输入数据以提供满意的答案。然而,这些数据可能会保存在ChatGPT系统中被未经授权的第三方访问和泄露,而用户的数据一旦被泄露,不但会给高职院校的教师和学生带来前所未有的困扰,也会波及更多教育界、学术界人士。所以,高职教育对数据收集、保存、分析、整理以及运用每一过程中的隐私都必须要注意。
第二,ChatGPT具有偏见性。ChatGPT作为一个大型的语言模型,其知识只是被数据训练成的规律以及缺乏语境理解性,无法像人类一样深入了解复杂性的世界,进而会被利用产生不当信息。如在一些情况下,有些人抓住ChatGPT的这一漏洞,让其基于人口统计信息来确定一个人是否接受求职申请来设计一个程序时,ChatGPT可能会给出偏向于种族主义的答案。考虑到这一点,ChatGPT极有可能会被一些居心叵测的人利用来危害社会以及个人。
第三,在学术论文中出现伦理风险是一种重大风险,因为它涉及到对被研究对象的伦理侵犯。因此,学术论文的作者必须遵守严格的伦理规范,以确保在研究过程中不会对被研究者造成任何负面影响,而使用ChatGPT则有可能产生此类风险。由于这些工具的使用并非由具有相关专业知识的人员操作,很可能会出现一些伦理问题。如果因为这些工具导致论文涉及伦理问题,即使作者没有意识到问题的存在,这也会被认为是学术不端行为。因此,在高职院校的学术论文中使用ChatGPT等工具进行论文代写应该被禁止,以保证论文的科学性和伦理性。出于对伦理风险的考虑,现有学术期刊对此作出了明确规定。
使用ChatGPT平台可能会对高职院校学生的自主性和能动性产生一定影响。当他们使用ChatGPT平台时,过分的规定和限制可能会使他们的思考方式被限制,导致他们在使用ChatGPT时失去独立思考和自主决策的能力,从而使其主体性受到削弱。
第一,ChatGPT是一种人工智能聊天语言模型,虽然它可以为人们提供方便,但是长时间沉迷于ChatGPT的使用可能会对身体机能造成一定的影响。比如对于高职院校学生来说,如果沉迷于使用ChatGPT,可能会导致其眼睛出现近视或干眼症等电子病。这是因为ChatGPT需要长时间耗费人们的注意力和精力,而长时间使用电子产品会增加眼部疾病的风险。此外,从长远来看,如果高职院校学生长时间沉迷于使用ChatGPT,可能会对他们的身体和心智产生负面影响,使他们成为ChatGPT等人工智能工具的被控制者,丧失自主权,形成身体和意识上的“被压制住的状态”。
第二,ChatGPT的高效精准回答为高职院校学生提供了个性化便利服务,但如果学生过度依赖ChatGPT来解决问题,可能会导致学生的自主能动性降低。在沟通交流时,高职院校学生只需要直接把问题提交给ChatGPT,无需学习、理解和思考就能快速得到信息,且使其更好地完成学习任务,这种看似方便快捷的解决方式可能会使学生进一步地依赖于技术工具,导致他们缺乏独立思考、探索和实践的机会,进而产生“断片化”学习的状态。由于缺乏主动性和思考能力的锻炼,可能会影响高职院校学生的自我发展和创新能力的培养。尤其是一部分学生在使用ChatGPT进行知识获取并取得满意的成绩后,会形成一定的依赖心理而沉迷其中,将节省的时间用于与学习无关的事情上。长时间来看,学生会养成“只用眼睛,不动脑”的不良学习习惯,成为ChatGPT的养成品。
高职院校教学本就是一种丰富多彩的师生互动交流,但在这个飞速发展的数字化时代,当ChatGPT进入高职院校后,高职院校师生的情感与价值等逐渐被磨灭,渐渐地,高职院校师生沦为抽象的数字与符号。这时,强大的ChatGPT对高职院校教师的能力提出了更严苛的要求,如教师需要增强辨析知识对错的能力,尤其是在教师备课的这一环节中,使用ChatGPT来进行备课就需要取其精华,去其糟粕。高职院校学生在多次享受到ChatGPT带来的满足感后,将可能对ChatGPT产生依赖惰性,从而导致其在课堂上开小差,将需要解答的问题交给ChatGPT,并因此减少了与教师的沟通,且很可能在其心理上默认ChatGPT取代了教师的部分教学任务,使得师生情感互动受阻。这将导致师生之间原先情感上的交流变得难以实现,如果此时师生不能应对ChatGPT带来的风险,将造成怎样的后果则不得而知