ChatGPT安全受质疑 网信办发布生成式人工智能服务管理办法意见稿

你是否曾经和一款人工智能对话?它们似乎能够理解你的问题,并给出令人满意的答案。ChatGPT是目前最流行的人工智能。它是由OpenAI开发的一款基于GPT技术的自然语言处理模型。
ChatGPT安全受质疑 网信办发布生成式人工智能服务管理办法意见稿_第1张图片
通过训练大量的文本数据,ChatGPT可以理解并回答用户的问题,与用户进行自然、流畅的对话。ChatGPT的火爆程度可以从多个方面得到体现。ChatGPT爆火 安全性遭质疑
ChatGPT安全受质疑 网信办发布生成式人工智能服务管理办法意见稿_第2张图片
ChatGPT在社交媒体平台上的用户数量非常庞大,明星、科技大佬等等都使用,在商业应用方面也表现出了强大的实力。如今ChatGPT的全球用户已经超一亿,它的火爆程度远远超出了人们的想象。随着ChatGPT的爆火,ChatGPT安全性备受质疑,包括其它开源的GPT模型在内的生成式人工智能服务的。近期,意大利和加拿大等国家因隐私和安全问题暂时禁用了ChatGPT,并以安全问题调查ChatGPT母公司OpenAI事件,引发了广泛的关注和讨论。OpenAI正式回应安全性问题4月5日OpenAI官方博客更新了一篇博客,博客主要分为六大角度:1. 围绕安全、不断升级;2.立足现实、完善保障;3.保护儿童;4.尊重隐私;5.精准产出、尊重事实;6.持续投入、促进合作。
ChatGPT安全受质疑 网信办发布生成式人工智能服务管理办法意见稿_第3张图片
Open AI认为,提升AI系统的安全性并非一个简单的过程,需要长期投入,并与政策制定者等主体开展广泛的合作。随着AI在全球范围内的普及,AI生态系统已经在逐步建立,这对全球范围内的技术和制度创新都将是一个新的挑战。三、国家网信办发布的《生成式人工智能服务管理办法(征求意见稿)》为促进生成式人工智能技术健康发展和规范应用,4月11日,国家网信办发布《生成式人工智能服务管理办法(征求意见稿)》(以下简称《管理办法》)。《管理办法》共计二十一条,其中“生成式人工智能”指的是,基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。《管理办法》规定了生成式人工智能服务的注册、备案、安全评估、运营等方面的管理要求。《管理办法》还要求服务提供方要对生成的文本内容进行审核,确保其不包含违法信息。对于未经备案的生成式人工智能服务,有关部门将采取行政处罚等措施。国内一些比较火的ChatGPT接口已经进入了整改状态。
ChatGPT安全受质疑 网信办发布生成式人工智能服务管理办法意见稿_第4张图片
结语:随着生成式人工智能技术的不断发展,人工智能的普及越来越广泛。然而,这些服务存在的安全隐患也越来越明显。加强对生成式人工智能服务的监管是必不可少的。只有这样,用户才能安心使用这些服务,而不必担心个人信息泄露和网络攻击等问题。我们期待有关部门尽快出台更加完善的管理办法,加强对生成式人工智能服务的监管,为用户提供更加安全、便捷的服务。

你可能感兴趣的:(人工智能)