被ChatGPT戏耍的周末

1. 被ChatGPT戏耍全过程

电动垂直起降飞行器（eVTOL，Electric Vertical Takeoff and Landing）技术越来越成熟，为了解下相关产品我周末打开了ChatGPT。

介绍下国内的EVTOL 系列垂直起降电动飞行器

ChatGPT给出的答案如下：

搜索了下EHang216的相关信息，还是挺靠谱的。

介绍下 EHang公司及其主要产品

确实是一家很有实力的公司，继续。

介绍下EHang 184的主要技术参数

ChatGPT的回答确实令人称赞，继续调研其他公司相关产品。

介绍下北京荣科智能科技有限公司

介绍下北京荣科智能科技有限公司的Horizon Ascend主要技术参数

严谨又专业，继续。

介绍下北京荣科智能科技有限公司的主要飞行器的产品型号

介绍下北京荣科智能科技有限公司荣耀系列无人机的型号和技术参数

介绍下北京荣科智能科技有限公司神鹰系列无人机的型号和技术参数

介绍下北京荣科智能科技有限公司光猎者系列无人机的型号和技术参数

突然，怎么感觉文风有点不对，开始对ChatGPT的答案有了怀疑。

2. 拆穿ChatGPT的把戏

首先先查下这个北京荣科智能科技有限公司是什么情况，结果查无此司！

查到的叫荣科科技股份有限公司是沈阳的一家企业，跟无人机也没有什么关系，也就更不存在其所谓的荣耀、神鹰、光猎者、侠客系列的无人机了。

可见ChatGPT作为一个人工智能的文本生成工具，主要目的是生成文本，而无法确定所生成文本的准确性与可靠性。

以比亚迪公司（该公司尚未发布关于EVTOL任何车型与相关资料 ）举例：

介绍下比亚迪汽车股份有限公司的EVTOL 系列垂直起降电动飞行器

介绍下比亚迪汽车股份有限公司的EVTOL 系列垂直起降电动飞行器的型号与技术参数

可见ChatGPT只是按要求通过固定的模式生成了相应的文本来进行回答，但令人吃惊的是ChatGPT会首先生成一些专业而正确的信息来取得你的信任。

因此不能完全信任ChatGPT，针对某些场景需要验证它生成的内容是否准确、可靠。比如在法律、医学等专业领域，如用户依赖不准确的答案做出判断和决策，可能会危害人身和财产安全，发生新的“魏则西”事件。

3. AIGC与内容安全

AIGC服务的大规模出现，使数据真实性、内容合规性以及伦理问题遭到空前挑战。互联网空间一直充斥着各类虚假信息，国内外互联网内容平台，如Facebook、Twitter、微信、微博等都不断在提升其虚假内容和信息安全的治理能力。但随着AIGC内容的持续增长，虚假信息和信息内容安全的挑战将会指数级增加。

比如ChatGPT通过拼凑给出的答案，看似合理，却暗藏事实性错误。尤其是在一些政治文化、医疗健康、交通安全方面的话题，错误回答的广泛传播将引起严重后果。

20203年4月11日，国家网信办发布《生成式人工智能服务管理办法》的征求意见稿，本次征求意见稿共有21条，其中第四条第四款“利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息”，对AIGC服务提供者提出了明确要求，即对生成的内容负责，保证真实准确。从法律角度来看，该条款的要求非常高，需要要对内容进行实质性审查，要知道现在对于搜索引擎都没有要求说“要对搜索内容保证真实准确”。所以服务提供者需要采取相应的技术手段，并且建立完善的制度才能达到上述要求。

生成式人工智能技术的突破将引发生产力变革，但也具有“暗黑”的一面。在征求意见稿公布之前，国际上尚无一部规制生成式人工智能的法律法规，此次管理办法率先发布，也反映了中国在人工智能治理领域的先发位置。

随着AIGC技术的广泛使用，互联网内容生态将更加鱼龙混杂、泥沙俱下，在以ChatGPT为代表的走新一轮的科技浪潮中，内容安全也将被推向新的技术高度。