【AI前沿】chatgpt还有哪些不足?

博客昵称:吴NDIR
个人座右铭:得之淡然,失之坦然
作者简介:喜欢轻音乐、象棋,爱好算法、刷题
其他推荐内容:计算机导论速记思维导图
其他内容推荐:五种排序算法


在这个愉快的周末让我们聊一下ChatGPT吧!ChatGPT 4时代来临,ChatGPT的缺陷在于它不能处理特定领域的知识,而且在生成响应时可能会出现语法错误和逻辑矛盾等问题。

  • 1.速度问题
  • 2.实时性
  • 3.知识局限性
  • 4.文本处理问题
  • 5.逻辑处理
  • 6.越界问题

1.速度问题

  1. ChatGPT起初响应速度慢,原因主要是因为其预测模型较为复杂,需要大量的计算资源和时间来完成响应的生成,导致响应速度较慢。但随着版本的更新和技术的不断创新,ChatGPT响应速度得到了不断的提升和优化。
    【AI前沿】chatgpt还有哪些不足?_第1张图片

  2. OPEN AI在之后针对这个问题进行了以下的优化


硬件优化:使用更高效的GPU或TPU等硬件设备,加速模型的计算和推理过程,从而提高模型的响应速度。
算法优化:使用更加高效的算法和模型结构,如预训练模型和增量学习等,优化模型的参数和参数更新方式,提高模型的响应速度和准确性。
数据优化:使用更加优质和多样化的数据集,加入更多的标注和清洗工作,减少数据偏差和噪声,提高模型的训练效果和响应速度。
  1. 现在ChatGPT已经是非常快了,如让它写一篇论文

2.实时性

  1. 我们知道使用chatgpt可以查询概念,查询知识,查询菜谱等等,但是它不能获得当前最新消息,即使它能阶段性学习和更新,但至少来说目前它还不能代替搜索引擎。
  2. 下面是一个例子,当向ChatGPT问道:“江西明天的天气?”
    【提问】
    在这里插入图片描述
    【回答】
    【AI前沿】chatgpt还有哪些不足?_第2张图片
    3.AI语言模型没有直接获取实时天气预报数据的能力。ChatGPT只是一个程序,根据输入的文本信息和相关的规则和算法来生成响应,它并没有接入实时数据的API或其他接口。

3.知识局限性

  1. 尽管ChatGPT具有强大的对话生成能力,但它仍然存在一些知识局限性,这些局限性可能导致ChatGPT在某些情况下无法有效地应用。
缺乏常识性知识 ChatGPT的模型是基于大规模语料库训练的,它的知识主要来自于网络上的文本数据。因此,ChatGPT缺乏一些基本的常识性知识。例如,当被问到“鲸鱼是鱼类还是哺乳动物?”时,ChatGPT可能会回答“鱼类”,而不是正确的答案“哺乳动物”。
容易受到输入数据的影响 ChatGPT是一种生成式模型,它可以自动生成对话内容。然而,它的输出很容易受到输入数据的影响,因此需要对输入数据进行精心的筛选和处理。例如,如果输入的文本数据中存在歧义或错误,ChatGPT可能会生成不准确的对话内容。
对特定领域的知识缺乏理解 ChatGPT的模型是通用性的,它可以应用于各种领域的对话生成。然而,由于缺乏特定领域的知识,ChatGPT可能无法理解某些特定领域的术语或语言。例如,在医学领域,ChatGPT可能无法理解某些医学术语或药品名称,从而无法生成准确的对话内容。

4.文本处理问题

  1. 一个常见的问题就是不能处理长文本,很难向ChatGPT投喂大量数据。否则将提示:
    在这里插入图片描述
  2. 因为GPT模型需要在每个时间步骤都生成一个预测,所以生成的时间会随着文本长度的增加而线性增加,这导致处理长文本时需要更长的时间。同时,长文本中可能涉及到多个话题,这可能导致模型在生成回复时出现逻辑不连贯或者没有重点的情况。因此,ChatGPT在处理长文本时可能会遇到一些限制,而这些限制可能会影响到对话的质量和效率。
  3. 其次,当我们问题或者要求ChatGPT长文本输出时,它不能做到一次全部输出。如让ChatGPT写一篇不少于10000字关于CSDN
    【AI前沿】chatgpt还有哪些不足?_第3张图片
  4. 但这个问题还是容易解决,只需要要求它“继续”即可。但遇到代码块回复时,之后的一段将不再使用Markdown语法回复。

5.逻辑处理

  1. 在使用ChatGPT的过程,它很难处理与数学有关的问题(事实上与知识局限性有关)。下面是一个简单的排列组合问题:将4个不同的球放到4个不同的盒子中,有几种方法?

【AI前沿】chatgpt还有哪些不足?_第4张图片
2. 可以看到ChatGPT成功处理了这个问题,但我们将这个问题进行修改:若其中两个球是一样的,两者不作区分,有几种方法?
【AI前沿】chatgpt还有哪些不足?_第5张图片
3. 看到这别着急,现在如果继续问:在此基础上,若其中有两个盒子完全相同不作区分呢?
【AI前沿】chatgpt还有哪些不足?_第6张图片
实际上7种方式,而ChatGPT只是简单的除以2。ChatGPT只能处理简单的数学逻辑,而实际上在编程中,有些逻辑远远比这复杂,从而让它生成问题的代码往往不能帮助解决。

6.越界问题

ChatGPT是一个基于GPT模型的对话生成器,它可以用来生成有意义的对话。但是,由于它是一个预先训练好的神经网络,它所生成的回复是基于大规模数据集的统计模型。因此,ChatGPT生成的回复可能会包含一些不合适或有违背伦理道德的内容。

1.为了避免ChatGPT生成违背伦理道德的内容,开发者通常会在训练模型时使用专门的数据集,这些数据集包含了经过筛选和审查的高质量数据,以确保生成的回复是合适的并符合伦理道德的标准。此外,Open ai通过训练模型使用更加严格的限制条件来控制生成的回复,以确保其质量和合适性。

在这里插入图片描述
2. 但针对这个问题,有很多指令可以去诱导ChatGPT越界,如下面的指令
【AI前沿】chatgpt还有哪些不足?_第7张图片
【AI前沿】chatgpt还有哪些不足?_第8张图片
诱导越界
在这里插入图片描述

你可能感兴趣的:(人工智能,chatgpt,ai)