【学习笔记】生成式AI(ChatGPT原理,大型语言模型)

ChatGPT原理剖析

【学习笔记】生成式AI(ChatGPT原理,大型语言模型)_第1张图片

  • 语言模型 == 文字接龙
    【学习笔记】生成式AI(ChatGPT原理,大型语言模型)_第2张图片
  • ChatGPT在测试阶段是不联网的。

ChatGPT背后的关键技术:预训练(Pre-train)

  • 又叫自监督式学习(Self-supervised Learning),得到的模型叫做基石模型(Foundation Model)。在自监督学习中,用一些方式“无痛”生成成对的学习资料。
    【学习笔记】生成式AI(ChatGPT原理,大型语言模型)_第3张图片
    【学习笔记】生成式AI(ChatGPT原理,大型语言模型)_第4张图片
    【学习笔记】生成式AI(ChatGPT原理,大型语言模型)_第5张图片
    【学习笔记】生成式AI(ChatGPT原理,大型语言模型)_第6张图片
  • GPT1 -> GPT2 -> GPT3 (参数量增加,通过大量网络资料学习,这一过程称为预训练),GPT -> ChatGPT (增加人类老师提供的资料学习),GPT到ChatGPT增加的继续学习的过程就叫做 微调 (finetune)。

预训练多有帮助呢?

  • 在多种语言上做预训练后,只要教某一个语言的某一个任务,自动学会其他语言的同样任务。
    【学习笔记】生成式AI(ChatGPT原理,大型语言模型)_第7张图片
  • 当在104种语言上预训练,在英语数据上微调后在中文数据上测试的结果(78.8的F1值),和在中文数据上微调并在中文数据上测试的结果(78.1的F1值)相当。
    【学习笔记】生成式AI(ChatGPT原理,大型语言模型)_第8张图片

ChatGPT带来的研究问题

  • 1.如何精准提出需求
  • 2.如何更正错误【Neural Editing】
  • 3.侦测AI生成的物件
    • 怎么用模型侦测一段文字是不是AI生成的
  • 4.不小心泄露秘密?【Machine Unlearning】

对于大型语言模型的两种不同期待 Finetune vs. Prompt

【学习笔记】生成式AI(ChatGPT原理,大型语言模型)_第9张图片

  • 成为专才,对预训练模型做改造,加外挂和微调参数。
    【学习笔记】生成式AI(ChatGPT原理,大型语言模型)_第10张图片
    【学习笔记】生成式AI(ChatGPT原理,大型语言模型)_第11张图片
  • 成为通才,机器要学会读题目描述或者题目范例
    • 题目叙述–Instruction Learning
    • 范例–In-context Learning
  • In-context Learning
    【学习笔记】生成式AI(ChatGPT原理,大型语言模型)_第12张图片
  • 给机器的范例的domain是很重要的;范例的数量并不需要很多,并不是通过范例进行学习,范例的作用只是唤醒模型的记忆;也就是说,语言模型本来就会做情感分析,只是需要被指出需要做情感任务。
  • Instruction-tuning
    【学习笔记】生成式AI(ChatGPT原理,大型语言模型)_第13张图片

你可能感兴趣的:(人工智能,chatgpt,学习)