AI一点通： chatGPT等大模型是如何“深呼吸”和“一步一步思考”的？

“深呼吸” 和 “一步一步地思考” 是你可能用来帮助某人专注于解决问题的短语。令人惊讶的是，当这些短语用于提示大型语言模型（LLM）时，尤其是在与数学相关的查询中，生成的响应似乎更准确或更有条理。这是否意味着 AI 实际上变得更聪明了？这背后有什么原因？让我们探讨一下。

神奇词汇现象

研究表明，当提示中包含像 “深呼吸” 或 “一步一步地思考” 这样的短语时，生成的响应在解决数学问题或其他复杂问题的情境下表现得更准确或更有条理。这是否意味着 AI 突然具备了呼吸或参与类似人类的认知处理的能力？并非如此。

这是为什么？

答案在于大型语言模型用于学习的训练数据。这些模型是在来自书籍、网站、论坛和其他人类书面文本存在的来源的庞大数据集上进行训练的。通常，人们在回答问题或解释复杂主题之前会使用像 “深呼吸” 或 “一步一步地思考” 这样的短语。模型的改进表现本质上是对人类行为的模仿。

数据至关重要

LLM 实际上不能深呼吸或一步一步地思考，因为它们没有肺、身体或人类的认知能力。这些模型展示的 “推理” 是从它们在训练过程中所借用的庞大数据集中得来的。当我们在提示中包括像 “深呼吸” 或 “一步一步地思考” 这样的短语时，我们实际上是在推动模型进入其训练数据中可能包含更有条理、更精心构建的响应的片段。

关于 “推理” 的争议

值得注意的是， “推理” 这个词在人工智能领域的专家中是一个有争议的话题。虽然它通常用于描述复杂算法的操作，但有些人认为它不准确地拟人化了与人类认知在根本上不同的机器过程。

结论

本质上，使用像 “深呼吸” 或 “一步一步地思考” 这样的短语在提示中并不能让 AI 变得更聪明或更有人类般的思维能力。相反，它使查询与模型训练数据中存在的详细、精心考虑的响应保持一致，从而可以提高其输出的质量。因此，下次你在寻找大型语言模型更有思考性的答案时，你可能会发现一点 “提示魔法” 会大有帮助。

阅读英文版

原文

AI好书推荐

AI日新月异，但是万丈高楼拔地起，离不开良好的基础。您是否有兴趣了解人工智能的原理和实践？ 不要再观望！ 我们关于 AI 原则和实践的书是任何想要深入了解 AI 世界的人的完美资源。 由该领域的领先专家撰写，这本综合指南涵盖了从机器学习的基础知识到构建智能系统的高级技术的所有内容。 无论您是初学者还是经验丰富的 AI 从业者，本书都能满足您的需求。 那为什么还要等呢？

人工智能原理与实践 全面涵盖人工智能和数据科学各个重要体系经典

北大出版社，人工智能原理与实践 人工智能和数据科学从入门到精通 详解机器学习深度学习算法原理