解锁LLMs的“思考”能力：Chain-of-Thought(CoT)技术推动复杂推理的新发展1.简介Chain-of-Thought(CoT)是一种改进的Prompt技术，目的在于提升大模型LLMs在复杂推理任务上的表现

第五章处理输入-思维链推理“思维链推理”（ChainofThoughtReasoning）的策略，在查询中明确要求语言模型先提供一系列相关推理步骤，进行深度思考，然后再给出最终答案，这更接近人类解题的思维过程。引导语言模型逐步推理而非直接要求输出结果，可以减少其匆忙错误，生成更准确可靠的响应。思维链推理使语言模型更好地模拟人类逻辑思考，是提升其回答质量的重要策略之一。？如何处理语言模型的输入,以生

thought

例如：很多同学写：interestingbooks对照高分词句列表后，你可以换成：thought-provokingbooks再如：很多同学会写：Cleanairisimportantinourlives

一、写在前面：关于AIAgents与CoT本文是2023.07.24发表在同名公众号「陌北有棵树」上的一篇文章，个人观点是基础理论的学习现在仍是有必要的，所以搬运过来。今天要读的论文是《Chain-of-ThoughtPromptingElicitsReasoninginLargeLanguageModels》，算是关于大模型思维链研究的开山之作。至于为什么把它归到AIAgents系列，其实我最开

通过生成一系列中间推理步骤（即“思维链”）显著提高大型语言模型进行复杂推理的能力这篇论文探讨了如何通过生成一系列中间推理步骤（即“思维链”）显著提高大型语言模型进行复杂推理的能力。研究人员使用一种简单的方法——思维链提示法——提供一些思维链示例作为提示，发现这种方法可以使足够大的语言模型自然地获得这种推理能力。实验结果表明，在三个大型语言模型上进行测试时，思维链提示法可以显著提高在算术、常识和符号

筱轩私塾筱轩私塾6月7日这是筱轩私塾的思维升级（Thought取T开头）的第三篇更文；加入007差不多两个月的时间，写作日更群近一个月的时间；从蔡叔的蚂蚁私塾到晴予的贪心记再到欧神的水库论坛，从水库论坛里金马知道了

(2018-01-30-周二22:18:38)当你复制文本后，再复制URL，即可出现这种情况。（想法URL复制的顺序必须在第二位）

本文内容为笔者学习b站deep_thought老师视频的笔记。本文将从源码角度深入学习剖析四种norm方式的区别。

原创筱轩私塾作者筱轩这是筱轩私塾的思维升级（Thought取T开头）部分的第二篇更文；约1800字，建议阅读时间5分钟。

文献阅读：Exchange-of-Thought:EnhancingLargeLanguageModelCapabilitiesthroughCross-ModelCommunication1.文章简介

为了解决这一难题，清华和微软研究院开发了一种SoT（Skeleton-of-Thought，思维骨架）框架并开源了项目。

我们说人间的好坏，是外在物质也可称念头所构成虚的世界，称之为「念相」（thought-form）。念头是透过自身逻辑，这就是种局限，它是相对比较的一套逻辑，始终离不开「相对」（relative）。

解决问题探索大语言模型解决推理问题的能力。从头训练或微调模型，需要创建大量的高质量含中间步骤的数据集，成本过大。相关工作1、使用中间步骤来解决推理问题（1）使用自然语言通过一系列中间步骤解决数学应用题（2）通过创建更大的数据集微调语言模型，而不是从头训练（3）使用语言模型一行一行的预测中间结果预测最终输出2、采用提示方式（1）少样本提示（2）自动学习提示（3）描述任务的模型指令本文采用一系列思维来

Agent参考资料：智能体入门|MetaGPT组成Agent=LLM+Observation+Thought+Action+Memory-大语言模型（LLM）：LLM作为智能体的“大脑”部分，使其能够处理信息

Abstract强大的视觉主干和大型语言模型(LLM)推理的结合使大型多模态模型(LMM)成为各种视觉和语言(VL)任务的当前标准。然而，最近的研究表明，即使是最先进的LMM仍然难以捕获组合视觉推理的各个方面，例如对象之间的属性和关系。一种解决方案是利用场景图（SG）——对象及其关系和属性的形式化，已被广泛用作视觉和文本领域之间的桥梁。然而，场景图数据需要场景图注释，收集这些注释的成本很高，因此不

Abstract大型语言模型(LLM)通过利用思维链(CoT)提示生成中间推理链作为推断答案的基本原理，在复杂推理方面表现出了令人印象深刻的性能。然而，现有的CoT研究主要集中在语言情态上。我们提出了Multimodal-CoT，它将语言（文本）和视觉（图像）模态合并到一个两阶段框架中，将基本原理生成和答案推理分开。通过这种方式，答案推理可以更好地利用基于多模态信息生成的基本原理。借助Multim

PromptEngineeringCoTCoT-SCToTGoTCoT:Chain-of-Thought通过这样链式的思考，Model输出的结果会更准确CoT-SC:Self-ConsistencyImprovesChainofThoughtReasoninginLanguageModels

论文地址：https://arxiv.org/pdf/2311.04254.pdf一、当前Prompt技术的局限性LLM使用自然语言Prompt可以将复杂的问题分解为更易于管理的“thought”可以回复用户的问题

2.Mike介绍评估团队使用一个创意―TAG，T-thought，A-Action，G-guid

文章目录介绍思路CoT方法Few-shotCoTCoTPrompt设计CoT投票式CoT-自洽性（Self-consistency）使用复杂的CoT自动构建CoTCoT中示例顺序的影响Zero-shotCoT零样本思维链GoT,GraphofThoughts总结介绍在过去几年的探索中，业界发现了一个现象，在增大模型参数量和训练数据的同时，在多数任务上，模型的表现会越来越好。因而，现有的大模型LLM

ThePoliticalThoughtinPhilosophy哲学中的政治思想AccordingtoConfucianism,thedailytaskofdealingwithsocialaffairsinhumanrelationsisnotsomethingalientothesage.按照儒家思想，圣人并不以处理日常事务为苦。Carryingonthistaskistheveryessenc

LangChain系列文章LangChain实现给动物取名字，LangChain2模块化prompttemplate并用streamlit生成网站实现给动物取名字LangChain3使用Agent访问Wikipedia和llm-math计算狗的平均年龄LangChain4用向量数据库Faiss存储，读取YouTube的视频文本搜索IndexesforinformationretrieveLangC

URL：https://codeforces.com/contest/1890目录AProblem/题意Thought/思路Code/代码BProblem/题意Thought/思路Code/代码CProblem

URL：https://pintia.cn/problem-sets/91827364500/exam/problems/91827370530目录Problem/题意Thought/思路Code/代码

指令编写的方法，编写AI提示词（Prompt）的一般步骤4AI提示词（Prompt）的学习重点与意义：4Prompt的应用场景5Prompt也存在一些挑战和限制6大语言模型的预训练：思维链(Chain-of-thought

本文是LLM系列文章，针对《CoF-CoT:EnhancingLargeLanguageModelswithCoarse-to-FineChainCoF-CoT：用粗到细的思想链提示增强多领域NLU任务的大型语言模型摘要1引言2相关工作3提出的框架4实验5结果与讨论6结论局限性摘要虽然思维链提示在推理任务中很受欢迎，但它在自然语言理解（NLU）中的大型语言模型（LLM）中的应用却很少被探索。受LL

GPT模型家族&提示学习1.GPT模型家族：从始至今1.1从GPT-1到GPT-3：一路的风云变幻1.2ChatGPT：赢在哪里2.提示学习（PromptLearning）2.1思维链（Chain-of-Thought

URL：https://codeforces.com/contest/1884目录CProblem/题意Thought/思路Code/代码CProblem/题意有一个长度为M的序列，初始值都为0。

前两天去商场购物，看到几个四十来岁的售货员阿姨在一起聊天，无意中听到了他们的对话:“咱们就找一个好一点的养老院，等咱们几个老了就一起去里面待着，不用他们管咱们”，其中的一个售货员说，“咱们70后是孝敬老人的最后一代，也是不被孝敬的第一代。”这句话在她口中重复了很多遍……旁边的阿姨笑着回应她。其实，乍一听到这句话我的内心是非常震撼的，当时我站在结账处，离他们很近，这是一位身高不算高的女性，手里拿着一

我自己的写作水平很差，我只是来节选一下著名作家ChuckPalahniuk（《搏击俱乐部》作者）的建议(NutsandBolts:“Thought”Verbs)：从现在开始，在接下来最少半年内，你不可以使用

THOUGHTPROPAGATION:ANANALOGICALAPPROACHTOCOMPLEXREASONINGWITHLARGELANGUAGEMODELS前言ABSTRACT1INTRODUCTION2RELATEDWORK2.1GraphNeuralNetwork2.2AnalogicalReasoning2.3Prompt-basedLargeLanguageModelReasoning

:thought_ball

URL：https://atcoder.jp/contests/abc325目录EProblem/题意Thought/思路Code/代码FProblem/题意Thought/思路Code/代码EProblem

URL：https://atcoder.jp/contests/abc293目录EProblem/题意Thought/思路Code/代码EProblem/题意给出A、X、M，求。

URL：https://atcoder.jp/contests/abc324目录EProblem/题意Thought/思路Code/代码FProblem/题意Thought/思路Code/代码EProblem

大家好，我是HxShine。今天分享一篇普林斯顿大学的一篇文章，TreeofThoughts:DeliberateProblemSolvingwithLargeLanguageModels[1]：思维之树:用大型语言模型解决复杂问题。这篇工作还是非常有借鉴意义的，OpenAI的AndrejKarpathy（前TeslaAI高级总监、自动驾驶Autopilot负责人）在stateofgpt[2]中也

URL：https://atcoder.jp/contests/abc295目录EProblem/题意Thought/思路Code/代码EProblem/题意给定长度为N的数组A。

URL：https://atcoder.jp/contests/abc294目录EProblem/题意Thought/思路Code/代码EProblem/题意我们将其当作一个铺路的过程。

Chain-of-ThoughtPromptingElicitsReasoninginLargeLanguageModels前言Abstract1Introduction2Chain-of-ThoughtPrompting3ArithmeticReasoning3,1ExperimentalSetup3.2Results3.3AblationStudy3.4RobustnessofChainofT

URL：https://atcoder.jp/contests/abc297目录FProblem/题意Thought/思路Code/代码FProblem/题意给一个H*W的矩形，在其中任意放置K个点，由这

URL：https://atcoder.jp/contests/abc298目录EProblem/题意Thought/思路Code/代码EProblem/题意A、B轮流投色子，A投出[1,P]点数的概率相等

URL：https://atcoder.jp/contests/abc323目录EProblem/题意Thought/思路Code/代码FProblem/题意Thought/思路Code/代码EProblem

URL：https://atcoder.jp/contests/abc322目录EProbelm/题意Thought/思路Code/代码EProbelm/题意有N个改进计划，每个计划可以执行一次；有K个参数

URL：https://atcoder.jp/contests/abc299目录EProblem/题意Thought/思路Code/代码EProblem/题意给出N（1g[2003];structK{intp

URL：https://atcoder.jp/contests/abc321目录EProblem/题意Thought/思路Code/代码EProblem/题意有一颗N个节点的完全二叉树，现在给出节点X，

动名词的本义是:思虑,谋划、思想;意念〖idea;thought〗那我们把

概要思维链已经在很多任务上取得了非常显著的效果，这篇论文中提出了一种self-consistency的算法，来代替贪婪解码算法。本方法通过采样多个思维链集合，然后LLM模型生成后，选择一个最一致的答案作为最后的结果。一致性思维链认为复杂的推理问题，有不同的思维方式去解决，从而得到最终唯一答案。经过实验验证，一致性思维链取得了显著的提升。方法一致性思维链思想非常经典，我们首先用思维链的方式去prom

概括论文主要描述了一种用思维链的提升LLM模型推理能力的方式，并且通过实验的方式，证明了思维链在算术、常识和符号等任务方面的显著效果。仅通过540B大小的PaLM模型，通过8个思维链样例就可以实现在GSM8K上的sota效果。具体工作这篇论文主要在探索LLM模型的推理能力，LLM模型推理能力可以通过增强学习和ICL得到增强，但是增强学习和ICL提升的效果是有限的并且成本比较高。基于上面的现状和启发

URL：https://atcoder.jp/contests/abc317目录EProblem/题意Thought/思路Code/代码EProblem/题意有四种箭头^、>、vx[2003],vy[2003