2 什么是思考，怎样更好地思考

• 思想实验1：图灵测试，对机器智慧的终极测试

    • 图灵测试只关心及其是否拥有智能（thinking），

    • 哲学家和普通人都关心的：

        ○ 意向intentionality：心智在场mind、表达、代表事物的能力

        ○ 意识consciousness：自我

        ○ 意志will：自主选择

    • 哲学家John Searle把拥有意向、意识、意志的机器智能叫做强人工智能strong AI，没有的那些只会推断、计算，解决具体问题的叫做弱人工智能weak AI

• 思想实验2：中文屋子Chinese room，机器可能会通过图灵测试

    • Searle把自己当成图灵测试中的机器角色

    • 即使通过图灵测试，也是只会计算的机器，不会拥有与人等价的智慧，最多只是貌似而已

    • 强人工智能不可能只通过计算获得，他有赖与大脑中尚未揭开的某个特殊机理

• 思想实验3：亿年机器人，机器可以获得强人工智能

    • 方案：制造一个能感知环境、回避风险、寻找资源的机器人，把休眠舱放入

    • 从自然中学习到的策略：不动，是植物策略，能动，是动物策略

    • 该思想实验要求机器人择机而动，自己制定策略，且多个机器人能彼此竞争、合作，要具有合纵连横的能力，需求层层嵌套

    • 机器人会在保存你生命的最终目标下，根据环境变迁骂自己衍生出许多次生目标，衍生意味着脱离，允许机器有自动决策权会导致有一天他的进程一定会超越你的预想范围，失控

    • 这个机器人就是人类自己，基因创造出人来做他们的机器人，但在基因不得不让渡自主决策空间中，人类演化出了自由意志，基因失控，人类自立，成为注定的结果

    • 既然人本来就是机器，机器何尝不能是人？

    • 因此，不需要神秘的大脑特殊机理，运算层层嵌套，足以涌现出与人类相当的智慧，因为人类智慧亦不外乎是

    • 这个思想实验来自丹尼特的《直觉泵与其他思维工具》，直觉泵指在没有证据、数据的地方，我们从公认的直觉开始做思想实验，看它能将我们带到何方