https://inst.eecs.berkeley.edu/~cs188/sp26/

人工智能是什么

书中用两个维度来划分「什么是人工智能」：一是以人为准还是以理性为准，二是看「思考」还是看「行为」。两两组合，就得到四种不同的进路。

一、类人行为（像人一样行动）

最著名的当属图灵测试和完全图灵测试。要通过图灵测试，计算机至少需要这几类能力：自然语言处理（用人类语言交流）、知识表示（存储和调用知识）、自动推理（根据已有信息回答问题）、以及机器学习（适应新环境、发现和利用规律）。完全图灵测试则更进一步，要求与物理世界交互，因此还要有机器视觉与语音识别来感知环境，以及机器人学来执行动作。

二、类人思考（像人一样思考）

这一路最看重认知建模：不只看结果对不对，还要看推理的步骤、顺序和节奏是否和人类解题时相近。认知科学就是在做这件事。

三、理性思考（按理性法则思考）

这一派用逻辑和形式推理来刻画「正确思考」，传统上假定我们对世界的描述是确定的、没有歧义的。但现实里往往充满不确定，单靠逻辑不够用，概率论就成了弥补这一点的关键工具。

四、理性行为（按理性方式行动）

智能体指的是「能主动采取行动的东西」。这一派关心的是：智能体在给定信息和信念下，如何选择行动才能最大化期望结果（或在不确定下做出最优决策）——也就是理性智能体。书中把这一点视为人工智能的核心目标。类似地，每个学科都有自己的核心关切，比如经济学关心决策者如何最大化效用或某种意义上的社会福利。

人工智能的目标

人工智能的目标，可以概括为：研究和构建「做正确的事」的智能体。但「正确」不能只由我们下的指令来定义，否则会出问题。

举个例子：我们让智能体从 A 点开到 B 点，并规定不能伤害行人。若智能体只把「到达 B 点」当成唯一目标，而把「不伤害行人」当成可选项，它可能会选择碾过行人以更快到达——在它看来，这也是在「做正确的事」。目标和人类真实价值之间的这种错位，就是价值对齐问题。我们真正需要的，不是仅仅完成任务的智能体，而是与人类价值观一致、可被证明对人类有益的智能体。