2023人工智能基础.docx

人工智能基础2023目录人工智能基础1第1章绪论41.1 什么是人工智能51.1.1 类人行为：图灵测试方法51.1.2 类人思考：认知建模方法61.1.3 理性思考：“思维法则”方法71.1.4 理性行为：理性智能体方法81.2 人工智能的基础121.2.1 哲学121.2.2 数学161.2.3 经济学181.2.4 神经科学201.2.5 心理学221.2.6 计算机工程241.2.7 控制理论与控制论261.2.8 语言学281.3 人工智能的历史291.3.1 人工智能的诞生(19431956)291.3.2 早期热情高涨，期望无限(19521969)311.3.3 一些现实(19661973)341.3.4 专家系统(19691986)361.3.5 神经网络的回归(1986现在)391.3.6 概率推理和机器学习(1987现在)391.3.7 大数据(2001现在)411.3.8 深度学习(2011现在)421.4 目前的先进技术441.5 人工智能的风险和收益50小结55读者服务：错误!未定义书签。第2章智能体572.1 智能体和环境582.2 良好行为：理性的概念612.2.1 性能度量612.2.2 理性622.2.3 全知、学习和自主632.3 环境的本质662.3.1 指定任务环境66232任务环境的属性682.4 智能体的结构732.4.1 智能体程序732.4.2 简单反射型智能体752.4.3 基于模型的反射型智能体782.4.4 基于目标的智能体802.4.5 基于效用的智能体822.4.6 学习型智能体84872.4.7 智能体程序的组件如何工作第1章绪论在本章中，我们将解释为什么我们认为人工智能是一个最值得研究的课题，并试图定义人工智能究竟是什么。这是开启人工智能学习之旅之前不错的准备。我们称自己为智人(有智慧的人)，因为智能(intelligence)对我们来说尤其重要。几千年来，我们一直试图理解我们是如何思考和行动的，也就是不断地了解我们的大脑是如何凭借它那小部分物质去感知、理解、预测并操纵一个远比其自身更大更复杂的世界。人工智能(artificialintelligence,Al)领域不仅涉及理解，还涉及构建智能实体。这些智能实体机器需要在各种各样新奇的情况下，计算如何有效和安全地行动。人工智能经常被各种调查列为最有趣、发展最快的领域之一，现在每年创造的价值超过一万亿美元。人工智能专家李开复预测称，人工智能对世界的影响“将超过人类历史上的任何事物:此外，人工智能的研究前沿仍是开放的。学习较古老科学(如物理学)的学生可能会认为最好的想法都已经被伽利略、牛顿、居里夫人、爱因斯坦等人发现了，但当下人工智能仍然为专业人员提供了许多机会。目前，人工智能包含大量不同的子领域，从学习、推理、感知等通用领域到下棋、证明数学定理、写诗、驾车或诊断疾病等特定领域。人工智能可以与任何智能任务产生联系，是真正普遍存在的领域。1.1 什么是人工智能我们声称人工智能很有趣，但是我们还没有描述它是什么。历史上研究人员研究过几种不同版本的人工智能。有些根据对人类行为的复刻来定义智能，而另一些更喜欢用“理性”(rationality)来抽象正式地定义智能，直观上的理解是做“正确的事情”。智能主题的本身也各不相同：一些人将智能视为内部思维过程和推理的属性，而另一些人则关注智能的外部特征，也就是智能行为。山Ill公众有时会将“人工智能”和“机器学习''这两个术语混淆。机器学习是人工智能的子领域，研究基于经验提升表现的能力。有些人工智能系统使用机器学习方法来获得能力，有些则不然。从人与理性以及思想与行为这两个维度来看，有4种可能的组合，而且这4种组合都有其追随者和相应的研究项目。他们所使用的方法必然是不同的：追求类人智能必须在某种程度上是与心理学相关的经验科学，包括对真实人类行为和思维过程的观察和假设；而理性主义方法涉及数学和工程的结合，并与统计学、控制理论和经济学相联系。各个研究团体既互相轻视又互相帮助。接下来，让我们更细致地探讨这4种方法。2我们并不是在暗示人类是“非理性的"，不是像字典上所说的“被剥夺了正常的心智清晰度我们只是承认人类的决策在数学上并不总是完美的。1.1.1 类人行为：图灵测试方法图灵测试(Turingtest)是由艾伦图灵(AlanTuring)提出的(Turing,1950),它被设计成一个思维实验，用以回避“机器能思考吗？”这个哲学上模糊的问题。如果人类提问者在提出一些书面问题后无法分辨书面回答是来自人还是来自计算机，那么计算机就能通过测试。在第27章中，我们会讨论图灵测试的细节，以及一台通过图灵测试的计算机是否真的具备智能。目前，为计算机编程使其能够通过严格的应用测试尚有大量工作要做。计算机需要具备下列能力：自然语言处理(naturallanguageprocessing),以使用人类语言成功地交流；知识表示(knowledgerepresentation),以存储它所知道或听到的内容； 自动推理(automatedreasoning),以回答问题并得出新的结论； 机器学习(machinelearning),以适应新的环境，并检测和推断模式。图灵认为，没有必要对人进行物理模拟来证明智能。然而，其他研究人员提出了完全图灵测试(IotalTuringtest),该测试需要与真实世界中的对象和人进行交互。为了通过完全图灵测试，机器人还需要具备下列能力： 计算机视觉(computervision)和语音识别功能，以感知世界； 机器人学(robotics),以操纵对象并行动。以上6个学科构成了人工智能的大部分内容。然而，人工智能研究人员很少把精力用在通过图灵测试上，他们认为研究智能的基本原理更为重要。当工程师和发明家停止模仿鸟类，转而使用风洞并学习空气动力学时，对“人工飞行”的探索取得了成功。航空工程学著作并未将其领域的目标定义为制造“能像鸽子一样飞行，甚至可以骗过其他真鸽子的机器1.1.2类人思考：认知建模方法我们必须知道人类是如何思考的，才能说程序像人类一样思考。我们可以通过3种方式了解人类的思维：内省(introspection)试图在自己进行思维活动时捕获思维；心理实验(PSyChOIOgiCaIeXPeriment)观察一个人的行为；大脑成像(brainimaging)观察大脑的活动。一旦我们有了足够精确的心智理论，就有可能把这个理论表达为计算机程序。如果程序的输入/输出行为与相应的人类行为相匹配，那就表明程序的某些机制也可能在人类中存在。例如,开发通用问题求解器(GeneralProblemSolver,GPS)的艾伦纽厄尔(AlanNewell)和赫伯特西蒙(HerbertSimon)并不仅仅满足于让他们的程序正确地求解问题，他们更关心的是将推理步骤的顺序和时机与求解相同问题的人类测试者进行比较(NeWenandSimon,1961)o认知科学(CognitiVeSCienCe)这一跨学科领域汇集了人工智能的计算机模型和心理学的实验技术，用以构建精确且可测试的人类心智理论。认知科学本身是一个引人入胜的领域，值得用多本教科书和至少一部百科全书(WilSOnandKeiI,1999)来介绍。我们会偶尔评论人工智能技术和人类认知之间的异同，但真正的认知科学必须建立在对人类或动物实验研究的基础上。这里，我们假设读者只有一台可以做实验的计算机，因此我们将把这方面的内容留给其他书籍。在人工智能发展的早期，这两种方法经常会混淆。有作者认为，如果算法在某个任务中表现良好，就会是建模人类表现的良好模型，反之亦然。而现代作者将这两种主张分开，这种区分使人工智能和认知科学都得到了更快的发展。这两个领域相互促进，值得一提的是计算机视觉领域，它将神经生理学证据整合到了计算模型中。最近，将神经影像学方法与分析数据的机器学习技术相结合，开启了“读心”能力(即查明人类内心思想的语义内容)的研究。这种能力反过来可以进一步揭示人类认知的运作方式。1.1.3 理性思考：“思维法则”方法希腊哲学家亚里士多德是最早试图法则化“正确思维，的人之一，他将其定义为无可辩驳的推理过程。他的三段论(syllogism)为论证结构提供了模式，当给出正确的前提时，总能得出正确的结论。举个经典的例子，当给出前提苏格拉底是人和所有人都是凡人时，可以得出结论苏格拉底是凡人。这个例子可能是塞克斯都恩披里柯(SextusEmpiricus)提出的而不是亚里士多德提出的。这些思维法则被认为支配着思想的运作，他们的研究开创了一个称为逻辑(logic)的领域。19世纪的逻辑学家建立了一套精确的符号系统，用于描述世界上物体及其之间的关系。这与普通算术表示系统形成对比，后者只提供关于数的描述。到1965年，任何用逻辑符号描述的可解问题在原则上都可以用程序求解。人工智能中所谓的逻辑主义(IogiCiSm)传统希望在此类程序的基础上创建智能系统。按照常规的理解，逻辑要求关于世界的认知是确定的，而实际上这很难实现。例如，我们对政治或战争规则的了解远不如对国际象棋或算术规则的了解。概率(PrObability)论填补了这一鸿沟，允许我们在掌握不确定信息的情况下进行严格的推理。原则上，它允许我们构建全面的理性思维模型，从原始的感知到对世界运作方式的理解，再到对未来的预测。它无法做到的是形成智能行为。为此，我们还需要关于理性行为的理论，仅靠理性思考是不够的。1.1.4 理性行为：理性智能体方法智能体(agent)就是某种能够采取行动的东西(agent来自拉丁语agere,意为“做”)。当然，所有计算机程序都可以完成一些任务，但我们期望计算机智能体能够完成更多的任务：自主运行、感知环境、长期持续存在、适应变化以及制定和实现目标。理性智能体(rationalagent)需要为取得最佳结果或在存在不确定性时取得最佳期望结果而采取行动。基于人工智能的“思维法则”方法重视正确的推断。做出正确的推断有时是理性智能体的一部分，因为采取理性行为的一种方式是推断出某个给定的行为是最优的，然后根据这个结论采取行动。但是，理性行为的有些方式并不能说与推断有关。例如，从火炉前退缩是一种反射作用，这通常比经过深思熟虑后采取的较慢的动作更为成功。通过图灵测试所需的所有技能也使智能体得以采取理性行为。知识表示和推理能让智能体做出较好的决策。我们需要具备生成易于理解的自然语言句子的能力，以便在复杂的社会中生存。我们需要学习不仅是为了博学多才，也是为了提升我们产生高效行为的能力，尤其是在新环境下，这种能力更加重要。与其他方法相比，基于人工智能的理性智能体方法有两个优点。首先，它比“思维法则”方法更普适，因为正确的推断只是实现理性的几种可能机制之一。其次，它更适合科学发展。理性的标准在数学上是明确定义且完全普适的。我们经常可以从这个标准规范中得出可以被证明能够实现的智能体设计，而把模仿人类行为或思维过程作为目标的设计在很大程度上是不可能的。由于上述这些原因，在人工智能领域的大部分历史中，基于理性智能体的方法都占据了上风。在最初的几十年里，理性智能体建立在逻辑的基础上，并为了实现特定目标制定了明确的规划。后来，基于概率论和机器学习的方法可以使智能体在不确定性下做出决策，以获得最佳期望结果。简而言之，人工智能专注于研究和构建做正确的事情的智能体，其中正确的事情是我们提供给智能体的目标定义。这种通用范式非常普遍，以至于我们可以称之为标准模型(standardmodel)o它不仅适用于人工智能，也适用于其他领域。控制理论中，控制器使代价函数最小化；运筹学中，策略使奖励的总和最大化；统计学中，决策规则使损失函数最小；经济学中，决策者追求效用或某种意义的社会福利最大化。然而在复杂的环境中，完美理性(总是采取精确的最优动作)是不可行的，它的计算代价太高了，因此需要对标准模型做一些重要的改进。第5章和第17章会探讨有限理性(limitedrationality)的问题，也就是在没有足够时间进行所有可能的计算的情况下，适当地采取行动。但是，完美理性仍然是理论分析的良好出发点。1.1.5 益机团31根据beneficialinsect的翻译“益虫”，将beneficialmachine翻译成“益机译者注自标准模型被提出以来，其一直是人工智能研究的指南，但从长远来看，它可能不是一个正确的模型，原因是标准模型假设我们总是为机器提供完全指定的目标。人为定义的任务，如国际象棋或最短路径计算之类的，都附带固有的目标，因此标准模型是适用的。然而，在真实世界中，我们越来越难以完全正确地指定目标。例如，在设计自动驾驶汽车时，我们可能会认为目标是安全到达目的地。但是，由于存在其他司机失误、设备故障等原因，在任何道路上行驶都有可能受伤，因此，严格的安全目标是要求待在车库里而不要上路驾驶。向目的地前进和承担受伤风险是需要权衡的，应该如何进行这种权衡？此外，我们能在多大程度上允许汽车采取会惹恼其他司机的行动？汽车应该在多大程度上调控其加速、转向和刹车动作，以避免摇晃乘客？这类问题很难预先回答。在人机交互的整个领域，这些问题尤其严重，自动驾驶只是其中一个例子。在我们的真实需求和施加给机器的目标之间达成一致的问题称为价值对齐问题(valuealignmentproblem),即施加给机器的价值或目标必须与人类的一致。如果我们在实验室或模拟器中开发人工智能系统(就像该领域的大多数历史案例一样)，就可以轻松地解决目标指定不正确的问题：重置系统、修复目标然后重试。随着人工智能的发展，越来越强大的智能系统需要部署在真实世界中，这种方法不再可行。部署了错误目标的系统将会导致负面影响，而且，系统越智能，其负面影响就越严重。回想看似没有问题的国际象棋案例，想象一下，如果机器足够智能，可以推断并采取超出棋盘限制的动作，会发生什么。例如，它可能试图通过催眠或勒索对手，或贿赂观众在对手思考时发出噪声等手段来增加获胜的机会。图它也可能会为自己劫持额外的计算能力。这些行为不是“愚蠢”或“疯狂''的，这些行为是将获胜定义为机器唯一目标的逻辑结果。41鲁伊洛佩兹(RUyLopez)在最早的一本关于国际象棋的书(Lopez,1561)中写道：“把棋盘放好,让阳光晃进对手的眼睛。”一台实现固定目标的机器可能会出现很多不当行为，要预测所有不当行为是不可能的。因此，我们有足够理由认为标准模型是不充分的。我们不希望机器“聪明”地实现它们的目标，而是希望它们实现我们的目标。如果我们不能将这些目标完美地传达给机器，就需要一个新的表述，也就是机器正在实现我们的目标，但对于目标是什么则是不确定的。当一台机器意识到它不了解完整的目标时，它就会有谨慎行动的动机，会寻求许可，并通过观察来更多地了解我们的偏好，遵守人为控制。最终，我们想要的是对人类可证益的(PrOVabIybeneficial)智能体。我们将在1.5节中讨论这个主题。1.2人工智能的基础在本节中，我们将简要介绍为人工智能提供思想、观点和技术的学科的历史。像任何历史一样，本书只关注少数人物、事件和思想，而忽略其他同样重要的。我们围绕一系列问题来组织这段历史。我们不希望带给读者这样一种印象：这些问题是各个学科唯一要解决的问题，或者各个学科都将人工智能作为最终成果而努力。1.2.1 哲学 可以使用形式化规则得出有效结论吗？ 思维是如何从物质大脑中产生的？ 知识从何而来？ 知识如何导致行为？亚里士多德(AriStoUe,公元前384公元前322)制定了一套精确的法则来统御思维的理性部分，他是历史上第一位这样做的哲学家。他发展了一套非正式的三段论系统进行适当的推理，该系统原则上允许人们在给定初始前提下机械地得出结论。拉蒙鲁尔(RamonLlull,约12321315)设计了一种推理系统，发表为ArSMagna(即7¾eGreatArt)(Llull,1305)囱。鲁尔试图使用实际的机械设备一组可以旋转成不同排列的纸盘实现他的系统。51ArSMag为拉丁文书名，翻译成英文的书名为77*GwWA片。编者注大约在1500年，列奥纳多达芬奇(LeOnardodaVinci,1452一1519)设计了一台机械计算器，虽然当时并未制造，但最近的重构表明该设计是可行的。第一台已知的计算器是在1623年前后由德国科学家威廉席卡德(WilheImSchickard,15921635)制造的。布莱兹帕斯卡(BlaisePascal,16231662)于1642年建造了滚轮式加法器(Pascaline),并写道：“它产生的效用似乎比动物的所有行为更接近思维。"戈特弗里德威廉莱布尼茨(GottfriedWilhelmLeibniz,16461716)制造了一台机械设备，旨在根据概念而非数值进行操作，但其应用范围相当有限。托马斯霍布斯(ThomaSHobbes,15881679)在利维坦(Leviafhan)一书中提出了会思考的机器的想法，用他的话说就是一种“人造动物”，设想"心脏无非就是发条，神经只是一些游丝，而关节不过是一些齿轮”。他还主张推理就像是数值计算，认为“推理就是一种计算，也就是相加减”。应6此处对利维坦一书中的引用采用了商务印书馆1985年9月出版的由黎思复、黎廷弼翻译的利维坦版本中的译文。编者注有观点认为，思维至少在某种程度上是根据逻辑或数值规则运作的，可以建立模仿其中的一些规则的物理系统。也有观点说，思维本身就是这样一个物理系统。勒内笛卡儿(RenCDescartes,15961650)首次清晰地讨论了思维与物质之间的区别。他指出，思维的纯粹物理概念似乎没有给自由意志留下多少空间。如果思维完全受物理法则支配，那么它拥有的自由意志不会比一块“决定”往下掉的石头多。笛卡儿是二元论(dualism)的支持者。他认为，人类思维(灵魂或者精神)的一部分处于自然之外，不受物理定律的约束。但是，动物不具备这种二元特性，它们可以被视为机器。唯物主义(materialism)是二元论的一种替代，它认为大脑根据物理定律的运作构成了思维。自由意志仅仅是实体对可选决策的感知。物理主义(PhySiCaliSm)和自然主义(naturalism)这两个术语也被用于描述这类与超自然观点相反的观点。如果给定可以操纵知识的实体思维，接下来的问题就是建立知识的来源。经验主义(empiricism)运动始于弗朗西斯培根(FranCiSBacon,15611626)的新土具(NOVUnIOrganum)由一书，并以约翰洛克(JohnLocke,16321704)的名言“知识归根到底都来源于经验''为特征。7培根的新工具(Mm加OXa加)是亚里士多德的工具论(0号。)的更新。大卫休谟(DavidHume,17111776)的人性论(ATreatiseofHumanNature)(Hume,1739)提出了现在称为归纳法(induction)的原则：通过暴露要素之间的重复联系获得一般规则。以路德维希维特根斯坦(LUdWigWittgenStein,18891951)和伯特兰罗素(BertrandRUSSel1,18721970)的工作为基础，著名的维也纳学派(Sigmund,2017)一群在20世纪20年代及20世纪30年代聚集在维也纳的哲学家和数学家发展了逻辑实证主义(IogiCalpositivism)学说。该学说认为，所有知识都可以通过逻辑理论来描述，逻辑理论最终与对应于感知输入的观察语句(observationsentence)相联系。因此，逻辑实证主义结合了理性主义和经验主义。鲁道夫卡纳普(RudolfCarnap,18911970)和卡尔亨佩尔(CarlHempeL1905一1997)的确证理论(ConfirmationtheOry)试图通过量化应分配给逻辑语句的信念度来分析从经验中获取知识，信念度的取值基于逻辑语句与确证或否定它们的观察之间的联系。卡纳普的世界的逻辑构造(TheLogicalStructureoftheWorld(Carnap,1928)也许是最先提出将思维视为计算过程这一理论的著作。思维的哲学图景中最后一个要素是知识与动作之间的联系。这个问题对人工智能来说至关重要，因为智能不仅需要推理，还需要动作。而且，只有理解了怎样的行为是合理的，才能理解如何构建行为是合理的(或理性的)智能体。亚里士多德在论动物的运动(DeMomAninrnliiun)中指出，动作的合理性是通过目标和动作结果的知识之间的逻辑联系来证明的：但是，思考有时伴随着行为，有时却没有，有时伴随着行动，有时却没有，这是如何发生的？这看起来和对不变的对象进行推理和推断时发生的情况几乎是一样的。但是在那种情况下，结局是一个推测性的命题而在这里，由两个前提得出的结论是一个行为我需要覆盖物；斗篷是一种覆盖物。我需要一件斗篷。我需要什么，我必须做什么；我需要一件斗篷。我必须做一件斗篷。结论是，“我必须做一件斗篷”，这是一个行为。在尼各马可伦理学(NiCOnlaCheanEthiCS)(第三卷第3章，1112b)中，亚里士多德进一步阐述了这个主题，并提出了一个算法：我们考虑的不是目的，而是实现目的的手段。医生并不考虑是否要使一个人健康，演说家并不考虑是否要去说服听众他们是先确定一个目的，然后考虑用什么手段和方式来达到目的。如果有几种手段，他们考虑的就是哪种手段最能实现目的。如果只有一种手段，他们考虑的就是怎样利用这一手段去达到目的，这一手段又需要通过哪种手段来获得。这样，他们就在所发现的东西中一直追溯到最初的东西分析的终点也就是起点。如果恰巧遇到不可能的事情，例如需要钱却得不到钱，那么就放弃这种考虑。而所谓可能的事情，就是以我们自身能力可以做到的那些事情。固18此处对尼各马可伦理学一书中的引用采用了商务印书馆2017年8月出版的廖申白翻译的尼各马可伦理学版本中的译文。编者注2300年后，纽厄尔和西蒙在他们的通用问题求解器(GeneraIProblemSolver)程序中实现了亚里士多德的算法。我们现在将其称为贪婪回归规划系统(见第11章)。在人工智能理论研究的前几十年中，基于逻辑规划以实现确定目标的方法占据主导地位。纯粹从行为的角度来思考实现目标通常是有用的，但在某些情况是不适用的。例如，如果有几种不同的方法可以实现目标，我们就需要某种方法来进行选择。更重要的是，确定性地实现一个目标可能是无法做到的，但某些行为仍然必须被实施。那该如何决策呢？安托万阿尔诺(AntoineArnauld)(Arnauld,1662)分析了赌博中的理性决策概念，提出了一种量化公式，可以最大化期望收入的货币价值。后来，丹尼尔伯努利(DanielBernoulli)(Bernoulli,1738)引入了更普适的效用(utility)概念，可以体现结果的内在主观价值。如第16章所述，在不确定性下，理性决策的现代概念涉及最大化期望效用。在道德和公共政策方面，决策者必须考虑多个个体的利益。杰里米边沁(JeremyBentham)(Bentham,1823)和约翰斯图尔特穆勒(JohnStuartMill)(Mill,1863)提出了功利主义(utilitarianism)思想:基于效用最大化的理性决策应该适用于人类活动的所有领域，包括代表许多个体做出公共政策的决策。功利主义是一种特殊的结果主义(Consequentialism),行为的预期结果决定了正确与否。相反，伊曼努尔康德(ImmanuelKant)在1785年提出了一种基于规则或义务伦理学(deontologicalethics)的理论。在该理论中，“做正确的事“不是由结果决定的，而是由管理可行行为的普适社会法则所决定的，可行行为包括“不要撒谎”“不要杀人”等。因此，如果期望的好处大于坏处，那么功利主义者可以撒一个善意的谎言，但康德主义者则不能这样做，因为撒谎本质上就是错误的。穆勒承认规则的价值，但将其理解为基于第一性原理对结果进行推理的高效决策程序。许多现代人工智能系统正是采用了这种方法。1.2.2数学 得出有效结论的形式化规则是什么？ 什么可以被计算？ 如何使用不确定的信息进行推理？哲学家们提出了人工智能的一些基本理念，但人工智能要成为正规科学，需要逻辑和概率的数学化，并引入一个新的数学分支计算。形式化逻辑(formallogic)的思想可以追溯到古希腊、古印度和古代中国的哲学家，但它的数学发展真正始于乔治布尔(GeorgeBoole,18151864)的工作。布尔提出了命题和布尔逻辑的细节(Boole,1847)01879年,戈特洛布弗雷格(GottlobFrege,18481925)将布尔逻辑扩展到包括对象和关系，创建了沿用至今的一阶逻辑。一阶逻辑除了在人工智能研究的早期发挥核心作用外，还激发了哥德尔和图灵的工作，这些工作支撑了计算本身。91弗雷格提出的一阶逻辑符号(文本和几何特征的神秘组合)从未流行起来。概率(probability)论可以视为信息不确定情况下的广义逻辑，这对人工智能来说是非常重要的考虑。吉罗拉莫卡尔达诺(GerolamoCardano,1501-1576)首先提出了概率的概念，并根据赌博事件的可能结果对其进行了刻画。1654年，布莱兹帕斯卡(BlaiSePascal,1623-1662)在给皮埃尔费马(PieITeFermat,16011665)的信中展示了如何预测一个未完成的赌博游戏的结局，并为赌徒分配平均收益。概率很快成为定量科学的重要组成部分，用于处理不确定的度量和不完备的理论。雅各布伯努利(JaeobBernoulli,16541705,丹尼尔伯努利的叔叔)、皮埃尔拉普拉斯(PierreLaplace,17491827)等人发展了这一理论，并引入了新的统计方法。托马斯贝叶斯(ThOmaSBayes,1702-1761)提出了根据新证据更新概率的法则。贝叶斯法则是人工智能系统的重要工具。概率的形式化结合数据的可用性，使统计学(StatiStiCS)成为了一个新研究领域。最早的应用之一是1662年约翰格兰特(JohnGraunt)对伦敦人口普查数据的分析。罗纳德费舍尔(RonaldFisher)被认为是第一位现代统计学家，他汇总了概率、实验设计、数据分析和计算等思想(Fisher,1922)o在1919年，他坚称，如果没有机械计算器“百万富翁”(M1u,第一个可以做乘法的计算器)，他就无法进行工作，尽管这台计算器的成本远远超过了他的年薪(ROSS,2012)。计算的历史与数字的历史一样古老，但用于计算最大公约数的欧几里得算法被认为是第一个非平凡的算法(algorithm)。“算法”一词源自一位9世纪的数学家穆罕默德本穆萨啊尔花剌子模(MUhammadibnMusaal-Khwarizmi),他的著作还将阿拉伯数字和代数引入了欧洲。布尔等人讨论了逻辑演绎的算法，到19世纪末，人们开始努力将一般的数学推理形式化为逻辑演绎。库尔特哥德尔(KurtGodel,19061978)表明，虽然存在一种有效方法能够证明弗雷格和罗素的一阶逻辑中的任何真实陈述，但是一阶逻辑无法满足表征自然数所需的数学归纳原理。1931年，哥德尔证明关于演绎的限制确实存在。哥德尔的不完全性定理(incompletenesstheorem)表明，在任何像皮亚诺算术(Peanoarithmetic,自然数的基本理论)这样强的形式化理论中，必然存在一些没有证明的真实陈述。这个基本结果也可以解释为作用于整数上的某些函数无法用算法表示，即它们无法被计算。这促使艾伦图灵(AlanTuring,1912-1954)试图准确地描述哪些函数是可计算的，即能够通过有效的过程进行计算。丘奇-图灵论题(ChUreh-TUringthesis)提出将图灵机(Turing,1936)可计算的函数作为可计算性的一般概念。图灵还表明，存在某些任何图灵机都无法计算的函数。例如，没有一台机器能够在广义上判断给定程序是会根据给定的输入返回答案，还是永远运行下去。尽管可计算性(ComPUtabiIity)对理解计算很重要，但易处理性(tractability)的概念对人工智能的影响更大。粗略地说，如果解决一个问题实例所需的时间随着问题规模呈指数增长，那么这个问题就是难处理的。在20世纪60年代中期，复杂性的多项式增长和指数增长之间的区别首次被强调(CObham,1964;EdmOnds,1965)o因为指数级增长意味着即使是中等规模的问题实例也无法在合理的时间内解决，所以易处理性很重要。由斯蒂芬库克(StePhenCook)(Cook,1971)和理查德卡普(RichardKarp)(Karp,1972)开创的NP完全性(NP-COmPleteneSS)理论为分析问题的易处理性提供了基础：任何可以归约到NP完全的问题都可能是难处理的。(尽管尚未证明NP完全问题一定是难处理的，但大多数理论家都相信这一点。)这些结果与大众媒体对第一台计算机的乐观态度“比爱因斯坦还快的电子超级大脑！”形成了鲜明对比。尽管计算机的速度在不断提高，但对资源的谨慎使用和必要的缺陷将成为智能系统的特征。粗略地说，世界是一个极大的问题实例！1.2.3经济学 我们应该如何根据自己的偏好做出决定？ 当其他人可能不支持时，我们应该怎么做？ 当收益可能在很遥远的未来时，我们应该怎么做？经济学起源于1776年，当时亚当斯密(AdamSmith,1723-1790)发表了国富论(全名为国民财富的性质和原因的研究，AnInquiryintotheNatureandCausesoftheWeallthofNations)o斯密建议将经济视为由许多关注自身利益的独立主体组成，但他并不主张将金融贪婪作为道德立场。他在较早的著作道德情操论(7¾eTheoryofMoralSentiments)(Smith,1759)开篇就指出，对他人福祉的关注是每个个体利益的重要组成部分。大多数人认为经济学就是关于钱的，而实际上第一个对不确定性下的决策进行数学分析的是安托万阿尔诺(AmaUId,1662)的最大期望值公式，而这一分析也的确是与赌注的货币价值相关。丹尼尔伯努利(Bernoulli,1738)注意到，这个公式似乎不适用于更大规模的金钱，例如对海上贸易远征的投资。于是，他提出了基于期望效用最大化的原则，并指出额外货币的边际效用会随着一个人获得更多货币而减少，从而解释了大众的投资选择。里昂瓦尔拉斯(L6onWalras,18341910)为效用理论提供了一个更为普适的基础，即对任何结果(不仅仅是货币结果)的投机偏好。弗兰克拉姆齐(FrankRamsey)(Ramsey,1931)以及后来约翰冯诺伊曼(JohnVOnNeUmann)和奥斯卡摩根斯特恩(OSkarMorgenStem)在他们的著作博弈论与经济行为(TheTheoryofGamesandEconomicBehavior(NeumannandMorgenstern,1944)中对这一理论进一步改进。经济学不再是研究金钱的学科，而是对欲望和偏好的研究。决策论(decisiontheory)结合了概率论和效用理论，为在不确定性下做出个体决策(经济的或其他的)提供了一个形式化完整的框架，也就是说，概率适当地描述了决策者所处的环境。这适用于“大型”经济体，在这种经济体中，每个主体都无须关注其他独立主体的行为。对“小型，经济体而言更像是一场博弈(game)：一个参与者的行为可以显著影响另一个参与者的效用(积极或消极的)。冯诺依曼和摩根斯特恩对博弈论(gametheory)的发展也可以参考(LUCeandRaiffa,1957)得出了令人惊讶的结果，即对于某些博弈，理性智能体应该采用随机(或至少看起来是随机)的策略。与决策论不同，博弈论并没有为行为的选择提供明确的指示。人工智能中涉及多个智能体的决策将在多智能体系统(multiagentsystem)的主题下探讨(第18章)。经济学家(除了一些例外)没有解决上面列出的第三个问题：当行为的收益不是立即产生的，而是在几个连续的行为后产生时，应该如何做出理性的决策。这个课题在运筹学(OPeratiOnSresearch)的领域探讨，运筹学出现在第二次世界大战期间英国对雷达安装的优化工作中，后来发展出了无数民用应用。理查德贝尔曼(RiChardBellman)(Bellman,1957)的工作将一类序贯决策问题进行了形式化，称为马尔可夫决策过程(Markovdecisionprocess),我们将在第17章研究该问题，并在第22章以强化学习(reinforcementlearning)的主题研究该问题。经济学和运筹学的工作对理性智能体的概念做出了很大贡献，但是多年来的人工智能研究是沿着完全独立的道路发展的。原因之一是做出理性决策显然是复杂的。人工智能的先驱赫伯特西蒙(HerbertSimon,1916-2001)凭借其早期工作在1978年获得了诺贝尔经济学奖，他指出基于满意度(SatiSfieing)的决策模型(做出“够好”的决策，而不是费力地计算最优决策)可以更好地描述实际的人类行为(Simon,1947)。自20世纪90年代以来，人工智能的决策理论技术重新引起了人们的兴趣。1.2.4神经科学大脑如何处理信息？神经科学(neuroscience)是对神经系统(尤其是对大脑)的研究。尽管大脑进行思考的确切方式是科学的奥秘之一，但大脑确实是能思考的现实已经被人们接受了数千年，因为有证据表明，对头部的强烈打击会导致精神丧失。人们也早就知道人的大脑在某种程度上是不同的，大约在公元前335年，亚里士多德写道：“在所有动物中，人类的大脑与身体大小的比例最大。”也然而，直到18世纪中叶，大脑才被广泛认为是意识的所在地。在此之前，意识所在地的候选位置包括心脏和脾脏。1.10后来人们发现树购和一些鸟类的脑体比超过了人类的脑体比。1861年，保罗布罗卡(PaUlBroca,18241880)对脑损伤患者中的失语症(语言缺陷)进行了调查研究，他在大脑左半球发现一个局部区域(现在被称为布罗卡氏区域)负责语音的产生，从而开始了对大脑畛能组织的研究。也那时，人们已经知道大脑主要由神经细胞或神经元(neuron)组成，但直到1873年,卡米洛高尔基(CamilloGolgi,18431926)才发明了一种可以观察单个神经元的染色技术(见图1)o圣地亚哥拉蒙-卡哈尔(SantiagoRamonyCajal,18521934)在神经组织的开创性研究中使用了该技术。3现在人们普遍认为认知功能是由这些结构的电化学反应产生的。也就是说，一组简单的细胞就可以产生思维、行为和意识。如约翰希尔勒(JohnSearle)(Searle,1992)的精辟名言所说：大脑产生思想。nil许多人引用亚历山大胡德(