图灵奖得主Pearl：若求大年夜聪慧当知真因果｜人工智能批驳_机械_人工智能

2024-10-04 02:26:46 智能问答

构建与学术的桥梁拉近与威信的间隔

图灵奖得主Pearl：若求大年夜聪慧当知真因果｜人工智能批驳_机械_人工智能智能问答

UCLA的Judea Pearl教授是人工智能先驱，贝叶斯网络之父。
他提出了概率和因果性推理演算法，彻底改变了人工智能最初基于规则和逻辑的研究理念，并因此于2011年荣获图灵奖。
本日，知社编译整理Quanta Magazine对Pearl的专访，谈论了人工智能的因果论和他对领域现状的批驳、机器的自由意志、和迟早来临的机器的恶行，颇有启迪。

当前，人工智能的迅猛发展在很大程度上受益于Pearl教授的睿智和努力。
在大部分打算机内存还装不下多少字节，人工智能学者对概率普遍半信半疑的时候，Pearl已经完成了未来几十年人工智能的奠基事情。
早期的人工智能方法基于逻辑范式建模和推演，没有概率的观点。
Pearl在上世纪80年代将概率论和计量经济学方法引入人工智能建模，使大规模定量表示不愿定事宜发生的可能性和这些可能状态之间的关系成为可能，也成为当前各种人工智能运用的建模规范。
可是如今Pearl教授却成为这一领域最尖锐的批评者。
在他题为The Book of Why: The New Science of Cause and Effect的新书中，Pearl指出，人工智能目前最大的发展障碍在于未能理解“智能”的实质。

三十年前，人工智能的紧张寻衅，是编程打算机使其将潜在的缘故原由与一系列可不雅观测的事宜联系在一起。
Pearl提出贝叶斯网络，用节点表示我们感兴趣的变量，用边表示变量之间的相互影响关系，用条件概率定量表示这些影响，办理了这一问题。
可是，在Pearl眼里，人工智能当前深陷概率关联的泥潭，不能自拔。
深度学习和神经网络的进步，使机器可以轻而易举地在围棋和扑克等诸多领域降服人类，无人驾驶也成为可能。
可是Pearl并不以为然。
这统统的统统，只是打算机几十年前就已胜任的事情的升级版，所做的统统，不过是在海量数据中探求规律，曲线拟合而已：

All the impressive achievements of deep learning amount to just curve fitting.

图片来自网络

要理解Pearl的洞见，我们须要理解他提出的因果推断的三个层次，即关联（Association）、参与（Intervention）和违实（Counterfactual）。

第一层次的关联，可以用条件概率简化为P（y|x），即x发生时，y也发生。
如天亮了，堵车了，两者存在关联，但实在并无因果。
这是最大略的因果推断类型，可以从数据中根据条件和期望判断结果。

第二层次的参与，可以用条件概率形式化为P(y|do(x), z)，个中z表示do(x)引起的事宜，即“我现在做什么，将来会发生什么”，比如健身虽然常日与减肥关联，但也可能由于健身和食量大增吃多了，体重反而增加，这个中饮食选择便是参与。
与关联不同的是，参与面对的是未来性问题，无法通过直接不雅观测推断，但可以通过演习历史数据建模。

第三层次的违实，可以简化为P(y_x|x’,y’)，面向的是过去。
即已知事宜x’和y’的现实下，假设过去发生的事宜不是x’而是x，那么发生y事宜的概率是多少？例如如果没有健身，我会变胖吗？目前基于统计的机器学习都缺少违实这一层级的信息，无力回答违实问题。

在他的新书中，Pearl阐述了如何真正实现人工智能的不雅观点，关键在于用因果推论取代推理，个中一大支柱便是违实算法。
例现在朝的人工智能可以通过发热和身体酸痛判断一个人可能患上了疟疾，但真正的人工智能应该具备判断某个发热症状是不是由疟疾引起的能力。
一旦这种因果论框架到位，机器就可能实现前文所说的违实推论。
而这是一种能够与人类有效沟通、拥有自由意志乃至恶行意识的道德实体。

Judea Pearl

以下为Quanta Magazine对Pearl的采访实录：

QM：为什么给你的新书取名“The Book of Why”呢？

P：这本书，是对我过去25年所做的因果论的总结，包括因果论于个人人生的意义，因果论的运用，以及我们如何找到固有因果问题的答案。
令人惊异的是，这些问题已经被科学所抛弃，而我所做的是填补科学的忽略。

QM：听起来很讽刺，科学已经放弃了因果论，但这不正是科学的全部内容吗？

P：当然，但在科学方程式里你是看不到因果论的名贵的。
代数措辞十分对称，X能得到Y，Y也就能得到X，这里我是指确定性关系。
但数学措辞也非常受限，比如你没法用数学措辞表述一个大略的事实，即将来临的狂风雨使温度表低落，而非上升。
数学还没发展出非对称措辞来匹配人类的现实思维，比如X引起Y，并不虞味着Y也能引起X。
我知道，这句话听起来有些反科学。

但是科学也非常宽容。
如果短缺非对称的代数关系，我们可以创造一个。
这便是数学的功用。
一个大略的因果论演算办理了我们那个时期最伟大的统计学家都定义不清或是难以办理的问题，令我十分激动。

QM：几十年前，您由于让打算机实现概率推理而有名。
能否为我们先容一下当时的人工智能呢？

P：二十世纪八十年代初我们面对的问题是预测性和诊断性的问题，如年夜夫通过病人身上一系列症状得到其患疟疾或其它疾病的概率。
我们希望开拓自动系统和人工智能替代各种付费专家，如年夜夫，矿物学家之类。
当时，我提出通过概率实现这个目标。
但标准的概率打算须要指数增长的空间和韶光，以是我发展了贝叶斯网络，更加高效且十分透明。

QM：那你为什么又在新书中把自己描述为AI领域的叛徒呢？

P：在发展能使机器进行不愿定性推理的工具之后，我决定离开这个领域，转向更具寻衅性的因果推论。
可是，很多AI领域的同行仍旧局限在不愿定性的研究之中，很多领域还把精力耗费在诊断性问题上，却不考虑因果关系。
他们想要的只是好的预测与诊断结果。

我们现在看到的所有的机器学习都是在诊断模式下进行的，比如说把目标工具辨识为猫或者老虎。
他们不考虑参与问题，只想识别目标物体并预测其随韶光的变革。

当我开拓出功能强大的预测与诊断工具并意识到这只是人类智能的冰山一角时，我觉得自己成了背叛者。
如果我们希望机器实现对参与（比如若禁烟会如何？）和违实（比如若当初高中没毕业会若何？）的推理，我们必须引入因果论模型。
仅仅依赖关联性是远远不足的，这是数学事实，不以人意志而转移。

QM：你不像其他人一样对AI的无限可能性感到愉快吗？

P：我对深度学习理解的越多，就越意识到当前的研究基本都卡在关联性层面，也就是曲线拟合。
如果说机器学习所有卓越的成果都只是曲线拟合，听起来有些轻渎这个领域。
但从数学层面看，不论你操控数据多闇练或是能从数据中得到多少信息，都只是曲线拟合而已，只不过更加繁琐和繁芜。

QM：从您的不雅观点看，您彷佛对机器学习并不认可？

P：不，我对机器学习非常认可。
通过大略的曲线拟合，就可以办理比我们预期多得多的问题。
但是接下来呢，未来的路该怎么走？我们能够拥有一个自主设计实验、解答那些悬而未决的科学问题的机器吗？我们希望能与机器进行故意义的沟通，机器能与我们的认知相匹配。
如果机器不具备人类对付因果关系的直觉，那就不可能实现故意义的沟通。
机器人永久无法像你我一样，说：“我本可以做得更好”。
我们也因此失落去一条主要的沟通渠道。

QM：让机器得到跟我们一样的因果关系认知之后会怎么样？

P：我们必须为机器配适环境模型。
如果机器没有现实模型，你就不能指望它有现实情形下的智能行为。
人类编程的现实观点模型可能将在未来十年内涌现。

接下来，机器将能够基于先验自行建立、验证和改进这些模型。
这便是科学，就像人类从地心说到日心说的进程变革。
机器之间也将彼此沟通，将这个假想的野性天下转换成隐喻模型。

QM：您是什么时候和AI领域的同行分享这些想法的，他们作何反应？

P：AI领域目前而言是撕裂的。
首先，机器学习、深度学习和神经网络的繁荣令一些人迷醉。
他们不明白我在说什么，还想延续曲线拟合的成功。
但当你跟统计学范畴以外的AI专家评论辩论这些，他们一点就通。
近两个月内就有不少关于机器学习局限性的论文，我都读了。

QM：您的意思是已经逐渐涌现抛弃机器学习的趋势吗？

P：不能说是趋势，而是一个严明的自察过程，是对我们自身的追问：我们将去往何处？下一步该怎么走？

QM：这是我末了想问的问题。

P：还好你没问自由意志。

QM：那您怎么看自由意志呢？

P：绝对会涌现拥有自由意志的机器的，这是情势一定。
我们必须理解如何编程机器，理解我们将从中得到什么。
出于某种缘故原由，就进化而言，自由意志在打算层面也是可行的。

QM：以什么办法呢？