溯因推理:人工智能的盲点_人工智能_数据
最近深度学习领域的进步再次引发了人们对那些通用人工智能新机器的兴趣。这一想法认为,通过构建更大、更好的神经网络,我们就能够得到越来越靠近于人类大脑的数字化版本。
但这是一个神话,打算机科学家 Erik Larson 认为,所有的证据都表明,人类和机器所拥有的智能有实质的不同。Larson 的新书《The Myth of Artificial Intelligence: Why Computers Can’t Think the Way We Do》(目前尚无中译本,本文暂译为《人工智能的神话:为什么打算机不能像我们这样思考》),谈论了广泛宣扬的关于智能和推理的误解,是如何将人工智能研究引向狭窄的道路,限定了创新和科学创造。
《人工智能的神话》, Erik J. Larson 著。
Larson 警告说,除非科学家、研究职员和支持他们事情的组织不改变方向,否则他们将注定“屈从于机器天下的扩展,在机器天下中,真正的发明被边缘化,转而支持那些鼓吹现有方法的未来主义辞吐,而这正是来自根深蒂固的利益集团。”
人工智能的神话以科学的不雅观点来看,人工智能的神话是假定我们将通过在运用领域取得进展,来实现通用人工智能(Artificial General Intelligence,AGI),例如对图像进行分类、理解语音指令,或玩游戏。但是,这些狭窄的人工智能系统的根本技能并不能办理通用智能能力所必须办理的更大寻衅,例如进行基本的对话、完成大略的家务活,或者其他须要知识性的任务。
Larson 写道:“当我们成功地运用了更大略、更狭窄的智能版本,并从更快的打算机和大量的数据中获益时,我们并没有逐步取得进展,而是在摘取低垂的果实。”
人工智能神话的文化后果便是忽略了智能的科学奥秘,无休止地评论辩论深度学习和其他当代技能的不断进步。这个神话阻碍了科学家们思考新的方法来应对智能的寻衅。
“如果我们选择忽略一个核心奥秘,而不是正视它,我们就无法得到创新,”Larson 写道,“康健的创新文化强调探索未知,而非浮夸现有方法的延伸……关于人工智能一定成功的神话,每每会扼杀真正进步所须要的发明文化。”
演绎、归纳和溯因推理当你走出家门时,你创造街道是湿的。你首先想到的是,一定是下雨了。但现在是晴天,人行道是干的,以是你立即打消了下雨的可能性。当你往阁下看时,你看到一辆洒水车停在街道旁。你就断定,街道之所以是湿的,是由于洒水车冲洗了街道。
上面是一个“推理”的例子,即从不雅观察到结论的行为,也是聪慧生物的基本能力。我们不断地根据我们所知和感知的事物来推理。它们大多发生在潜意识中。
Larson 写道:“任何能够进行推理的系统都必须具有一些基本的智能,由于利用已知和不雅观察到的事物来更新信念的行为本身,一定与我们所指的聪慧干系联。”
人工智能研究职员将他们的系统建立在两种类型的推理机上:演绎式和归纳式。演绎式推理是利用先验知识对天下进行推理。这是符号人工智能的根本,也是人工智能早期几十年研究职员关注的重点。工程师通过授予它们一组预先定义的规则和事实来创建符号系统,人工智能利用这些知识来推理它所吸收到的数据。
溯因推理是通过履历获取知识,在过去十年中,溯因推理在人工智能研究职员和科技公司中得到了更多的关注。机器学习算法是溯因推理引擎,一个在干系实例上演习的机器学习模型,将找到输入映射到输出的模式。最近几年,人工智能研究职员利用机器学习、大数据和前辈的处理器,对超出符号系统能力的任务进行模型演习。
第三种推理类型,即溯因推理,是由美国科学家 Charles Sanders Peirce 在 19 世纪首次提出的。溯因推理是一种能够提出直觉和假设的认知能力,作出比随机预测原形更好的预测。
美国科学家 Charles Sanders Peirce 在 19 世纪提出了溯因推理。资料来源:纽约公共图书馆,公共领域。
举例来说,街道湿润的缘故原由可能有很多(包括一些我们从未直接经历过的),但是通过溯因推理,我们可以选择最有希望的假设,迅速打消缺点的假设,探求新的假设,并得出可靠的结论。正如 Larson 在《人工智能的神话》一书中写道:“我们从实际上无限可能中预测哪些假设看起来是可能的或可信的。”
溯因推理便是许多人所说的“知识”。这是我们看待事实或数据的观点框架,也是结合其他推理类型的“粘合剂”。这能让我们时候把稳大脑中大量的信息,以及我们从感官接管到的海量数据中的干系内容。
但问题在于,人工智能界对溯因推理的关注还很少。
人工智能与溯因推理20 世纪 80 年代和 90 年代,由于溯因逻辑程序(Abductive Logic Programming)的考试测验,溯因进入了人工智能的谈论中,但是这些努力都存在毛病,终极被放弃。Larson 见告 TechTalks:“它们是对逻辑编程的重新表述,是演绎的一种变体。”
Erik J. Larson,《人工智能的神话》一书作者。
溯因在 2010 年代得到了另一个机会,那便是贝叶斯网络,它是试图打算因果关系的推理引擎。但是,与早期的方法一样,较新的方法也有一个毛病,它不能捕捉到真正的溯因,Larson 说,贝叶斯和其他图形模型都是“归纳法的变种”。他在《人工智能的神话》一书中称它们为“名副实在的溯因”。
在很大程度上,人工智能的历史都以演绎和归纳为主导。
“当早期人工智能先驱 Alan Newell、Herbert Simon、John McCarthy 和 Marvin Minsky 开始动手办理人工推理(人工智能的核心)问题时,他们认为编写演绎式规则就足以产生智能思维和行动,”Larson 说,“事实上事实并非如此,在关于我们如何做科学的谈论中,这一点该当更早被认识到。”“这太奇怪了,没有人真的停下来,明确地说‘等等,这是行不通的!
’” Larson 说,“这将使研究直接转向溯因或假设的天生,或者说,‘高下文敏感推理’。”
在过去的二十年里,随着数据和打算资源的日益丰富,机器学习算法——特殊是深度神经网络——已经成为人工智能领域的研究热点。深度学习技能开启了以前超出打算机极限的运用。这也吸引了天下上一些最富有的公司的兴趣和资金。
Larson 说:“我认为,随着万维网的涌现,履历式或归纳式(以数据为中央)的方法霸占了上风,而溯因法和演绎法一样,基本上被遗忘了。”
但是,机器学习系统也存在严重的局限性,包括缺少因果关系,边缘情形处理不好和对数据的需求过多。同时,随着研究职员考试测验将机器学习运用到医疗和金融等敏感领域,这些限定正变得越来越明显,问题也越来越多。
溯因推理与人工智能的未来之路包括强化学习先驱 Richard Sutton 在内的一些科学家认为,我们该当坚持利用能够随着数据和打算的可用性而扩展的方法,即学习和搜索。举例来说,随着神经网络的规模越来越大,数据也越来越丰富,它们终极会超越极限,带来新的打破。
Larson 驳斥了数据驱动的人工智能的大规模运用,认为“作为一种智能模型,实在质是有缺陷的”。他重申,只管搜索和学习都可以供应有用的运用,但是它们是基于非溯因推理。
“如果没有推理思维的革命,搜索就无法扩展到知识或溯因推理中,而这还没有发生。与机器学习类似,学习方法的数据驱动特性意味着推理必须来自数据,可以说,人们常常进行的许多智能推理显然不是这样的,”Larson 说,“我们不会仅仅通过不雅观察过去,比如说,从大型数据集中获取的数据,就能弄清楚对未来的结论、思考或者推理。”
另一些科学家认为,稠浊人工智能将符号系统与神经网络结合起来,将有望战胜深度学习的毛病。IBM Watson 便是一个例子,它在 《危险边缘》(Jeopardy!)美国电视智力问答节目中击败了天下冠军而有名。最新的观点证明了稠浊模型在单独的符号人工智能和深度学习表现不佳的运用中有很好的效果。
Larson 认为,稠浊系统可以补充仅靠机器学习或仅靠规则方法的空缺。身为自然措辞处理领域的研究职员,他目前正致力于将大型与演习措辞模型,如 GPT-3,与知识图谱形式的语义网方面的旧事情相结合,以便在搜索、问题回答和其他任务中创造更好的运用。
“但是演绎-归纳组合并不能让我们达到溯因,由于这三种类型的推理在形式上是不同的,以是它们不能相互还原,也不能结合起来得到第三种。”他说。
Larson 在《人工智能的神话》一书中将规避溯因的努力称为“推理陷阱”。
他写道:“不管打算机的速率有多快,纯挚的归纳启示技能,比如机器学习,还是不足的。像 Watson 这样的稠浊系统,也达不到一样平常的理解,”“在一个开放的场景,如措辞理解,这须要关于天下的知识,而溯因是核心和不可替代的。正由于如此,将演绎与归纳策略相结合的考试测验总是注定要失落败……这一领域须要一个关于溯因的根本理论。与此同时,我们却被困在了陷阱里。”
人工智能的商业化人工智能社区对数据驱动方法的狭隘关注,使得研究和创新集中于那些拥有海量数据存储和雄厚财力的少数组织。当深度学习成为一种将数据转换成有利可图的产品的有效办法,大型科技公司正陷入雇佣人工智能人才的激烈竞争,他们通过给研究职员供应丰硕的薪酬,使得他们离开学术界。
这一转变使得非营利性实验室和小公司难以参与到人工智能的研究。
Larson 说:“当你将人工智能研发与大型数据集的所有权和掌握权联系在一起时,初创企业就会面临进入壁垒,由于他们并不拥有数据。”他补充说,数据驱动的人工智能从实质上讲便是在商业领域创造了“赢家通吃”的局势。
反过来,人工智能的垄断也阻碍了科学研究。由于大型科技公司集中精力创造可以利用其巨大的数据资源以保持竞争上风的运用,没有什么动力去探索其他人工智能方法。这一领域的事情开始方向于狭隘而有利可图的运用,而忽略了可以带来新发明的努力。
“目前没有人知道如果没有如此弘大的集中式数据集的情形下,人工智能将会是什么样,因此,对付那些想要通过设计出不同、更强大的人工智能来竞争的企业家来说,没有什么真正的机会。”Larson 说。
Larson 在他的书中警告了当前的人工智能文化,“它在不断编织人工智能神话的同时,从低垂的果实中压迫利润。”他写道,通用人工智能进展的假象可能会导致另一个人工智能的冬天。
不过,只管人工智能的冬天可能会抑制人们对深度学习和数据驱动的人工智能的兴趣,但它也能为新一代的思想家探索新的路子开辟道路。Larson 希望科学家们开始超越现有的方法。
Larson 在《人工智能的神话》一书中供应了一种推理框架,它揭示了当今该领域所面临的寻衅,并帮助读者看穿通用人工智能或奇点进展的浮夸说法。“我的希望是,非专业人士有一些工具与这种非科学的一定想法作斗争,我的同事和其他人工智能科学家将此视为办理这一领域所面临的现实问题的警钟。”
作者先容:
Ben Dickson,软件工程师,也是 TechTalks 的创始人,作家,撰写关于科技、商业和政治方面的文章。
原文链接:
https://bdtechtalks.com/2021/09/20/myth-of-artificial-intelligence-erik-larson/
本文系作者个人观点,不代表本站立场,转载请注明出处!