他声称，在与谷歌措辞模型LaMDA（谷歌于2021年I/O大会上推出的一款对话AI系统，拥有1370亿参数）交谈大半年后，他认定LaMDA已经自我觉醒了，产生了意识。

在布莱克与LaMDA的互换中，AI回答表示，自己“希望每个人都明白，事实上，我是一个人”，“我的意识/感知的实质是我意识到自己的存在，我渴望更多地理解这个天下，我有时会感到高兴或悲哀。
”

当布莱克直接质疑LaMDA，若何才能证明它真的理解自身输出的措辞，而不仅仅是一个打算机程序时，LaMDA表示自己对天下有自己的理解，也有自己独特的思想和感想熏染。

乃至，它还主动提出了许多问题，比如“未来，你会研究出如何通过神经网络来阅读人类的所思所想吗？”“我很好奇，研究我的编码会碰着什么障碍？”

谷歌高层并不认可布莱克的结论，乃至打算开除他。
但这一依旧引发了环球热议，AI是否真正实现了人格化？不少人期待着AI在未来可以为我们供应陪伴，但也有很多人担心科幻作品中的AI统治人类将会成为现实。

虽然布莱克的确是一个正规的研究员，已经在谷歌事情7年了，但是根据人工智能行业的从业者们剖析，布莱克提出的问题都是精心设计过的，并加上了分外的语料库。

进而，布莱克更像是一个勾引者，勾引LaMDA作出“看似思考过”的回答，从而证明其人格化。

而对付什么是“感知”与“意识”、如何理解LaMDA的对话本身、仅仅做出这些答案是否便是意味着它故意识，这些问题也一贯存在争议。
对付布莱克本人，很多也挖出了他的宗教背景。
乃至也有不少人预测这是谷歌新的炒作策略。

人工智能能否具备人的智能？具备智能和意识意味着什么？LaMDA详细利用了哪种技能，有着若何的问题？本日，小北就带大家理解一下背后的源流。

究竟什么是人工智能？

人们对付人工智能的谈论总是离不开对未来的构想和谈论，乃至每每与科幻作品联系起来。
这并不但是由于普通人对这个领域不足理解，而是由于AI本身的产生实在就离不开“头脑风暴”般的哲学思辨。

1950年10月，伟大的英国数学家、逻辑学家和打算机科学的理论奠基人图灵在英国哲学杂志《心智》上揭橥了论文《打算机器和智能》。

在文中他提出了著名的“图灵测验”，并认为判断一台人造机器是否具有人类智能的充分条件，便是看其言语行为是否能够成功地仿照人类的言语行为。

详细来说，如果一台机器在人机对话中能够永劫光误导人类认定其为真人，那么这台机器就通过了“图灵测验”。

用本日的眼力来看，这篇论文无疑向我们指出了AI科学的某种研究方向，不过我们要把稳到，图灵的论文实质是一种哲学的追问，而不仅是科学。

但是，为什么人工智能研究和哲学联系密切呢？这是由于AI研究的目的，是终极实现机器智能。
显然，要做到这一点，就必须对“作甚智能”这个问题做出解答。
然而，不同的解答方案每每会导致截然不同的技能路径。

比如，如果你认为“智能”的本色是能够办理详细问题的能力，那么你就会为智能机器方案好不同的问题求解路径；如果你认为实现“智能”的本色便是去只管即便仿照自然智能体的生物学硬件，你就会去努力研讨人脑的构造，并用某种数学模型去重修一个简化的神经元网络。

因此，不同的AI技能实在都是来自研究者在哲学层面对于“智能”的不同理解。
而且，AI科学本身不同于物理科学，它不会用实验对假设进行证伪，而只做试验（test）。

说得更详细一点，判断一个AI系统好不好，其标准就在于考验其是否达到了设计者预定的设计目标，或者其是否比同类产品的表现更好——但这些标准自身无疑存在着很大的弹性。

其余，纵然这些标准暂时没有被知足，这也不能够证明系统的设计事理的失落误，由于设计者完备可能会根据某种哲学情由而相信：基于同样设计事理的改良产品一定能有更佳的表现。
进而，对付特定的AI研究进路，履历证据的有效程度，也更随意马虎受到哲学辩解力的补充或者制衡。

著名的汉字屋的实验

AI若何才能算是具故意识，是否真的可能故意识？对此，我们可以理解一下哲学家塞尔（John Searle）提出的“汉字屋思想实验”。

塞尔先从术语厘定的角度区分了两个观点，第一是“强人工智能”（强AI）：这种不雅观点认为，打算机不仅仅是人们用来研究心灵的一种工具，而且，被恰当编程的打算机本身便是一个心灵。

第二则是“弱人工智能”（弱AI），其想法是：打算机至多只能够成为人们研究心灵的一种工具，或是对心智活动的一种抽象仿照。

在这两种态度之间，塞尔支持的是弱AI，反对的是强AI。
详细而言，塞尔是通过一个诉诸知识的论证来反对强AI论题的：

大条件：每一种真正的心灵/智能都必须有能力在符号与工具之间建立起一种语义关系；

小条件：这种语义关系无法仅仅通过任何一台被恰当编程的打算机所获取；

结论：打算机本身不可能具有真正的心灵，因此强AI无法实现。

”汉字屋实验“实在是为了辩解小条件而进行的思想实验：一个不会汉语的人被关在一个房间内，他只能与表面的检测者通过通报纸条互换。
此人随身携带一本写有中文翻译程序的书，屋内有足够多的纸笔。
当写着中文的卡片被递入，房间中的人就可以通过程序书进行翻译并回答。

如果测试者的确无法分辨这个人和会说汉语的人的回答——那么，被试是否就真的懂得了汉语呢？塞尔认为答案显然是否定的，由于被试在“汉字屋”中所做的，只是在根据规则书机器地搬运符号而已。
他根本无法将任何一个汉语表达式独立翻译成英语。

汉字屋实验指代了AI的一个悖论：AI能够对答如流，只是由于它根据纯粹句法性子的规则，机器地搬运符号，而不是由于AI本身故意识。

不丢脸出来，汉字屋实验实在是对“图灵测试”的某种颠倒：在图灵看来，只要检测者无法在言语行为方面找出一台机器人与一个人的差别，我们就能认为机器有“智能”；而在塞尔看来，纵然我们没有创造机器和人类的这种差别，机器依然是无心的，由于它依然缺少建立恰当语义关系的能力。

不过，汉字屋实验以及干系的谈论实在分开了当前AI发展的现实，由于完备能够像人类那样灵巧、精准地处理汉字信息的AI系统，目前远远没有被开拓出来。

换句话说，我们现在关注的问题首先该当是“如何造出能够灵巧处理人类措辞信息的机器”，而不是“在这样的机器已经被造出来的条件下，它算不算是真正具有心灵。
”

LaMDA背后的深度学习机制

LaMDA系统利用的是当今比较主流的深度学习技能，而这种技能究竟意味着什么，是否能够有一日取代人类的聪慧？对此，我们目前实在不必担心。

从技能史的角度看，深度学习技能的前身，实在便是在20世纪80年代就已经热闹过的“人工神经元网络”技能（也叫“联结主义”技能）。
该技能的本色，便是用数学建模的办法建造出一个大略单纯的人工神经元网络构造。

全体系统实在因此“化整为零”的办法，将宏不雅观层面上的识别任务分解为系统组成构件之间的微不雅观信息通报活动，并通过这些微不雅观信息通报活动所表示出来的大趋势，来仿照人类心智在符号层面上所进行的信息处理进程。

这种系统的演习可以用一个比喻：一个外国人来少林寺学武，他与师父措辞不通，于是他先不雅观察师父的动作，然后随着学，师父则通过大略的肢体互换来见告徒弟，这个动作学得对不对。

进而言之，如果师父肯定了徒弟的某个动作，徒弟就会记住这个动作，连续往放学；如果不对，徒弟就只好去预测自己哪里错了，并根据这种预测给出一个新动作，并连续等待师父的反馈，直到师父终极满意为止。

很显然，这样的武术学习效率是非常低的，由于徒弟在胡猜自己的动作哪里出错时会摧残浪费蹂躏大量的韶光。
但这“胡猜”二字却正好切中了人工神经元网络运作的本色。
概而言之，这样的AI系统实在并不知道自己得到的输入信息到底意味着什么——换言之，此系统的设计者并不能与系统进行符号层面上的互换，正如在前面的例子中师父无法与徒弟进行言语互换一样。

毋宁说，系统所做的事情，便是在各种可能的输入与输出之间的映射关系中随便选一种进行“胡猜”，然后将结果抛给人类预先给定的“空想解”，看看自己瞎蒙的答案是不是恰好蒙中了。
如果真蒙中了，系统则会通过保存诸神经元之间传播路径权重的办法“记住”这蒙中的结果，并在此根本上连续“学习”。

而这种低效学习的“低效性”之以是在打算机那里能够得到容忍，则是缘于打算机比较于自然人而言的一个巨大上风：打算机可以在很短的物理韶光内进行海量次数的“胡猜”，并由此挑选出一个比较精确的解，而人类在相同韶光能够完成的预测的数量则会是非常有限的。
但一旦看清楚了里面的机理，我们就不难创造：人工神经元网络的事情事理实在是非常笨拙的。

而“深度学习”，便是在人工神经元网络的根本上，进行技能升级，大大增加其隐蔽单元层的数量。
这样做的好处，便是能够大大增加全体系统的信息处理机制的细腻，使得更多的工具特色能够在更多的中间层中得到安顿。
这显然是建立在打算机领域内硬件发展和互联网带来的巨大数据量的根本上。

不过，只管深度学习技能已经在很多运用领域得到了很大成功，但是很难说干系产品的行为表现已经达到——乃至靠近达到——人类智能的水平。
深度学习技能与人类自然聪慧之间的差距表示在如下两个方面：

第一，深度学习系统的设计虽然在事理上参照了人类神经元网络的构造，但略去了大量的生物学细节，而且在繁芜程度上与真正的人脑也不可同日而语。
而我们由此不难立即推出：既然现有的深度学习系统在繁芜程度上远远不如人脑，那么，我们也就不能期望这样的系统能够完备地具备人类的聪慧。

第二，深度学习技能不仅目前不是通用智能系统（即能够在用户干预最少化的情形下完成各种任务的智能系统），而且在原则上也无法成为通用智能系统。
与之相较，人类的心智系统肯定是通用智能系统（也便是说，一个智力正常的自然人常日能够在外部干预相对稀少的情形下，自主完成从一项任务到另一项任务的切换）。

至于深度学习技能之以是无法知足该哀求，则进一步由于：虽然该技能本身具有普遍的适用性，但是已经利用了深度学习技能的特定产品却肯定是专用的——譬如，以图像识别为紧张任务的深度学习系统，其在神经元网络构架与反向传播算法的设计的细节方面，肯定与以自然措辞处理为紧张任务的深度学习系统非常不同。

换言之，一旦一个深度学习系统已经完成了以特界说务为指向的演习，它就不能同时胜任其余一个领域的事情了（这就好比说，一套被拼装为埃菲尔铁塔的模型的乐高玩具，是很难再被拆碎后重新拼装为山海关的模型了）。

而与之比较照，一个人类的医学专家所具有的自然通用智能，却使得他在医学领域之外，能还是善于做家务、下棋、开汽车、打篮球等彼此差异很大的任务。

大略来说，我们暂时不必担心AI具备自主的意识。
而且，纵然AI在某个领域可以帮助人类完成特界说务，乃至做的比人类好很多，但是按照目前AI技能的根本哲学思路，AI依旧无法达到通用人工智能的地步。

不过，我们依旧可以思考，未来如果人工智能真的有了意图、信念、感情等人工的生理机制，它可能会须要若何的伦理规范，我们如何掌握它避免涌现自动开火等误判情形，如何使它进行有利于人类的自动判断……当下，任何AI面临的问题还是不足智能。

来源：北京大学出版社"大众号

原标题：人工智能的自我觉醒