未来,当历史学家们编纂人类文明的完全编年史时,他们的作品将会分为两卷。
第一卷将记录人类作为地球上最高级聪慧生物的数十万年历史,讲述人类如何从利用石器工具到发明笔墨、切片面包,再到创造核武器、实现太空旅行和互联网,以及人类如何利用这些发明创造改变天下,同时又如何滥用它们,给自己带来灾害。
第二卷则将聚焦于人类如何应对超越自身聪慧的存在,讲述人类在被人工智能超越后将如何自处,如何在新的时期生存和发展。
令人激动的是,第二卷的序章可能即将被书写。
关于通用人工智能——能够匹敌乃至超越人类聪慧的系统——何时会涌现,专家们莫衷一是,有人认为只需数年,也有人认为要等上几十年。
至于人工智能终极将给人类带来福祉还是毁灭,同样众说纷纭,有人憧憬着人工智能将解放人类生产力,让人们享受空隙生活,也有人担心人工智能将失落控,终极导致人类灭绝。

当心人工智能的危险:来自1936年捷克小说的启示_蝾螈_人工智能 智能助手

虽然人工智能谈天机器人ChatGPT问世才不过几年韶光,人工智能领域的专家们对付它的智能水平能否与猫相提并论尚无定论,但卡雷尔·恰佩克早在1936年就在其科幻小说《蝾螈之战》中,以寓言的办法预言了人工智能可能带来的危险,为我们敲响了警钟。
这部出版于捷克斯洛伐克的小说,以一种讽刺的口吻,讲述了一位荷兰船长在印度尼西亚海疆有时创造了一种奇特的海洋生物——蝾螈。
这些蝾螈体型犹如孩童,一开始只会顽皮地向船员扔石头,但很快便学会了人类的措辞,并表现出惊人的学习能力,在各个方面都展现出超越一样平常动物的聪慧。
船员们最初对这些聪明的生物感到好奇和惊叹,就像我们在2022年看到人工智能可以模拟卡拉瓦乔的风格天生一幅“狗玩扑克”的图像时,感到新奇和有趣一样。
很快,人们就创造了蝾螈的商业代价——它们可以采集珍珠。
于是,人们开始大规模养殖蝾螈,并为它们供应刀具,以便提高采珠效率,并从中获取巨大利润。

然而,这一看似有利可图的商业行为却引发了一系列意想不到的后果,也预示了人工智能可能带来的风险。
刀具帮助蝾螈降服了它们的天敌鲨鱼,导致蝾螈数量激增,犹如摩尔定律一样平常,呈指数级增长。
随着蝾螈数量的不断增加,它们的智力水平也在快速进化,很快便能像谈天机器人一样流利地与人类互换。
一个名为“蝾螈辛迪加”的大型企业开始在环球范围内发卖蝾螈,并将它们投入到农场和工厂等各个领域,取代人类从事繁重的体力劳动。
巴拿马运河的扩建工程也由于蝾螈的参与而变得轻而易举。
面对蝾螈带来的巨大经济效益,那些担忧这统统发展过快的警告被斥为“卢德主义”的复辟,被认为是阻碍科技进步的掉队思想。
国际劳工组织也开始训斥廉价的蝾螈劳动力冲击了人类就业市场,导致大量工人失落业。
澳大利亚乃至开始对蝾螈征税,就像比尔·盖茨曾经建议对机器人征税一样,试图通过税罢手腕来限定蝾螈的过度扩展。

然而,并非所有人都对这个“蝾螈时期”感到欢欣鼓舞。
批评者担心蝾螈会花费环球粮食供应,就像本日人们批评机器学习模型花费大量电力一样。
也有人质疑那些雇佣蝾螈的人是否该当对蝾螈的行为卖力,就像最近一个法庭裁定加拿大航空公司必须兑现其人工智能谈天机器人在“幻觉”状态下做出的折扣承诺一样,这引发了人们对付人工智能法律任务的思考。
还有一些人由于蝾螈学会了唱歌舞蹈而对它们产生了感情。
《逐日星报》乃至问道“蝾螈有灵魂吗?”,就像2023年美国一家天主教杂志提出的问题“ChatGPT有灵魂吗?”一样,人们开始思考人工智能是否会产生意识,是否会威胁到人类的主体地位。
在恰佩克的小说中,蝾螈终极吞噬了大片陆地,创造了新的沿海栖息地,以容纳它们不断增长的数量。
而本日,人们也担心软件正在“吞噬”全体天下,人工智能的触角正在伸向人类生活的各个角落,终极将取代人类,成为地球的主宰。

那些发卖蝾螈的贩子信誓旦旦地担保,蝾螈只是模拟人类,永久不会超越人类,就像本日一些人工智能专家声称的那样。
然而,这些曾经愚蠢的生物终极还是进化出了超越人类的聪慧,并开始寻衅人类的威信。
当人们意识到自己对蝾螈的运作机制一无所知,就像本日我们对人工智能“黑箱”内部的运作事理一无所知一样,统统都为时已晚。
人类由于自身的傲慢和贪婪,以及对彼此之间的纷争的痴迷,而忽略了潜藏的危急,终极将掌握权拱手让给了蝾螈,沦为被机器奴役的工具。
在恰佩克的小说中,懦弱的人类为了苟且偷安,将割让给了蝾螈,任由它们摆布。
而恰佩克的祖国捷克斯洛伐克,也在他去世前不久的1938年,为了安抚纳粹德国,被捐躯掉了,这反响出人类在面对强大力量时的无力和无奈。

恰佩克生动于捷克政治圈,并在巴黎和柏林学习哲学,他对新事物的恐怖具有范例的欧洲知识分子色彩,也反响了欧洲人对付自身文明和未来的担忧。
欧洲人有充分的情由担心快速进化的蝾螈或打算机带来的快速变革。
在南欧,社会制度的运行依赖于缓慢的进化和调度,国家机器须要韶光来适应新的技能和社会变革,而人工智能的快速发展可能会打乱这种节奏,引发社会动荡。
在恰佩克的小说中,法国是第一个试图阻挡蝾螈接管天下的国家。
而本日,只管美国在人工智能领域投入了大量资金,但率先对其进行监管的却是欧盟。
欧盟的人工智能法案是迄今为止天下上最严格的人工智能监管法案,将于8月正式生效。
该法案将禁止在公共场所利用人脸识别技能,以及类似中国“社会信用体系”的评分系统,以防止人工智能被滥用,陵犯公民隐私和自由。

恰佩克在其早期作品中创造了“机器人”(robot)一词,并在他另一部小说中描述了机器人统治人类的反乌托邦未来,展现出他对科技发展失落控的担忧。
但纵然是他这位极具想象力的科幻小说家,也无法预见到人工智能会以如此惊人的速率发展。
因此,他选择了蝾螈作为隐喻,来警示人们当心人工智能的潜在风险,避免重蹈覆辙。
在小说中,意志薄弱的人类为了换取和平,将拱手让给了蝾螈。
而恰佩克的祖国捷克斯洛伐克,也在他去世前不久的1938年,为了安抚纳粹德国,被捐躯掉了,这反响出人类在面对强大力量时的无力和无奈,以及在利益诱惑面前的懦弱和妥协。
恰佩克的《蝾螈之战》因其对20世纪人类傲慢和贪婪的深刻戳穿而备受赞誉,但大概有一天,它会由于其对21世纪人工智能的预见性而被人们铭记,成为一部具有永恒代价的警世之作。