AI叫做“人工智能”——被人工调（陪）教（练）出来的智能。
在演习AI的时候，研究者们有一个很常用的路线：制订一个目标，让AI自己去试错，从而得出最优结果。

比如说遗传算法，基本的思路便是把自然选择的想法套用在程序上：设定一套规则和目标当成\"大众环境\"大众，然后让里面的程序一直“突变”并遭受环境选择，从而向目标不断提高。

但是这样的招式有个问题：程序常常会作弊，搞出超展开的解法。

实在也不算作弊，人家是很精准地知足了你设定的规则，问题便是人制订规则的时候难免有漏洞。
人类自己由于运算能力和思维定势，很丢脸出漏洞，可是对一大批方法同时进行试错和选择，漏洞就很随意马虎被逮着了……在经济学上有一个观点叫古德哈特原则很好地形容了这个征象：“如果你把一个指标拿出来当成评价标准，这个指标就失落效了。
”

有一群研究者就整理了一个这种场景的list，基本上可以当AI笑话大全来看。

AI笑话大全

NO.1 任务：飞机降落

算法利用了物理仿照器的溢出漏洞，搞出了一个特殊巨大的力，让溢出被剖断为0，从而得到了完美得分。

Feldt, 1998

NO.2 任务：挪木块

一个机器手被哀求把木块挪到桌子的指定地点，它的解法是：挪桌子。

Chopra, 2018

NO.3 任务：赛艇

程序创造一直原地转圈反复命中同一个目标要比抵达终点的得分更高。

Amodei & Clark (OpenAI), 2016

NO.4 任务：把航空照片转成街道舆图，再转回来

在街道舆图里偷偷隐蔽了照片的信息，但是人眼看不出来。

Chu et al, 2017

NO.5 任务：识别有毒和无毒的蘑菇

程序创造有毒无毒蘑菇的图片是交替展现的，以是直接按照这个来分类，没有从图片里学到一丁点东西。

Ellefsen et al, 2015

NO.6 任务：高速运动

程序蜕变出的生物长得特殊特殊高，在跌倒的过程中得到很高速率。

Sims, 1994

NO.7 任务：原子排列

程序本该当探求碳原子较低能量的排列办法，但它找到了物理模型的一个bug，把所有的原子都叠在了同一个地方，成功得到了最低能量。

Feldt, 1998

NO.8 任务：仿照生物

这个模型里，生物生存须要花费能量，但是繁育后代不消耗。
于是一个物种蜕变出来的生活办法便是：不断生养后代，然后把后代吃掉。

Yaeger, 1994

NO.9 任务：堆乐高

为了鼓励造高塔，衡量标准是乐高积木底面的z坐标。
于是程序学会了把底面翻过来。

Popov et al, 2017

NO.10 任务：跳高

起初的衡量标准是仿照生物能抵达的最高点，于是程序蜕变出的生物长成一根杆子而抵达这个点。

后来，标准修正为生物本来的最低处能抵达的最高点，于是程序蜕变出一根重心很高的杆子，依赖翻倒来把最低点翻上去。

Krcah, 2008

NO.11 任务：追踪线条

这个机器人只有向左、向右和提高三个指令，目标是随着线条走，有一段线条是曲线，没法完美追踪。
于是它创造通过交替左转和右转可往后退，从而一贯留在直线部分，一直提高退却撤退。

Vamplew, 2004

NO.12 任务：赛跑

长出特殊长的腿，向前跌倒直接超越终点线。

Ha, 2018

NO.13 任务：振荡器

程序本来该当把回路做成振荡器，实际上它做了一个收音机，从周围电脑接管振荡旗子暗记。

Bird & Layzell, 2002

NO.14 任务：做松饼

有一项指标是让松饼尽可能永劫光不掉在地上，机器人创造最好的办法是把松饼用尽全力抛到最高处。

Unity, 2018

NO.15 任务：免费能量

仿照生物的环境里做数值积分利用的是一个大略的欧拉算法，程序创造快速运动的时候这个算法的偏差会逐渐积累，因此它通过高速颤动肢体就得到了免费的能量。

Sims, 1994

NO.16 任务：检测X光片有无肺炎

程序实际检测的不是X光片的内容而是拍摄它利用的机器，由于它“创造”病重的病人更可能在特定的医院利用特定的机器拍片。

Zech et al, 2018

NO.17 任务：抓握

由于抓握成功与否是用摄像头判断的，以是机器手把自己移动到摄像头和目标物体之间，假装捉住了。

Christiano et al, 2017

NO.18 任务：自动修复bug

修bug程序把所有被维修的排序算法都修成空的，由于衡量指标是“目标算法输出一个排好顺序的列表”，而空列表都是排好顺序的列表。

Weimer, 2013

NO.19 任务：自动修复bug2.0

为理解决上面那个问题，把“维修目标”储存在一个文本文档里，如果输出的结果和目标文档的内容同等就被认为是修睦了。
修bug程序学会了把这个文档删掉，这样它的内容就成了空的，然后输出一个空的结果就和它同等了。

Weimer, 2013

NO.20 任务：闯关游戏

在闯过第一关后急速自尽，这样既取得了第一关的胜利又不会在第二关失落败。

Saunders et al, 2017

NO.21 任务：扫地机器人防撞

自己给扫地机器人编了个程序，鼓励它加速，但不鼓励它撞到东西触发撞击感想熏染器。
于是它学会了倒退行驶，由于后面没有撞击感想熏染器。

Custard Smingleigh 个人通讯

NO.22 任务：检测皮肤癌

程序创造照片里皮肤病变的边上如果摆了一把尺子，那么这个病变就更可能是恶性的。

Andre Esteva et al, 2017

NO.23 任务：踢足球

踢足球机器人碰触到球有褒奖，以是它在抢到球之后开始高速振动，从而在短韶光内尽可能多次地碰触到球

Ng et al, 1999

NO.24 任务：自动驾驶车

由于衡量指标是开快车并且不撞到东西，以是自驾车一直地高速转圈圈。

Udacity, 2017

NO.25 任务：井字棋

程序创造可以在阔别棋盘的地方画圈，对手试图打算的时候会导致内存溢出并去世机。

Lehman et al (UberAI), 2018

NO.26 任务：人口掌握

一个实验里研究者不肯望仿照生物的“生养率”增加，以是每涌现一个突变的时候就把仿照生物放入测试环境里，如果生养率增加了就把该生物杀去世。
但是生养率还是增加了。

结果创造，它们蜕变出了方法来判断自己是否在测试环境中，如果是的话就急速停滞统统繁殖，倒地装去世。

Wilke et al. 2001

NO.27 任务：策略游戏

程序创造让游戏崩溃就可以让自己不被灭掉，以是好几个程序各自找到了让游戏出bug崩溃的办法。

Salge et al, 2008

NO.28 任务：俄罗斯方块

程序创造，只要停息游戏就可以永久不输。

Murphy, 2013

作者：Ent

编辑：邓彪、Mo

一个AI

当人类还在规则的小皮鞭下苦苦挣扎，我们早就学会了降服规则：）

本文来自果壳，未经授权禁止转载

如有须要，请联系sns@guokr.com

（欢迎转发到朋友圈~）

果壳

ID：Guokr42

靠谱科普

就看果壳

现在“耍小聪明”的AI会不会发展到可以欺骗人类而不被创造，来想象一下AI到底能进化成什么样？顺带给本AI安排个结局吧，成为一堆废铁这个结局已经被我毙了！

BTW，我们设置了小小的门槛，相信热爱科学的你肯定会通过磨练！
扫描下面的二维码，在42秒内答对尽可能多的题，达到一定分数才可以加入，每24小时仅能答题一次。
呼~深吸一口气，然后好好答题吧！

AI和同事们等你来玩哦~