美媒:人工智能可能自行产生偏见 趋势演变很难扭转_成见_群体
美媒称,新研究表明,对他人表现出偏见并不须要很高的认知能力,人工智能机器很随意马虎就能表现出来。
据美国逐日科学网站9月6日宣布,英国加的夫大学和美国麻省理工学院的打算机科学和生理学专家已经证明,几组自动机器仅仅通过相互之间识别、模拟和学习偏见就能表现出这种行为。
宣布称,偏见彷佛是人类特有的一种征象,须要以人类的认知能力去对某个人或群体形成某种意见或成见。
只管某些类型的打算机算法根据从公共记录和人类产生的其他数据中学到的知识已经表现出了偏见,例如种族偏见和性别歧视,但这项新研究表明,人工智能有可能自行蜕变为心怀偏见的群体。
宣布称,这些新创造揭橥在英国《科学报告》杂志上,其依据是,打算机仿照了拥有类似偏见的个体或虚拟代理人如何形成一个群体并彼此互动。
在一个平等交流游戏中,每个个体根据别人的名声以及自己的捐赠策略(包括对外来者的偏见程度),来决定是捐给自己所在群体中的某个人还是另一个群体中的某个人。
随着游戏展开,一台超级打算机进行了数千次仿照,每个个体开始通过效仿自己所在群体或全体群体中的其他个体来学习新的策略。
研究报告的作者之一、加的夫大学犯罪与安全研究所和打算机科学与信息学学院的罗杰·惠特克教授说:“通过成千上万次仿照,我们开始理解偏见是如何形成的,以及助长或阻碍偏见的条件是什么。我们的仿照显示,偏见是一种强大的自然力,通过演化,偏见很随意马虎在虚拟人群中受到勉励,不利于与他人构建更广泛的联系。来自偏见群体的保护会无意中导致个体进一步组成偏见群体,使得群体四分五裂。这种普遍的偏见很难旋转。”
这一研究结果表明,个体会通过优先效仿短期收益更高的工具来更新自己的偏见程度,这意味着作出此种决定未必需要具备高等认知能力。
惠特克教授还说:“能够识别歧视和模拟他人的自动机器今后很随意马虎受到我们在人类中看到的偏见征象的影响,这是有可能的。”
本文系作者个人观点,不代表本站立场,转载请注明出处!