据英国《连线》杂志近日宣布，因准确率显著低于预期和未通过伦理审查等缘故原由，英国警方近两年斥资打造的人工智能暴力犯罪预测系统被叫停。

该系统被称为“最严重暴力”（简称MSV，即Most Serious Violence），是英国国家数据剖析办理方案（NDAS）的一个组成部分。
“最严重暴力”系统的目标是预测人们是否会在未来两年中持枪或持刀履行暴力犯罪。
过去两年，英海内政部已为NDAS投入了超过1000万英镑。

一旦创造潜在的犯罪分子，该程序会建议为其供应咨询做事、社会或医疗帮助，以避免他们真的犯罪。
项目卖力人伊恩·唐纳利曾表示，这样做的目的不是为了预防性地逮捕任何人，而是要剖析警方已经锁定的职员，并且会优先剖析那些最须要干预的职员，例如有生理疾病史的人暴力犯罪的可能性更大，以便让他们得到社会帮助。

系统准确性不尽人意

在“最严重暴力”系统的开拓过程中，英国警方分别网络了西米德兰兹郡和西约克郡240万人和110万人的历史数据，数据类型包括犯罪、拘留记录、情报和英国国家警察局数据等。

该系统为与西米德兰兹郡和西约克郡的警察局打过交道的人进行风险评分，分数越高，代表着他们越有可能履行暴力犯罪。

在正式运行之前，NDAS声称该系统的准确度高达75%，而且功能性在世界范围内遥遥领先。
详细指，在西米德兰兹郡，每100个被系统认为有高风险履行持枪或持刀严重暴力犯罪的人中，预测有54人会履行上述某项罪过。
在西约克郡，100个高风险者中，预测有74人会履行上述某项罪过。

事实上，该系统的真实精度远远低于这个水平。
2020年年初，NDAS开始考试测验运作“最严重暴力”系统，却创造因编码毛病而无法准确预测暴力行为，不得不“回炉重造”。

改造过后的系统准确率直线低落，对付持枪或持刀的暴力犯罪事宜，系统在西米德兰兹郡的准确率降至14%至19%，在西约克郡的准确率降至9%至18%。
总之，最初该系统的效果被浮夸了。

有数据专家认为，“最严重暴力”系统的核心问题并不在于准确性。
技能毛病可以通过韶光来填补，但纵然算法达到100%的准确率，这个别系仍旧会存在偏差。

据先容，“最严重暴力”系统利用多种指标用于确定个人未来行为的风险程度，例如年事、初次犯罪距今韶光、数据显示的社会关系、犯罪严重程度以及个人的情报报告中提到“刀”的次数（不包括地点和种族数据）。

罗格斯大学法学院访问学者拉希达•理查森对《连线》表示，上述指标中的很多已在其他数据剖析中被证明会导致不平等的结果。
她先容，犯罪历史成分本身每每存在偏见，基于其演习出的算法，如果不受人类干预，也会涌现同样的问题。

由于试用失落败，英国警方已经停滞开拓目前形式的预测系统。

伦理委员会同等反对

除准确性不尽人意外，“最严重暴力”系统一贯在伦理方面饱受争议。

英国西米德兰兹郡政府官方网站显示，其伦理委员会在2020年7月同等反对了警方持续推进该系统的建议，并指出没有足够的信息表明该模式可以改进预防青少年暴力的决策现状。

系统设计之初，英国艾伦·图林研究所也对该系统的伦理问题表示关怀。
据参考宣布，艾伦·图林研究所指出，在一个人尚未犯罪的情形下对其进行干预是否是一个***项目，这值得商榷。

该研究所还警告称，该系统可能会有一些偏差，由于在剖析时会侧重于剖析人口密集、穷苦和冲突频发的地区的居民。
这些地方驻扎着更多警力，因此警方逮捕嫌犯的概率更高。

《连线》杂志宣布称，NDAS的项目卖力人尼克·戴尔说“最严重暴力”系统到目前为止一贯是试验性的，且“赞许这个模型不能以目前的形式连续进行下去”。

但尼克·戴尔没有否认可能会以其他形式改进“最严重暴力”系统。
“我们不能肯定地说，终极的模型会是什么样子，如果我们能够创建一个得当的模型。
我们的所有事情都将受到伦理委员会的审查，他们的审议结果将被公布。
”

类似的人工智能警务预测系统在近期受到学界抵制。
据《自然》***宣布，2020年7月，在“黑人的命也是命”（Black Lives Matter）抗议活动之后，有1400多名数学家签署公开信，呼吁该学科停滞研究用于警务的预测性算法和模型，情由是存在种族偏见。

任务编辑：李跃群

校正：丁晓