自动驾驶汽车溘然无法识别前方障碍物？可能是人工智能系统已被黑客攻击。
近日，第七届国家网络安全周刚刚闭幕，环球首个针对目标检测算法的对抗攻击竞赛也落下帷幕，这项环球顶尖AI安全赛事是清华大学联合阿里巴巴主理、数据挖掘顶会CIKM强力支持的安全AI寻衅者操持第四期，旨在培养实战型的网络安全一流人才。

针对目前的人工智能安全问题，多位专家表示，人工智能作为我国主要发展计策之一，正面临着重要发展机遇，但当前以深度学习为代表的人工智能算法安全性不敷，在实际运用中仍旧存在安全隐患，办理网络空间的安全风险更须要高层次人才支撑，须要形成校企联合、产教领悟的大格局，在实践中摔打培养人才。

调集“寻衅者” 共同打磨AI安全

重庆理工大学打算机科学与工程学院研三学生刘野从2019年8月开始参加安全AI寻衅者操持，从第一期人脸识别对抗竞赛，再到第二期ImageNet图像分类对抗攻击竞赛、第三期环球首个辱骂文本对抗攻击竞赛，他每期都参加，终极在本期得到第一名，并报名参加了刚刚开启的第五期环球首个针对证件文档类图像假造的对抗攻击竞赛。

目前，已有来自环球超过200所高校、100多家企业超6000支军队参加这项赛事。
第四期由清华大学人工智能研究院出题，寻衅者通过向原始图像中添加对抗补丁的办法，使目标检测模型无法检测到图像中的物体，目的是为了创造目标检测模型的薄弱性，为此领域的事情者敲响警钟。

中国科学院院士、清华大学人工智能研究院院长张钹表示，人工智能作为国家主要发展计策之一，面临发展机遇的同时也带来了诸多寻衅。
“当前以深度学习为代表的人工智能算法在实际运用中存在严重的安全隐患，如何提升算法的安全性和可靠性，是清华提出发展第三代人工智能的主要目标之一，也是算法大规模支配和运用的根本。
”张钹说，培养一流的人工智能安全技能人才，显得尤为关键。
为了抵御未来AI面临的安全风险，清华大学联合阿里巴巴，以对抗样本为核心，供应场景、技能、数据、算力等支持，调集“寻衅者”以防守者的身份共同打磨AI模型安全，同时为广大安全爱好者供应数字基建安全的试炼场，在高难度的真实攻防环境中提升技能，培养真正有安全实战能力的安全基建人才。

目前，安全AI寻衅者操持目前已收到2000万条恶意样本，沉淀40多个具有前沿创新性的参赛源码和方案，引发出高校学生在安全AI领域极大的创造力，也为实际业务问题的办理贡献了力量，最大程度补充和缓解AI安全人才缺口。

以赛育人 培养实战型安全人才

就在比赛扫尾之际，9月14日召开的国家网络安全宣扬周上，多位学界、业界专家学者在高峰论坛主论坛上聚焦网络安全人才培养。
信息工程大学校长郭云飞表示，当前我国的网络安全人才缺口在100万人旁边，网络安全的实质在对抗，对抗的实质是攻防两方的博弈，因此网络安全人才必须做到理论和实践相结合，形成校企联合、产教领悟的大格局，在实践中摔打培养人才，大家一条心一盘棋共鼓劲共担任务，就能为党和国家运送更多精良的网络安全人才。

当数字技能正在构建前所未有的新天下，阿里安全团队面对的是互联网企业中最丰富的业态和风险。

阿里安全首席架构师钱磊先容，阿里安全已从最初的网络安全攻防进化出了新一代安全架构的三层体系：从软件供应链安全、漏洞检测等多个维度保障数字基建的“安全基建层”，由攻防技能、数据安全技能等构建的“安全技能层”，以及兼具态势感知与应急相应能力的“安全运营层”，三者共同组成互联网安全做事的风雅化防御“堡垒”。
作为海内领先互联网企业，阿里巴巴将多年积累的安全标准及能力与社会共享，护航“新基建”，并通过校企互助等办法培养更多安全专业人才，安全AI寻衅者操持正是个中一项主要举措。

张钹表示，清华大学在人工智能根本研究领域有长期的积累，这次联合AI领域的领军企业阿里巴巴，校企联合打造环球顶尖安全AI赛事，便是为了培养一流的实战型人工智能和网络安全人才，谋国家发展之所需，推动我国人工智能领域的快速发展。