“随着人工智能和大数据技能的运用落地，特殊是在自动驾驶、人脸识别、医疗诊断等安全敏感型的场景运用越来越多，AI和数据安全问题也受到广泛关注。
”近日，360人工智能研究院院长邓亚峰受邀参加首届清华大学人工智能互助与管理国际论坛，并就“数据与人工智能安全”议题揭橥演讲。

邓亚峰指出，由于人工智能是快速涌现的新运用，AI运用生产和支配的各个环节均暴露出一系列安全风险。
比如在人工智能框架方面，深度学习框架及依赖组件可能带有漏洞，存在随意马虎被忽略的安全隐患；在人工智能运用方面，存在模型文件盗取、数据流降维攻击等安全风险；在人工智能算法方面，由于神经网络模型的黑盒属性（不可阐明性），随意马虎导致一系列以模型误判为目标的恶意攻击。

这就随意马虎造成严重的数据透露和安全风险。
“我们在实践中创造了大量以隐私盗取为目标的攻击，如模型反转攻击、模型萃取攻击、成员推断攻击等。
”邓亚峰表示。

他认为，虽然从技能角度看，人工智能体很长一段韶光都无法拥有真正的自我意识，但是，一些坏人会对人工智能加以利用，伪装为坏的AI对人类安全造成威胁。
因此，保护人工智能和数据安全刻不容缓。

邓亚峰表示，须要构建统一的人工智能硬件、软件、算法的安全评估标准和准则，并开拓干系系统，用于检测和确定人工智能干系系统的整体安全，特殊是开源框架和软件方面，更须要统一行动；此外，还须要用更加开放协同的办法进行科学研究和技能互换，推动人工智能技能快速并安全的落地。