量子位 宣布 | "大众年夜众号 QbitAI

上次量子位撰文先容过，AI加持下的安全话题正在升温，仅6月份就有总额30亿元的投资流向安全创业领域。

同样的征象在中国互联网安全领袖峰会（CSS2017）现场发生。
这个由腾讯主理的网络安全大会，虽然主题还不是“人工智能”直接干系，但言评论辩论断之间，AI已然是不可忽略的话题。

在大会现场，腾讯公司分管安全的副总裁丁珂、素有“天下头号黑客”之称的Kevin Mitnick，以及美国加州大学伯克利分校教授、“打算机安全教母”宋晓东(Dawn Song)，就AI趋势下的安全话题，接管了量子位采访。

△ 腾讯公司副总裁丁珂

腾讯公司副总裁丁珂见告量子位，AI下的安全问题，新且特殊主要，在AI技能发展过程中，固有边界正在被冲破，全新的问题正在发生。

丁珂详细阐明称，机器智能的时期正在把很多正常的逻辑变成黑箱操作，个中机器数据被污染的过程，会影响你的样本和判断，会带来更加暗藏、危害的安全问题。
之古人类依赖逻辑和低廉甜头，加之社会化关系的存在，可以相互制约和问责，但AI将改变这统统。

在腾讯方面看来，AI时期的安全问题，有一半是传统的Anti-Pro、Anti-SPAM方面的技能，更多的是技能和伦理上的探索。

技能方面尚有积累支撑，但边界判断上，开始涉及新的伦理标准。

“我们现阶段更多在探索各方面跨界问题，在认知上界定的过程，未来人工智能在几大领域里，在自动驾驶、图像学习（深度医疗）、决策支持领域（谈天，决策赞助），如果不在边界问题上没做好安全把关，问题就变得不好把控。
”他向量子位举例说。

末了，这位腾讯内部分管安全的副总裁还总结称，以安全的原则来讲，让一个事物繁荣发展的根本，一定是事先预知到它能最坏到什么程度，还要认知清楚其根本康健和可持续发展的基本原则。

△ “天下头号黑客”Kevin Mitnick

这次CSS大会中，素有“天下头号黑客”之称的Kevin Mitnick也被约请到现场，这是他第一次来到中国，间隔他大战FBI、并被列为头号网络安全通缉目标已然过去20年。

现在的Kevin Mitnick拥有自己的安全咨询公司，黑客出身的他，正在把才能和技能转换为对抗网络攻击的建媾和方法。

Kevin Mitnick表示，AI正在把越来越多设备“带入”网络天下，我们有了越来越多的聪慧城市、智能家电和智能汽车，但根本上讲，Kevin Mitnick眼里看到的满是“薄弱城市”、“薄弱家电”和“薄弱汽车”，由于所有的设备都可以被攻击和利用，以是源头安全认证该当成为当务之急。

Kevin Mitnick向量子位表达的建议是，公信机关该当专门成立一个部门，在IOT设备发布之前，都须要经由安全认证，代码安全与否前辈行考验，然后才规模才进行进一步支配。

这位传奇黑客称，至今为止的安全认证，一样平常采取了“默认凭据”形式，但很多安全事宜，源头问题正是“默认凭据”，而随着AI发展以及越来越多IOT设备被连接，这样的隐患可能造成的危害，将比以往更加恐怖。

不过，Kevin Mitnick也强调，现在还没有真正符合AI核心技能的工具或产品涌现，更多产品重心在“决策”，以是他自己也尚未有对AI产品进行安全剖析评估的履历。

但AI的趋势已然浩浩汤汤，Kevin Mitnick先容说，他本人在加州创立了一家专门开拓AI工具产品的公司，未来会通过在社交网络上抓“钓鱼”来给用户供应安全环境，这款工具的背后技能事理是机器学习，通过数据模型，可以让机器学会快速识别“钓鱼网站”的能力——这个产品已经在开拓中。

△ “打算机安全教母”宋晓东(Dawn Song)

除了传奇黑客Kevin Mitnick，加州大学伯克利分校教授宋晓冬(Dawn Song)也是CSS上备受关注的高朋，这位有“打算机安全教母”之称的教授，曾是“麦克阿瑟天才奖”得到者，也是污点剖析理论提出者。

与Kevin Mitnick的意见不同，宋晓东认为AI干系的安全问题，已经迫不及待，而且应对AI时期的安全攻击，须要AI开拓者从产品设计之初就考虑。

“历史已经证明，攻击者一贯都会跟随最新技能，乃至有时候还会引领最新技能。
”宋晓东提示说。

而且值得把稳的是，现在面临的风险在AI领域会变得更高，由于AI会掌握越来越多的体系和系统，如果攻击者想要攻击AI系统且得逞，那后果就会非常严重，比如攻击者通过一辆无人车发动攻击。

如何应对呢？

宋晓东的核心思路是，AI开拓者开拓AI系统时，就须要从攻击者的角度思考问题。

可能会有两种情形，一是攻击者攻击AI系统，让这个别系做出错误决策。
这种情形就须要开拓者提升自己的学习系统，建筑防火墙，还须要把更好的安全系统嵌入到深度学习的体系中。

另一种情形是攻击者滥用AI工具和技能，用以攻击其他体系，这同样哀求开拓者开拓的学习系统具备更强的安全性。

加强学习系统安全性，就意味着要理解目前深度学习的“弱点”。
比如通过对抗的样本稠浊系统、造成系统识别缺点，这会让包括自动驾驶在内的高安全哀求领域经受巨大风险。

以是宋晓东建议，深度学习系统搭建中，模型、图形选择、代码和黑箱攻击防御，都须要关注对抗样本被重布局成的攻击风险。

其余，她还认为在开拓新神经网络特色的过程中，进行递归、循环，更随意马虎推理、模块和泛化，也更能担保程序的安全可靠性。

末了，这位“安全教母”认为，虽然AI时期带来的安全寻衅将无法计算，但AI也可以更好帮助开拓者设计更安全可靠的软件，深度学习已经改变了当前的安全形势和安全能力，让认知系统变得更加强大，并能更广泛支配到各种产品中，且可以让产品本身得到新能力，拥有识别恶意软件、判断敲诈的能力。

以是根本上说，AI可能带来最严厉的寻衅，但也会带来最好的时期。

△ Kevin Mitnick的名片

末了，在采访Kevin Mitnick后，这位“天下头号黑客”与量子位交流了名片，卡如其人，金属打造的名片显得分歧凡响，而且镂空图案也颇故意思。

Kevin Mitnick笑着见告量子位：你可以用它（名片）拼出一把钥匙，”hack”你想要去的任何地方。
(笑）

— 完 —

诚挚招聘

量子位正在招募编辑/，事情地点在北京中关村落。
期待有才华、有激情亲切的同学加入我们！
干系细节，请在量子位公众年夜众号(QbitAI)对话界面，回答“招聘”两个字。

量子位 QbitAI

վ'ᴗ' ի 追踪AI技能和产品新动态