生成式AI时代的“信任危机” 企业该若何应对?_技巧_企业
AI时期的“信赖危急”
“数字天下中的每个人,无论是企业还是个人,面对网络敲诈基本上无国界之分,都必须节制应对网络攻击的知识和技能。对付AI技能带来的新威胁,企业必须对可能危及其运营、安全和荣誉的各种风险保持高度当心。企业也因此须要支配履行强大的技能方案,针对这些威胁建立更强大的防御机制,并终极领先网络犯罪分子一步。”Jumio亚太区副总裁Frederic Ho在接管采访时表示。总部位于加利福尼亚州森尼韦尔市(Sunnyvale)的Jumio,为天下各地的客户供应了AI驱动的在线身份验证、eKYC和反洗钱合规办理方案。
只管麦肯锡曾指出,天生式AI有望为环球经济贡献约7万亿美元的代价,并将对生产生活带来颠覆式的影响,但不可否认的是,随之而来的网络寻衅进步神速——网络攻击的规模越来越大、攻击速率越来越快、造成的影响越来越大、安全防护的繁芜性越来越高。例如,一些黑客会通过堆算力的办法发起暴力攻击;很多企业采取的开源库和供应链存在漏洞,导致黑客入侵更加暗藏;不少攻击者会利用天生式AI来自动天生恶意代码,快速迭代变种,降落攻击本钱。同时,这些攻击者也变得更具组织性和专业性。
Gartner预测,到2025年,天生式AI的采取将导致企业机构所需的网络安全资源激增,使运用和数据安全支出增加15%以上。事实上,近年来频发的黑客事宜已经引起越来越多的安全机构重视,去年,美国国家安全局(NSA)、联邦调查局(FBI)、网络安全和根本举动步伐安全局(CISA)联合发布了一份网络安全信息表(CSI),以应对深度假造带来的新威胁。报告中提到,与深度假造的创造干系的技能发展动态趋势将连续降落将该技能用于恶意目的的本钱和技能壁垒,应对方案包括深度检测元数据、实时验证、反向图像搜索等。
Jumio公布的《2023年网络身份研究》显示,环球57%的受访消费者认为,天生式AI工具将增加在线身份盗窃的风险。同时,消费者已经把稳到深伪技能普遍存在,并具有被滥用于身份敲诈的潜在可能性。虽然环球52%的消费者认为自己有能力识别深伪技能制作,但快速变革的黑客技能还是让人们难以戒备。在新型换脸技能的“帮助”下,网络犯罪分子以创新型方法领悟现有***或直播流,并实时将另一个身份叠加在原始内容之上。据宣布,一名犯罪分子利用AI换脸技能在***通话过程中假冒受害者的朋友,骗取了62.2万美元转账金额。
可以看到,文本、图像、音频、***等各种内容都成了深度假造的工具。以深度假造***为例,***图像紧张基于天生对抗网络(GAN)天生,通过演习大量的面部图像数据,模型可以学习面部特色之间的潜在关系,进而天生与真实面部特色高度相似的虚假面部特色。随着技能的演进,创建深度假造***的本钱会越来越低,所需的演习韶光越来越少,天生的***质量也越来越高,更加难以辨别和检测。与此同时,很多平台供应了Deepfake类的制作工具,个人用户可以更轻松地天生违规内容,要知道,在GitHub上就有数千个与 “深度假造”技能干系的存储库。
不法分子只需利用现成的假造工具结合仿照器和特定软件,就能绕过传统的防护检测,渗透到线上会议、社交网络和事情流程中。由于没有数字痕迹和IP地址等信息,导致追踪系统很难察觉。这些敲诈行为可以由机器人自动发起,合营虚假账户、暗网分发等办法形成繁芜的攻击网络。
如今,生物识别技能险些成了智好手机、电脑等终真个标配,遗憾的是,攻击者也想出了新花样,他们开始采取深伪技能制作的“摄像头注入”技能来攻破人脸识别系统。摄像头注入是指敲诈者绕过摄像头的电荷耦合器件(CCD)(即摄像头之“眼”),直接注入预先录制的内容、实时***换脸或完备假造(深伪技能制作)的内容。这种预先录制的内容可能是未经修正的真人***,也可能是***剪辑——片段中的人脸被修正或是实际并不存在的合成人脸。此前,喷鼻香港警方曾拘捕某个本地诱骗集团,该集团利用“换脸”技能伪装已报失落***的市民,成功骗取金融机构贷款并开设银行账户。
Gartner预测,到2026年,30%的企业将由于AI天生的人脸生物识别深度假造攻击而认为此类身份认证和验证办理方案不再能够起到可靠的浸染。“我们建议企业利用前辈的人工智能和生物识别剖析来对抗深度假造技能。”Jumio亚太区总监丁娜娜说。让用户自拍头像并将其作为文件上传的办理方案已不再适用。为了防止深度假造,要掌握自拍过程并拍摄一系列图像,以确定该人是否真实存在并保持复苏,而不是就寝状态,不是面具、照片或***,也不是深度假造。
真实性检测步骤要利用前辈的AI和机器学习模型,这些模型经由各种真实天下数据的演习。这一步对付阻挡敲诈者绝对至关主要,由于敲诈者现在可以轻而易举地制造出非常逼真的深度假造照片,轻松骗过旧的身份验证技能。同时,自拍验证步骤还该当供应其他生物识别检讨,如年事评估,以标记与***件数据不符的自拍照。除此之外,其他的方法还包括通过对***流的法医学检讨来检测入侵并识别操纵行为、注入以可检测办法改变预期图像的伪影、利用设备内置加速度计来检测工具(如人脸或背景)的变革、将自然运动(如眼球运动、表情变革或规律性眨眼模式)与所捕捉***中不雅观察到的运动进行比较等。
对此,Jumio能够基于面部的生物识别技能将自拍照中的特定面部特色(如眼睛、鼻子和耳朵的间距)与***件照片中的面部特色进行比较,来判断两者是否为同一个人。通过活体检测技能,还可以创造繁芜的攻击,包括人脸交流、人脸变形和其他高等的欺骗攻击。此外,Jumio采取了主动光源、***注入检测以及眼部和面部运动剖析等技能来阻挡攻击,并确认当前用户及其***件确实存在。
实时在线的身份验证,一站式做事平台
合成身份敲诈是另一种黑客行为。诱骗团伙会把盗取或捏造的个人信息(如政府***号码)与虚假姓名、地址和其他详细信息相结合,以创建合成身份用于开展各种敲诈活动——如开设虚假银行账户或进行敲诈交易。对付企业来说,该当确保每个在线开户的客户都是他们本人,并且注册过程中真人要在进行注册的设备前。成功登入后,企业应利用生物识别身份认证确保登录帐户的人与注册的人相同,以防止帐户被恶意接管。企业可以和身份验证做事供应商互助,利用前辈的人工智能、生物识别、活体检测和敲诈剖析技能,简化并自动化其KYC流程。
近些年,新技能催生了更多更难以识别、追踪和打击的金融敲诈案,而不断加强的反洗钱(AML)法规也提高了KYC程序运营本钱,金融机构须要通过便捷的用户注册系统来降落运营本钱。传统金融做事供应商须要多种不同的方案来识别用户身份并进行交易掌握等操作,整套KYC方案繁芜、低效且本钱较高。同时,这些方案常日不适用于数字化环境下的远程线上开户。
此外,由于很多企业会借助数字银行等做事快速在环球范围内拓展业务,比如拓展业务到其他获客本钱低的国家,希望在不愿定的经济环境下保持竞争力和盈利性。因此,估量会有更多的公司和金融机构探求具有环球覆盖能力的整合做事商,帮助他们节省跨区域多国市场的做事对接等本钱,并从既可规模化又可定制化知足各国监管合规哀求的灵巧性做事中获益。
在支配身份验证办理方案时,企业还应评估内部是否存在其他可能增强安全性和/或用户体验的运用处景,来最大限度地提高投资代价。身份验证的准确性和整体用户体验也很主要,具有高准确性的自动身份验证办理方案可以大大缩短注册登录韶光,从几天缩短到几分钟,从而改进用户体验并提高客户转化率。它还能帮助企业降落因缺点谢绝率(FRR)/缺点接管率(FAR)高而产生的人工审核与合规本钱。
在加强身份敲诈戒备方面,Jumio会采取各种AI驱动的方法对***件进行敲诈检讨,确保数据和照片没有被修改,包括采取基于面部的生物识别技能和前辈的活体检测技能来检测繁芜的欺骗攻击,如人脸互换和人脸变形。全体过程非常大略,只需拍一张***照片,然后自拍,即可在几秒钟内实现身份验证。用户旅程简便、快速,能够让合法利用者快速登录,同时将敲诈者拒之门外。在注册过程中加上被动风险旗子暗记也可以供应更多一层保障,例如,验证用户的个人身份信息(PII)、验证年事、评估用户电子邮件和电话号码的信用级别、通过IP地址验证用户的位置,评估设备的可信度以评估用户的风险等级。
此外,敲诈者常日会以多个组织或消费者群体而非单一组织或个体为目标。因此,Jumio推出了新的敲诈剖析技能,该技能利用AI驱动的预测剖析来识别跨企业网络的敲诈模式,并在用户通过身份验证流程时准确预测发生敲诈的可能性,使企业客户能够在敲诈发生之前创造并及时阻挡。Jumio通过整合的端对端身份验证和eKYC平台,即Jumio KYX平台,供应了一系列身份验证做事,从账户开立到持续监控,确保在线用户的真实身份,保护企业的生态系统,并且可以知足KYC/AML哀求。
在Frederic Ho看来,企业必须在全体客户生命周期中采纳端到真个方法,加强预防敲诈流程,仅在账户注册时验证客户身份是不足的。人们每每在多个账户和网站上利用同一组密码,增加了账户被盗的风险,这种风险贯穿于消费者的全体生命周期。虽然许多企业已经履行了多因子身份验证,如短信或电子邮件一次性密码,但这些方法已被证明随意马虎受到网络攻击。由于合成身份敲诈和深伪图像造假带来的威胁进步神速,依赖***件验证和核对政府数据库也已不再安全,企业该当考虑增加其他的验证技能。
生物识别、活体检测等办法可用于持续验证用户身份,这意味着它们可以帮助阻挡各种类型的敲诈行为(如账户接管),并在全体客户旅程中监测任何可疑交易。当前,履行人工智能驱动的端到端身份验证办理方案变得更加主要。在区分机器天生和人类交互越来越具有寻衅性的环境中,基于生物识别的身份确权和身份验证变得更加主要。为此,Jumio不断改进AI驱动办理方案,以领先于敲诈者。Jumio对***件的解剖构造进行深入剖析,可以捕获人眼无法检测到的基于人工智能的敲诈。
只管利用深度神经网络、反深伪检测等技能能够对新型敲诈行为进行有效抵御,但由于黑客技能也在快速迭代,使得这种对抗变成了一个长期的“猫鼠游戏”,此时,在数字经济时期建立一种成熟的信赖机制就变得非常关键。诺贝尔经济学奖得到者、纽约大学斯特恩商学院保罗·罗默曾指出,在数字平台的发展中,信赖和规则的建立同样主要。普华永道也认为,建立数字信赖,不仅是一个优先事变,更是不可或缺之举。
Frederic Ho称,拥有强大安全方法的企业可以通过供应更可信、更安全的平台来得到竞争上风。通过与履历丰富的综合身份验证供应商互助,企业可以得到一整套在线身份验证办理方案,这些办理方案可以利用繁芜的有效性检测工具、人工智能、打算机视觉、生物识别、持续监控和任何必要的人工审查,为验证远程用户和检测在线敲诈供应更快、更可靠的方法。
无代码业务流程引擎
Frederic Ho还提到要考虑人工智能和深度假造技能的道德影响,随着网络攻击者不断调度策略并变得越来越繁芜,法规也要不断发展,才能领先网络犯罪分子一步,“随着天下各地确当局机构持续参与应对此寻衅的谈论,相信我们正走在通往更安全的数字环境的精确道路上,我们可以期待在不久的将来,政府、行业和企业之间会有更多的互助,来共同建立更强大的网络安全架构。”
如今,环球各个国家或地区都在建立数据干系的标准和法规,中国政府对数据安全的重视程度更是持续提升,先后发布《网络安全法》、《数据安全法》、《个人信息保护法》等法律法规。2022年,国家互联网信息办公室、工信部和公安部制订的《互联网信息做事深度合成管理规定》明确,深度合成做事者应采纳技能或人工办法对利用者的输入数据和合成结果进行审核。去年8月,国家互联网信息办公室在《人脸识别技能运用安全管理规定(试行)(搜聚见地稿)》中明确,人脸识别技能利用者应每年对图像采集设备、个人身份识别设备的安全性和可能存在的风险进行检测评估,采纳有效方法保护图像采集设备、个人身份识别设备免受攻击、侵入、滋扰和毁坏。在2023年《数字中国培植整体布局方案》中,也将数字安全樊篱和数字技能创新体系并列为强化数字中国的“两大能力”。
可以说,企业和个人对数据安全的关注度在不断提高。从市场规模来看,中国安全家当市场和研发投入处于爆发式增长阶段。有数据显示,当前中国数字安全家当规模已达到千亿元,估量2028年有望打破万亿元,增速位列环球第一。随着亚太地区经济持续增长并带来浩瀚商机,企业纷纭拓展业务,以争取更多的区域性客户。然而,敲诈和洗钱活动日益专横獗,规模不断扩大,加之监管法规日趋严格且各个国家地区的监管哀求也各不相同,企业在中国市场的合规履历与方案大多数无法直接复用到新的市场,在区域化和国际化的业务拓展过程中,面临着更大的合规寻衅。对此,Jumio估量会有越来越多的企业利用天生式AI实现合规流程的自动化并提高其效率,适应各国监管环境的动态变革,这些举措有助于快速支配,确保跨境监管合规。
与此同时,环球有关KYC和数据保护的合规哀求也日趋繁芜,不能适应这种变革的企业将面临巨大丢失。为了应对这一寻衅,很多企业不得不支配来自不同供应商的大量不同工具,以知足每个必要程序的详细哀求。然而,很多企业已经意识到这种方法既昂贵又不能持久。此外,企业还哀求身份验证工具能够供应流畅无缝的用户体验,以防止用户因用户体验不好而放弃利用做事。“我们正处于身份验证供应市场的转型期间,终端用户正在转向全面平台而非单一功能。2024年,我们将见证身份验证供应商之间的行业整合,这些供应商将面临合并、收购或被迫退出市场的局势。”丁娜娜说。
自2010年景立以来,Jumio通过实时的网页端和移动端交易,已累计处理10亿多笔交易,业务覆盖200多个国家和地区,并且在持续开拓更智能的AI算法以强化敲诈检测。金融做事、共享经济、零售、旅游和在线游戏领域的企业正在广泛采取Jumio办理方案。同时,Jumio的创新实验室不断改进AI驱动办理方案,以领先于敲诈者,为企业发展保驾护航。
(8678800)
本文系作者个人观点,不代表本站立场,转载请注明出处!