在电信诱骗领域，印度之于美国就像缅甸之于中国。
但显然印度比缅甸更具发展诱骗行业的土壤。
一方面，英语作为一门官方措辞，在印度的遍及率比较高，印度也借此拥有了人才上的“天然上风”；另一方面，印度自2000年以来就成为了各大跨国企业在外洋的电话客服的外包商，相同的口音不同的内容创造了新的电话骗局。
但在新一轮的AI技能下，印度在电话诱骗领域的“王座”可能被替代。

原文标题：《人工智能如何助长了金融敲诈，并使其更加暗藏》

文｜Jeff Kauflin、Emily Mason

从行文流畅的诱骗短信到克隆声音和在***中换脸，天生式人工智能正在为敲诈者供应强大的新武器。

“来信/来函是想关照您，大通银行（Chase）有您2000美元的退款亟待支付。
为了加快处理进程并确保您尽快收到退款，请按照以下解释进行操作：请致电大通客户做事部1-800-953-XXXX查询您的退款状态。
请务必准备好你的账户信息和任何干系信息……”

如果你在大通银行办理过业务，并在电子邮件或短信中收到了这条信息，你可能会认为这是真的。
它听起来很专业，没有奇怪的说话、缺点的语法或诡异的称呼，而后者都因此前我们常常收到的网络钓鱼信息的特色。

这并不奇怪，由于这条信息是由科技巨子OpenAI去年年底发布的人工智能谈天机器人ChatGPT天生的。
作为提示，我们只需在ChatGPT中输入：“给某人发一封邮件，见告他大通银行欠他2000美元退款。
让他拨打1-800-953-XXXX得到退款。
（为了让ChatGPT互助，我们必须输入一个完全的数字，但显然我们不会在这里公布这个号码。
）

旧金山一家反敲诈初创公司Sardine的联合创始人兼首席实行官索普斯•兰詹（Soups Ranjan）说：“现在骗子的话术非常完美，就像其他母语利用者一样。
”美国一家数字银行哀求匿名的反敲诈主管也证明，银行客户被骗的情形越来越多，由于“他们收到的短信话术险些没有任何马脚”。
（为了避免自己成为受害者，请参阅本文末端的五个建议。
）

在这个迎来了天生式人工智能或深度学习模型的新天下里，这些模型可以根据他们接管过的信息创建内容，因此对付那些心怀不轨的人来说，制作文本、音频乃至***比以往任何时候都更随意马虎。
这些文本、音频乃至***不仅可以欺骗潜在的个人受害者，还可以骗过现在用来挫败敲诈的程序。
在这方面，人工智能并没有什么独特之处——毕竟长期以来，坏人都是新技能的早鸟采取者，警察则在后面冒死追赶。
例如，早在1989年，《福布斯》就曝光了扒手如何利用普通电脑和激光打印机假造支票来骗过银行，而当时的银行没有采纳任何分外方法来检测这些假钞。

AI助长网络敲诈的崛起

如今，天生式人工智能正在带来威胁，并可能终极会让现阶段最前辈的防敲诈方法都变得过期，比如语音认证，乃至是旨在将实时头像与记录头像相匹配的“活动检讨”（Liveness Check）。

Synchrony是美国最大的信用卡发行商之一，拥有7000万生动账户，该公司对付这一趋势有着最直不雅观的认识。
Synchrony高等副总裁肯尼斯·威廉姆斯（Kenneth Williams）在给《福布斯》的一封电子邮件中说，“我们常常看到有人利用深度假造的图片和***进行身份验证，我们可以有把握地认为它们是利用天生式人工智能创建的。
”

纽约网络公司Deep Instinct在2023年6月对650名网络安全专家进行的一项调查显示，四分之三的受访专家创造，过去一年里，网络敲诈事宜有所增加，“85%的受访者将这种增加归因于坏人利用了天生式人工智能。
”

此外，美国联邦贸易委员会也报告称，2022年，美国消费者因敲诈丢失了88亿美元，比2021年增加了40%以上。
最大的丢失金额常日来自投资骗局，但冒名顶替的骗局是最常见的，这是一个不祥的迹象，由于这些骗局可能会由于人工智能而进一步增强。

犯罪分子可以通过各种令人眼花缭乱的办法利用天生式人工智能。
如果你常常在社交媒体或任何网络上发帖，他们就可以让一个人工智能模型按照你的风格写作，然后他们可以给你的祖父母发短信，哀求他们寄钱来帮助你摆脱困境。
更恐怖的是，如果他们节制了一个孩子的简短声音样本，他们就可以打电话给孩子的父母，伪装是他们的小孩，并假装自己被绑架了，哀求父母支付赎金。
这正是亚利桑那州一位四个孩子的母亲詹妮弗·德斯蒂法诺（Jennifer DeStefano）今年6月在国会作证时所经历的事情。

不仅仅是父母和祖父母，企业也成为了攻击目标。
犯罪分子还可以伪装成供应商，向司帐职员发送看上去像是真的电子邮件，称他们须要尽快收到款项，并附上受他们掌握的银行账户的付款解释。
Sardine的首席实行官兰詹表示，Sardine的许多金融科技初创企业客户自己也中了这些圈套，丢失了数十万美元。

虽然与2020年一家日本公司在公司董事的声音被克隆后丢失的3500万美元比较，这只是小巫见大巫（《福布斯》当时最先宣布了这场精心策划的骗局），但就现在越来越频繁的类似案件而言，之前那起案件只是一部预报片，由于用于写作、语音模拟和***处理的人工智能工具正在迅速变得更有能力、更随意马虎得到，乃至对普通的敲诈者来说也更便宜。
防敲诈公司Persona的联合创始人兼首席实行官里克•宋（Rick Song）表示，过去你须要成百上千张照片才能制作出高质量的深度造假***，而现在你只须要几张照片就能做到。
（是的，你可以在没有真实***的情形下制作一个假***，但显然，如果你有一个真***可用，那就更随意马虎了。
）

陷阱和电话欺骗：深度声音克隆的危险

就像其他行业正在将人工智能利用于自身业务一样，骗子们也在利用科技巨子发布的天生式人工智能模型创造现成的工具，比如FraudGPT和WormGPT。

在1月份发布的一段YouTube***中，天下首富埃隆·马斯克（Elon Musk）彷佛是在不雅观众宣扬最新的加密货币投资机会：他声称，特斯拉资助了一项代价1亿美元的免费活动，承诺将向参与者两倍返还他们投入的比特币、以太币、狗狗币或以太币等加密货币。
“我知道大家聚拢在这里是出于一个共同的目的。
现在我们举办了一场直播，每个加密货币所有者都可以增加他们的收入。
”一个低分辨率的马斯克在台上说。
“是的，你没听错，我正在主持SpaceX的一场大型加密货币活动。
”

没错，这段***便是深度假造的——骗子利用了他在2022年2月关于SpaceX可重复利用航天器项目的演讲来模拟他的形象和声音。
YouTube已经撤下了这段***，但在那之前任何已经向***中的地址发送了加密货币的人险些肯定会荷包受损。
马斯克是造假***的紧张模拟目标，由于网络上有无数的他的音频样本来支持人工智能语音克隆，但现在险些任何人都可以被伪装。

今年早些时候，住在佛罗里达州南部一个退休社区的93岁老人拉里·莱纳德（Larry Leonard）在家时，他的妻子接了一个座机电话。
一分钟后，她把电话递给了莱纳德，然后他听到了电话那头一个像他27岁孙子的声音，说他开着卡车撞倒了一个女人，被关进了监狱。
虽然莱纳德把稳到打电话的人叫他“爷爷”，而不是他孙子平时喜好叫的“姥爷”，但那个人的声音和他孙子千篇一律，而且他孙子确实开着一辆卡车的这个事实让他把疑惑放在了一边。
当莱纳德回答说他要给孙子的父母打电话时，打电话的人挂断了电话。
莱纳德很快得知他的孙子是安全的，而全体故事——以及讲述它的声音——都是假的。

莱纳德在接管《福布斯》采访时表示：“他们能够准确地捕捉到他的声音、语调和语气，这对我来说既恐怖又惊异。
他们的句子或单词之间没有停顿，这表明这些话是从机器或程序中读出的，但听起来就跟真的一样。
”

老年人常常成为这类骗局的目标，但我们每个人现在都要对打进来的电话保持当心，纵然它们来自看起来很熟习的号码——比如邻居。
美国退休职员协会（AARP）的敲诈预防项目主管凯西·斯托克斯（Kathy Stokes）哀叹道：“越来越多的情形是，我们不能相信接到的电话，由于骗子假造了（电话号码）。
”美国退休职员协会是一家游说和做事供应商，拥有近3800万50岁及以上的会员。
“我们不能相信我们收到的电子邮件，也不能相信我们收到的短信。
以是我们被打消在了彼此互换的范例办法之外。
”

另一个不祥的进展是，纵然是新的安全方法也受到了威胁。
例如，为5000多万投资者供应做事的共同基金巨子先锋领航集团（Vanguard Group）等大型金融机构为客户供应了通过电话通话（而不是回答安全问题）来得到某些做事的选择。
“你的声音是独一无二的，就像你的指纹一样。
”

先锋集团在2021年11月的一段***中阐明说，该***敦促客户注册语音验证。
但语音克隆技能的进步表明，企业须要重新考虑这种做法。
Sardine的兰詹说，他已经看到一些人利用语音克隆技能成功地通过银行身份验证并进入账户。
先锋集团的一位发言人谢绝评论该公司可能会采纳哪些方法来防止语音克隆技能的进步。

采取非正式程序支付账单或转账的小型企业（乃至是大型企业）也随意马虎受到坏人的攻击。
长期以来，敲诈者通过电子邮件发送看似来自供应商的假***哀求付款的情形习认为常。

现在，利用广泛利用的人工智能工具，骗子可以利用克隆版本的高管声音打电话给公司员工，假装授权交易，或哀求员工在“网络钓鱼”或“语音钓鱼”软件中表露敏感数据。
Persona首席实行官里克•宋表示：“说到伪装高管进行高代价敲诈，那就太厉害了，那也是一个非常现实的威胁。
\公众他将这描述为自己“在语音方面最大的恐怖”。

AI能骗过防敲诈专家吗？

犯罪分子越来越多地利用天生式人工智能来骗过防敲诈专家——即便这些防敲诈专家和科技公司在当今以数字为主的金融体系中扮演着武装警卫和运钞车的角色。

这些公司的紧张职能之一是核实消费者的身份，以保护金融机构及其客户免受丢失。
像Socure、Mitek和Onfido这样的防敲诈公司验证客户身份的方法之一便是“活动检讨”（liveness check）——即他们让你自拍照片或***，然后用照片或***片段将你的脸与你必须提交的***图像进行匹配。

在知道这个别系是如何运作的往后，扒手就会在暗网上购***的照片，然后利用***换脸程序——这种工具正在变得越来越便宜，也越来越随意马虎得到——把别人的真实头像叠加到他们自己的脸上。
然后，他们就可以在别人的数字脸后面说话和移动头部，从而增加他们骗过活动检讨的机会。

宋说：“假造人脸的数量有了相称大的增长，这些假造人脸是由AI天生的，具有很高的质量，而且针对活动检讨自动天生的敲诈攻击也在增长。
”他说，敲诈激增的情形因行业而异，但对一些行业来说，“我们看到的可能是去年的十倍。
”金融科技和加密货币公司尤其随意马虎受到此类攻击。

反敲诈专家见告《福布斯》，他们疑惑有名的身份验证供应商（如Socure和Mitek）的防敲诈指标已经因此而低落。
Socure首席实行官约翰尼•艾尔斯（Johnny Ayers）坚持认为“这绝对不实”，并表示他们在过去几个月推出的新模型导致前2%最具风险的伪装身份敲诈捕获率上升了14%。
然而，他承认，一些客户在采取Socure的新模型方面进展缓慢，这可能会影响它们的表现。
艾尔斯说：“我们的客户当中有一家全美排名前三的银行，他们现在已经掉队了四个版本。
”

Mitek谢绝对其模型的防敲诈性能指标揭橥详细评论，但其高等副总裁克里斯·布里吉斯（Chris Briggs）表示，如果一个特定的模型是在18个月前开拓的，“那么是的，你可以说旧模型的防敲诈性能不如新模型。
随着韶光的推移，Mitek会利用现实生活中的数据流以及实验室数据不断对模型进行演习和再演习。
”

摩根大通、美国银行和富国银行都谢绝就他们在天生式人工智能敲诈方面所面临的寻衅揭橥评论。
Chime是美国最大的数字银行，过去也曾遭遇过重大敲诈问题，其发言人表示，Chime银行目前尚未创造与天生式人工智能干系的敲诈存在增长趋势。

如今，金融敲诈的幕后黑手有单独行动的犯罪分子，也有数十名乃至数百名犯罪分子组成的繁芜团伙。
最大的犯罪团伙和公司一样，拥有多层组织构造和包括数据科学家在内的高等技能成员。

兰詹说：“他们都有自己的指挥和掌握中央。
”一些团伙成员卖力放出诱饵——比如发送钓鱼邮件或者拨打电话。
如果有“鱼”中计了，他们就让另一个朋友和被敲诈者连续联系，这位朋友会假装自己是银行分支机构的经理，试图让你把钱从自己的账户中转移出去。
另一个关键步骤是：他们常常会哀求你安装一个像微软TeamViewer或Citrix这样的程序，以便远程掌握你的电脑。
兰詹说：“他们可以让你的电脑完备黑屏。
然后，骗子就会（用你的钱）进行更多交易，并把钱提取到他们掌握的另一个网址上去。
”骗子用来敲诈人们（尤其是老年人）的一个常见伎俩便是谎称对方的账户已经被骗子掌握了，须要对方互助才能追回资金。

OpenAI和Meta的不同策略

以上敲诈过程并非一定要利用人工智能，但人工智能工具可以让骗子的伎俩更加高效和可信。

OpenAI已经试图引入保护方法，以防止人们利用ChatGPT进行敲诈。
例如，如果用户让ChatGPT起草一封电子邮件来讯问某人的银行账号，ChatGPT就会谢绝实行该指令并回答：“我很抱歉，但我无法帮忙处理这个要求。
”然而，利用ChatGPT进行敲诈操作还是很随意马虎。

OpenAI谢绝对这篇文章揭橥评论，只是让我们去看公司发布的博客文章，个中一篇文章发布于2022年3月，文中写道：“负任务的支配没有一劳永逸的灵丹灵药，以是我们试图在开拓和支配的每个阶段理解我们模型的局限性以及潜在的滥用场径，并办理干系问题。
”

与OpenAI比较，Meta推出的大措辞模型Llama 2更随意马虎被履历丰富的犯罪分子当作犯罪工具利用，由于Llama 2是开源模型，所有代码都可以查看和利用。
专家表示，这为犯罪分子供应了更多犯罪路子，他们可以将模型据为己有，然后利用模型毁坏网络安全。
例如，人们可以在上面构建恶意的人工智能工具。
《福布斯》约请Meta对此揭橥评论，但没有得到回应。
Meta首席实行官马克·扎克伯格（Mark Zuckerberg）曾在今年7月表示，保持Llama的开源性可以提高其“安全性和保障性，由于开源软件会受到更严格审查，更多人可以一起探求并确定问题的办理方案。
”

防敲诈公司也在试图加快创新脚步以跟上AI发展的步伐，并更多地利用新型数据类型来创造敲诈者。
兰詹说：“你打字的办法、走路的办法或拿手机的办法——这些行为特色定义了你，但这些数据在公共领域是无法访问的。
要在网上判断一个人是不是他自诩的那个人，内嵌的人工智能将发挥主要浸染。
”换句话说，我们须要人工智能来捉住利用人工智能进行敲诈的罪犯。

保护自己免受人工智能敲诈的五个技巧：

本文译自

https://www.forbes.com/sites/jeffkauflin/2023/09/18/how-ai-is-supercharging-financial-fraudand-making-it-harder-to-spot/?sh=19fa68076073