·美国政府警告,“深度造假”诱骗正在增加,在购买商品之前请花一点韶光重新检讨帖子和社交媒体账户,这些照片和***很可能是假的。

歌手泰勒·斯威夫特声音被假造?美国AI深度造假引关注_深度_斯威夫特 科技快讯

AI天生的泰勒·斯威夫特推销Le Creuset炊具***。

AI“深度造假”(Deepfake)技能再次引发关注。

一则由人工智能天生的假泰勒·斯威夫特(Taylor Swift,中文外号“霉霉”)带货广告在社交媒体Facebook上传播。
涉事公司对此迅速做出回应称,斯威夫特没有参与任何消费者赠品活动,所有关于产品匆匆销的活动均来自官方社走运动。

澎湃科技(www.thepaper.cn)把稳到,斯威夫特并非最新被牵扯到利用人工智能技能造假的名人。
1月15日,印度的板球传奇人物萨钦·坦杜卡(Sachin Tendulkar)也成为AI深度造假的受害者。

泰勒·斯威夫特免费送你法国高端厨具?假的!

“嘿你们好,我是泰勒·斯威夫特。
由于包装出错,有3000套Le Creuset(中文名译为‘酷彩’)炊具套装无法正常线下发卖,转向线上***。
有一个好分享给你们,我与Le Creuset联手进行匆匆销——有20位虔诚粉丝将免费得到赠予的炊具套装。

在这则广告中,斯威夫特坐在钢琴前,向大家推销法国高端炊具品牌Le Creuset,并表示作为她的“新年大放送”,会向20位粉丝免费赠予一套炊具。

事实上,***中的“霉霉”并不是真的斯威夫特,而是AI“深度造假”技能合成了她的声音,并将声音与她的形象和Le Creuset广告片段拼凑在一起。

据《纽约时报》1月9日宣布,骗子利用合成的声音称呼斯威夫特的粉丝为“斯威夫提(Swifties)”。
在合成的广告中,斯威夫特的克隆声音对“斯威夫提”,即她的粉丝说她“很高兴”能免费分发炊具套装。
当受害者被勾引至虚假网站后,会被哀求支付9.96美元的运费。
但号称免费送的厨具不会真的送出去。

Le Creuset和Facebook母公司Meta对这一敲诈活动迅速做出了回应。

据福克斯***1月12日宣布,目前,Meta表示已经删除该广告。

Le Creuset声明,该公司并没有与斯威夫特互助任何消费者赠品活动,所有经批准的Le Creuset赠品或匆匆销活动均来自官方社交账号。

印度当地媒体《经济时报》1月15日宣布,印度板球传奇人物坦杜卡也成为了深度造假的受害者。

此前一段***显示,这位板球运动员支持一款名为Skyward Aviator Quest的游戏运用程序,并称他的女儿通过利用该运用程序预测游戏结果,逐日收入高达18万卢比。

印度板球传奇人物萨钦·坦杜卡(Sachin Tendulkar)在社交媒体上对AI深度造假的回应 来源:社交媒体X截图

杜卡回应称,“这些***是假的,技能滥用征象专横獗,令人不安。
要求大家大量举报此类***、广告和运用程序。
社交媒体平台须要保持当心并相应投诉。
他们的行动对付阻挡缺点信息和深度造假的传播至关主要。

美国AI深度造假诱骗正在增加

美国布法罗大学“媒体取证实验室”的打算机科学教授吕思伟 (Siwei Lyu)在接管《纽约时报》采访时表示,“霉霉”这起“深度造假”诱骗活动很可能是利用笔墨转语音做事制作的。
这类工具可将脚本转译成声音,并用唇语同步程序将其合成至***片段。

深度造假(Deepfake)是英文“Deep learning”(深度学习)和“Fake”(假造)的混成词,指利用深度学习技能天生合成图像、音频或***的技能。

随着人工智能技能的崛起和干系工具利用门槛的降落,越来越多包含深度造假技能的***被生产出来,并日益发展出了新的运用处景。
过去一年,人工智能取得重大进步,制作未经授权的真人数字复制品变得更加随意马虎,音频、***恶搞特殊随意马虎,也很难识别。

美国商业改进局去年警告,“深度造假”诱骗正在增加,“在购买商品之前,请花一点韶光重新检讨帖子和社交媒体账户,这些照片和***很可能是假的,如果你购买了不合格或不存在的产品,你就会丢失金钱(常日比你想象的还要多)。