·专家指出，语音克隆公司研发App时，对付跟名人有关、误导性较强、传播风险较大的***，可以在传播过程中加强显性标识的设计，提醒受众。

当地韶光1月21日，新罕布什尔州一些选民称接到了“拜登总统”的自动留言电话，见告接听者不要在该州初选中投票。

“人工智能模拟真人天生以假乱真的语音、图片和***来欺骗消费者，这正在制造混乱。
无论电话中是你喜好支持的名人或政客，也不论电话中的支属与你关系如何，当他们来电乞助时，我们都有可能成为这些AI假造电话的目标。
”

针对近期美国发生多起AI深度造假事宜，当地韶光2月1日，美国联邦通信委员会（FCC）主席杰西卡·罗森沃塞尔（Jessica Rosenworcel）发起，将利用AI天生的语音拨打机器人电话（robocall）定为造孽。

此前，AI伪装美国总统拜登给选民打电话、有名歌手泰勒·斯威夫特AI虚假“不雅观观照”在网上疯传，恰逢美国大选年，多起AI深度造假事宜引发人们对人工智能造假的担忧。

未来几周内对提案进行表决

机器人电话（robocall）也被称为预录电话，利用打算机掌握的自动拨号器来发出预先录制好的信息，就像机器人一样，一样平常以推销或传播某种信息为目的，频繁骚扰手机用户。

美国联邦通信委员会表示，机器人电话中用人工智能天生的声音“在过去几年中不断升级”，并且“有可能通过模拟名人、政治候选人和亲密家庭成员的声音来制造缺点信息迷惑消费者”。

罗森沃塞尔表示，她提出的发布式裁决（Declaratory Ruling）将“根据现行法律认定这种新兴技能是非法的，这将为我们在全国各州总审查长办公室的互助伙伴供应新的工具，他们可以利用这些工具打击骗局，保护消费者。
”宣布称，委员们将在未来几周内对该提案进行表决。

这次发起是在美国新罕布什尔州居民接到伪装总统拜登的电话后不久提出的。
当地韶光1月21日，该州一些选民称接到了“拜登总统”的自动留言电话，见告接听者不要在新罕布什尔州初选中投票。

白宫***秘书卡琳·让-皮埃尔（Karine Jean-Pierre）22日回应称，“那通电话确实是假的，（拜登）总统没有录音。
我可以证明这一点。
”新罕布什尔州总审查长办公室表示，正在对这些“欺骗性”信息展开调查。
拜登的竞选经理朱莉·查韦斯·罗德里格斯（Julie Chavez Rodriguez）随即在一份声明中表示，已与新罕布什尔州总审查长沟通，竞选团队正在积极谈论。

美国人工智能技能干预选举的行为早有先例，不仅仅是假造语音。
2023年芝加哥市长选举前夕，“芝加哥湖畔***”（Chicago Lakefront News）发布***鞭笞温和派民主党人保罗·瓦拉斯（Paul Vallas）对枪击事宜视而不见。
虽然瓦拉斯竞选团队训斥该***由AI天生，但***已经在互联网上广泛流传。
瓦拉斯终极竞选失落败可能也与该***给他带来的负面影响有关。

“假拜登”电话背后语音克隆公司已确定

语音克隆初创公司ElevenLabs证明，假造的拜登语音是由该公司供应的工具天生。
目前，ElevenLabs已停息利用深度造假技能发布信息的账户。

根据ElevenLabs官网先容，这家语音人工智能研究公司能够以29种措辞天生语音。
该公司的安全政谋划定，在克隆某人的声音之前最好得到其容许，但未经容许的克隆可以用于非商业目的，包括“有助于公共辩论的政治辞吐”。
此外，该公司警告，不得将克隆声音用于敲诈、歧视、揭橥仇恨辞吐或任何触犯法律的在线滥用。

据《连线》杂志1月26日宣布，ElevenLabs在新一轮融资中筹集了8000万美元，目前估值已超过11亿美元，是名副实在的“独角兽”公司。
公司投资者包括有名投资人安德森·霍洛维茨（Andreessen Horowitz），GitHub前首席实行官纳特·弗里德曼（Nat Friedman）和AI实验室DeepMind的联合创始人穆斯塔法·苏莱曼（Mustafa Suleyman）等有名人士。

AI深度造假技能为何防不胜防？

深度造假（Deepfake）是英文“Deep learning”（深度学习）和“Fake”（假造）的混成词，指利用深度学习技能天生合成图像、音频或***的技能。
由于"大众人物的***、音频、图片资料的公开性，为AI演习供应了大量素材，因此名人常常成为AI造假的受害者。

互联网安全组织“网络尖刀”的一位匿名技能专家见告澎湃科技（www.thepaper.cn），深度造假技能制作的内容在视觉、听觉上非常逼真，很难单凭肉眼或传统的技能手段辨别真伪。
攻击者可以利用技能手段隐蔽深度造假的痕迹和特色，使其难以被检测到。
现在互联网上存在大量图片和***数据，这些数据用于演习深度学习模型，从而也被深度造假技能利用，“可用的数据集越多，模型的质量就越高，深度造假的结果离真人越近。
”

在传播过程中如何加强对此类***的监管？中国社会科学院大学互联网法治研究中央实行主任刘晓春在接管澎湃科技采访时建议，语音克隆公司研发App时，对付跟名人有关、误导性较强、传播风险较大的***，可以在传播过程中加强显性标识的设计，明确标明这是一个合成内容，提醒受众。

刘晓春强调，在显性标识之外，技能层面上也可以设计隐性标识，这样在追踪溯源时，也能从技能层面识别来源或合成的渠道。
“如果能够清楚地标明它是由哪些渠道的技能合成，这样风险也能掌握住。
”刘晓春说。

前述“网络尖刀”技能专家称，深度造假识别技能比人类更敏锐，深入动作、光芒、分辨率上的马脚，在源头创造造假内容，通过识别假造的特色和非常模式，可以尽早创造和阻挡深度造假内容的传播。