制作事情室和粉丝们都在利用天生人工智能工具，让配音演员说出他们从未说过的话——也让他们的饭碗岌岌可危。

图片来源：ANGELICA ALZONA FOR FORBES; PHOTOS BY PETER DAZELEY/GETTY IMAGES

配音演员阿利格拉·克拉克（Allegra Clark）在刷TikTok时，看到了一段***，***中的人物是她配音的电子游戏《原神》中的勇猛的船长北斗，但在克拉克看到的***里，北斗正在参与一个具有性暗示的场景，并说了一些克拉克从未说过的话，只管那粗犷的声音听起来和她千篇一律。
该***的创作者利用了一种名为ElevenLabs的天生式人工智能工具克隆了克拉克的声音，然后他就可以让那个声音说任何他想说的话。

克拉克曾为100多个电子游戏角色和数十个广告配音，她说她把这个***看作是一个笑话，但她担心她的客户可能也会看到它，并认为她参与了它的配音——而这可能违反了她的条约。

她在写给ElevenLabs的一封电子邮件中写道：“如果人们认为我们说了（这些话），这不仅会给我们带来很多麻烦，而且坦率地说，当你听到自己的声音，但那并不是你自己说的话，这种觉得也是非常搪突的。
”她哀求该初创公司删除上传的音频片段，并禁止将来连续克隆她的声音，但该公司表示，尚未确定该***片段是用其技能制作的。
该公司声称，只有当***片段是“仇恨辞吐或诋毁”时，他们才会立即采纳行动，并表示不对任何陵犯版权的行为卖力。
对付克拉克的诉求，该公司从未跟进或采纳任何行动。

“我们对自己的声音没有个人所有权，这种觉得很糟糕。
我们所能做的便是对这种情形说不。
”克拉克见告《福布斯》。

针对克拉克的遭遇，ElevenLabs 的联合创始人兼首席实行官马蒂·斯坦尼谢夫斯基（Mati Staniszewski）在一封电子邮件中见告《福布斯》，如果用户所创建的内容可能具有\"大众毁坏性或诋毁性\公众，那么他们须要得到被克隆人的\公众明确赞许\公众。
在克拉克的经历发生几个月后，该公司推出了一款“语音验证码”工具，哀求人们录制一个随机天生的单词发音，该声音必须与他们想要克隆的声音相匹配。

该公司估值约为1亿美元，由安德森霍洛维茨基金（Andreessen Horowitz）和谷歌DeepMind联合创始人穆斯塔法·苏莱曼（Mustafa Suleyman）领投，是目前最热门的语音AI公司之一。
它的技能只须要30秒到10分钟的音频，就能创造出险些与原声完备相同的声音复制品。
与FakeYou和Voice AI等供应免费数字语音库的网站一样，它也是天生式人工智能对配音演员造成影响的源头。

对10位配音演员的采访显示，随着店主开始考试测验利用这些笔墨转语音工具，这个本已岌岌可危的行业正处于大范围变革的边缘。

一位接管《福布斯》采访的配音演员说，一位店主在宣告与ElevenLabs互助的第二天就见告她，不会再聘任她完成一系列有声读物的讲授事情，这让她担心自己会被人工智能取代。
另一个人说，她的店主见告她，他们想用ElevenLabs的人工智能来加快重拍的速率，而重拍是配音演员录制音频的一个标准环节，参与个中的配音演员是有报酬的。
当她见告店主她不同意将自己的声音上传到任何人工智能网站时，店主赞许了，但她说她还没有被叫去做任何重拍。

NAVA总裁蒂姆·弗里德兰德（Tim Friedlander）表示，在苹果图书公司（Apple Books）于2023年1月推出数字有声读物旁白，并供应一套女高音和男中音声音后，声优界首次把稳到人工智能天生的声音涌入。
他说，配音演员们开始创造，成千上万人们熟习的声音的音频文件被上传到各个网站，个中大部分是粉丝上传的。
最近，著名演员斯蒂芬·弗莱（Stephen Fry）表示，有人将他的声音从《哈利·波特》系列小说的旁白中提取出来，并用人工智能克隆了出来。
在CogX峰会上的一次演讲中，弗莱表示这一经历让他“震荡”。

在一份公开的电子表格中，数百名配音演员哀求将他们的声音从人工智能语音天生器Uberduck和FakeYou中打消。
这些网站都表示，如果声音的主人联系他们，他们会从网站上删除这些声音。
只管FakeYou仍旧供应成千上万受欢迎的声音，比如约翰·塞纳（John Cena）和坎耶·韦斯特（Kanye West）的声音，可供任何人利用，但Uberduck在7月份从其平台上删除了用户贡献的声音。
Uberduck和FakeYou.ai没有回应我们的多次置评要求。

吉姆·卡明斯（Jim Cummings）是公开哀求将自己的声音从声音天生器中删除的配音演员之一，他是《小熊维尼》（Winnie-the-Pooh）和《兔八哥》（Looney Tunes）中塔兹（Taz）等角色的配音。
他见告《福布斯》，只有在他和他的家人得到版税的情形下，他才会赞许用户模拟他的声音。
“把你的脏手从我的声音上拿开。
”他说。

法律困境

与那些通过罢工对人工智能的到来以及人工智能可能如何影响他们的事情敲响了警钟的电影演员一样，配音演员也站在了这项技能变革的前沿。
但与其他创意领域不同的是，在这些领域，作家和艺术家们正在联合起来发起集体诉讼，反对他们受版权保护的作品被用来演习人工智能模型，而配音演员却处于一个独特的弱势地位。
只管声音实质上是因人而异的，但它们并不作为知识产权受到保护。
“声音不像你的脸或指纹那样受到法律保护，”多个电子游戏角色的声优詹妮弗·罗伯茨（Jennifer Roberts）表示。
“我们对此束手无策。
”

然而，声音的录制是受版权保护的，诺里斯·麦克劳恩状师事务所（Norris McLaughen）的状师珍妮·汉伯格（Jeanne Hamburg）表示，对声音出于商业目的利用可以受到“宣扬权”的保护，这可以防止名人的肖像和声音被利用。
不过，这仅仅是理论上的：大多数配音演员签署的条约并没有阻挡他们录制的声音被用于演习人工智能系统。
配音演员茜茜·琼斯（Cissy Jones）是新成立的配音演员工会全国配音演员协会（National Association of voice Actors, NAVA）创始团队的一员，她说，几十年来，配音条约都规定制作人“在已知的全体宇宙中，在任何现有或即将开拓的技能中，永久拥有录音的所有权和版权。
”

这些条约大多是在人工智能系统涌现之前编写和签署的。
NAVA的状师斯科特·莫特曼（Scott Mortman）说：“配音演员没有在条约中对未来利用他/她录制的声音供应知情赞许，也没有得到公正的补偿。
因此，在人工智能之后，保护方法须要得到显著加强。
”

这便是为什么NAVA和演员工会SAG-AFTRA正在努力从条约中删除许可店主利用演员的声音创建\公众数字替人\公众或通过机器学习\"大众合成\"大众其声音的条款。
这些组织还制订了新的条款模板，用来加入到条约中，以保护配音演员免于失落去对自己声音的权利。

多到数不清的滥用

像克拉克一样，许多配音演员都经历过粉丝利用天生式人工智能工具仿照他们的声音，来创造色情、种族主义和暴力内容的经历。
纵然粉丝们只是用人工智能语音制作无害的表情包或其他类型的粉丝内容，一些配音演员也会在社交媒体上发声，禁止人们假造他们的声音。

NAVA成员琼斯的声音曾涌如今迪士尼节目和Netflix记录片中，她在TikTok***中创造，粉丝们用Uberduck克隆了她的声音去说一些不恰当的话。
琼斯在接管《福布斯》采访时表示：“我的声音不仅说了一些我永久不会说的话，而且这些东西已经在世界上流传开来了。
如果潜在店主听到我们这么说，会对我未来的事情产生什么影响?”琼斯说，在她联系对方往后，Uberduck从平台上删除了她的声音。

人工智能天生的声音也成为了一种新的骚扰媒介。
曾为《原神》和《上古卷轴》等游戏配音的阿比·维弗（Abbey Veffer）表示，今年2月有人复制了她的声音，还人肉搜索了她。
这个人用她的地址创建了一个Twitter账户，天生了一个人工智能克隆的维弗的声音，然后让克隆的声音说了一些包含种族主义和有暴力方向的话。
这位匿名用户直接把录音发给了维弗，并将这段录音放在那个推特账户的顶部。
他们声称利用了ElevenLabs的技能。
维弗见告《福布斯》，这段经历让她“非常紧张”和“沮丧”。

但是，当维弗向ElevenLabs表达她的担忧时，该公司表示，对其声音的克隆不是利用其软件创建的，而是针对该初创公司的“有组织抹黑运动”的一部分。
她说，在她联系Twitter 三天之后，该账户被封禁，***也被撤下，但她的居住地址仍在推特上被保留了三个月。

今年1月，在推出了其文本转语音人工智能工具的测试版后，ElevenLabs这家初创公司宣告，它正在努力办理人们滥用其技能的问题。
一天后，Vice的技能频道Motherboard创造4Chan上的匿名发帖者利用ElevenLabs当时免费的克隆工具，用乔·罗根（Joe Rogan）和艾玛·沃特森（Emma Watson）等名人的声音揭橥种族主义、恐跨性别和暴力辞吐。

人工智能模拟人类声音的能力也为骗子创造了机会。
美国联邦贸易委员会今年曾发出警告称，犯罪分子正在利用人工智能语音克隆来伪装别人的亲人，以此说服目标给他们汇款。
一位媒体也曾利用ElevenLabs的工具创建了一个人工智能天生的自己的声音版本，并用它成功解锁了自己的手机。

ElevenLabs没有对这些详细情形揭橥评论，但其首席实行官Staniszewski在一封电子邮件中表示：“如果有人利用我们的工具克隆他们未经容许的声音，并且违反了公正利用案例，我们将封禁该帐户，并阻挡他们利用相同的信息建立新账户。
”除了确保人们得到容许的“语音验证码”工具外，该公司还表示，它还开拓了一种人工智能语音分类器，可以以90%以上的准确率检测出包含人工智能的音频片段是否是利用其工具制作的。

授权与掌握

为了应对滥用，语音天生网站正在增加限定方法来监管他们的技能。
为史努比狗（Snoop Dog）和格温妮丝·帕特洛（Gwyneth Paltrow）等名人配音供应授权的Speechify公司（得到了完备容许），不许可儿们上传内容来创建定制的声音，除非用户希望声音的原主人积极参与个中。
与ElevenLabs类似，它会呈现一段独特的文本，用户或与他们在一起的人必须用自己的声音大声朗读。
“我认为走捷径是目光短浅的行为，我的目标是让内容所有者节制主动权。
”公司创始人克里夫·韦茨曼（Cliff Weitzman）说。
2012年，他首次创办了Speechify，利用机器学习将他的教科书转化为有声读物。

在招揽了Netflix和天下银行集团（World Bank Group）等企业客户的Resemble AI公司，人们只有在用自己想要天生的声音录制赞许声明后，才能创建定制的人工智能天生的声音。
Resemble AI创始人兼首席实行官佐海布·艾哈迈德（Zohaib Ahmed）表示，履行安全的技能支配办法是他的创业公司不可或缺的一部分，由于在他看来，防止滥用的任务该当落在制造工具的供应商身上，而不是终极用户身上。

然而，这类验证检讨并没有办理与赞许有关的更高层次的道德问题。
例如，演员并不能真正掌握他们的声音在去世后会如何被利用。
当游戏事情室Hi-Rez Studios在与声优的条约里添加了一个条款，许可自己在声音所有者去世亡后利用AI克隆该声音时，配音演员们被激怒了（该条款在引起轩然大波后被删）。
配音演员克拉克说：“如果一个演员去世了，最好的做法是用另一个人来代替他们，而不是制造一些人工演出，由于那不是他们，也不能让他们复活。
”

笼罩在这统统之上最大的担忧便是，配音演员这份事情是否还有未来。
随着店主和粉丝们开始利用人工合成的声音，许多配音演员都在担心是否能找到下一份事情，或是保住现有的事情。
NAVA的弗里德兰德说：“对我们来说，掌握语音的利用办法和利用地点，以及利用我们的声音能让我们拿到多少报酬是非常主要的。
”

译自https：//www.forbes.com/sites/rashishrivastava/2023/10/09/keep-your-paws-off-my-voice-voice-actors-worry-generative-ai-will-steal-their-livelihoods/?sh=239df5a37b27