3月27日，抖音安全中央"大众号发布了《抖音关于不当利用AI天生虚拟人物的管理公告》。
公告再次重申，创作者、主播、用户、商家、广告主等在抖音运用天生式人工智能技能时，须遵照相应规范。

例如发布者应对人工智能天生内容进行显著标识，虚拟人需在平台进行注册、虚拟人技能利用者需实名认证，禁止利用天生式人工智能技能创作、发布违背科学知识、弄虚作假、造谣传谣的内容等。

北京商报实操创造，作为创作者，用户可以在“设置”页面对虚拟人身份自行进行报告和备案。
抖音官方目前在部分AIGC***左下角添加“内容疑似AI天生，请谨慎甄别”笔墨来提示干系风险，然而在虚拟人领域，除了创作者自行在***文案中添加“虚拟偶像/虚拟人”等标签之外，并未在不雅观众侧看到其他虚拟人身份的官方标识。

去年5月，抖音就曾发布《关于人工智能天生内容的平台规范暨行业倡议》，但公告也指出，近期站内仍有不当利用AI技能天生虚拟人物发布内容的账号，平台进行了严厉处置。
个中范例行为便包括天生境外虚假人设，消费爱国生理、博取关注，天生俊男美女虚假形象，骗取互动，交友导流等。

今年春节期间，乌克兰网红Olga Loiek曾发布过一条题为《我在中国被人克隆了》的***，流传宣传自己的脸和声音在中文网络上被盗用，通过AI技能涌如今数十个***账号中，并进行带货。

截至北京商报发稿，抖音平台上仍存在以Olga Loiek的AI形象示人的带货账号，名为“Katarina卡塔琳娜”，简介是一位“在中国生活了五年的俄罗斯女孩”。

虽然该账号在1月28日后未发布新内容，但橱窗信息显示跟买人数已经超过2.5万，售出商品件数超2万，账号和***界面未显示任何AI风险提示，橱窗内产品还可以正常购买。

此外，还有不少自称来自俄罗斯的美女“网红”生动于短***平台，用生硬的表情表达着对中国的喜好，并且表达“想嫁到中国”的欲望。
北京商报创造，这类***目的是通过***带货推销各种俄罗斯特色商品，受众则是二、三线城市的中年男性。

AI带货“主播”风波还未完备平息，AI“复活”又上风口浪尖。
近日，多位已逝明星的AI***频繁涌如今短***平台上，引发广泛争议。

北京商报不雅观察到，“AI复活”做事在淘宝上的定价在10—300元不等。
让去世的明星在***中和粉丝说话，或是让过世的支属和家人对话，俨然已经变成了一学买卖。

利用AI技能的敲诈也层出不穷。
《2024人工智能安全报告》显示，2023年基于AI的深度假造敲诈案件呈现出惊人的增长趋势，增长率高达3000%。

值得一提的是，针对诱骗行为，抖音公告称“平台已节制部分黑产团伙不当利用AI天生虚拟人物用于犯罪的线索，将报警打击”。

在接管北京商报采访时，一位从事短***平台AIGC技能研发的事情职员提到，目前该公告更像是一个“君子协议”，由于利用模型和技能对这些违规行为进行高准确度识别仍有寻衅，因此平台紧张还是会通过事后惩罚的办法来限定，当然，监控技能也会越来越成熟，“这是个此消彼长的过程”。

北京商报 杨月涵 演习生 李苗