AI视频翻译“走红”背后涉及哪些风险 紫荆观察丨用AI“一键脱衣”，真脏！

AI视频翻译“走红”背后涉及哪些风险 紫荆观察丨用AI“一键脱衣”，真脏！， 

AI视频翻译“走红”背后涉及哪些风险

近日，“知名相声演员用英语表演”“Taylor Swift讲地道中文”等一批由人工智能（AI）翻译软件生成的视频在社交平台引发热议。视频翻译流畅，足以“以假乱真”，刷新了人们对AI应用边界的认知。

如何看待此类视频的走红？技术可及性将为生活带来哪些变化？“AI嘴替”又可能涉及哪些法律和伦理风险？

相声演员说英文相声

“还以为他真能说英文相声！”北京上班族王路（化名）看到某知名相声演员的表演视频被AI翻译成英文后“十分上头”。更令她感到震撼的是，这些AI合成视频声线拟真、语气自然，甚至口型都能做到“天衣无缝”。

多名视频创作者透露，这项技术来自某款AI视频翻译平台。用户只需提交满足要求的初始视频，支付一定订阅费用，即可实现十余种语言的“一键翻译”，呈现自然的克隆声音和真实的说话风格。

人物在不同语言间“丝滑”切换，毫不“违和”，究竟是如何实现的？“其实是将相对成熟的各项技术综合了起来。”中科院深圳先进技术研究院研究员燕楠表示，视频制作需要的文字翻译、语音克隆、视频生成等模块，均可由AI轻松完成。例如人物图像，大模型可直接生成目标人物脸部和嘴部的运动序列，让神情、口型趋于逼真。

“尝鲜”AI有风险

不仅是专业的内容生产者，从“AI歌手”，到可以生成数字分身的小程序，技术门槛的降低，让越来越多普通人也可以轻松使用AI技术。

那么，如果想“尝鲜”使用AI视频翻译技术，哪些风险值得注意？

多位律师表示，从法律层面来说，制作并发布AI翻译视频，可能侵害被模仿者的姓名权、肖像权、名誉权、表演者权等。“依据民法典规定，未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，因此AI视频翻译可能涉嫌侵犯肖像权。”广东环球经纬律师事务所律师邓鑫说，由于相声、歌曲等源视频均属于著作权法保护的作品范畴，若未经授权使用，还涉嫌著作权侵权。此外，对声音进行修改和替换，或提取被模仿者的敏感信息，也有相应法律风险。

法律人士同时指出，如果只是单纯地进行翻译，未将翻译后的生成物公开传播的，一般可以认为是个人的合理使用。

“粗一看挺逗乐，可深入一想，今天被换脸的是‘名人’，明天被换的是自己该怎么办？万一有人利用技术歪曲事实、冒充诈骗，又该怎么办？”互联网上，一些视频弹幕表达了忧虑。“眼见不再为实”，AI视频翻译技术一旦被滥用，后果难以想象。

培育向上向善技术环境

事实上，此前单一维度的AI“换脸”“拟声”已带来一定风险，互联网不是法外之地。截至今年8月初，公安机关通过专项会战，侦破“AI换脸”案件79起，抓获犯罪嫌疑人515名。

知情人士介绍，此类案件的发生，AI技术是手段，关键还要基于大量掌握目标对象的语音图片素材和社会身份信息。在邓鑫看来，“AI技术本身并不是原罪，技术发展带来的后果取决于如何使用、用于何处以及使用代价的考量。”

我国已经发布《互联网信息服务深度合成管理规定》与《生成式人工智能服务管理暂行办法》等多项办法，对人工智能相关技术规范、义务主体与责任作出规定，强调技术开发、服务提供者的主体责任。

多位受访对象建议综合施策。专家提示，应强化对视频制作源头约束、建立平台审核机制，同时加强深度伪造检测技术研发，通过提取表征等技术方式识别真伪，防止AI滥用。一些视频发布平台也在积极行动。如上线标识功能，要求创作者发布包含人工智能生成的内容时，应声明“该视频使用人工智能合成技术”，避免误导观众。

业内人士认为，在可以预见的未来，将会有更多有创造力的AI应用案例涌现，社会也应营造向上向善的应用环境，让AI技术真正带来美好。据新华社


紫荆观察丨用AI“一键脱衣”，真脏！

近日新京报记者调查发现，目前黑灰产平台上存在不少售卖网红、女星的“AI脱衣”照片群组。

随着技术的发展与普及，AI已从当初的“工业级”技术变为指尖应用。然而，更低的使用门槛和更简单的操作方式，却为别有用心之人提供了便利，让最好的技术被用在了最坏的地方。从用AI换脸诈骗到用“AI脱衣”造黄谣，一些人寡廉鲜耻、毫无底线，可谓作恶多端。严惩AI犯罪已刻不容缓，但要做到有效打击，仍有两大痛点要解决。

一是难以追溯的传播渠道。作为一种新型信息技术犯罪，“AI脱衣”具有隐蔽性强、传播速度快等特性，这也是不法分子有恃无恐的“底气”。据报道，这些制图者和传播者大多借助一款国外社交软件发布信息，该软件还具有“阅后即焚”的功能。这不仅让受害者取证困难，也让执法者陷入困局，难以对黑色产业链上游的不法分子实现精准打击。

二是难以估量的维权成本。对受害者来说，抓住AI背后的黑手可能是一场漫长的角力。此前，某大学一学生恶意P图侮辱女性被拘留一事，结果虽大快人心，但从受害者付出的时间、精力以及在此过程中反复遭受的精神伤害来说，维权成本不言而喻。更何况，现实中还有大量受害者因为缺乏有力证据，无法将造谣者绳之以法，维权之路道阻且长。

魔盒已开，如何关上？恐怕眼下暂时无万全之策。正如有专家所言，我们无法完全阻止个人使用AI生成伪造视频或图片。对此，阻止有害内容传播，并提高违法成本，或许是破局之道。前者不妨先从国内平台入手，定位传播源头并实施打击，阻断黑色产业链条。后者需尽快为“AI脱衣”套上法律缰绳，强化惩戒震慑。

赶紧关注我们的官方账号吧~

清朗网络空间，我们共同守护！

扫码进入举报不良信息页面

来源丨广州日报

编辑｜李洋

柳州市互联网信息办公室出品