从恶搞企业家 雷军

到AI制作张文宏音视频

为自己带货

甚至还有不法分子

利用AI深度合成视频

进行诈骗

过去一年

AI深度合成音视频

侵权现象愈演愈烈

此前

就曾有网友

利用AI制作的刘德华声音

为自己博取流量

刘德华电影公司

还紧急发声明提醒

近日

记者调查发现

实现AI深度合成音视频

并不算难事

在一些购物平台

AI深度合成技术

已成为众多网店牟利的工具

只需花费几十元

就可定制AI深度合成

名人音视频

主播开直播

教网友怎么制做

这些AI深度合成的声音和换脸是如何制作出来的？

记者调查发现，相应的深度合成软件在网络上下载并不算难， 而且还有一些主播会开直播教网友如何使用。

记者在手机应用商城 搜索换脸换声，会出现众多工具。不过换脸工具设定了固定的场景，且从效果看逼真度不高。

那么网店制作的逼真度高的AI深度合成声音和换脸，是如何做到的？

中国网络空间安全协会人工智能安全治理专业委员会专家薛智慧表示，当前有 很多开源的软件和工具，都能实现换声换脸的效果，可以供网民自由下载，在自己的电脑上进行安装和使用。

专家表示，此类软件在网上有数十种，不过属于半专业软件，有一定的技术门槛。但是，记者发现，目前在短视频平台 有众多主播在教网民使用相关软件。

这种行为是侵权的

已有人为此赔钱

那么，在网络购物平台使用AI深度合成技术，制作出售名人的音视频，是否触犯相关法律呢？

专家表示，相关法律法规明确规定，未经授权，不得深度合成制作发布他人信息。 网店接单AI深度合成制作名人视频，已经属于侵权行为，并应该承担相应的法律责任。

北京航空航天大学法学院副教授赵精武介绍，在司法实践中，国内已经审结了首例AI生成声音人格权侵权案。

在这个案子里， 原告作为配音演员，在没有经过授权的情况下，他的声音被AI生成后对外出售。

法院在审理中认为，我国的民法典已经在人格权编，将自然人的声音视为一种人格权益，具有人身专属性。

所以，法院最终认定被告方使用原告声音、开发案涉AI文本转语音产品未获得合法授权，构成侵权，书面赔礼道歉，并赔偿原告各项损失25万元。

可以用AI检测AI

其实，不仅是名人，普通人甚至动画形象，如果未经本人或版权方同意，就用AI合成制作其音视频，也可以判断为侵权行为，应当承担法律责任。

随着相关技术的普及，我们又该如何防范AI深度合成音视频侵权的问题呢？

薛智慧表示，从技术角度来说， 可以利用AI技术来对抗跟检测AI。

当前也有一些典型的AI技术，能够对这些图片或者音视频进行检测，来判断或者分析这些图片是否后期加工和合成的。

吕延辉则认为——

防范AI侵权问题需要从法律、平台和公众等多个层面综合施策。

法律层面， 要进一步完善相关立法，细化AI克隆技术的法律条款，明确侵权行为的定义和责任，同时加强执法力度。

平台层面，要强化相关政策法规的宣贯和执行，做好已有数据的保护，应用技术手段来规避AI克隆侵权问题的发生，同时也要 建立健全内容审核和侵权举报机制，及时发现和处理侵权问题。

法律专家也提醒AI深度合成制作和信息发布者， 不要存侥幸心理，法律没有灰色地带，切勿因小失大。

“法律并不是禁止使用AI合成技术， 而是禁止不合法不合理的使用，尤其是禁止不进行任何显著标识和提示的AI合成信息的发布和传播。”赵精武说。

--------------------

●据央视新闻

●责任编辑：陈小小

●一级审核：姚佳

●二级审核：董磊

●三级审核：许国辉