有人用“雷军AI配音”兴许是为了好玩,但对法律的敬畏、对伦理的信守,不能轻易玩没了
“国庆上网,被雷军骂了整整7天。”连日来,短视频平台上出现了不少“雷军AI配音”的恶搞视频,部分网友使用AI克隆的雷军声音骂人、吐槽,引发了人们的担忧和不满。10月7日晚,针对“为何骂人”的询问,雷军在网上回复了三个愤怒表情。
从相关视频来看,口音语气都神似雷军本人,还有他的“出镜”,但实际上是将鬼畜和假名人语录的玩法套上了“赛博”皮套。
乍看起来,这类恶搞似乎是一种梗文化的延续,“雷军AI配音”广为流传,也是他的舆论亲和度、社会接受度和网友喜爱度的反映。比如有网友就认为,“雷军被年轻人喜欢,就得接受年轻人表达喜欢的方式”。但恶搞要有边界,当恶搞跟侵权之嫌沾边时,“勿以恶小而为之”才是更该秉持的原则。
这两年,生成式AI迎来了蓬勃发展之势,AI语音(包括语音合成、语音克隆、语音识别、深度伪造和自然语言处理)已是当下相对成熟的AI技术。有些互联网平台或大模型厂商就推出了AI配音功能。AI配音确实为大量内容创作者、影视工作者带来了便利,但与之俱来的,还有乱用冒用他人声音的现象出现。
去年底,一段美国歌手泰勒·斯威夫特“说”中文的短视频在网络刷屏,其实是AI生成的,但音色和讲母语时的音色类似,甚至连口型都能对上,足以让人信以为真。而“AI孙燕姿翻唱一切”之类的视频,也在网上传播甚广。若这些音视频只是制作者自己“图个乐子”,那影响可能还在可控范围内。但现实中,AI伪造的音视频中不乏带脏口、搞谩骂甚至设置骗局的,这要是出了事,谁来背这个锅?
这波热传的“雷军AI语音”里,也充斥着不少粗话脏话,还有造谣嫌疑,如要投资建设某某大学等。懂的人知道这是AI配音,不懂的人听闻雷军的声音加画面,可能真就盲信了。
随着AI语音技术越来越成熟,以假乱真效果不断趋近,利用AI拟声换脸诈骗的风险也愈发让人无法低估。无论是之前的“ZAO”换脸争议,还是“假靳东围猎中老年女性”事件,都曾揭示AI语音跟Deepfake(深度伪造)技术被滥用的隐患和危害。
AI应用,不能逾越基本的伦理红线和法律底线。根据《民法典》等法律法规,对自然人声音的保护,参照适用肖像权保护的有关规定。也就意味着,任何组织或个人未经声音权人同意,不得擅自使用、公开或侵害其声音权益。
就防止AI配音侵权而言,社交媒体、内容平台有义务在发现问题后阻断其传播链条,并尽可能利用技术能力识别那些语音欺诈行为,对用户作出“疑似AI合成”之类的提醒。AI配音技术提供商也不能为侵权大开方便之门,甚至冲在侵权的前线。据报道,目前市面上就有AI配音小程序内置雷老板、姜小文、葛大爷等多种声音——使用代称而非本名,正是为了避免版权风险。但未经许可就冒用他们的声音来牟利,本就涉嫌侵权。
对网友来说,就算用“雷军们的AI配音”只是出于恶搞目的,也该恪守边界,不要以恶搞之名行侵权之实。否则,很可能就踩了造假造谣的红线。有人用“雷军AI配音”兴许是为了好玩,但对法律的敬畏、对伦理的信守,不能轻易玩没了。
红星新闻特约评论员 佘宗明
编辑 赵瑜
红星评论投稿邮箱:hxpl2020@qq.com