国庆假期期间,抖音等短视频平台上出现大量“雷军骂人”的恶搞视频。

在视频中,作为企业家流量担当的“雷军”,锐评了假期长短、堵车、调休等热门话题,言辞犀利,且时有不雅脏话穿插其间。部分平台上相关话题浏览量过亿。有网友调侃“雷总,最近你怎么在骂人”“国庆上网被雷军骂了整整7天”。

对此事件,雷军回复了三个愤怒表情,以表达态度。这一方面说明,其本人已经知晓此事;另一方面也揭示了作为企业圈顶级流量背后,所掩藏的气愤和无奈。

此类视频中的声音并非出自雷军本人,而是AI配音。去年网络平台上也曾有一批AI克隆语音爆火出圈,以“AI孙燕姿”为代表的AI克隆歌手语音包风靡一时,同时也有利用AI克隆“郭德纲秀英语”等嫁接式品类出现,不过,当时市场普遍认为,它们给市场带来的更多是娱乐效应。

与前一轮不同,本轮克隆雷军声音的AI语音,迅速引发广泛争议。这一方面与AI克隆和雷军本人平日风格之间的巨大反差有关;还有一个更重要的原因是,“雷军骂人”已经具有恶搞意味,部分内容已超出一般开玩笑玩梗的程度。

例如,除了骂人、吐槽之外,还有具有造谣嫌疑的,比如“雷军”说要投资建设某某大学等;还有的内容骇人听闻,比如“雷军”说要用小米SU7撞人等。当前,这些视频正在被平台下架中。

与此前AI同类应用的娱乐性相比,这一轮更多的是引发了市场某种程度上的反感和担忧。对此我们可以从多个角度观察。

比如在法律视角下,擅自使用他人肖像和声音进行编辑合成,甚至发布具有辱骂和诽谤性质的内容,侵犯相关民事权利。再比如,在技术伦理视角下,如何最大程度避免技术应用中的“人格误导”,完善训练过程的数据保护等。

从产业视角来看,这种现象映射出,很多AI应用在现阶段仍然处于草莽时代,边界感尚不明晰。例如,目前市面上有大量AI配音的小程序,用户可以随意选择多元人物声音,或者输入文字生成对应声音,便可借用他人的声音发表言论。

肇始于2022年底的AIGC浪潮以来,包括字节跳动、百度、阿里、腾讯等在内的互联网大厂都已经推出基础大模型,并且拥有很强的泛化应用能力。这些创新技术应用本无边界。以AI配音为例,一方面,它能为创作提供了新的可能性,让内容创作更加多元化;另一方面,AI配音也存在被滥用的风险,不当使用可能会涉及侵权等问题。此前,就有直播带货顶流陷入“录音门”,事后警方发布通报,证实了AI工具伪造,并传播不实内容。

实际上,AI生图同样如此:一方面为创作者提供方便,另一方面也有可能被滥用违法。倘若沿着市场担忧的路径往更多元方向演进,AI换脸、AI裸照等更加恐怖的事件,不排除发生的可能。从这个角度看,“雷军骂人”很可能会成为AIGC泛化应用过程中的一个重要案例。

任何机遇都会同时伴随挑战。对于大模型企业来说,一方面需要关注技术本身的迭代,另一方面也要紧守数字伦理的底线。而对于监管来说,在某些特定阶段,AI监管曾面临“不知何处下手”的问题,而“雷军骂人”案例说明,防止技术滥用就是其中的重要一维。诚如比尔盖茨所言,“须确保数字技术为我们带来的是好处,而不是伤害。”