“国庆假期7天，被‘雷军’骂了8天？” “十一”期间，一批以“雷军”的声音为配音的视频在社交媒体上快速传播，除了吐槽国庆过得太快、堵车太烦以外，一些“AI雷军”化身游戏npc，言辞犀利且常常语出不逊。这些声音以假乱真，以至于有网友在雷军本人微博下留言，“雷总，最近你怎么在骂人”，雷军迅速回复了三个愤怒的表情。

在“AI雷军”事件之前，AI在声音领域因技术滥用、侵权等问题曾引发国内外的声讨。今年1月，多名巴西配音演员发起抵制运动呼吁对影视行业中AI的使用进行监管，在国内“AI孙燕姿”等网友篡改歌手演唱视频的传播也引发了诸多争议。

今年4月，北京互联网法院对全国首例“AI声音侵权案”做出了一审判决，判决中提到，利用人工智能合成的声音，如果能使一般社会公众或者相关领域的公众根据其音色、语调和发音风格，关联到该自然人，可以认定为具有可识别性。

暨南大学法学院/知识产权学院副教授吴雨辉向南都记者表示，“雷军AI声音热传现象”是典型的深度伪造行为，需要在源头上加强对于生成式人工智能服务商的监管，要求其切实履行《互联网信息服务深度合成管理规定》等规定。

国庆7天被“AI雷军”骂了8天？

国庆期间，一批以“雷军”的声音为配音的视频在社交媒体上快速传播，除了吐槽国庆过得太快、堵车太烦以外，一些“AI雷军”化身游戏npc，言辞犀利且常常语出不逊。

国庆期间，“雷军AI配音”话题在抖音平台的浏览量过亿，B站上相关创作也已超过上百条，不少网友戏称，“国庆假期7天，被‘雷军’骂了8天”。

在雷军的微博评论区中，连日来也有不少网友留言询问此事。10月7日，有网友留言询问雷军，“雷总，最近你怎么在骂人”，雷军迅速回复了三个愤怒的表情。

10月9日，小米公关部总经理王化在微博上公布了雷军“金光闪闪名场面”这个经典梗的完整视频，并澄清大家“被目前网络中断章取义的五个字给误导了”。随后有网友在评论区呼吁，“把‘雷军 AI’ 语音骂人的事情先解决一下”，王化评论回应称已将此事转给了小米法务部。

目前，南都记者检索视频平台，相关骂人视频已不见踪影。

涉事软件平台仍未下架“雷军骂人AI”

在“AI雷军”事件中，不少网友曾在发出的视频评论中提及，自己是使用了reecho睿声声音软件来制作相关恶搞视频。

南都记者登录睿声官网的声音市场看到，用户自创的社区角色中除了雷军以外，还有周杰伦、成龙、刘亦菲、马云等名人。用户在语音生成功能中，只需输入一段文案，即可快速生成一段相关语音，可以选取上述名人的声音来读出输入的文案，效果非常逼真。

南都记者随意点开一个“AI雷军”语音，该语音开头便使用不雅用语，并提到“最烦你们这些打游戏喜欢犟嘴的畜生了”。目前，该语音已经被使用了3.7万次。南都记者实测发现，截至发稿时间，该雷军相关的AI声音仍可生成和下载，并未下架。

南都记者采访获悉，reecho睿声声音软件由深圳言域科技有限公司开发，该公司于9月30日曾获得奇绩论坛的天使轮投资。言域科技创始人兼CEO谢伟铎告诉南都记者，该公司目前已接到了小米公司的联系，正在配合对方诉求对涉及侵权的用户内容做告知和下架等处理，对于其它可能涉及侵权的内容也正在逐步排查处理中。

值得一提的是，此前网络上流传的“三只羊”卢某某在酒后发表的一段言论，其中对“三只羊”处理客诉问题、竞争对手等发表了相关看法，还提及“与三只羊女主播之间的不正当关系”，一度引发了热议。后续合肥市公安局高新分局发布公告称，该录音系被人用AI软件伪造克隆。该公告还提到了克隆的具体手段：犯罪嫌疑人利用从互联网下载的音视频资料，杜撰三只羊卢某某酒后言论脚本，先使用AI工具训练生成假冒卢某某的音频(其中出现的女声也系AI工具训练生成)，后用视频软件合成音视频，并通过网络发布，形成谣言大量传播。

9月27日，reecho睿声通过官方账号表明，自己正是“三只羊卢某某录音门”事件背后的大模型平台，犯罪嫌疑人通过三只羊此前直播片段的约30秒录音进行克隆，并通过文本进行了生成。

“AI声音侵权”已有判例

在“雷军AI”事件之前，AI在声音领域因技术滥用、侵权等问题曾引发国内外的声讨。

今年1月，多名巴西配音演员为呼吁对影视行业中AI的使用进行监管，曾联合发起抵制运动。在国内，除了“AI孙燕姿”以外，网友篡改歌手演唱视频的传播也引发了诸多争议。目前，AI在声音方面的应用仍有不少灰色地带，诸多视频经过二次甚至是多次篡改、传播，导致溯源环节长、当事人维权成本高。

今年4月，对于全国首例“AI声音侵权案”，北京互联网法院做出了一审判决。在该案件中，配音师殷某发现，一款叫“魔音工坊”的配音APP将自己录制有声书的声音AI化后以“魔小璇”的名义对外出售牟利。其中，自2021年9月7日至今，在短剧视频“小禾侃剧”的账号里，自己“被AI的声音”已经使用在了119部作品里。

原告配音师殷某称，自己从未对“魔音工坊”的行为有过授权。溯源发现，殷某曾受中广影音（北京）文化传媒有限公司委托录制了3本书的音频，该公司又将音频提供给微软（中国）有限公司，后者将殷某的声音进行AI化处理后，生成了“晓萱”文本转语音产品，并向两家其他公司授权对外出售。之后，殷某“魔音工坊”所属的公司直接调取该文本转语音产品生成“魔小璇”的文本转语音产品，并在该平台使用。殷某认为，在未经自己授权的情况下，上述五家公司的行为已经严重侵犯了自己的声音权益。

南都记者关注到，该案虽加入了AI元素，但争议焦点在于上述五家公司的行为是否构成了对自然人的声音权益侵犯的议题中。根据审判文书，法院认为，自然人声音以声纹、音色、频率为区分，具有独特性、唯一性、稳定性特点，能够给他人形成或引起一般人产生与该自然人有关的思想或感情活动，可以对外展示个人的行为和身份。自然人声音的可识别性是指在他人反复多次或长期聆听的基础上，通过该声音特征能识别出特定自然人。利用人工智能合成的声音，如果能使一般社会公众或者相关领域的公众根据其音色、语调和发音风格，关联到该自然人，可以认定为具有可识别性。

而在该案中，被告软件公司系仅使用原告个人声音开发涉案文本转语音产品，而且经当庭勘验，该AI声音与原告的音色、语调、发音风格等具有高度一致性，能够引起一般人产生与原告有关的思想或感情活动，能够将该声音联系到原告本人，进而识别出原告的主体身份。

恶搞“AI雷军”已构成侵权

暨南大学法学院/知识产权学院副教授吴雨辉向南都记者表示，“雷军AI声音热传现象”是典型的深度伪造行为。“网友的恶搞行为显然是对雷军先生个人的权益侵害，如果这些视频没有清晰标注‘深度合成’字样的话，更是对社会公共利益的侵害。为了防止此类事件引发更严重的社会危害，需要在源头上加强对于生成式人工智能服务商的监管，要求其切实履行《互联网信息服务深度合成管理规定》等规定。”

而上述的AI声音侵权第一案，则是让人们直观地认识到了一种新的声音权益使用方式，尤其是意识到其与著作权的差异和相通之处。“生成类似他人风格的作品未必构成著作权侵权，但是生成类似他人声音的作品则构成人格权侵权。这一判决有助于推动声音权保护立法和实践的进一步完善，在声音识别比对标准、声音权商业化、普通人声音权保护等方面做出更多的探索。”吴雨辉称。

吴雨辉还提到，目前已有法律对AI声音进行规范和限制。“在私人权利保护方面，AI声音涉及到他人声音权的侵犯，根据《民法典》的规定，使用他人声音应当取得许可；在公共利益保护方面，未经许可的AI声音生成实际上是一种深度伪造行为。根据《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》等法律规定，未经许可以他人声音生成AI声音是违法行为；生成AI服务提供商如未尽到标记义务和审核义务，未及时采取处置措施，也有可能承担法律责任。”

采写：南都记者 林文琪

编辑：田爱丽

对这篇文章有想法？跟我聊聊吧

林文琪

田爱丽