南都讯 记者冯群星 李玲 3月19日，古装玄幻剧《三千鸦杀》在芒果TV首播。有网友发现，剧中人物“青青”的脸部看上去非常不自然，或由“AI换脸”技术后期合成。据了解，青青的扮演者原本是青年女演员刘露，去年因违法被行政拘留后，芒果TV与其解约。

图：芒果TV新剧剧照。

2019年9月，一段“女子大闹火车站”的视频在网上曝光。视频显示，一女子不听车站安检员劝阻，将易燃压缩气罐带进湖北宜昌东火车站候车室。期间，女子与安检员发生争执，引发大量旅客围观。民警对其采取强制传唤后，该女子仍然态度傲慢，发表了“你现在阻挡我的正常行程”“我5000块钱的鞋子承担不起我这只脚”“你完了”等言论。最终，她因阻碍执行职务、扰乱公共场所秩序被行政拘留五日。

视频引发舆论关注后，该女子被网友认出是芒果TV旗下艺人、青年女演员刘露。2019年9月18日，刘露在微博发文道歉称，“我真的是太愚蠢太冲动，我错了，我理应遵纪守法，配合执法人员的一切合理工作。”芒果TV也通过微博发表致歉声明，并宣布与刘露解除艺人经纪合约。

图：芒果TV道歉声明。

AI前哨站了解到，此次受到热议的网络电视剧《三千鸦杀》由芒果TV与新力量影视文化有限公司联合出品，去年3月就已经杀青，刘露原本在其中饰演“青青”一角。

昨日，《三千鸦杀》正式播出，网友发现，“青青”一角被换脸，但人物的脸部与身体有明显的割裂感。在微博上，网友纷纷评价称，“特效也太敷衍了”“看着好可怕”。

事实上，在另一部由芒果TV联合出品的网剧《时光与你都很甜》中，刘露也被换脸。《时光与你都很甜》于今年2月14日首播，刘露原本饰演剧中的“杨若盈”，后来更换了扮演者。由于该剧当时已杀青，有消息称剧中也采用了AI换脸的技术。不过，这部剧的换脸效果比较自然，此前播出时并未引发关注。

AI换脸背后，是一种叫做Deepfakes的技术。近两年，这种技术走入大众视野，但大多被用于网友自制的视频。去年2月，一段“杨幂换脸朱茵”的《射雕英雄传》就火爆于网络。不久前，有网友将韩国电视剧《梨泰院Class》的女主角换脸成喜剧演员贾玲，相关视频也登上了微博热搜。 

图：《梨泰院Class》女主变贾玲。

虽然不少网友表示，通过《三千鸦杀》第一次在电视剧中看到AI换脸，但目前尚不能确定该剧使用的就是AI技术。有业内人士对AI前哨站表示，《三千鸦杀》中的换脸看上去更像是翻拍贴图，也就是把相关电视剧片段重新拍一遍，再通过逐帧修图替换掉原本的画面。

不过，AI前哨站梳理发现，AI换脸在影视行业内早已不是新鲜事。

2019年4月，电视剧《封神演义》在芒果TV开播，剧中人物“费仲”便由AI换脸技术制作。网传消息称，该剧拍摄于2015年，饰演“费仲”的是一名韩国演员，后因“限韩令”惨遭换脸。不过，这一消息始终未得到芒果TV官方的证实。

图：《封神演义》中的角色费仲。

同样是在去年开播的电视剧《长安十二辰》也有换脸角色。曾在六年前因嫖娼被行政拘留的黄海波饰演剧中人物“崔六郎”，最终播出时被AI换脸技术改得“面目全非”。

图：《长安十二辰》中的角色崔六郎。

据媒体报道，2014年，原国家新闻出版广电总局办公厅发布相关文件，要求各级广播电视播出机构加强广播电视节目、影视剧和网络视听节目的制作传播管理。文件明确，各级广播电视播出机构要坚持正确导向，不得邀请违法犯罪行为者参与制作节目，并暂停播出违法犯罪行为者作为主创人员参与制作的电影、电视剧、各类节目以及代言广告。

有业内人士透露，电视剧出品方使用AI换脸技术，一般是为了让电视剧符合监管要求从而顺利播出。“毕竟戏播不了，钱就全打水漂了。”

国标律师事务所主任姚克枫告诉AI前哨站，一般制作方与演员合同里会约定，有权对演员的肖像进行剪辑使用，或者改掉声音等等。如果演员触犯法律，也有权不采用其肖像。在这种情况下，AI换脸并不违反法律规定。 

有律师向AI前哨站表示，如果艺人存在不当言论或者失德行为，就可能被制作公司解约或被替换角色。但重拍的成本太高，所以剧方只好用这种方式替换。

“对自己负责，也对他人负责，演员一定要谨言慎行。从这个意义上讲，要求他们德艺双馨，不过分！”他说。 

事实上，除了影视行业，国外的政治选战中近两年也开始出现AI换脸的身影。2019年6月，美国众议院情报委员会就Deepfakes技术举行了首次听证会。该委员会提出，AI换脸将使选民“无法再相信他们的眼睛或耳朵”，可能对2020年的美国总统大选产生灾难性影响。从立法者到互联网平台，都需要采取措施应对新技术的挑战。 

在中国国内，监管部门同样采取了积极措施。去年11月，国家互联网信息办公室、文化和旅游部、国家广播电视总局联合印发了《网络音视频信息服务管理规定》，其中要求，“利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识”。

编辑：蒋琳

对这篇文章有想法？跟我聊聊吧

李玲3.5亿

南方都市报记者