妙鸭相机走红背后:专家称AI写真技术不新,数据隐忧需重视

南方都市报APP • AI前哨站
原创2023-07-28 21:19

近日,一款名为“妙鸭相机”的AI拍照小程序在朋友圈刷屏。利用这款小程序,用户只要上传21张包含人脸的照片,就能生成一个专属的数字分身,并有各种风格的写真模板可供选择。

短短一周内,凭借简单的使用方法、低廉的价格(9.9元)和高品质的生成效果,妙鸭相机迅速吸引了海量用户。甚至有网友称,妙鸭相机“秒杀”了海马体、天真蓝等实体写真品牌。

妙鸭相机到底“妙”在哪里?其中的技术支撑是什么?走红之后引发何种争议?对此,南都记者进行了多方采访。有专家指出,妙鸭相机不会动摇实体写真品牌,但在数据合规上,它仍待进一步明晰用户生成数据的存储和处理规则。

妙鸭妙吗?妙在哪里?

点进妙鸭相机,用户会发现数字分身的样貌、发型、肤色等都会根据照片进行智能匹配和优化,保证相似度和自然度。

各种风格的写真模板包括清新、复古、时尚、萌系,每种风格都有多个场景和角度可供选择。用户不仅可以随心切换和预览,还可以对写真进行微调,或者添加滤镜、贴纸、文字等元素。

IMG_1255.jpg

妙鸭相机介绍。

除了“出片率高”外,和许多生成AI照片的应用不同,妙鸭相机提供了“我想更像我一点”的功能按钮,让成品不至于和用户本人对不上号。基于这样的功能,妙鸭相机在近期推出后,得到了许多用户好评。脱口秀演员思文在体验后都直呼“AI太厉害了......以后不用拍照P图了。”

但对于平时不拍照的用户,可能在第一步就会被劝退——因为手机里根本找不出21张照片。对于它生成的效果,也有用户表示不满意,认为仅有桃夭、清欢等部分模板比较真实。

截屏2023-07-28 13.43.10.png

知乎回答

近日,上海市消费者权益保护委员会也实测发现,在妙鸭上花了9.9元,却没有换得想要的照片,类似眼镜等元素无法被识别。对此,上海市消保委工作人员询问客服并要求退费,得到的回复却是“暂时不支持退款”。

这引发了新的问题:为什么妙鸭相机生成照片的调整功能依然有限?支付页面用一行灰色小字告知“一旦购买成功,不支持退款”,是否合理?当AI生成不符合自己心理预期的内容时,用户是否有权要求退款?

核心技术并不算先进

回答前文的问题,首先要先理解妙鸭相机使用的技术是什么。

妙鸭相机并非首个利用AIGC技术生成用户照片的应用。早在2019年,换脸App“ZAO”就引起过讨论的风潮。彼时,ZAO使用了DeepFaceLab的AI换脸技术,它可以利用用户上传的照片生成逼真的视频效果。

至于照片,拍照应用B612早就提供了类似服务。只是根据部分用户反馈,B612使用效果并不如妙鸭相机,似乎更倾向于“以量取胜”,输出的30张图片和用户的相似度较低。

从结果来看,无论是B612还是ZAO,在这场和妙鸭相机的“比拼”中,似乎都输在了成效上。

中科深智CTO宋健告诉南都记者,从技术角度来说,妙鸭相机并没有什么“独门秘籍”,它是基于一种叫做稳定扩散(SD)模型的技术。这种技术由Stability Al在去年推出,原理是给一张照片添加很多杂色点,使其变得模糊不清,再用人工智能把这些杂色点去掉,让照片恢复清晰,以此生成出各种不同风格的照片。

除了稳定扩散模型,妙鸭相机还使用了一种叫做LoRA(Low-Rank Adaptation of Large Language Models)模型的技术。这种技术是稳定扩散模型的一个插件,它可以让妙鸭相机更好地适应用户的喜好和需求,相当于给一个大型的语言模型(比如GPT-3或Codex)换了一个小小的“芯片”,让它能够根据用户上传的照片生成更符合用户期望的写真。

无论是SD模型还是LoRA模型,其技术都并不先进。“LoRA模型从年初出现,到现在已经差不多大半年了,后续又陆续迭代了几个更好的训练方法。”宋健说,这种训练技术在AIGC的小圈子里已经在广泛使用,“(妙鸭相机)主要是把这项技术包装成了一个比较简单且易用的产品,并在传播上做得更好。”

但宋健同样指出,从现有的技术能力上来看,模型生成类似的效果不一定需要21张照片之多,“正常要几张就可以了,如果是最先进的技术,一张就够了。”

互联网分析师丁道师同样认为,AIGC技术的产品并不少见,但相比起前几款产品,妙鸭相机的出片效果较好,制作精美,“几乎达到了以假乱真的地步”。此外,妙鸭相机作为小程序端的产品,使用门槛较低,不需要邀请码和高额费用,触达率更高,经过微信社群传播后产生了发酵和引爆的效果。

实体影楼难以被取代

在同类产品中,妙鸭相机当下最出圈的一款,但它不会是唯一一款。丁道师预计,妙鸭相机将触及千万级别以上的用户群体,未来会有更多类似的产品出现。“最迟下个月就会出现无数类似的产品,而且价格可能更便宜、甚至是免费的。”

在他看来,诸如美图秀秀或者抖音等应用都可能推出类似功能,“虽然图片和视频不同,但它们和妙鸭相机有共同覆盖的用户群体。”

当同类产品变多,用户在网上可以轻易地购入一套写真时,这无疑将给实体影楼产业带来一定冲击。但是否意味着妙鸭相机及其同类产品,足以动摇线下写真品牌?

丁道师告诉南都记者,实体影楼行业除了售卖摄影业务,也给用户带来了线下体验。“用户去消费,不是为了拿到几张照片,而是想体验一整套拍摄流程,包括服装试穿、化妆等。”

他举例,“这就好比我们可以在网上玩一些游乐设施,但是它们代替不了迪士尼乐园和环球影城。即便实体影楼会因此流失一部分客源,对核心用户群体的影响也不大。”

与此同时,丁道师认为,妙鸭相机对实体影楼服务的影响,取决于以妙鸭相机为首的类似应用会火爆多久,这需要对行业进行后续观察。他指出,即便没有妙鸭相机的压力,以海马体为代表的高端摄影在今年消费收紧的大环境下,也有可能会降价。

根据公开资料,妙鸭相机兼具多家大厂的“血脉”,它是未序网络科技(上海)有限公司旗下产品。工商信息显示,该公司公司法定代表人、执行董事、总经理均为张龙,张龙同时也担任优酷视频(西安)传媒科技有限公司的法人、执行董事、总经理。

另外,该公司监事冯云乐也在包括优酷、盒马、高德、钉钉、飞猪等多家“阿里系”公司中担任监事一职。而从脉脉上的信息可以看到,阿里巴巴资深产品专家张月光为妙鸭相机创始人。

对用户生成数据的处理仍不明确

2019年ZAO爆火后,引发了很多问题和争议。其中引人注目的是,ZAO在其用户协议中规定了用户需授权ZAO在全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利。其中包括但不限于可以对用户内容进行全部或部分的修改与编辑(如将短视频中的人脸或者声音换成另一个人的人脸或者声音等)以及对修改前后的用户内容进行信息网络传播以及《著作权法》规定的由著作权人享有的全部著作财产权利及邻接权利。

类似的条款,也出现在妙鸭相机最初版本的用户服务协议里。妙鸭相机称,用户需授权妙鸭相机在全世界(包括元宇宙等虚拟空间)范围内享有永久的、不可撤销的、可转让的、可转授权的、免费的和非独家的许可,使得妙鸭相机可以任何形式、任何媒体或技术(无论现在已知或以后开发)使用用户的内容。理由是“为了使我方能够提供、确保和改进本服务(包括但不限于使用AI生成内容作为再训练数据等)”。

IMG_1258.jpg

妙鸭相机回应。

面对质疑,妙鸭相机7月20日在官微发文称,已经收到用户关于用户协议的反馈,并称原协议内容有误,已第一时间根据实际情况进行了修改,“在这里郑重地向大家承诺,您所上传的照片只会用于数字分身制作,不会提取也不会用于识别和其他用途,且分身制作完成后自动删除”。

对此,浙江垦丁律师事务所创始合伙人麻策对南都记者表示,这一条款在实践中并不少见。其核心指向用户在平台上发布的信息,平台可以无偿使用,这一条款在其他厂商中可能更适用于用户发布信息的场景,如评论或朋友圈。然而在妙鸭相机的使用场景中,发布和分享的环节较少,因此不太适用,“这可能是抄袭别的平台的用户条款之后出现了一些场景不适配的问题。”

此外,在AIGC产品中,用户不知道自己上交的信息是否会被用于其他模型的训练,或者被保存另作何种用途。加之,妙鸭相机需要上传的是较为敏感的面部信息,这更容易引起用户的警惕和担忧。

IMG_1257.jpg

妙鸭相机7月21日生效的隐私政策。

麻策认为,出于目前国内对AIGC算法备案的要求,服务提供者需要明确其算法被滥用的风险,其中涉及用户查阅、复制、删除信息的权利,这是妙鸭相机方在协议中和备案里需要明确的操作细节。

不仅如此,用户上传信息后所生成的内容将会被如何处理,这也是受关注的问题。麻策建议,妙鸭相机需要将生成内容的处理规则透明化。

中国社科院哲学所科技哲学研究室主任段伟文也表达了类似的观点,他指出,由于人工智能技术目前发展速度较快,人脸数据未来可能会有更多的应用,包括情绪识别、心理健康计算等方向。也因此,人脸信息在实际应用中,需要得到更加妥善地保护。

段伟文强调,对于诸如人脸数据等敏感信息的收集和处理,应该遵循知情同意原则,并在服务协议中明确说明数据的用途。此外他建议,可以在技术上设置一种识别机制——用户上传个人敏感数据时,于原数据中设置一个可识别的水印,将这些数据的用途限制于用户协议中说明的用途。

至于妙鸭相机卷入的“退款难”争议,麻策认为,平台方是否应该退款需要看其宣传方式,如果在宣传中没有明确产品能够和用户的画像完全一致,则用户没有权利要求退款。

“因为大家既然对于目前AIGC的技术能力、实现方法和生成结果有一定预期,那么用户自然也知道生成结果可能不尽完美。每个人的心理预期和认知程度不同,消费考虑也不一样,因此评价一款产品很难基于单个用户的主观意愿,去认定其服务结果是否符合预期。”

针对用户反映的“一旦购买成功,不支持退费”问题,妙鸭相机回应,所提供的是基于算力的服务,如果因为技术问题造成数字分身生成失败,可以退款。同时由于AI算法具有一定不确定性,眼镜等配件有可能无法识别,为此将优化算法,尽快解决问题。

出品:南都人工智能课题研究组

采写:南都记者胡耕硕 黄慧诗

编辑:李玲

1
对这篇文章有想法?跟我聊聊吧
南都新闻,未经授权不得转载。授权联系方式:
banquan@nandu.cc,020-87006626。