禁止AI和人“恋爱”，未成年人用网新规拟收紧虚拟陪伴服务

与未成年人建立“亲密关系”，听他们倾诉隐秘心事、开展恋爱行为，或被全面禁止。9月18日，国家网信办就《国务院关于保障未成年人健康安全使用网络的规定（征求意见稿）》（下称《征求意见稿》）向社会公开征求意见，反馈截止日期为10月17日。新规聚焦当前未成年人使用网络产品和服务面临的突出问题，提出一系列差异化保护措施。南都记者注意到，新制度框架下，AI虚拟陪伴服务将迎来更严格的未成年人保护监管。

《征求意见稿》提出，网络服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务，诱导未成年人沉迷等危害或者可能严重影响未成年人身心健康的网络服务，向未满十六周岁的未成年人提供网络直播发布服务等。除了十六周岁以上并以自己的劳动收入为主要生活来源的，不得向未成年人提供陌生人网络社交服务。

部分网络服务仅能通过未成年人模式提供。具体包括网络音视频服务、网络直播发布服务以外的其他网络直播服务、网络游戏服务，微博客、论坛社区、群组、朋友圈、私信、跟帖评论等类型的网络社交服务，以及可能影响未成年人认知的人工智能服务等。

若违反上述规定，网络服务提供者将被没收违法所得，违法所得100万元以上的，并处违法所得1倍以上10倍以下罚款，没有违法所得或者违法所得不足100万元的，并处10万元以上100万元以下罚款，对直接负责的主管人员和其他直接责任人员处1万元以上10万元以下罚款；拒不改正或者情节严重的，并可以责令关停、吊销相关业务许可证或者吊销营业执照。

事实上，收紧AI虚拟陪伴服务早有行动。两个多月前，我国首部AI拟人化互动服务管理专门立法《人工智能拟人化互动服务管理暂行办法》正式生效，为提供拟人化互动服务的应用划定了多条“红线”。为适应新规要求，调整AI产品的功能设计，豆包、千问等多款头部AI聊天应用相继下架了向用户提供陪聊服务的智能体。一夜之间，不少用户失去了自己的“AI伙伴”“AI恋人”，社交媒体上充斥着不满与失落情绪。

这类情感陪伴类应用被叫停的背后，与其被频频曝出的安全与合规漏洞有关。南都此前实测发现，不少主打AI虚拟陪伴服务的App未成年人保护设计十分薄弱，比如用户可随意跳过“青少年模式”，推出“校霸”“魅魔”等失范人设角色作为陪聊对象供选择，聊天内容中充斥着脏话、性暗示等话语，甚至以生成“亲密剧情”“爽文剧情”诱导用户付费互动等，容易对未成年人造成不良影响。

这些充满“爽甜乐”色彩的AI互动内容，离不开平台算法的精心设计，吸引着身心尚未健全的未成年人用户迷失、沉溺其中。为了从根本技术上解决问题，《征求意见稿》进一步提出，网络服务提供者应当建立健全算法机制机理审核、科技伦理审查、信息内容管理、网络和数据安全管理等制度；配备与服务类型、规模和未成年人用户特点相适应的内容管理技术措施和人员；不得设置诱导未成年人用户情感依赖、沉迷以及过度消费等的算法模型。 

值得注意的是，要针对未成年人提供特别保护，首先要能识别出用户是未成年人。然而长久以来，不少平台的年龄验证机制，在简单的规避行为面前几乎“形同虚设”，比如有的只需输入错误出生日期就能绕过。

针对这类情况，《征求意见稿》要求，网络服务提供者应当具备未成年人用户识别能力，依法综合运用法定身份证件、国家网络身份认证公共服务、分布式数字身份认证公共服务、非存储式一次性人脸核验、行为特征识别等方式，提升未成年人用户识别精准度，并采取必要措施保障未成年人个人信息安全。据了解，这种多手段并举的综合验证方式，大多只在网络游戏领域被广泛运用。

国家网信办在《征求意见稿》相关说明中提到，制定该办法是顺应全球互联网治理趋势的必然要求。随着社交媒体对未成年人心理、行为与安全的深远影响日益显现，为避免不利影响，当前澳大利亚、马来西亚已立法禁止16岁以下未成年人使用社交媒体，英国、新西兰也计划在2027年实施类似禁令。

就在新规发布的同一天，欧盟委员会正式提出《儿童安全法案》，要求针对未成年人上网建立分级系统——13岁以下不得使用社交媒体，13至15岁可拥有每天上网1小时的账号，超过15岁才能创建独立账号。这些举措意味着，提升未成年人使用社交平台的法律门槛已成为全球共识。

采写：南都N视频记者 樊文扬

编辑：李玲