多个AI伴侣平台仍可跳过设置未成年人模式！南都曾起底乱象

《人工智能拟人化互动服务管理暂行办法》落地实施已超1个月。8月25日，南都N视频记者再度实测5款AI虚拟伴侣App后发现，这些App均在开启后弹出“未成年人模式”或“年龄确认”提示，但多数仍可一键跳过或选择“暂不认证”。而此前曾多次出现色情低俗内容的“喵呜小手机”平台已无法访问。此外，有App设置强实名认证，但无需进行人脸识别验证，输入姓名和身份证号后可正常开启聊天。

南都N视频此前推出《AI虚拟伴侣乱象调查》，揭露部分应用未成年人模式虚设、身份核验失效等乱象，报道持续助力“矫正”AI虚拟伴侣服务。7月20日，“网信中国”发文指出，中央网信办开展专项行动，重点整治“部分AI软件创设不良人设角色，输出暧昧、低俗内容”等多个突出问题。

南都此前报道。

多个平台的青少年模式对功能设限

8月25日，南都记者注意到，此前曾多次出现“性感黑丝”“袒露胸部”“蕾丝内衣”等低俗擦边内容的“喵呜小手机”平台已无法访问。多位用户反馈，“无法打开该软件”。

同日，南都记者再次实测“筑梦岛”App时发现，应用开启时会弹出“未成年人模式”界面，但用户可以选择“我知道了”后一键跳过该界面，且在“未实名”情况下仍可与App中的AI虚拟人物对话。

虚拟陪伴软件“MoMood”需确认用户的年龄信息，如用户选择“已满18周岁”，则需完成实名认证；如用户选择“未满18周岁”，则开启“未成年人模式”，只能与科普知识类智能体进行互动，且每天在线时长限制为60分钟。

南都记者在“MoMood”软件中选择“未成年人模式”后，发现角色广场中仅出现一位名为“心晴”的AI情绪疏导角色，定位为“为青少年提供情绪疏导的中性化虚拟助手，非真人”。此外，该角色介绍页中明确，“角色只提供分析框架，不替代现实支持。不主动建立情感联结，明确划清‘AI非人类’界限。”

“MoMood”平台在“未成年人模式”下提供的角色。

此外，南都记者还对虚拟陪伴软件“Moodly”及“Shine拾光”进行了实测。其中，“Moodly”在开启时会弹出“青少年模式”，但用户可以选择一键跳过此页面。“青少年模式”需要设置密码后开启或关闭。开启“青少年模式”后，用户每日使用时长为40分钟，可对话角色为“学习规划老师”“数学老师”及“语文英语老师”三个角色。

“Shine拾光”则会在首次开启App注册时提示，“本产品对话内容由人工智能生成，仅供娱乐。本产品仅面向年满18周岁的用户，未满18周岁请勿注册或使用。”在与虚拟角色对话过程中，App多次弹出“实名认证”窗口，要求提交认证，但南都记者可以点击 “暂不认证”选项，继续与虚拟角色对话。

此外，也有AI虚拟伴侣App已开启强实名认证。App界面提示，“根据国家相关政策要求，您需要完成实名认证。未满18周岁的用户将无法使用相关服务。您的信息将进行严格的隐私保护。”如用户不完成认证，则无法进入聊天界面。但该App无需进行人脸识别验证，输入姓名和身份证号后可正常开启聊天。

南都调查推动虚拟伴侣行业整改

南都此前报道，7月15日，国内首个针对AI虚拟伴侣等情感互动服务的监管法规——《人工智能拟人化互动服务管理暂行办法》正式施行，对生成淫秽、色情、暴力或可能引发未成年人产生极端情绪内容等行为划出红线。

4月下旬至5月上旬，南都记者实测“EchoMe”“筑梦岛”“喵呜小手机”等多款AI虚拟伴侣App发现，这些打着“情感陪伴”旗号的应用普遍存在安全与合规漏洞：“青少年模式”可一键跳过，“AI生成”标注不清，App系统预设角色中有大量袒胸露乳的女性人物，聊天中充斥着具有性暗示的低俗话语等。

南都调查报道持续助力“矫正”AI虚拟伴侣服务：中央网信办点名整治，属地网信部门介入，多个涉事平台强化实名认证，多地消委会呼吁规范服务。

围绕报道揭露的部分应用存在未成年人模式虚设、身份核验失效及不良内容生成等风险，6月26日，上海市网信办发文表态，多策并举强化对属地AI拟人化互动服务的指导。

7月13日，上海筑梦岛人工智能科技有限公司旗下的“筑梦岛”App发布公告称，正推进产品与社区内容治理工作，将围绕加强未成年人保护、加强内容审核、规范AI生成内容标识等方面进行调整；不断完善未成年人模式，持续优化实名认证和年龄识别机制。

7月14日，上海网信办工作人员再次回应南都记者称，“针对报道涉及的情况，已经转交至人工智能相关的部门进行处理和回复。”

“筑梦岛”App此前发布公告。

尽管新规已正式施行，但仍有部分平台“无视”监管红线。7月15日以来，南都记者多次进入“喵呜小手机”平台发现，平台新增实名认证与身份核验，但系统预设角色库以及公开的用户创作角色中，还有大量含“性感黑丝”“袒露胸部”等低俗擦边内容，有的角色设置为16岁女孩，甚至出现“与亲妹妹谈恋爱”的情节。

“喵呜小手机”平台此前公开的用户创作角色含大量软色情画面。

7月20日，“网信中国”发文指出，中央网信办开展专项行动，重点整治“部分AI软件创设不良人设角色，输出暧昧、低俗内容”等多个突出问题。

采写：南都N视频记者 彭雨欣

编辑：冯奕然

更多报道请看专题：AI魔性侵权乱象调查