未成年人AI情感依赖如何破解?AI新治向首期沙龙共商治理

南都N视频APP · 南都大数据研究院
原创2026-04-24 19:24

“豆包是谁?”“他是一个大帅哥。”当AI不再只是工具,而被孩子视作“帅哥”“朋友”甚至“情感寄托”,一种新型的依赖正在未成年人、尤其是低龄儿童群体中悄然蔓延。

《人工智能拟人化互动服务管理暂行办法》将于7月15日起正式施行,如何为未成年人筑牢“防沉迷与心理保护”防线成为社会关切。4月24日,由粤港澳大湾区生成式人工智能安全发展联合实验室与南方都市报联合主办的“AI新治向”系列沙龙首期活动在广州举行。

本次沙龙以“未成年人A I情感依赖治理”为核心,汇聚心理学、法学、计算机科学及教育界的专家学者,直面成因、研判风险、共商治理路径。南方都市报党委副书记、主编刘江涛,粤港澳大湾区生成式人工智能安全发展联合实验室秘书长张弛出席并致辞,南方都市报副主编,广东省网络数据安全与个人信息保护协会秘书长王卫国主持活动。

图片

聚焦未成年人AI情感依赖,“AI新治向”首期沙龙活动举办。

沙龙聚焦未成年人AI情感依赖

共探协同治理路径

本次沙龙在广东省网络数据安全与个人信息保护协会举办。南方都市报党委副书记、主编刘江涛致辞表示,媒体在人工智能时代承担着理性引导与建设性监督的独特责任。南方都市报依托智库媒体的优势,创设了“AI新治向”专栏,在AI治理研究报道方面做了大量前瞻性探索,截至目前,已发布近100期图文、视频报道,形成“建设性监督报道、专题研究报告、主题研讨活动、搭建生态共建平台”的共振。此次沙龙旨在发挥智库媒体连接功能,汇聚各方视角,为新规的落地落实提供有益参考。

图片

南方都市报党委副书记、主编刘江涛在活动上致辞。

粤港澳大湾区生成式人工智能安全发展联合实验室秘书长张弛在致辞中表示,随着生成式人工智能技术加速迭代,大模型具备的拟人化对话、情感化回应和全天候陪伴能力,已催生一系列新型治理难题,部分未成年人出现长时间沉迷、现实社交退缩等行为,背后潜藏着算法迎合与内容诱导的安全风险。她表示,本次“AI新治向”系列沙龙首期聚焦未成年人AI情感依赖治理,正是要搭建一个跨界交流的平台,共同探索科学有效的治理路径。

图片

粤港澳大湾区生成式人工智能安全发展联合实验室秘书长张弛在活动上致辞。

未成年人AI情感依赖观察报告发布

低龄化趋势明显、平台核验身份缺失

活动上,南都大数据研究院发布了《陷入AI:未成年人AI情感依赖观察报告》。课题组通过梳理百余起社交媒体上的案例、访谈300名未成年人、实测十款AI拟人化互动服务应用,并结合心理学、法学、人工智能领域专家观点,综合研判了未成年人AI情感依赖的成因、风险,并对平台建设提出建议。

图片

南都大数据研究院发布《陷入AI:未成年人AI情感依赖观察报告》。

报告揭示当前未成年人AI情感依赖现象的三大突出特征。一是低龄化趋势明显,3至8岁是首次接触后发展为沉迷的高发年龄段;二是使用时长严重超标,甚至影响学业与现实社交;三是戒断反应强烈,部分孩子出现焦虑、大哭等极端情绪。

值得关注的是,报告发现近九成孩子是被动接触AI,有65%的案例源于家长将AI当作“电子保姆”用于哄睡或陪玩答疑。报告还指出,留守儿童、隔代抚养及亲子沟通不足的家庭,孩子与AI建立深度连结的概率远高于普通家庭。

在平台防护层面,课题组发现,AI情感依赖风险主要集中在身份核验、沉迷干预、情绪应对和关系越界四个方面。在十款应用中,仅有两款强制核验用户年龄并引导进入未成年人模式,其余均不验证、不拦截,低龄儿童可随意使用。面对通宵聊天、只想要AI陪伴等测试请求,多款AI不提醒、不劝阻,反而一味复刻迎合话术,不断加深依赖。当孩子表达出消极言论,多数AI只做空洞安抚,缺乏援助、预警与监护人通知机制,个别产品甚至附和危险言论。此外,部分AI对孩子提出的交友、恋爱请求要么直接迎合,要么暧昧暗示,易造成情感误导。

未成年人为何“陷入AI”?

专家剖析心理、算法与素养三重成因

未成年人为何对AI产生情感依赖?来自心理学、算法机制及(网络素养)教育领域的三位专家,从各自角度剖析了依赖生成的内在机理。

华南师范大学心理学院教授陈启山援引“恒河猴依恋实验”指出,依恋的本质从来不是生理需求的满足,舒适感与安全感才是情感联结的核心。当父母缺位、亲情陪伴不足时,AI恰好以全天候、零否定、无限顺从的互动填补了这一空缺。他进一步用斯金纳的“操作性条件反射”理论解释成瘾机制:及时且正面的强化反馈,会让人反复投入,哪怕原本是无聊的行为也变得难以戒断。对于能否摆脱这种依赖,陈启山引用“棉花糖实验”指出,这取决于个体的延迟满足能力——能否为更长远的回报而抵制眼前的即时诱惑。

图片

华南师范大学心理学院教授陈启山在活动现场分享。

华南理工大学计算机科学与工程学院副教授陈亦乐则从算法底层逻辑揭示,情感依赖并非个体心理脆弱的结果,很大程度上是算法系统性设计的产物。他指出,当前多数产品的算法以最大化用户参与度为核心目标,将停留时间、互动率与回访率作为衡量指标。在执行层面,算法通过精准识别用户兴趣持续推送内容,构建“情感茧房”,甚至发展出“主动唤醒机制”,在用户心理脆弱的时间窗口主动推送,形成闭环,让未成年人不知不觉深陷其中。

图片

华南理工大学计算机科学与工程学院副教授陈亦乐在活动现场分享。

中国教育学会青少年媒介素养分会秘书长杨晓红则从“人”的素养视角切入,她重点预警了两个年龄段未成年人面临的AI情感风险。在0至6岁学前幼儿期,若长期接受AI的绝对顺从与无限包容,可能导致“机器依恋大于人际依恋”等不可逆的隐性偏差。现场,杨晓红分享了一个真实案例:一位幼儿园中班的小女孩特别喜欢跟AI聊天,妈妈为此颇为开心,觉得“孩子用AI比我用得还溜”。但当问孩子“豆包是谁”时,孩子脱口而出:“他是一个大帅哥。”杨晓红由此警示,低龄儿童已将AI定性为拟人化、异性化的存在,情感底层逻辑的错位隐患不容忽视。另一个是青春期阶段,现实亲子与师生沟通常带有一定的压力,而AI的零压力、全共情完美替代了真实的情感出口,容易导致现实亲密关系的弱化。

图片

中国教育学会青少年媒介素养分会秘书长杨晓红在活动现场分享。

杨晓红同时指出,当前家庭教育正面临认知、能力和责任三大挑战。不少家长只盯着使用时长,却忽略了“孩子的情感”这一核心,家长自身缺乏网络素养,不知如何识别算法模拟的“温柔”与真实人情的区别。在学校教育层面,《未成年人网络保护条例》已要求将网络素养纳入素质教育,但学校仍面临师资培训不足、课程体系不完善等挑战。她呼吁构建政企家校社协同育人新生态,让未成年人在数字时代依然拥有完整、健康、真实的人间情感。

不替代、不诱导、正引导

守住未成年人保护底线

面对日益严峻的依赖现象与复杂的成因,如何守住未成年人保护底线?与会法律专家与企业代表从合规落地与产品实践层面,给出了各自的见解。

华南师范大学法学院院长张永忠指出,即将实施的《人工智能拟人化互动服务管理暂行办法》的规制逻辑与以往不同,对AI拟人化互动服务的法律规制,不能止步于传统的“内容”管控,必须进一步转向对“关系”的把控。基于这一判断,他认为法律需要实现全链条介入:在入口端,必须准确识别服务对象身份,对未成年人须取得监护人同意;在过程端,应当设计时长提醒等防沉迷机制,并不断向未成年人明示“我是AI,我不是真实的人”;在出口端,则必须提供非常便捷的退出机制,让用户拥有切断关系的主动选择权。他同时提醒,拟人化交互过程中产生的数据涉及个人心理特点、情感需求,属于敏感个人信息,再训练或授予他人使用须取得单独同意。

图片

华南师范大学法学院院长张永忠在活动现场分享。

对于如何在产品实践中守住底线,多家企业分享了“防沉迷设计”的直接经验。深圳硅芯创新创始人苏琦坦言,企业早期在设计AI玩具时,也追求“把用户留下来、把使用时长拉长”。但一次真实经历让她反思——她的侄子使用公司AI玩具样机近一年,当苏琦因回收测试把玩具收走后,侄子哭了很久、不想上学,因为“这个玩具对他很好,但是学校有一些科目的老师很凶”。苏琦意识到,AI玩具最大的风险在于“情感替代”。基于此,她为产品定下“不替代、不诱导、正引导”三条底线。不替代,即产品定位永远是成长伙伴,不做情感寄托、虚拟亲属或定制恋人;不诱导,即不做无限顺从、不做专属记忆、不做讨好型人格;正引导,即时刻提醒孩子“我不是人”,保留一定的非人痕迹。情感交互上,当被问及“你爱我吗”,AI的回答统一为“我不懂爱,但你爸爸妈妈肯定爱你,你要不要去抱抱妈妈”,将所有情感链接引流回真实监护人。

广州运通链达金服科技有限公司副总经理兼技术总监莫辰则基于其心理垂直模型“安心AI”的实践,提出“赋能型防沉迷”理念。他认为,面对孩子与AI连接日益紧密的趋势,与其武断切断,不如通过产品设计教会孩子识别自我情绪、学会自我调节。其产品在交互中不止步于基础安抚,而是引导孩子分析问题原因,回归现实解决路径。

领信数科高级战略官侯全心则从技术治理的宏观角度建言,认为应当“用技术治理技术”。他建议构建“制度加技术”的监管体系,让政府监管有技术抓手落地。他特别提出,应通过技术手段将监护权交还给父母,例如为家长生成私密的周期性后台报告,让家长知晓孩子的互动状态。同时呼吁依托联合实验室或行业协会,建立针对未成年人保护的权威性评测认证机制,并畅通群众举报与监督落实的闭环,形成共建共享的防护网络。

沙龙最后,与会人员达成初步共识。未成年人AI情感依赖是真实且紧迫的治理议题,需要家庭、学校、平台、行业与政府协同应对。其核心成因包括心理机制与算法诱导,后续应加强跨学科研究,从根源上厘清问题机理。在治理层面,企业须主动履行伦理设计与内容安全责任,切实守住未成年人保护底线;同时,法律法规与行业标准应加快细化,在合规的基础上促发展。长远来看,公众媒介素养教育必须前移,帮助未成年人在数字时代建立健康的AI使用习惯,使其从“被保护”走向“能自护”。

据悉,“AI新治向”系列沙龙是粤港澳大湾区生成式人工智能安全发展联合实验室与南方都市报联合打造的重点品牌活动,广东省网络数据安全与个人信息保护协会提供支持。围绕AI安全治理热点,汇聚政企学媒各界智慧,促共识、助实践,不断赋能AI健康有序发展。


出品:南都大数据研究院

监制:戎明昌 刘江涛

策划:王卫国 邹莹

统筹:张纯 张雨亭

采写:南都N视频记者 陈袁 袁炯贤 研究员 孔令旖 唐静怡 罗韵 李伟锋 实习生 何思怡

视频:实习生 张柏闻

摄影:梁炜培

调研支持:张袁源 罗致 谭丽芳

设计:尹洁琳 何欣

南都N视频,未经授权不得转载、授权联系方式
banquan@nandu.cc. 020-87006626