下载南都N视频App

色情小说社群疯传危险AI指令,诱导大模型生成黄暴血腥内容

原创3.3万
近日,南方都市报、南都大数据研究院记者调查发现,社交平台上,大量用户公开分享各类完整AI指令,通过角色扮演剧本、互动模拟器游戏等形式,轻松绕过部分主流国产大模型的安全审核机制。DeepSeek、元宝、Kimi、智谱清言等多款AI在输入指令后生成露骨色情描写或暴力血腥情节。调查发现,此类内容传播隐蔽、复制门槛低,被网络色情小说写手借AI批量生产低俗内容。

张雨亭

南方都市报记者
TA的作品
热门评论

暂无评论,快来抢沙发