5月19日晚,DeepSeek官方账号发布《关于think字符触发模型异常回复的说明》称,近期有用户反馈,在与DeepSeek模型的对话中输入“think”这类特殊字符后,模型偶发返回不可预期的内容,使部分用户产生了“对话泄露”的疑虑。
近期,有用户在社交媒体上表示,在DeepSeek上输入think字符后,会触发其胡乱回复的功能,根据网友晒出来的“胡乱回复”内容,包括医学、文学、考试题目等等。因此,有网友质疑,DeepSeek是否将与他人对话的内容随机放出到用户的对话中。
针对这一问题,DeepSeek称,公司技术团队经全面排查后发现,输入“think”等字符触发返回异常内容,属于特殊字符引发的模型幻觉,不涉及安全问题或隐私泄露。后续公司将通过针对性训练增强模型对特殊字符的识别与处理能力,修复相关的已知问题,优化模型在此类场景中的表现。
南都N视频记者在DeepSeek网页端和App端分别测试,输入“think”字符后依然会触发各类回答。
采写:南都N视频记者 林文琪
编辑:甄芹