当地时间1月5日,意大利反垄断机构(意大利竞争与市场管理局,AGCM)在每周例行公报中称,基于DeepSeek针对大模型幻觉问题提出的整改措施,决定停止对该公司的调查。措施包括在相关协议中增加有关回答真实性、准确性的说明,在提问框、生成内容末尾处增加标识,提示用户相关内容由AI生成等。
据了解,DeepSeek在意大利提供网页版以及App服务。2025年6月,AGCM以涉嫌未警告用户其可能产生虚假信息为由,对DeepSeek展开调查。AGCM公报提到,DeepSeek未向用户发出足够清晰、即时和易懂的警告,说明在输入特定内容后,其人工智能模型可能会生成错误且具有误导性的信息,即所谓的“幻觉”。此外,即便用户使用意大利语与模型互动,页面上唯一的内容安全提示仅以英语显示。
为此,2025年9月,DeepSeek方面两次向该局提交整改方案。具体来看,公司承诺提供意大利语版本的《使用条款》,用户所看到的语言取决于其IP地址,并在其中增加有关AI生成内容真实性、准确性的相关说明。同时,保证在注册页面的显著位置提供《使用条款》的超链接,方便用户跳转阅读。
DeepSeek承诺在提问框下方永久设置提示标识,说明回答由AI生成;如果AI生成内容涉及医疗、法律、金融等领域,在未尾处设置专门提示。“这些标识旨在告知用户生成内容的自动性、随机性和不确定性,促使他们审慎、批判性和负责任地使用工具。”公报写道。此外,DeepSeek还给出了不同数据训练阶段降低大模型幻觉风险的技术办法。
AGCM公报展示的带有提示标识的页面示例。
采写:南都N视频记者 樊文扬
编辑:李玲