AI理财顾问“幻觉”给出错误建议,如何应对?学者详解

南都N视频APP · AI前哨站
原创2025-10-31 15:08

南都讯 记者刘嫚 发自北京 10月30日,由北京金融法院承办的2025金融科技大会金融科技法治平行论坛举办,中国政法大学数据法治实验室主任、数据法治研究院院长时建中以《数字金融创新与新型困境风险》为题发表主旨演讲。时建中表示,当前金融科技的创新已将风险从传统的信用风险、市场风险,转向技术风险、模型风险与合规风险。在未来的法律和监管体系,未来的金融司法过程中,应发展穿透技术黑箱、在去中心化环境中界定责任的新能力,同时加强金融消费者权益保护。

图片

中国政法大学数据法治实验室主任、数据法治研究院院长时建中发表主旨演讲。

时建中表示,人类历史上没有哪项技术能像数字技术这样彻底改变社会,从身份到行为,从普通社会关系到金融关系,均已实现数据化,数字技术全方位赋能,和法治形成了一种有效的互动,数字技术变成了法治的对象。

“一方面,数字技术带来的数据权属争议等问题成为法治需要回应的新对象;另一方面,数字技术也在赋能法治进步,例如在线调解、在线审判规则,要迎合数字时代的变化,必须在程序法中作相应调整。”时建中称,法律不仅要规范技术,更要成为促进技术健康发展的工具,二者不是单向约束,而是双向互动的关系。

当前,金融数据界定问题备受行业关注。时建中认为,金融数据究竟是“与金融活动有关的数据”,还是“金融机构持有的数据”,两个界定维度内涵外延不同,将直接影响到金融数据定性问题。以“数据20条”和《政务数据共享条例》为依据,金融数据可分为监管类数据与市场类数据,监管类数据包括央行、金融监管部门在执法中收集和产生的数据,属政务数据,政务数据必须共享开放。而这些数据在未供给之前,是银行、保险等机构的企业数据,属市场数据,不能强制要求共享。因此,同样一组数据,在不同主体中的属性是不同的,若界定模糊,将导致后续规则混乱。

在数字金融创新与风险应对方面,时建中谈到,当前金融科技的创新已将风险从传统的信用风险、市场风险,转向技术风险、模型风险与合规风险。如物联网设备采集信息失真可能影响保险索赔,AI理财顾问“幻觉”给出错误建议的责任归属,人脸识别作为支付验证时的法律定性争议等,均成为当前金融行业面临的新挑战。

时建中建议,在未来的法律和监管体系,未来的金融司法过程中,应发展穿透技术黑箱、在去中心化环境中界定责任的新能力,同时加强金融消费者权益保护。

编辑:梁建忠

南都N视频,未经授权不得转载、授权联系方式
banquan@nandu.cc. 020-87006626