“京法网事”公众号10月27日披露，北京市通州区人民法院近期审理的一起案件中，原告代理人提交了两起AI生成的虚假案例。

据介绍，通州法院审理的这起由股权代持引发的商事纠纷案件中，原告代理人向法院提交了一份书面意见，其中援引了最高法院和上海一中院的两起案例。

初看之下，代理人援引的两起案例极具参考价值。然而承办法官核实发现，案例案号所对应的真实案件事实，与代理人书面意见中描述的情况完全不同。

代理人承认，参考案例是由其提炼本案的事实情节后，反复向某AI大模型软件提问，由该软件生成。代理人未进一步核实，而是直接复制粘贴后即提交法院。

AI生成虚假案例的现象并非首次出现在中国法院。南都此前报道，3月下旬一次著作权侵权案件的庭审中，长三角地区某法院法官收到案件当事人提交的一份特殊诉状。初看之下，这份诉状的内容写得头头是道。法官后经核查发现，诉讼中除了几项著作权法的法条确实存在外，其余提及的规定、案例和白皮书均属虚构。

该法官告诉南都记者，案件诉状中给出的案例文书，其法院代码准确无误，但案件序号却全是诸如“12345”这样的连续数字。

这和通州法院遇到的情况如出一辙。代理人提交的上海一中院案例的案号即为“（2022）沪01民终12345号”。通州法院法官指出，AI生成案例的案号往往呈现刻意规律化的特点：多采用“12345”“1234”等连续整数或“111”等具有明显特征的数字。

通州法院的承办法官在判决书中明确对该代理人的行为提出批评，要求原告代理人引以为戒，在向法院提交参考案例、法条时，应当进行检查和核验，确保内容的真实性和准确性，不得放任AI模型生成或者编造的虚假信息扰乱司法秩序。

面对AI逐步渗入诉讼场景，如何规范其正确使用，已然成为不同司法辖区面临的共同课题。

为此，2024年7月，美国律师协会发布的第一份关于律师使用生成式AI的正式意见指出，使用AI可能导致律师引用不存在的案例或不准确的分析，该意见警告律师应审查所有输出内容的准确性。

同年9月，新加坡最高法院、家事法庭、州法院同时发布一份《生成式人工智能工具使用指南》，要求包括案件当事人、代理律师在内的案件相关人员在使用AI时，必须确保生成内容的准确性与真实性、没有创造虚假案例，更不应用此途径来生成或编造证据。若发现有不当使用情况，法庭可以对相关使用者进行惩戒。

目前，中国尚无类似的专门指引。前述长三角地区某法院法官表示，当律师提交了AI生成的有差错诉状，法官可以向律协发送司法建议函；但如果是案件当事人犯下此类错误，除了无奈一笑外别无他法。

通州法院法官表示，民事诉讼法及司法解释等对行为人利用AI生成不属于证据性质的虚假参考案例如何处理尚没有明确规定，但AI生成虚假信息对司法秩序带来的危害值得重视。虚假案例干扰了法院的正常审理流程，审判团队不得不花费额外的时间和精力对律师提交的案例进行反复查找和甄别核实。一旦AI生成的虚假信息被参照适用，司法公信力将受到质疑。

“法律从业人员应将AI作为辅助工具，而非替代自身专业判断的神器。”通州法院法官提醒。

采写：南都N视频记者 杨柳

编辑：李玲