1月10日，杭州互联网法院（下称“杭互”）披露了一起由算法风控系统引发的网络服务合同纠纷案件。原告小李在某网络交易平台上出售了一张电子购物卡，该笔订单款项却被平台冻结。小李以平台实施算法技术造成误判，此举构成违约为由将其告上法庭，被法院驳回请求。其后双方均未上诉，判决已生效。

本案中，原告小李在某网络交易平台注册成为会员后，在该平台出售了一张价值900余元的电子购物卡。交易完成后，该笔订单款项却被平台冻结。经小李申诉，平台客服尝试与买家联系核实，但买家未帮助小李申诉解冻。

小李诉称，其在正常使用平台期间被冻结了账户资金，导致订单款项无法正常转出。他认为，被告平台实施算法技术造成误判，此举已构成违约，请求法院判令平台公开道歉。

被告平台则辩称，其作为平台运营者，依照法律法规需要对用户在平台的行为进行监管，履行平台主体责任。小李在交易过程中被自动化系统识别到存在虚拟交易快速成交的情况，有虚假发货、诱导收货的潜在风险，该笔订单被识别为高风险订单，因此自动触发了风控系统审核规则，冻结订单款项15天。

事后，小李致电客服反映情况，该笔订单被确认为正常订单。在该平台看来，此举是为了资金安全采取的必要措施，仅是为了公共利益依法履行主体监管职责，不构成违约。同时，被告平台在诉讼过程中提交了相关证据，向法庭说明其“预防性风控系统”算法逻辑机理，尽到了相应的算法披露义务。

杭互法院认为，该案的主要争议点为被告采取涉案算法风控行为并对原告作出相应处置措施是否构成违约。具体而言，是否构成违约情形需根据四个方面展开分析认定，分别为行为目的和主观意图是否具有正当性；行为手段和性质、侵害财产权益的风险性程度、行为过程的审慎程度；行为主体身份的特点、技术能力水平及社会责任；是否采取了预防侵权的合理措施。

法院进一步查明，在此案中，平台该系统设置目的确为预防网络诈骗行为，具有正当性，也不存在对用户的不当歧视。同时，被告平台作为网络交易平台，此举对其正常良性开展网络服务具有一定合理性；平台对于识别误判及解除账户封禁等事项作出必要的纠错机制安排，尽到了与涉案算法风险相匹配的注意义务。

综上，杭互法院认定，被告平台为了交易款项安全设置预防性风控系统算法应用，对用户行为进行中立、无差别的风险筛查，虽因技术水平所限造成一定系统误判，但此误差为在所难免，系小概率事件。不仅如此，平台已经尽到了与涉案算法风险相匹配的注意义务，并采取了必要的纠错机制安排，并不构成违约。最终，法院驳回小李的诉讼请求。一审宣判后，双方均未上诉，该案判决已生效。

杭互法院认为，在本案中，一方面承认用户的财产权益在平台经济中应当受到充分保护，另一方面也认定了网络平台依据法律要求、履行打击网络诈骗等治理义务的行为存在合法性基础。当两者出现一定程度的利益冲突时，该案判决为平台确立了合理的注意义务标准及具体认定因素，有利于在个体用户权益保护和实现社会治理功能之间寻求精准的平衡点。

南都记者梳理发现，这并非首个“算法乌龙”事件。据报道，去年11月，北京互联网法院（下称“北互”）审结了首例算法风控系统引发的人身权益侵权纠纷案件。

某金融公司员工李某在注册某征婚交友平台时提交了真实照片并实名认证手机号，其后他在正常使用期间遭征婚平台封号，平台向其他网友提示称“账号可能存在异常”“不要与之发生金钱来往”等，造成李某名誉受损。李某认为平台运营的算法技术造成误判侵犯其名誉权，将征婚平台告上法庭。

平台辩称，系因李某在与其他用户聊天过程中，短期内多次被检测到出现“金融”“基金”“加微信”等“杀猪盘”诈骗案件所涉高频词汇，因此自动触发了平台风控系统的审核规则，经人工核实后已解封账户。北互法院判定平台并无主观过错，不构成侵权，驳回了李某的诉讼请求。目前该案判决已生效。

更早之前的“谷歌误判”事件也曾引起广泛关注。美国一位父亲发现儿子的私处出现肿胀后和医生打视频电话，并在护士的建议下拍了数张感染处的照片上传，儿子及时得到了治疗。不久后，他接到了谷歌的通知，称由于其涉嫌储存和传播有害内容，账号被全部关闭。此外，这位父亲还受到了旧金山警察局的调查，一年多后才被宣布无罪。

去年3月1日，我国第一个专门针对算法推荐的部门规章——《互联网信息服务算法推荐管理规定》正式实施，其中要求算法推荐服务提供者建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序。

去年年底南都发布的《算法应用与治理观察报告》曾指出，目前各大小说网站、游戏聊天频道、内容社交等平台都建立了自己的一套“词库”，能自动过滤或屏蔽掉广告、色情、辱骂等违法或敏感信息，更好地维持清朗的网络生态。不过，如何精准地识别真正的有害信息，仍然是目前过滤类算法面临的一大问题。

采写：南都记者樊文扬

编辑：蒋琳

本文作者

樊文扬

3637W

南方都市报记者