来自小圈

人工智能讨论组

8204万人气

上海出台法规,平台不得将支付能力作为交易算法的影响因素

南方都市报APP • AI前哨站
综合2021-11-18 23:29

11月18日,上海市市场监督管理局发布《上海市网络交易平台网络营销活动算法应用指引(试行)》(下称“《指引》”),规范网络交易平台网络营销活动算法应用行为,为平台经营者划出合规底线。

上海市市监局在文件中介绍,《指引》是根据《中华人民共和国电子商务法》、《中华人民共和国个人信息保护法》、《中华人民共和国反垄断法》、《中华人民共和国反不正当竞争法》、《中华人民共和国消费者权益保护法》、《中华人民共和国价格法》等法律法规,结合上海市实际情况制定的。

《指引》规定的“网络营销活动算法应用”是指通过互联网等信息网络销售商品或者提供服务时,应用算法技术实施各类自动化决策,包括向消费者个人进行信息推送或商业营销、提供搜索结果、开展交易等。值得注意的是,利用信息网络提供金融类产品和服务、新闻信息、音视频节目、出版以及文化产品等的网络交易平台经营者不受《指引》约束。

《指引》指出,算法的参数设置、消费者画像、决策规则设计可能会对结果的公平公正产生影响。

在参数设置方面,《指引》规定,网络交易平台经营者不应将浏览次数、支付意愿、支付能力、依赖程度、交易频次、交易时使用的终端设备品牌等作为与消费者进行交易的条件参数。

在消费者画像方面,《指引》规定,要确保消费者画像依据来源合法,尊重消费者人格尊严,避免使用有违社会公德、歧视性、偏见性用户标签,发现消费者画像存在错误的,有必要及时进行修改

今年11月1 日,个人信息保护法正式生效。《指引》的一些条款遵循了个保法相关规定。例如,禁止“大数据杀熟”——网络交易平台经营者利用消费者个人信息开展网络营销活动算法应用时,应当按照《个人信息保护法》的规定,不得对消费者在交易价格、交易机会等交易条件上实行不合理的差别待遇。另外,网络交易平台经营者利用消费者个人信息,应用算法向消费者个人进行信息推送、商业营销时,向消费者同时提供不针对其个人特征的选项,或者向消费者提供便捷的拒绝方式。并且,不应对消费者拒绝个性化推送设置障碍、收取费用或设定有效期限。

在反垄断方面,《指引》规定,平台经营者不得利用算法通过影响用户选择或者其他方式,实施限制流量、干扰访问、干预显示内容、恶意不兼容等行为,妨碍、破坏其他经营者合法提供的网络产品或者服务正常运行。

同时,《指引》还考虑到了算法伦理。鼓励网络交易平台经营者将保护残疾人、老人、未成年人等弱势群体的利益纳入算法应用的考量因素,并采取一定措施保障弱势群体的权益,及时对应用算法产生不合理的歧视性、侵害性结果进行纠偏。

《指引》最后对公司提出了几点合规建议,包括建立相适应的算法应用合规管理制度,设立算法安全管理机构或专职人员,加强对算法应用的风险防控和隐患排查治理;通过公开算法原理、目的意图、决策规则、可能产生的影响等信息,提供算法应用结果解释等方式提升公众对算法应用的理解等。

采写:南都记者李娅宁

编辑:蒋琳

对这篇文章有想法?跟我聊聊吧
蒋琳4.37亿
南方都市报记者
南都新闻,未经授权不得转载。授权联系方式:
banquan@nandu.cc,020-87006626。