1月4日，国家网信办、工信部、公安部、市场监管总局等四部门发布《互联网信息服务算法推荐管理规定》（下称“《规定》”），自2022年3月1日起施行。

作为网络安全法，数据安全法和个人信息保护法的自然延伸，《规定》对诱导用户沉迷的算法模型、流量造假、舆论引导、大数据杀熟、未成年人及老年人权益、劳动者工作调度等问题做出了相应规定。

《规定》明确，算法推荐服务提供者应公示算法服务原理、并向用户提供不针对其个人特征的选项。《规定》也强化了内容生态治理，特别强调了对“具有舆论属性或社会动员能力”的算法推荐服务的监管，这类算法应向相关部门备案并开展评估。

有专家认为，这部新法不仅是算法技术法治化进程的重要指引，而且还将成为配合个人信息保护法、电子商务法等其他法律在算法判定方面的解释与指南。但与此同时，也有专家指出，在监管算法的同时，也需要考虑保护新技术的创新性，《规定》的一些条文在实施的过程中可能会较为模糊，或许会导致治理环境偏向严厉，从而抑制创新。

南都记者了解到，《规定》适用于应用算法推荐技术提供互联网信息服务——应用算法推荐技术是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。

其中《规定》对提高算法透明度做了具体要求：第十二条和第十六条分别明确，鼓励算法推荐服务提供者优化检索、排序、选择、推送、展示等规则的透明度和可解释性；算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。

对此，中国政法大学教授朱巍认为，对于算法的监管，其基础就是算法公开。个人信息保护法第24条规定，算法可能对“个人权益有重大影响决定的”，个人有权要求平台做出说明。从个人信息保护法角度看，算法的公开有一定的限制性条件，并非是网络平台的主动公开。不过，实践中哪些领域属于“对个人权益有重大影响”的范围目前并不清晰，缺乏可操作性。而《规定》鼓励平台对算法的主动公开，可以配合个人信息保护法依申请公开的规定，让算法公开透明。

中国社科院科学技术和社会研究中心主任段伟文则提出，平台除了在对用户公开透明外，也应该对其平台中的劳动者公开透明。他认为，劳动者和平台之间存在一种“合同”，和平台针对消费者、用户的销售、分发行为不同，劳动者和平台之间存在着更大的利益关联，因此对于算法推荐服务的知情权应该更大。但他同时指出，虽然要求算法透明的要求是合法的和必要的，但在技术层面却未必是充分的和完全可行的，因为一个不能忽视的事实是，不论是否借助技术手段，任何形式的认知都存在模糊性，人们对世界的解读和解释也总是有一定的模糊性。

在告知用户方面，《规定》不仅要求告知用户算法机制，也要求提示用户由算法生成的内容。近些年，随着“深度伪造”等技术不断发展，滥用问题也越来越突出，甚至被不法分子利用。第九条规定，发现未作显著标识的算法生成合成信息的，应当作出显著标识后，方可继续传输。

《规定》也强化了内容生态管理，要求算法推荐服务提供者不得利用算法虚假注册账号、虚假点赞、评论、转发或实施屏蔽信息、操纵榜单等行为。

此外，《规定》第八条要求算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等，不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。

对此，段伟文认为，这一条款或许会对短视频内容分发平台造成较大的影响，而具体操作中也较难把握。

“究竟在什么情况下，（算法推荐服务者）属于诱导用户沉迷、过度消费？这其中的阈值是需要规定的，而这一法规在实施过程中，依然有可能是事件推动的，可能对于造成过较大影响的事件有强度更大的惩罚。”他认为，如果客观上将事件作为监管依据，有利于对内容推荐算法合规形成外部压力；同时，也可能会产生“寒蝉效应”，对短视频已有的算法模型形成不确定性冲击。

南都记者注意到，与去年8月网信办发布的《互联网信息服务算法推荐管理规定（征求意见稿）》相比，正式出台的《规定》新增了对于提供互联网新闻信息服务的具体要求。

《规定》第十三条规定，算法推荐服务提供者提供互联网新闻信息服务的，应当依法取得互联网新闻信息服务许可，不得生成合成虚假新闻信息，不得传播非国家规定范围内的单位发布的新闻信息。

朱巍认为，该条将对时政新闻和评论的算法推荐产生影响。“要考虑很多的因素，包括资质、信息源的合法合规性，都是需要考虑的一个必要的门槛。如果连这个都没有的话，那肯定不能用算法推荐。”

段伟文认为，该条会对自媒体行业造成一定影响。“（非国家规定范围内的单位）也是一个比较含糊的词，任何单位发布的内容都可以被称为信息，但这些信息是否可以被称作新闻呢？什么叫做非官方信息呢？这加大了自媒体行业传播信息的风险，如果信息来自于非官方，自媒体就更需要考虑信息传播的后果。”

除此之外，正式出台的《规定》还新增了反垄断相关规定。第十五条规定，算法推荐服务提供者不得利用算法对其他互联网信息服务提供者进行不合理限制，或者妨碍、破坏其合法提供的互联网信息服务正常运行，实施垄断和不正当竞争行为。

在朱巍看来，在算法加持下的平台经济体系中，算法已经成为巨型平台攫取垄断利益或进行不正当竞争的手段。依靠算法实施不正当竞争行为的平台大都具有市场垄断地位，因此，算法竞争秩序在当下也成为平台反垄断的重要规制范围。

在用户权益保护方面，除向用户告知解释算法机制、给用户提供非个性化推荐选项外，《规定》对特定群体的权益问题做了具体规定。

首先是对未成年人的保护。第十八条规定，算法推荐服务提供者不得向未成年人推送可能影响未成年人身心健康的信息，不得利用算法推荐服务诱导未成年人沉迷网络。

对老年人的保护则侧重于适老和防诈骗。第十九条提出，充分考虑老年人出行、就医、消费、办事等需求，按照国家有关规定提供智能化适老服务，依法开展涉电信网络诈骗信息的监测、识别和处置。

随着平台经济的发展，灵活用工的劳动者群体的生存状态在近年来受到广泛关注。与之相伴的，还有对平台算法的关注甚至质疑。《规定》明确保护劳动者报酬、休息休假等合法权益，要求算法推荐平台建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法。

不过，段伟文提出了自己的担忧。他认为，劳动者权益保护无法全权交予平台，其核心问题是零工经济，需要社会化的保险机制。不能仅依靠平台承担劳动者的权益保护责任，这也超出了平台能力。

与个人信息保护法一样，《规定》也明确禁止“大数据杀熟”。第二十一条规定，算法推荐服务提供者不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。

算法规制为何如此强调用户权益？朱巍认为，从算法应用最终对象来看，广大网民是算法适用的直接对象。网民涉及算法的权利主要有人格尊严权、自我决定权、隐私权与个人信息、知情权、查询权等，涉及民法典、消费者权益保护法、个人信息保护法等多部法律。而这些权利基础，在网络实践中很多都是通过算法的方式表现出来，比如，对某款商品或服务的选择推荐、对感兴趣内容的拣选决策、对个人兴趣点的设置偏好等。

他认为，这部新法不仅是算法技术法治化进程的重要指引，而且还将成为配合个人信息保护法、电子商务法等其他法律在算法判定方面的解释与指南。

值得注意的是，《规定》还对具有舆论属性的平台算法做出了特别要求——具有舆论属性和社会动员能力的算法推荐服务提供者应依法进行安全评估和备案。

为何对舆论属性的平台算法做出特别规定？朱巍分析，从性质上说，算法属于知识产权和商业秘密，但从运作规则和表现方式上看，算法本质属于网络服务与行为规则。尤其互联网具有天然的大众传播属性，一些会涉及公众知情权、公共利益和国家安全方面的问题，这是具有舆论属性的平台算法备案的原因。而根据网络安全法以及2018年国家网信办和公安部联合发布的《具有舆论属性和社会动员能力的互联网信息服务安全评估规定》要求，算法纳入评估范围可能包括论坛、微博、短视频、直播、公众号等多类别产品和服务。

朱巍认为，《规定》对算法推荐信息的规制，体现了算法的价值观不能游离于现实法治之外。“从实践来看，很多低俗、庸俗和媚俗的短视频、公众号等信息最容易形成‘爆款’，很难根治的核心原因，不仅在于内容生产本身，更在于算法的推波助澜。有什么样的算法，就有什么样的内容，有什么样的用户，就会出现什么样的算法。这种算法、人群与内容之间相互影响的逻辑关系，将从算法本身被彻底打破。”他说。

然而，在管理算法带来的问题的同时，也需要保护其发展空间。段伟文认为，解决算法的问题需要考虑比例性原则。他以大数据杀熟和算法歧视为例，其带来的实质性伤害难以从法律层面，或是在现实生活中界定，而在对新技术进行规制的同时，需要考虑到对其创新性的保护，促进整体财富的增长。

此外，段伟文也提到，在算法审计和问责中也应该意识到，即使开发者没有歧视的目的，由于数据和算法会强化定见和偏向、放大既有的差异和区别，也可能产生意料之外的偏向。

“这个规定应该是在倡导企业向善。目前来看，《规定》在实施的过程中可能较为模糊，可能会在一段时间使治理环境偏向严厉。”段伟文说，“这体现了管理者对于问题的重视。从长远来看，随着治理经验的积累，应会综合考量实际效果，作出必要的动态调适。”

《规定》第二十三条还提出，网信部门会同电信、公安、市场监管等有关部门建立算法分级分类安全管理制度，根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据重要程度、对用户行为的干预程度等对算法推荐服务提供者实施分级分类管理。

此外，在《规定》作为法律条文的同时也提到了伦理审查，第七条规定，算法推荐服务提供者应当落实算法安全主体责任，建立健全算法机制机理审核、科技伦理审查等管理制度和技术措施。

段伟文认为，这是一种“标本兼治”的路径：“现在许多算法带来的问题其实仍处于在模糊地带，从标本兼治的角度来讲，加强算法的伦理意识、通过科技伦理审查，可以减少算法对消费者的伤害和歧视。而科技伦理意识、科技伦理审查等制度化建设，有助于为科技创新构建伦理软着陆机制。”

“任何颠覆性的创新都有伦理矫正与回调的过程。科技伦理和法律治理的关键在于寻求创造性的中间方案，并根据科技创新的复杂性与不确定性进行整体权衡与实时调节。”他说。

采写：南都记者李娅宁 见习记者胡耕硕

编辑：蒋琳

更多报道请看专题：算法推荐有“规”可依