算法到底是什么？为什么它可以决定我们看什么、买什么？这样下去，我们会被算法“算计”吗？对于普通人来说，算法在给生活带来诸多便利的同时，也自带“黑箱”属性，难免引发上述担忧。

3月初，《互联网信息服务算法推荐管理规定》（下称《规定》）正式施行，要求算法推荐服务提供者以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。但是，什么是适当方式、公开到何种程度等问题仍有待细化。

3月9日，南都举办“两会大家谈”之人工智能专场——如何不让算法成为黑箱？会上，有专家提出，企业应公开更细节的算法机制的运行逻辑，给用户选择不同程度的算法服务的权利。但也有专家认为，算法公开既无必要，也存在一定的不可行性，算法治理应更着重于加强可解释性和透明度。

算法无处不在。从饮食到出行，人们将生活的诸多面向交予其决定，然而与此同时，却难以一窥其背后的决策逻辑，对其呈现出的世界也少有质疑的机会。

“在算法决策中，有一部分、有时甚至是整体由机器进行决策。”中国社科院科技和社会研究中心主任段伟文说，“所以就算是程序员或是科技公司，他们有时对于算法的后果也不一定那么了解。”

全国政协委员、高锋集团董事局主席吴杰庄则对算法应用时的个人信息泄露表示担忧，“有时候聊天提到一些东西，然后很快你的信息平台就会推送相关的产品或者是服务，这会令消费者怀疑其中是否存在不正当收集个人信息的行为。”

在信息安全之外，算法中的价格歧视同样饱受诟病。今年三月，北京市消协发布了互联网消费大数据“杀熟”问卷调查，结果显示，超八成受访者认为大数据“杀熟”现象非常普遍或普遍。

“普通用户、消费者相对于算法使用者，无论在经济力量还是技术力量上都处于弱势，”北京科技大学文法学院副教授张凌寒指出，“算法使用者掌握着海量数据、庞大算力和先进算法，可以对用户进行画像、行为预测，并基于此进行内容推送、个性化定价等。”

《规定》明确，算法推荐服务提供者不得利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。此外，去年十月开始实行的个人信息保护法也对自动化决策作出了相应规制，规定不得对个人在交易价格等交易条件上实行不合理的差别待遇。

“算法使用者可能在追逐流量的利益驱动下，通过千人千面的个性化推荐算法，导致低俗媚俗信息传播、假新闻泛滥、舆论被误导。”张凌寒说。

2018年，“大数据杀熟”当选为年度社会生活类十大流行语，个性化推荐、自动化决策等话题也逐渐走入公共视野。此外，对外卖骑手的关注、热搜榜规则的质疑更进一步地催动大众对于算法黑箱的不满，呼吁算法公开、透明的声音也逐渐难以忽视。那么，算法该如何监管？企业又该如何使算法更可理解、使用户有更多选择呢？

对此，清华大学公共管理学院教授、人工智能国际治理研究院副院长梁正提出了自己的观点。“（算法公开）从技术的角度既无必要、也存在一定的不可行性。因为目前基于机器学习训练的算法，是不断迭代的。”他解释道，“而比如在大型科技公司的个性化推荐算法可能有上千名工程师共同完成，在两者的共同作用下，算法公开在技术上有很大的不可行性。”

梁正提出，算法公开可从因果机制入手，引导其向可解释的方向发展，他以购买汽车举例：“就像我们作为普通消费者去购买一辆汽车，没有必要去了解汽车的发动机它是怎么运行的。”在算法公开的过程中，相较于技术细节和特征参数，他认为应更着重于其设计算法时考虑的特征因素。

吴杰庄同样认为，企业应推动算法向可解释的方向发展，此外，他提出企业可提供不同程度的算法供用户选择，“比如把（有算法参与的服务）的等级分为1-10级，这可以最大程度保证消费者的利益，对企业形象也很好，因为他（消费者）会觉得这个企业是很负责任的。”

张凌寒强调了算法透明的重要性，她认为算法透明不代表源代码与商业秘密的公开，而是可分为不同的层次。首先，应告知用户其服务中包含自动化决策是最低阶的算法透明，在此阶段用户有选择退出的权利；其次，告知用户算法自动化决策的基本逻辑与考量因素；最高层次是针对具体的算法自动化决策为个体提供理由说明——当然这意味着较高的成本，因此现行法律限定为“对用户权益产生重大影响的自动化决策”，张凌寒说。

当算法相关信息的披露对象是监管部门时，张凌寒认为，算法服务提供者应公开更细节的算法模型、机制机理，当然此时监管部门负有保密的义务。

除了透明度及可解释性外，《规定》的第七条指出，算法推荐服务提供者应建立健全科技伦理审查管理制度。

今年两会上，全国政协委员、证监会原主席肖钢也在他的提案中提到算法伦理问题，他在提案中写道，算法将人们的各种足迹和活动，转变为对人们的各种打分和预测，并进行贷款评估、保险评估，规则代码化会带来不透明、不准确、不公平、难以审查等问题。

“可以想象科技公司是一个巨大的力量，难免导致不容忽视的负面影响，像早期的枪炮武器一样，存在一种后坐力，那么它实际上也应该正面应对这种后坐力，并做出适当的伦理回调。”段伟文指出，“科技公司有责任要把对于算法伦理的考虑，作为其算法迭代升级，或是算法演化的很重要的方向。”

采写：南都记者胡耕硕

编辑：蒋琳