前雇员爆脸书忽视暴力和青少年心理问题,脸书:误解令人难过

南都N视频APP · 隐私护卫队课题组
原创2021-10-09 17:45

近日,美国知名社交媒体巨头脸书(Facebook)的内部文件外泄。脸书被媒体爆出存在单独建立白名单系统,部分有影响力的用户即便违反平台规则,依然可免受强制处理,32%的少女被Instagram影响增加身材焦虑等问题,而脸书明知如此却不愿改变。

作为“吹哨人”之一的脸书前雇员亦在美国国会听证会上表示,脸书不会针对这些问题主动做出改变,因为他们把天文数字的利润摆在了用户利益之前。

对此,脸书CEO马克·扎克伯格(Mark Zuckerberg)发千字长文反驳这些指责。他认为,这些指责“存在误解”“令人难过”,同时他特别强调解决社会问题的重要机构应该是国会,希望国会更新互联网法规。

1

区别对待用户,VIP名单用户可不经过内容审查

今年9月,华尔街日报在一系列报道中称,有内部文件指出脸书存在算法区别对待、对虚假信息和青少年心理健康等问题“视而不见”。

文件指出,脸书单独建立了白名单系统,使有影响力的用户不受平台部分甚至全部规定的限制。这个白名单系统名为“交叉检查”(cross check)或“XCheck”,系统中的数百万用户被称为VIP用户。

VIP用户不受该公司正常审查程序的影响。其中的部分用户在违反平台规则时可免受强制处理,而另一些用户则被允许发布违规的内容。

报道以“特朗普”为例说明,今年6月,这位前总统的账号因为有“进一步煽动暴力的危险”,被脸书延长停用至2023年,但他的账号此前就被“XCheck”覆盖,可以自由地发布煽动性内容。在实践中,大多数由XCheck系统标记的内容不会面临后续检查。

然而,脸书评估普通用户的帖子是否符合公司规定时则较为“简单粗暴”。有时算法系统会在未经人工审核时直接删除涉嫌违规的内容,扎克伯格本人就在2018年估计,脸书有10%的内容删除决定是错误的。报道称,用户可能永远不会被告知他们违反了什么规则,也不会得到“上诉”的机会。

2

虚假暴力信息泛滥加剧社会分裂

除了区别对待用户外,脸书内部文件还显示,脸书在2018年对算法的调整并未达到其预期目的——让使用者参与度更高、更有幸福感。相反,调整后的算法煽动了平台上的情绪,让使用者变得更加愤怒

图片(3).png

脸书内部文件。图源华尔街日报。

文件表示,出版商和政党正在用愤怒内容和哗众取宠来吸引用户,而相关帖子下出现了大量回应信息。文件中有数据科学家指出,“虚假、有害、暴力的内容在信息流中异常普遍”,他们认为新算法重新分配了新闻动态的内容,使愤怒内容的比重更高。另外,文件还显示,算法让欧洲的一些政党改变了政策立场。

脸书前雇员弗朗西斯·豪根(Frances Haugen),也是上述报道信源之一,亦公开批评脸书加剧社会分裂、为了高额利润故意隐瞒问题。

豪根于当地时间10月5日出席美国国会参议院“消费者保护、产品安全和数据安全组委员会”听证会时表示,脸书的领导层知道如何使其旗下产品更安全,但他们并未做出必要的改变,因为他们把利润摆在了用户利益之前。

3.png

豪根在听证会上。

豪根先后担任脸书的虚假信息部首席产品经理和反间谍部产品经理,她说,“脸书不断遇到自身利益与用户安全之间的矛盾。在面对这些矛盾时,脸书一再选择将自己的利益摆在前面,结果就是加剧分裂、极端主义和两极分化。在某些情况下,这种危险的网上交流已经导致了线下的暴力,最终导向了对人们的伤害,甚至杀害。”

“脸书不惜一切代价,甚至通过牺牲用户安全来换取利润,因此才能成为一个价值近万亿美元的公司。”豪根表示。

美国国会参议员理查德·布卢门撒尔(Richard Blumenthal)在听证会结束后对媒体表示,他认为豪根的言论“令人信服”。他认为,“豪根想要修复脸书,而不是毁灭它”。

不过,脸书方面否认了豪根的说法。脸书政策管理负责人莫妮卡·比克特 (Monika Bickert)接受CNN采访时表示,豪根在听证会上引用的文件是“被盗文件”,存在“错误描述”。

扎克伯格也指出,脸书通过广告盈利,而广告商明确表示不希望他们的广告伴生有害或愤怒的内容。因此,脸书故意推送让人愤怒的内容以谋取利益的论点是“非常不合逻辑”的。

3

32%的少女受Instagram影响增加身材焦虑

青少年的心理健康问题也是此次文件揭露重点问题。

文件指出,脸书早就知道平台加剧了青少年的心理健康问题,但并不愿做出改善。

早在2020年3月,研究人员就在脸书的内部留言板上指出:“根据调查,32%的少女被Instagram(脸书公司旗下社交应用)影响,加强了身材焦虑”。文件中,另一份2019年的幻灯片上写道:“我们让三分之一少女变得更身材焦虑...青少年将焦虑和抑郁的增加归咎于Instagram”。另一份报告显示,在有自杀想法的青少年中,13%的英国用户和6%的美国用户将原因归结到Instagram。

文件显示,在过去的三年里,该公司的研究人员反复发现,Instagram对相当一部分人是有害的,尤其是少女。但脸书并未对这一现象做出有力的反应。

报道称,Instagram已经拥有了四倍于脸书的青少年用户量,美国每天有大约2200万青少年登录Instagram,超过40%的Instagram用户年龄在22岁及以下,但脸书的年轻用户近十年来一直在减少,每天登录脸书的青少年只有500万。Instagram上年轻用户的涌入为脸书的收入做出了较大贡献。

文件显示,脸书并不想破坏他们与该平台的互动。

对于这些指控,扎克伯格回应道,“事实上,少女们认为,Instagram让她们的困难时期变得更好,而非更糟。”此外,他还表示,保护儿童是他们特别关注的问题。

屏幕快照 2021-10-08 下午3.40.36.png

扎克伯格发文回应。

4

扎克伯格建议国会更新互联网法规

在豪根看来,脸书的上述种种问题都离不开信息不透明这一“可怕的事实”:脸书之外的人几乎不知道其内部究竟发生了什么,该公司的领导层故意向公众、美国政府和世界各国政府隐瞒重要信息。

脸书的封闭意味着它躲避了监督。豪根提到,任何其他大型科技公司,如谷歌,的调查结果都可以被独立研究人员轻易地搜索到。而她认为,脸书的运作机制之所以隐藏在高墙内部,并非为了“保护隐私”,实际上是为了使研究人员和监管机构看不到其系统的真正动态。

她认为,有效监管的关键在于提高透明度。比如:允许研究人员公开查阅脸书相关的数据,并在此基础上建立合理的规则和标准,以解决对消费者的侵权、非法内容泛滥、数据保护、反垄断、算法系统等问题。

“如今,脸书选择我们看到的信息,塑造我们对世界的认知,而那些不使用脸书的人也会受到使用者的影响。这是一家能够控制人们的想法、情感和行为的公司,它需要真正的监督。”豪根说道。

在这一背景下,豪根建议由国会来改变脸书的“游戏规则”,阻止它现在造成的伤害。

“没有你们(国会)的帮助,他们不会解决这些问题。”豪根说,“我之所以冒着巨大的个人风险站出来,是因为我相信我们仍然有时间采取行动,但我们必须立刻开始行动。”

值得注意的是,扎克伯格同样强调国会对于解决问题的重要作用。他认为私营公司不应自行做出所有决定,而这正是他们多年以来一直倡议更新互联网法规的原因。

“我曾多次在国会作证、并要求他们更新相关的规定。我写过专栏文章,举出了我们认为最为重要的监管领域,包括选举、有害内容、隐私和竞争等等。”

扎克伯格称,脸书正竭力做好每一项工作,但在某种程度上,平衡社会公平问题的合适机构应该是国会。比如青少年几岁可以使用互联网服务?互联网服务应该如何验证人们的年龄?公司应该如何平衡青少年隐私与让父母了解孩子活动之间的关系?他认为,这些都需要国会来制定相关的规则。

采写:南都记者 孙朝 见习记者 胡耕硕

编辑:蒋琳

南都N视频,未经授权不得转载、授权联系方式
banquan@nandu.cc. 020-87006626