算法推荐让青少年患厌食症?三平台接受美国参议院质询

南方都市报APP • AI前哨站
原创2021-10-28 23:23

当地时间10月27日,美国参议院消费者保护、产品安全和数据安全组委员会举行听证会,TikTok、Snapchat 和 YouTube 的代表就如何保护儿童和青少年接受了参议院质询。

不久前,Facebook前员工弗朗西斯·豪根《华尔街日报》提交内部文件,该文件显示,Facebook的推荐算法是危险的,算法会优先显示引起用户强烈反应的内容,从而增加错误信息、有害和暴力内容。更早之前,《华尔街日报》还报道了一项Facebook内部研究,该研究表明Instagram的算法对青少年尤其是少女的心理健康造成危害,可能会加重她们的身材焦虑,甚至可能让她们患上厌食症或饮食失调症。

参议院的此次听证会正是在这样的背景下进行,这也是TikTok和Snapchat第一次出现在大型科技听证会上。尽管出席听证会的三家公司都出台了政策禁止宣传饮食失调内容,但参议员引用了一些证据,证明这些平台上的青少年仍然可能被推荐相关内容。

1

内部研究称Instagram算法加重少女身材焦虑

今年9月,《华尔街日报》援引内部文件报道称,Facebook 过去三年一直在研究旗下应用Instagram如何影响数百万年轻用户,并发现它对许多年轻用户有害,尤其是少女。

据报道,Facebook的内部研究显示:“32% 的少女表示,当她们对自己的身体感觉不好时,Instagram 会让她们感觉更糟。”并且,“青少年将焦虑和抑郁率的增加归咎于 Instagram。”

研究表明,这些负面影响主要来自于Instagram的算法推荐。 Instagram的“探索”页面为用户提供由人工智能分类的各种精选帖子,可能会向用户推荐有害内容。

最近,《华盛顿邮报》报道了该内部研究的更多信息。今年早些时候,一个 Instagram 研究人员团队创建了一个测试账号,并关注了一些宣传节食和瘦身的账号,以及#skinny 和 #thin 等话题标签。 随后,Instagram 的算法向该账号推荐了更多与饮食失调相关的内容——包括极度瘦弱女性身体的图像以及宣传节食的账户,例如“_skinandbones__”、“applecoreanorexic”和“skinny._.binge”等。

《华尔街日报》此前在报道中写道,内部研究表明,Instagram的内容引导用户呈现最完美的状态,加上其算法推荐规则,结合在一起会导致青少年饮食失调、对自己身体的不健康的认知甚至抑郁症。

在《华尔街日报》报道之后,9月30日,Instagram的安全主管安提戈·戴维斯被参议院要求参加了一场听证会。在听证会上,参议员理查德·布卢门撒尔透露,他们为一名 13 岁女孩创建了一个测试 Instagram 账该账户在一天内就收到了宣传饮食失调的内容。

“Instagram 的推荐会抓住一个人的不安全感,即一个年轻女性的弱点——她们的身体,并将她们拖入黑暗的地方来认同饮食失调和自残,”布卢门撒尔说,“这就是 Instagram 所做的事情。

2

TikTok、Snapchat 和 YouTube因类似问题接受参议院质询

近一个月后,TikTok、Snapchat 和 YouTube三家社交媒体同样被参议院要求参加听证会。根据参议院布卢门撒尔的描,他们在Youtube上发现了和Instagram同样的现象——他们注册了一个未成年女孩账户,然后系统向该账号推荐了与饮食失调相关的内容。

参议员们表示,他们在TikTok中同样发现了此类内容。 美国TikTok公共政策负责人贝克曼宣称,TikTok禁止美化饮食失调的内容,“美化饮食失调”被纳入“自杀、自残和危险行为”类别,属于违反安全政策的内容。根据TikTok最新的透明度报告,该类别内容中,94.2% 的视频被删除,81.8% 的视频观看次数为零。同时,贝克曼保证,TikTok已经做出了改进,让用户更好地控制算法和观看适合他们年龄的视频。

参议员鲍德温要求三家公司概他们正在采取的步骤,以“删除宣传不健康的身体形象和饮食失调的内容,并将用户引导至有帮助的内容”。

对此,三家公司都表示,正在利用算法对青少年做出正确引导。Tiktok的代表贝克曼说,TikTok正在与外部组织(指美国饮食失调协会)合作,为可能需要帮助的用户提供专业的心理支持。例如,向这些用户推荐关于如何克服饮食失调的内容。

Snapchat的代表杰尼弗称,当用户搜索“厌食症”或“饮食失调”等词时,Snapchat将会跳转到可能会对他们有帮助的专业内容。Youtube的代表米勒同样声称,当用户搜索饮食失调内容时,其算法会呈现可能为患有饮食失调症的人提供积极支持的内容。

不过,听证会结束时,参议员布卢门撒尔似乎对三家公司的证词不太乐观,“陈词滥调的时代已经结束了。”他说。

值得一提的是,听证会上,参议员马基和布卢门撒尔还强调了他们上个月重新引入了《 KIDS(儿童互联网设计和安全)法案》。该法案将保护 16 岁以下的在线用户,禁止平台对16岁以下用户使用自动播放、推送通知等可能让人沉迷的功能。它还将禁止对 16 岁以下儿童进行网红营销,并强制平台创建报告系统,报告平台向年轻用户提供有害内容的情况。


综合/编译:南都记者李娅宁

编辑:蒋琳

南都新闻,未经授权不得转载。授权联系方式
banquan@nandu.cc. 020-87006626