研究人员创建了一个测试资料,平台在仅仅十天内就推荐其加入一个白人民族主义团体。这是纪录片《社会责任》里给出的一个细节,也是整部片子想追问的起点:一个以"连接人"为使命的平台,为什么把用户往极端主义群体里推?
影片的主角是 Facebook 员工 Frances Haugen。她调查的问题很具体——为什么这个平台会把用户推向极端主义群体。她的调查结论指向一套名为"有意义的社交互动"的算法,这套算法在实际运行中,变成了对愤怒的诱惑。
![]()
愤怒为什么成了最有效的燃料
片中的逻辑链条并不复杂:Facebook 的商业模式建立在最大化用户参与度之上,而最大化参与度最省力的路径,就是优先推送那些能引发愤怒的内容。
争议性和煽动性的帖子被放大,用户在网站上停留的时间变长。代价是社会凝聚力和真相。影片里有一句被反复引用的说法:人们的愤怒程度越高,要么是因为煽动,要么是因为围绕该问题的大量虚假信息,他们在平台上的停留时间就会越长。
这不是某个环节出了故障,而是激励方向本身的问题。当停留时长成为核心指标,愤怒就是最便宜的那桶油。
公民诚信团队没能拦住的东西
Facebook 并非没有设防。它有一个"公民诚信团队",职责之一就是应对平台上的虚假信息。
但影片的判断是:这个团队没能阻止在 2020 选举之前流传的虚假信息。片子的解释是,公司领导层更关心的是维持现状和保护自己的底线,而不是处理其技术的伦理含义。
换句话说,问题不在于没人看见,而在于看见了之后,优先级排在了别的地方。
从算法放大到 1 月 6 日
影片把这条线索一直拉到了 1 月 6 日。它的核心论点是:Facebook 的算法优先考虑愤怒和虚假信息,这种放大最终导致了两极分化和暴力事件。
整部片子还追踪了那些揭露该平台放大数据流中极端主义内容的内部举报人的旅程。Haugen 是其中最关键的一位,她的调查构成了影片叙事的主干。
一个测试账号,十天,一个白人民族主义团体。这个数字之所以刺眼,是因为它不需要任何极端行为作为前提——用户什么都不用做,推荐系统自己会走完剩下的路。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.