“马克改变了规则”:脸书如何轻松应对亚历克斯·琼斯和其他右翼人物
4728字
2021-02-23 21:21
9阅读
火星译客

2019年4月,脸书正准备封杀互联网上最臭名昭著的错误信息和仇恨传播者之一Infowars创始人亚历克斯·琼斯。首席执行官马克·扎克伯格亲自执行。

琼斯由于声称2012桑迪胡克小学大屠杀是一个“巨大骗局”获得了骂名,还声称2018年柏龄拍摄的十几岁的幸存者是“临时演员”。但是脸书发现他还在不停地向包括宗教信仰者和跨性别者在内的各种团体散布仇恨。根据公司针对“危险个人和组织”的政策,这种行为满足他从社交网络中被驱逐的条件,该政策要求脸书还需删除对他们表示“赞扬或支持”的任何内容。

但据知情人士透露,扎克伯格并不认为Infowars创始人是仇恨人物,因此他否决了自己的内部专家,并打开了一个巨大的漏洞:脸书将永久禁止琼斯及其公司,但不会禁止来自其他脸书用户的赞美和支持的帖子。这意味着琼斯的众多追随者可以继续在全球最大的社交网络上散布他的谎言。

一位前政策员工告诉BuzzFeed新闻说:“马克个人不喜欢这种惩罚,所以他改变了规则。”他指出,原始规则已经在使用,这是多个团队和专家无数小时的工作成果。

“马克个人不喜欢惩罚,所以他改变了规则。”

“那是我第一次不得不创建一种新的政策以适应扎克伯格想要的东西。当我们制定政策并且经历了严格的执行时,这有些令人沮丧。就像,fxxk是做什么用的?”第二位前政策雇员说,他与第一位一样,要求不透露姓名,以便他们可以谈论内部事务。

脸书发言人安迪·斯通谈到亚历克斯·琼斯的决定时说:“马克呼吁采取更加细微的政策和执法策略,”这也影响了其他极端主义者的禁令。

两名前雇员表示,扎克伯格的“更细微的政策”引起了连锁反应,这延迟了该公司撤除誓言守卫者之类的右翼好战组织的努力,后者与1月6日在美国国会大厦的起义有关。这也是脸书愿意更改其规则以安抚美国右翼并避免政治反弹的案例研究。

BuzzFeed新闻获得的内部文件以及对14名现任和前任员工的采访显示了,在全球公共政策副总裁乔尔·卡普兰和扎克伯格的异想天开的指导下,公司的政策团队如何发挥巨大的影响力,同时阻碍了内容审核决策,阻碍产品的发展推出,并代表违反脸书规定的受欢迎的保守派人士进行干预。

去年12月,一位前核心数据科学家撰写了一份备忘录,题为“对内容政策的政治影响”。在BuzzFeed新闻中看到,该备忘录指出,卡普兰的政策小组“定期保护强大的选民”,并列举了几个示例,包括:取消右翼页面上错误信息的处罚,减少旨在提高News Feed中内容质量的尝试以及暂时阻止提案在美国大选之前推荐政治团体。

自从11月的投票以来,至少有六名脸书员工辞职,辞去了领导层未能就错误信息和仇恨言论留意自己的专家。即将离任的四名员工明确指出该政策组织是他们工作的障碍,并要求进行重组,以便负责监督游说和政府关系的公共政策小组以及负责制定和执行平台规则的内容,政策小组不会两者兼而有之向卡普兰报告。

脸书拒绝让卡普兰或其他高管接受采访。公司发言人斯通消除了对副总裁影响力的担忧。

他说:“对一个人在脸书上的影响所产生的阴谋论进行循环并不能使它们成真,”他说。 “现实是,脸书的重大决策是由来自不同团队,在不同领域具有不同观点和专业知识的人员提供的意见。提出其他建议是荒谬的。”

一位致力于在脸书上努力保护民主进程和遏制激进主义的诚信研究人员表示,由于担心政治反弹,该公司拒绝产品变更,这对用户造成了直接伤害。

“在某个时候,扎克伯格必须为自己所做的平台武器化所负责。”

他们在BuzzFeed News看到的内部说明中写道:“出于对潜在的公众和政策利益相关者反应的恐惧,我们有意识地使用户面临诚信风险。”他们在八月辞职。

那些受到琼斯言辞影响最大的人也注意到了。莱尼·波兹纳的6岁儿子诺亚是桑迪·胡克枪击案的最小受害者。他说,扎克伯格减轻了Infowars创始人面临的惩罚,这是“令人沮丧,但并不令人惊讶”。他说,在HONR 网络 (大规模伤亡事件幸存者组织) 2018年的来信中,该公司已承诺将在处理仇恨和骗局方面做得更好。但是,脸书仍然没有删除有害内容。

“在某个时刻,”波兹纳告诉BuzzFeed新闻,“扎克伯格必须为自己的角色负责,以使自己的平台武器化,并确保可笑和危险性与真实性同等重要。”

“对不同事物的不同看法”

塞缪尔·库伦/盖蒂图片社

马克·扎克伯格和乔尔·卡普兰在2019年9月19日在华盛顿特区的国会山办公室与参议员约翰·科恩离开会面后聊天。

现任和前任雇员表示,卡普兰与扎克伯格的密切关系使首席执行官在制定引人注目的内容政策执行决策时,更加权衡政治因素。卡普兰过去四年来努力向特朗普示好——从他广泛宣传的对最高法院提名人布雷特·卡瓦诺的支持到他在脸书政策决定中代表右翼有影响力的人士进行的干预,这也使他成为民权组织的目标人物和民主党议员。

2020年6月,三名民主党参议员在信中询问卡普兰“脸书决定关闭和取消优先考虑遏制极端主义和两极分化活动的内部努力中的作用”。参议员伊丽莎白·沃伦呼吁他监督游说工作,该游说工作花费数百万美元来影响政客,随着新的总统政府就职以及一系列持续的反托拉斯诉讼,扎克伯格现在必须努力应对自己的最高政治顾问可能不会不再是华盛顿特区的资产,而是潜在的负债。

“我认为DC中的每个人都讨厌脸书。他们总是火上浇油。”美国经济自由项目执行主任,乔·拜登总统过渡小组前成员萨拉·米勒说。她说,民主党人对该平台对仇恨言论和错误信息的容忍度感到愤慨,而“让特朗普离开平台”为共和党人对该公司的发展带来了新的活力。

米勒补充说:“脸书需要平息整个政治领域的怒火。”

“我认为DC的每个人都讨厌脸书。他们总是火上浇油。”

卡普兰在2011年加入脸书领导其DC业务时,他拥有该公司寻求美国权利所需的联系和血统书。他曾担任保守派最高法院法官安东尼·斯卡利亚的书记员,在2000年佛罗里达州总统大选争议期间参加布鲁克斯兄弟骚乱后,曾担任乔治·布什总统下的白宫副参谋长。在2003年的参议院确认听证会上,管理和预算办公室的职务中,卡普兰被问及他在这次活动中的角色,该活动试图停止在佛罗里达州重新计票时进行计票。

尽管他最初在脸书上公众知名度较低,但卡普兰(首席运营官谢丽尔·桑德伯格的哈佛同学和前男友)因了解共和党决策者和保守的美国人而受到扎克伯格的重视,首席执行官认为,这些人在自由派领导团队和员工中所占的比例不足根据。

BuzzFeed新闻;盖蒂图片社

到2014年,他已升任全球公共政策副总裁。在担任该职务期间,卡普兰监督了公司在全球的政府关系以及其内容政策团队。这种安排引起了人们的关注,因为其他公司(包括谷歌和推特通常将公共政策和游说工作与创建和执行内容规则的团队分开。

唐纳德·特朗普的候选人资格和选举卡普兰做出更有价值的公司。他曾担任扎克伯格的政策顾问,帮助脸书渡过谎言之海,憎恨这位前总统在平台上的变态以及公众对此的愤怒反应。 2015年12月,特朗普在脸书上发布一条帖子,呼吁 “彻底关闭”宗教信仰者进入美国——这是第一个迫使该公司努力应对当时候选人的种族主义言论,有时甚至是暴力言论。卡普兰和其他高管中的建议脸书的首席执行官不要采取任何行动。

据《纽约日报》报道,卡普兰说:“不要摸老虎的屁股。”他说,对特朗普的帐户采取行动会引起右翼的强烈反对,并指责该网站限制了言论自由。在随后的五年中,扎克伯格经常以不同的方式重复他的这一论点。

据现任和前任雇员称,在此期间,卡普兰很少在脸书内部留言板上公开交流或在公司范围内的会议上发表讲话。然而,当他这样做时,他的表现总是备受争议。

您在脸书或其他技术公司工作吗?我们很乐意听取您的意见。可以访问ryan.mac @ buzzfeed.com, craig.silverman @ buzzfeed.com或通过我们的提示渠道。

在当时的首席安全官亚历克斯·斯塔莫斯领导的脸书小组发现俄罗斯在2016年美国总统大选期间及之后干涉该平台的证据后,卡普兰成为领导小组的成员,该小组反对公开披露克里姆林宫的影响力活动的全部范围。当公司最终在2017年10月公开发布有关它的更多信息时,是卡普兰而非斯塔莫斯在内部市政厅回答了员工的问题。

斯塔莫斯说:“他们本可以派遣我的。”他后来因与俄罗斯干涉有关的分歧而离开了公司。 “向副总裁展示[俄罗斯战役的证据]的人是我。”

然而,正是卡普兰出现在卡瓦诺2018年9月的参议院确认听证会上,才使他成为全国关注的焦点。坐在被提名人的身后,他在活动的电视转播中可见。员工大怒;他们认为,卡普兰的出席使脸书看起来像是在支持被提名人,同时驳回了针对他的性侵犯指控。

吉姆·布尔格/路透社

乔尔·卡普兰于2018年9月27日在华盛顿特区举行的参议院司法委员会确认听证会上与最高法院提名候选人布雷特·卡瓦诺的家人,朋友和支持者坐在一起。

卡普兰随后通过电视会议在公司范围内的会议上解决了这一事件,愤怒的工人感到他在相机上的出现是故意的,使他提出了疑问。但是在他自己的团队内部,他面临着一些最激烈的批评。在那个秋天的脸书公共政策小组会议上,一位长期经理含泪地指责他对性骚扰幸存者缺乏同情。

“认识某人并不重要;两名参加会议的人士说,这并不意味着他们没有按照别人说的去做。随后,她写了一篇公共博客文章,讲述了自己遭受性侵犯的经历,并于一年后离开了公司。

这些都没有改变卡普兰在扎克伯格心中的地位。该首席执行官于2019年9月去了华盛顿特区,并在一次旅行中与卡普兰认识,其中包括与特朗普会晤。卡普兰对特朗普很友好,特朗普曾一度认为他经营管理和预算办公室。

“许多人认为乔尔·卡普兰对我们的决定拥有太多权力。”

5月,当乔治·弗洛伊德不满期间,扎克伯格决定不碰特朗普的“抢劫开始,枪击事件开始”的煽动时,工人们变得愤怒了。在随后的公司会议上,来自员工的最强烈的疑问之一直接让卡普兰出去。问题被问到:“许多人认为乔尔·卡普兰对我们的决定有太多权力。”要求副总统解释他的角色和价值观。

扎克伯格似乎对这个问题感到不满,并质疑任何人都可能影响公司做出决定的“严格”过程的观点。首席执行官认为,多样性意味着要考虑所有政治观点。

扎克伯格说:“这基本上是根据乔尔是共和党人这一事实来问乔尔是可以担任这个角色还是可以扮演这个角色……我不得不说,我觉得这条问题线令人非常困扰。”并无视了这个问题。 “如果我们想切实做好为人民服务的工作,(我们必须)考虑到对不同事物有不同的看法。”

脸书员工表示,扎克伯格仍然坚决支持卡普兰,但内部压力正在逐渐减少,以减少公共政策团队的影响力。 脸书公民诚信团队负责人塞米德·查克拉博蒂在6月的一份内部说明中写道,同事“感到压力,以确保他们的建议与决策者的利益相符”,哀叹在履行团队职责:制止滥用行为时,在平衡这些利益方面存在困难。和干扰选举平台。据《新闻》报道,选举后不久,公民诚信小组解散。

查克拉博蒂说:“他们将此归因于组织激励,即内容政策和公共政策团队具有共同的根基。” “只要是这种情况,我们将过早将监管利益置于社区保护之上。”

现在担任斯坦福互联网天文台负责人的斯塔莫斯说,政策小组的结构将始终以当前形式提出问题。

他说:“您不希望平台政策制定者向负责使政府中的人们感到高兴的人汇报。” “乔尔来自布什白宫,政府关系在言论要求上没有中立立场。”

“害怕对抗强大的政治演员”

乔什·埃德森/盖蒂图片社

八月份,负责新闻快报的脸书产品经理向同事介绍了该公司为2020年美国大选所做的准备。

内部研究表明,脸书上的人们在政治讨论小组中被两极分化,这也为错误信息和仇恨提供了温床。为了解决这个问题,负责保护选举完整性的脸书员工建议该平台停止在“应加入的团体”模块中推荐此类团体。

但是公共政策团队担心可能出现政治反弹。

产品经理在脸书内部留言板上写道:“尽管“产品推荐”将改善公民过滤器的实施,但在[2020年美国大选期间]仍会在政治生态系统中造成冲击。” “我们决定在选举结束之前不做任何改变。”

该社交网络最终在11月大选前几周暂停了政治团体的建议,直到1月6日国会大厦起义后才将其永久删除。现任和前雇员表示,脸书决定不理会其诚信团队的指导,而最初并未动摇团体的建议,这体现了脸书在政治上如何经常镇压公司的计划,而这些计划可能会使错误的信息和激进主义蒙混过关。

在关于小组建议的同一更新中,产品经理还解释了领导者由于潜在的政治忧虑而决定为帖子推荐的功能进行更改的决定。帖子推荐旨在将人们不喜欢的帐户的帖子插入人们的供稿中,旨在促进新的联系或兴趣。例如,如果某个人关注了堪萨斯城酋长之类的橄榄球队的脸书页面,则帖子推荐可能会将美国橄榄球联盟的帖子添加到推荐中,即使该人没有关注美国橄榄球联盟。

帖子推荐不应做的一件事就是推荐政治内容。但是那年春天的早些时候,脸书用户开始抱怨说,尽管他们从未参与过这类内容,但他们在新闻摘要中看到了包括本·夏皮罗这样的保守人物的帖子。

当内部对该问题进行标记时,脸书的内容政策团队警告说,删除有关政治内容的此类建议可能会减少这些页面的参与度和访问量,并可能引起发布者的投诉。一位新闻提要产品经理和政策小组成员在8月份发布给脸书内部留言板的帖子中重申了这一观点。

他们解释,“这些生产者的分布明显下降(通过交通洞察力提出建议)可能导致备受瞩目的升级,其中可能包括在2020年美国大选期间对某些政治实体实施影子禁令和/或脸书偏见的指控”。屏蔽内容或在不通知页面所有者的情况下限制页面的流通是右翼人物针对社交媒体平台提出的普遍指控。

“在美国,干预似乎几乎完全是代表保守的出版商。”

前核心数据科学家在备忘录中指出,在2020年全年,“对强大的政治行为者的恐惧”成为关键的公共政策团队合理化,以便在美国总统大选前放弃对潜在违法内容采取的行动或推出产品变更 。他们还说,他们已经看到“有十个提议被用来衡量或精简News Feed内容客观质量的提议,因为……它们在美国政治领域产生了不成比例的影响,通常会更加损害保守的内容。”

这位数据科学家曾在公司工作了五年以上,然后于去年年底离职,他指出,尽管自2016年以来取得了长足进步,但News Feed的政治内容状况“仍然普遍被认为是不好的”。他们补充说,根据脸书的数据,每100篇关于美国政治的内容的观点中有1篇是关于某种骗局的,而对政治材料的大多数观点都是在党派职位上发表的。数据科学家说,如果该公司被认为是“敏感的”或可能进行报复的话,他们仍会给已知的虚假和误导性信息传播者以通行证。

他们写道:“在美国,干预似乎几乎完全是代表保守的出版商,”这归因于政治压力或不愿让敏感的出版商和知名用户感到不安。

正如BuzzFeed News去年夏天报道的那样,包括卡普兰在内的脸书政策小组成员代表右翼人物和诸如查理·柯克,布赖特巴特和普拉格大学之类的出版物进行干预,在某些情况下,要求消除对其页面上的错误信息提示或帐户。根据脸书的第三方事实检查人员的建议,对推荐方面的打击会导致一系列的处罚,从降低其帖子分发的距离到删除页面或帐户的处罚。

卡普兰的其他干预措施都有据可查。 2018年,《华尔街日报》 透露他帮助搞黄了一个将具有政治分歧的美国人联系起来的项目。该报导说,卡普兰曾反对“在接受脸书内部研究的简报时发现,向右倾斜的用户比向左倾斜的用户更倾向于两极化,或者更少地暴露于不同的观点。”去年,《纽约日报》报道说,政策主管拒绝扩展一项名为“更正记录”的功能,当用户与后来被脸书的事实检查合作伙伴标记为虚假的内容进行交互时会通知用户,原因是担心这样做会“向分享来自右翼网站的虚假新闻的人不成比例地显示通知。”

“很难为我在哪里工作感到自豪。”

据《信息》报道,政策主管还帮助推翻了公司现已解散的公民诚信部门提出的一项倡议,以遏制误导性政治职位的到达。

对于那些在公司努力减少伤害和错误信息的人来说,这样的干预不足为奇。在BuzzFeed News先前报道的12月离职说明中,一位诚信研究人员详细介绍了包括Breitbart和Fox News在内的右翼页面如何成为充满死亡威胁和仇恨言论的讨论中心,这显然违反了脸书政策。他们质疑为什么该公司继续以官方身份处理此类出版物。

研究人员写道:“当公司对扶植那些对于我们试图去降低的影响加以煽动的演员表现出明显的兴趣时,就很难为我在哪里工作感到自豪。”

从亚历克斯·琼斯到美国国会大厦的路线

肯特·西村/《洛杉矶时报》来自盖蒂图片社

亚历克斯·琼斯于2021年1月5日在华盛顿特区最高法院前的“制止窃案”上讲话后离开。

该战略响应团队已收集了2019年春季亚历克斯·琼斯和Infowars禁令的证据,并借鉴了他针对宗教信仰者,变性人和其他团体的仇恨言论的多年实例。根据公司针对危险个人和组织的政策,琼斯和Infowars将被永久禁止,脸书必须删除表示对阴谋论者及其网站表示支持的内容。

2019年4月,通过电子邮件向脸书全球政策管理负责人莫妮卡·比克特和她的老板卡普兰发送了有关建议禁止该禁令的提案,包括公共政策,法律和传播团队的例子和评论。消息人士称,该提议随后被传递给包括扎克伯格在内的公司高层领导。

脸书首席执行官拒绝删除赞扬琼斯及其想法的帖子。

一位前政策雇员表示:“扎克伯格基本上决定不愿对琼斯使用这项政策,因为他个人并不认为自己是仇恨人物。”

这些团队被指示为琼斯创建一个全新的名称,以适应首席执行官的要求,当该公司于5月2日宣布禁令时,它并未表示已按照扎克伯格的要求更改了规则。然而,这些决定将产生深远的影响,引发一系列事件,这些事件最终助长了2020年选举的暴力后果。

两名前政策员工表示,该流程使内容政策团队不愿建议新措施,导致对危险个人和组织的新名称“冻结”了大约一年。在此期间,许多极端主义团体在整个2020年使用该平台组织和扩大其成员。这名前政策雇员表示,对此类团体贴标签的延迟有效地使他们能够在2020年的大部分时间里使用脸书进行招募和组织。

“亚历克斯·琼斯的事情一发生,他们便冻结了名称,并且持续了将近一年,他们很少愿意提出任何要求。这影响了去年大选的筹备。政策团队本来应该审查 Oath Keepers 和 Three Percenters,从本质上讲这些人是不允许的。”政策雇员说,指的是脸书自2020年8月开始撤离的右翼激进组织。

《 华盛顿邮件报》周六报道说,司法部和联邦调查局正在调查琼斯和国会大厦暴徒之间的联系。

一位脸书研究人员在八月份辞职时在内部留言板上写道,该公司本可以采取更早的行动。该说明带有警告:“诚信团队在建立保障措施方面面临越来越多的障碍。”他们写道,以强大的研究和数据为后盾的拟议平台改进是“过早地受到抑制或受到严格限制的……通常是基于对公众和政策利益相关者反应的恐惧。”

“我们只愿意在事态发展成可怕的状态之后才采取行动。”

他们写道:“我们已经有超过一年的历史,我们的推荐系统可以很快将用户引导到阴谋理论和团体的道路上。”他们批评该公司不愿对QAnon大规模妄想采取行动。 “与此同时,边缘群体/邪教信仰已经发展为全国性,QAnon国会候选人和QAnon主题标签和群体逐渐成为主流。我们只愿意在事情变成可怕的状态之后采取行动。”

尽管2020年选举已经结束,但现任和前任雇员表示,政治继续渗入脸书产品和功能决策。四个消息来源说,他们担心卡普兰对新闻订阅中推荐内容的影响。他们说,鉴于他的角色是向政客示好,在讨好政府官员或候选人以及决定人们在平台上看到的东西之间存在根本的利益冲突。

大选前的几周,错误信息在整个脸书上流传开,破坏了人们对如何计算票数完整性的信任。为了提高新闻订阅源中的内容质量,高管们决定该网站将重点放在新闻生态系统质量上。根据《纽约日报》,新闻质量是根据发布者对新闻业的评估给予其内部评分的。

据三位知情人士向BuzzFeed News表示,这项措施和其他“ 打破常规”措施极大地改善了人们的新闻提要的内容质量,以至于负责该功能的副总裁约翰·黑格曼无限期地继续进行下去。但是,卡普兰和政策小组成员反对赫格曼的建议。临时措施最终失效。

黑格曼未回应置评请求。

在暴动之后的几天里,脸书在其新闻提要排名算法中再次强调了非等效。脸书发言人安迪·斯通表示,更改是暂时的,已经“撤回”。

“我们的领导能力还不够”

2020年大选之后,一些即将离任脸书的员工在退出时公开批评了领导层。一位将近八年的资深人士说:“我对公司及其在社会中所扮演的角色的幻想越来越令人幻灭。”他补充说,由于领导层未能意识到或最小化公司引入的“真正的负面因素”,他们感到难过和生气。

他们写道:“我认为在这些领域工作的人们正在尽力而为,我赞扬他们的努力。” “但是,我确实认为我们的领导能力还不够。”

除了对卡普兰政策团队的影响力深表关注之外,许多脸书员工将公司的内容政策问题归因于扎克伯格,他认为该平台必须始终是左右平衡的观点。

一位在选举后数周离开的内容政策员工说:“意识形态不是,也不应成为受保护的阶级。” “白人至上是一种意识形态;无政府主义也是如此。两种观点都不是一成不变的,也不应超出审查范围。我们的内容排名决策应该在从右到左的比例上保持平衡的想法是不切实际的……并且坦率地说可能是危险的,因为该比例的一个方面正在积极挑战核心民主机构,并且未能意识到自由公正选举的结果。 ”

2020年10月,脸书成立了一个独立委员会,负责听取有关内容删除的申诉,以此回应对其政策决策的持续批评。但是这位前了解亚历克斯·琼斯禁令的政策雇员表示,对规则和执行的重大更改将永远归扎克伯格所有。

他们说:“乔尔肯定有影响力,但最终马克拥有了这些东西。” “马克将许多的政治决策权抓到了自己手中。” ●

0 条评论
评论不能为空