【猎云网（微信号：ilieyun
）】2月28日报道（编译：福尔摩望）
在目睹一名男子的死亡之后，恐慌症袭击了Chloe。
在过去的三个半星期里，接受培训的她，一直在努力让自己坚强起来，面对充斥着仇恨言论、暴力袭击和图片色情的帖子。再过几天，她将成为一名全职的Facebook内容版主，或者她的公司——一个名为Cognizant的专业服务供应商——所含糊称之的“流程主管”。
作为培训内容，Chloe不得不在她的同僚学员面前仲裁一份Facebook帖子。当轮到她时，她走到房间的前面，那里有一台显示器正在显示一段已经发布到Facebook上的视频。包括Chloe在内的所有学员都没有见过这段视频。她按下了播放键。
这段视频描述了一名男子被谋杀的过程，有人捅了他几十刀，而他尖叫着求饶。Chloe的工作就是告诉房间里的所有学员，这个帖子是否应该被删除。她知道Facebook社区标准的第13条，禁止描述一个或多个人被谋杀的视频。当Chloe向全班解释时，她听到自己的声音正在颤抖。
回到座位上，Chloe有一种强烈想哭的冲动。另一名学员已经上前审查下一篇帖子，但Chloe却无法集中注意力。她离开房间，哭得非常厉害，以致于产生了呼吸困难。
没有人试图安慰她，因为这是她受雇所做的工作。对于像Chloe这样在凤凰城为Facebook仲裁内容的1000人，以及全世界1.5万名内容审查者来说，这只是办公室里寻常的又一天。
在过去的三个月里，我采访了十几名Cognizant的现任和前任员工。所有人都与Cognizant签署了保密协议，承诺不讨论他们在Facebook的工作，甚至不承认Facebook是Cognizant的客户。保密是为了保护员工免受用户的影响，这些用户可能会对内容审核决定感到愤怒。在数据隐私问题受到严格审查之际，这份保密协议还旨在防止承包商与外界分享Facebook用户的个人信息。
但这些版主告诉我，这种保密也使Cognizant和Facebook免受对其工作条件的批评。他们被迫不去讨论工作给他们带来的情感损失，即使是和所爱的人也无法讨论，导致了更多的孤立感和焦虑感。为了保护他们免受雇主和Facebbok用户的潜在报复，我同意为故事中提到的每个人使用假名，除了负责Cognizant业务流程服务的副总裁Bob Duncan和Facebook全球合作伙伴供应商管理总监Mark Davidson。
总的来说，这些员工们描述了一个永远处于混乱边缘的工作场所。在这种环境下，员工们只能通过讲关于自杀的黑色笑话来应对，然后在休息时抽大麻来麻痹他们的情绪。这是一个员工每周只犯几个错误就可能被解雇的地方，也是那些仍然生活在恐惧中的前同事会回来复仇的地方。
2017年5月3日，马克·扎克伯格宣布扩大Facebook的“社区运营”团队。新员工将加入现有的4500名版主团队中，负责审核每一条违反公司社区标准的内容。截至2018年底，为了应对社交网络上暴力和剥削性内容盛行的批评，Facebook总共雇佣了3万多名员工从事安全和安保工作，其中约一半都是内容审查者。
虽然版主包括一些全职员工，但Facebook大多依赖合同工来完成这项工作。Facebook运营副总裁Ellen Silver去年在一篇博客文章中表示，合同工的使用让Facebook得以“全球扩张”——内容版主们昼夜不停地工作，在全球20多个地点审查50多种语言的帖子。
使用合同工对Facebook也有实际好处：它非常便宜。Facebook员工的年薪、奖金和股票期权中位数为24万美元。而在亚利桑那州为Cognizant工作的内容版主每年的收入仅为2.88万美元。这样的薪酬安排有助于Facebook保持高利润率。在最近一个季度，该公司的利润为69亿美元，收入为169亿美元。尽管扎克伯格警告投资者，Facebook在安全方面的投资会降低公司的盈利能力，但其利润仍比前一年增长了61%。
2014年，Adrian Chen在《连线》详细描述了社交网络内容版主的恶劣工作条件。自那以来，Facebook一直对认为它正在剥削最低收入员工的批评很敏感。Silver在博客文章中说道，Facebook会评估潜在版主“处理暴力图像的能力”，根据他们的应对技巧来进行筛选。
负责监督Cognizant北美内容审查业务的Bob Duncan表示，招聘人员会仔细向申请者解释这份工作。“我们会向你展示一些例子，”他说。“以确保人们能够理解它。如果他们觉得这样的工作可能不适合，他们可以做出适当的决定。”
直到最近，大多数Facebook内容审查都是在美国以外进行的。但随着Facebook对劳动力需求的增长，它已经将国内业务扩大到了加州、亚利桑那州、得克萨斯州和佛罗里达州的城市。
Davidson表示，美国是该公司的故乡，也是该公司最受欢迎的国家之一。他说，美国版主更有可能拥有评估美国内容所必需的文化背景，这些内容可能涉及包含特定俚语的欺凌和仇恨言论。
Facebook还致力于建造Davidson所说的“最先进设施”，所以他们复制了Facebook办公室，让他们能够感受到Facebook的办公风格。这一点很重要，因为市场总是认为内容版主坐在黑暗肮脏的地下室里，只有绿色的屏幕在闪光。但事实并非如此。
的确，Cognizant在凤凰城的办公地点并非如此。就其为员工提供电脑办公桌而言，它可能真的有点像Facebook的办公室。但是，当Facebook门罗帕克总部的员工在Frank Gehry设计的综合大楼里工作时，它在亚利桑那州的合同工们却在一个非常拥挤的空间里工作。在这个空间里，为数不多的卫生间隔间会导致员工排起长队，这也会占用大多数员工有限的休息时间。尽管Facebook员工在如何管理日程方面享有很大的自由，但Cognizant员工的时间自由却被管理人员放到了第二位。
一位名叫Miguel的版主在早上7点前到达位于凤凰城一处工作园区的办公室。和他一起准备上早班的还有约300名员工。
安全人员一直在监视着入口，防范着心怀不满的前雇员和Facebook用户。Miguel进入办公室，走向储物柜。
狭窄的走廊被储物柜占据着，每次在休息时都会被人群堵住。为了保护Facebook用户的隐私，员工们被要求在工作时将手机存放在储物柜中。
书写工具和纸张也是不被允许的，以防员工可能会想写下Facebook用户的个人信息。这项政策真实延伸到了小纸张，比如口香糖包装纸。较小的物品，如洗手液，需要放在透明的塑料袋里，这样管理者就可以随时看到。
为了适应每天四班制以及高员工流失率，大多数人都不会被Cognizant分配一张永久的工位。Miguel找到了一个开放的工位，并登录到被称为Single Review Tool的软件中。当他准备好工作的时候，点击一个标有“复审”的按钮，加入审帖队列中。
去年4月，在许多文件被《卫报》发布一年后，Facebook公布了它试图管理其23亿月度用户的社区标准。在随后的几个月里，Motherboard和Radiolab公布了有关内容审查的详细调查。
试图按照社区标准进行内容审查是极其困难的，因为Cognizant需要培训一支由低收入人群组成的全球审查大军，并始终如一地采用一套规则审查大量的帖子。此外，Facebook几乎每天都会对这些标准进行修改和解释，版主也缺乏必需的文化或政治背景。由于帖子中缺少上下文，导致含义模糊，使得版主之间关于标准是否应该适用于某个案件产生频繁的分歧。
尽管应用这一政策有很大的困难，但Facebook还是指示Cognizant和其他承包商强调一个被称为“准确性”的标准。所谓的准确性，即指当Facebook审计承包商决策时，其全职员工也同意承包商的意见。该公司设定了95%的准确率目标，但这个数字似乎总是遥不可及。Cognizant从来没有在持续的一段时间内达到这个目标，它通常会在80%-90%之间浮动。
今年1月，Facebook发布了一份政策更新，声明版主在评估表达性别仇恨的帖子时，应该考虑可能发生的用户情感变化。比如，“我讨厌所有的男人”一般来说都是违反政策的，但是如果用户说“我刚刚和男朋友分手了，我讨厌所有的男人”，那就不算是违反政策。
Miguel在内容审查时，会遇到种族主义笑话，一个男人和农场动物性交的照片，或者毒品犯录制的谋杀视频。Miguel审查的一些帖子来自于Facebook，那里欺凌和仇恨言论更为常见；其他的则来自于Instagram，那里用户可以用假名发布，并倾向于分享更多的暴力、裸体和性活动。
每个帖子都为Miguel提供了两个独立但相关的测试。首先，他必须确定一个帖子是否违反了社区标准。然后，他必须选择违反标准的正确原因。如果他准确地认识到一个帖子应该被删除，但选择了“错误”的原因，这也将降低他的准确性得分。
Facebook对准确性的专注是在持续多年对其处理审查问题的批评后发展起来的。随着每天数十亿条新帖子的发布，Facebook感到来自各方的压力。在某些情况下，该公司因做得不够而受到批评——例如，联合国调查人员发现，该公司在缅甸罗辛亚社区的种族灭绝中参与散布仇恨言论。在另一些情况下，它则被批评为越权——比如当一名版主删除了摘录《独立宣言》的帖子时。
版主难以达到其准确性目标的一个原因是，对于任何给定的政策执行决定，他们都有几个事实来源需要考虑。
强制执行的标准来源是Facebook的公共社区指南——由两组文件组成：公开发布的指南和更长的内部指南（提供了关于复杂问题的更细致细节）。此外还有一个长达1.5万字的辅助文件《已知问题》，该文件对棘手的审查问题提供了额外的评论和指导。《已知问题》通常占据一份冗长的文档，版主必须每天交叉引用；去年，它被纳入了内部社区指南，以便于搜索。
标准的第三个主要来源是版主之间的讨论。在突发新闻事件中，如大规模枪击案件，版主们会试图就图形图像是否符合删除或标记为干扰的标准达成共识。版主们表示，但有时他们也会达成错误的共识，管理者不得不四处奔波来解释正确的决定。
第四个来源可能是最有问题的，即Facebook自己的内部信息发布工具。尽管官方政策通常每隔一周就会产生变化，但关于问题发展的增补指南几乎每天都会发布。通常，该指南会发布到Workplace——Facebook在2016年推出的企业版Facebook。像Facebook一样，Workplace也有一个算法化的News Feed，根据参与度显示帖子。在突发新闻事件中，如大规模枪击事件，管理者通常会发布关于如何审查单个内容的冲突信息，这些信息会在Workplace按时间顺序出现。六名现任和前任员工告诉我，他们因为在新闻源顶部看到一个过时的帖子而犯了审查的错误。有时候感觉好像Facebook自己的产品在与他们作对。具有讽刺意味的是，版主们并没有失去理智。
“这一直都在发生，”前版主Diana说。在发生全国性悲剧事件时期，比如2017年拉斯维加斯枪击案，管理者会告诉版主删除一段视频，然后在几个小时后，又在一个单独的帖子里要求把它留下。而版主们则根据Workplace提供的最新帖子做出决定。
Miguel在休息之前，会点击一个浏览器扩展，让Cognizant知道他要离开办公桌。
Miguel有两次15分钟的休息时间和一次30分钟的午餐时间。休息时，他经常发现洗手间排着长队。男厕所里只有一个小便器和两个隔间，女厕所只有三个隔间。虽然Cognizant最终允许员工使用另一层楼的洗手间，但是来回会耗费掉宝贵休息时间。当他使用完洗手间，并穿过拥挤的人群来到他的储物柜面前时，他可能还有五分钟的时间可以查看他的手机。
Miguel每天也有九分钟的“健康时间”，如果他感到精神受到创伤，需要离开办公桌，他就应该利用这段时间。几位版主告诉我，当排队的队伍变短时，他们通常会利用健康时间去洗手间。但是管理层最终意识到了他们在做什么，并命令员工不要利用健康时间来放松自己。
现任和前任员工告诉我，在凤凰城的办公地点，利用健康时间进行祷告的穆斯林员工被告知停止这种做法。我与员工交谈过，他们不清楚为什么主管认为祈祷不是健康计划的有效用途。
当有空的时候，顾问会告诉Cognizant员工如何应对工作的压力，比如拨打热线、使用员工援助计划。最近，瑜伽和其他治疗活动也被加入了援助计划之中。但是除了偶尔拜访顾问，我与之交谈的六名员工表示这些资源并不足，所以他们会用其他方式来应对工作压力，比如性、毒品和冒犯性的笑话。
浴室隔间、楼梯井、停车场和为母亲哺乳保留的房间，这些都是Cognizant员工被发现做爱的地方。一位知情人士告诉我，2018年初，安全团队向管理者发出了一份备忘录，提醒他们注意这一行为。结果，管理层拆除了哺乳间和其他几个私人房间的门锁。
一位名叫Sara的前版主表示，由于工作的机密性，加上工作的难度，使得员工之间建立了牢固的联系。“你真的很快就能接近你的同事，”她说。“如果你不被允许和你的朋友或家人谈论工作，那将会产生一些距离。你可能会觉得和这些人更亲近。这感觉就像是一种情感联系，而实际上只是精神创伤的纽带。”
员工也可以在园区内外使用毒品和酒精。一位前版主Li告诉我，他几乎每天都使用汽化器在工作中使用大麻。他说，休息时，经常会有一小群员工到室外吸食大麻。
从事版主这一工作大约一年时间的Li透露，工作场所充斥着黑色幽默。他说，员工们会互相竞争发送最具种族主义或攻击性的表情包，以此来缓解情绪。他说，作为一个少数族裔，自己经常成为同事的目标，他以牺牲自己的利益为代价，接受了他所认为的善意的种族主义笑话。
但是随着时间的推移，他越来越担心自己的精神健康。和我交谈过的大多数版主一样，Chloe在大约一年后辞职了。
除此之外，她越来越担心同事之间传播的阴谋论。另一位版主告诉我，一位质量保证人员经常与同事讨论地球是平的这一观念，并“积极尝试劝说其他人”去相信这一观念。Miguel的一个同事曾经漫不经心地提到“全息骗局”，同样是这个人，也曾否认大屠杀。
然而，最重要的是，Chloe担心这项工作对她的心理健康产生了长期影响。几位版主告诉我，他们经历了继发性创伤压力的症状——一种可以通过观察他人经历的第一手创伤而产生的病症。这种病症的症状可能与创伤后应激障碍相同，通常见于医生、心理治疗师和社会工作者。经历二次创伤性压力的人同样报告了焦虑、失眠、孤独、分离以及其他疾病的感觉。
去年，加州的一名前Facebook版主起诉了该公司，称她在Pro Unlimited的承包商工作让她患上了创伤后应激障碍。在诉状中，她的律师表示，她“试图保护自己免受因Facebook的失职而造成的心理创伤的威胁，他们作为合同工被委托为Facebook用户提供尽可能安全的环境，但自身却未得到Facebook的安全保护。
Chloe在离职后的几个月里也经历了创伤症状。在电影院观看电影《Mother！》时，一个有关激烈刺伤的电影片段突然引发了她对第一段视频的记忆，这让她突然开始恐慌发作。甚至当她睡在家中的沙发上，家人打开了一个涉及暴力的电视节目时，她也无法避免地产生恐慌。
上周，在我向Facebook讲述了我和版主之间的对话后，该公司邀请我去凤凰城亲自看看。这是自两年前Facebook开始在美国启用这一专用设施以来，该公司首次允许编辑访问美国内容审查地点。一位接见我的女发言人表示，我所听到的故事并没有反映出大多数合同工的日常经历。
一个消息来源告诉我，在我到达Cognizant办公园区的前一天，墙上挂了新的激励海报。总的来说，这个空间比我想象的要丰富得多。霓虹灯挂图概括了这个月的活动，看起来像夏令营活动和老年中心活动的混合体。
在与Cognizant和Facebook的高管会面后，我采访了五名自愿和我交谈的员工。他们和管理者一起进入会议室，在老板坐在身边的情况下，这些员工承认这份工作存在挑战，但也告诉我他们感到安全和支持，并相信这份工作会带来更好的薪酬机会。
政策经理Brad告诉我，他和同事们审查的大部分内容基本上是良性的，并警告我不要夸大做这项工作的精神健康风险。
当我问及应用该政策的困难时，一位名叫Michael的审查者说，他经常发现自己被棘手的决定所难倒。“下一份工作有无限的可能性，这确实造成了混乱的本质，”他说。“但它也保持了趣味性。你永远也不会在知道每个问题答案的情况下完成整个轮班。”
Michael说，无论如何，相对于在沃尔玛工作，他更喜欢这份工作。“没有人会在我面前大喊大叫，”他说。
在采访完版主后，我又被引荐给两位顾问。两人都要求我不要使用他们的真名。他们表示，自己每天都会检查每个员工的状况。他们说，现场服务、热线和员工援助计划的结合足以保护员工的健康。
当我问及合同工发展出创伤后应激障碍的风险时，一位名叫Logan的顾问告诉了我一种不同的心理现象：“创伤后成长”，一些创伤受害者从经历中感受到比以前更强大的影响。他给我举的例子是妇女教育活动家马拉拉·优素福扎伊，她十几岁时被塔利班开枪打中头部。
Logan说：“这是她一生中经历的极其痛苦的事件。但是现在，她看起来非常有韧性。她还获得了诺贝尔和平奖。因此，有许多例子可以表明，人们在经历了困难之后，会比以前更加坚强。”
我在办公园区上遇到的每一个人都表达了对员工的极大关心，并且似乎在他们所接入的系统范围内尽了最大努力。Facebook引以为豪的是，在其所有内容审查地点，它向承包商支付的工资至少比最低工资高出20%，提供全面的医疗保健福利，并提供远远超过大型呼叫中心行业的精神健康资源。
然而，与我交谈的版主越多，我就越怀疑呼叫中心模式在内容审核中的应用。这种模式长期以来一直是大型科技公司的标准——Twitter和谷歌也在使用这种模式。除了节约成本之外，外包的好处是它让科技公司能够迅速将其服务扩展到新的市场和语言地区。但它也将基本的言论和安全问题委托给那些员工，就像他们在处理百思买的客户服务电话一样。
我与之交谈的每一位版主都对他们的工作感到非常自豪，并以极其严肃的态度谈论着这项工作。他们只希望Facebook员工会把他们当成同事，并以类似平等的方式对待他们。
人们并不知道有人在做这项工作，这当然是出于设计。Facebook更愿意谈论它在人工智能方面的进步，并预测它对人类审查者的依赖会随着时间的推移而下降。
但是考虑到科技的局限和人类语言的无限多样性，这样的一天似乎还很遥远。与此同时，内容审查的呼叫中心模式正在给许多员工带来可怕的影响。作为这一社交平台上的第一反应者，他们正在履行现代公民社会的一项重要职能，而他们的薪酬却不到其他前线工作者的一半。
对Facebook来说，他们似乎从来没有在那里工作过。严格来说，他们的确没有。
