猎云网 11月13日报道 （编译：丸子）
你是否也曾经困惑过，为什么朋友你发的某些东西，瞬间消失在。不要以为社交媒体的后台程序有那么强大，能够辨别所有的敏感词汇。这些看不见的动作，并非来自于设定好的程序，而是由一群庞大的“人肉筛选机”来完成。读完这篇文章，你能解开这一神秘工作之谜，你能明白社交网络是如何进行内容筛选的，但更为深刻地，作者将带你反思一份工作对人的影响力；反省黑暗暴力的图片和文字对人内心强大的摧毁能力。猎云网编辑君此前也编译过《揭秘网络“喷子清道夫”们的悲催工作状态》一文，有兴趣的童鞋可以点击了解更多。
拥有奢华的餐厅、舒适的班车以及便捷的洗衣服务，这些一直是互联网巨头公司们所著称的绝佳福利。但在二月的一个下午，闷热且潮湿，这些巨头公司的某些最为重要的工作却在远在7000公里以外的菲律宾小镇上完成。位于马尼拉西南方13公里以外的一个叫做巴克奥尔的小镇，那里风沙漫漫，在一排汽车维修铺的尽头，坐落着一栋小房子，这原是一个学校的废址。当我爬上它狭窄的楼梯，贴着墙壁躲开那些到外面吸烟的员工，一个满脸倦容的保安指着在黑暗的角落放着的一张堆满文件的木桌子告诉我，这就是他们的“前台”。
我绕过保安，来到一间坐满工作人员的房间，这些员工坐在一张长桌前操作电脑。在这里，我见到了Michael Baybayan，一个满头棕红发，朝气蓬勃的21岁年轻人。正如这间房子没有一家创业公司的模样，Michael Baybayan电脑上所显示的图片也不像是一个新人所能承受的任务——那是一张巨大的特写，一个双头人造阴茎插入阴道的图片。我刚开始还不知道这是个啥，只看到一个棒球玩具卡大小的缩略图，上面像是一团抽象的肉和粉红色半透明的塑料，直到Baybayan很随意地用鼠标点开这张图。
Baybayan是这个房间里正在进行“内容筛选”工作的众多劳工之一，他们所负责的是为美国的社交网站筛除不宜公开的信息。随着社交媒体前所未有地将越来越多的人们紧紧联系，“祖母难题”开始横亘在社交网站公司面前：如今，长辈们也习惯用诸如Facebook之类的网站来联络他们的小辈儿们，这也使得他们无法避免遭遇网上的变态、种族歧视、恐怖主义、罪犯以及流氓等种种问题。设想一下，一旦他们发现自己的家庭照片和一大堆血肉模糊的俄罗斯高速车祸现场和赤裸裸的色情视频出现在同一网站，他们就再也不会登入了。社交网络已经成长成为一个价值几十亿美元的产业，它的持久吸引力很大程度上取决于该公司对用户上传内容尺度的把控上，这样才能确保长辈们不会看到类似Baybayan刚刚删去的内容。
“你想想看，如果每个人都越轨而行，大家肯定会想‘天啊，我每天都在做什么啊！’”
因此，像Facebook和Twitter这样的公司，雇佣了大批劳动力来清理网上的不良信息以此来保护其他人。而这个硕大的罗马军团就是那些默默无闻的广大“人肉清理机”。Hemanshu Nigam，MySpace的前任安全长官，现在经营了一家叫做SSP Blue的在线安全咨询公司。他估计，全球社交网站、手机应用、云存储服务的“人肉清理机”已经远远超过10万人——这将是Google公司员工总数的2倍、Facebook公司员工总数的14倍。
这份工作在菲律宾迅速传播。作为原美国殖民地，菲律宾与美国有着紧密的文化纽带，由此菲律宾人更容易判别什么样的内容在美国是“不宜公开”的，这也是那些内容筛选公司宣扬的业务优势。而且这也能让菲律宾人拿到“美国水平工资”。Ryan Cardeno以前是微软在菲律宾的合同工，他告诉我之前他在外包公司Sykes工作三年半后，月薪大约是500美元。去年他跳槽到一家为Facebook做内容筛选的公司，月薪大约是312美元，这也是该行业的平均水平。
Baybayan和他的同事们在这个学校遗址里也为Whisper清理内容，一家刚成立于旧金山的移动手机公司，该公司最近估值蹿升至了2亿美元。开发可供用户匿名分享秘密、发布照片的应用。Baybayan和他的同事们所服务的是一家叫做TaskUs的内容清理外包公司。我很惊讶，Whisper竟然会让我这样一个编辑参观他们的工作流程。但当我问及微软、谷歌和Facebook究竟是怎样进行内容筛选时，他们却支支吾吾地搪塞我，为了保护客户隐私，不能透露。很多IT公司都要求他们签署严格的保密协议，禁止他们向他人，乃至自己的同事，提及自己的工作内容。
据加拿大西安大略大学媒体研究学者、为数不多的研究社交网络内容筛选的学者之一的Sarah Robert说：“我认为即使内容筛选就算没有成文的规定，人们也已经墨守成规了。” 她觉得互联网公司都不愿意让用户发现社交网络存在着这一层人工筛选，这将会打击人们对互联网社交的体验，人们已经习惯于臆想互联网科技是魔法般的，而非人力控制的。
笔者之所以能够见证Whisper的内容筛选流程，是因为Whisper的CEO Michael Heyward觉得内容筛选是他们产品特色的一部分，也是他们应用的一个卖点。Whisper奉行的“主动筛选”理念在每一个用户发表言论时就要被实时审核，这是非常耗费人力的；相比于采用“反应式筛选”策略的其他公司——只有用户发布的文章被其他用户标注为“反感”时才进行筛查。“我们想要利用匿名性创造一个空间，在这个空间里我们要求用户展露自我并且感到自己的弱点。”他告诉我，“但是“自我”这东西如同牙膏，一旦被挤出管子，再想收回去就很难了。
观看了Baybayan的工作内容让我深刻地认识到要把他所谓 Whisper的“牙膏”留在管子里需要极其庞大的劳动力。（在我来访之后的不久，Baybayan就辞职了。原因是 TaskUs公司使用盗版软件，它位于巴科奥尔镇的办公室也被菲律宾的“FBI”查封，之后他们将业务转移到了马尼拉）。Baybayan的工作开始于筛选配图文字——一张照片下面附着几句话。网络匿名让Whisper的功能虚拟化，用户在 Facebook 或者Twitter上发表的过分敏感的忏悔、怨恨以及其他不当言论都将被处理掉。“人肉筛选机”必须实时监控源源不断的贴文，没有语境的文章像是“脏话唠叨症”患者的絮絮叨叨，比如“有没有在纽约的双性恋妹子，一起聊天。”或者“我讨厌爱尔兰口音”或者“我继父上了我，我就威胁他给我买辆车。”
在一块白板上用潦草的笔记写着这些“人肉筛选机”的筛查目标：情色、血腥、未成年、性、暴露癖以及种族主义。Baybayan一旦看到这类目标就将它标记为限制级，然后在网上和用户信息中剔除掉。接着他继续在网络中寻找下一个目标。短短的25分钟，Baybayan就删除了大量的血腥图片、流言秽语以及色情信息。
比较难搞定的是类似那些发了清晰的裸男图的帖子，图下附着“求同性恋，本人年芳18”这种帖子既可以被视作隐秘的表达欲望，从这样说来是可以的；但是它又可以被认为是约炮贴，从这样来说是要被删掉的。Baybayan和该公司的大部分员工一样，都具有大学文凭，与我分享了他的评价标准
“这要看用户的动机是什么”Baybayan说，“你得在想法与勾引之间做一个判断”。而且他得在几秒内迅速得出结论，因为大量的新帖子不断地涌现，覆盖掉这些不良消息。最后，他还是将这则帖子删去。在世界的某个角落，可能有一个18岁的青少年感到失落。而此时，Baybayan又开始下一轮的筛选。
即使是过去了8年，Jake Swearingen，另一个“人肉筛选机”依旧能回忆起那个让他瞬间哽咽的视频画面。当时他24岁，在旧金山湾区得到了一个工作机会：为一家当时的视频网站VideoEgg做“人肉筛选机”。上岗仅三天，他看到了一个砍头的短片，“我去！我看到了一个砍头视频”他大叫起来，而一个比他大一点儿的穿着黑色套头衫的同事漫不经心地转过椅子：“哪一个？”从此以后，Swearingen辞职了，因为他不想成为一个“血腥视频鉴赏家”。“我不希望我成为一个冷血的人，对待人们遭遇的不幸，却麻木不仁地冷嘲热讽。”如今，Swearingen已经是Atlantic Media（亚特兰大传媒）的一名编辑。
现在，全球各地每天都有许许多多的内容在被筛选。其中的许多是在美国进行的。许多“人肉筛选机”都是刚刚毕业的大学生。许多公司还采取“双层筛选”，一般的内容由海外公司外包，那些复杂的内容则由国内的公司负责。美国本土的“人肉筛选机”待遇较之海外“人肉筛选机”要好很多：一个刚入职的美国“人肉筛选机”的时薪和菲律宾“人肉筛选机”的日薪差不多。即便如此，成为一个“人肉筛选机”依旧是许多菲律宾年轻人们的梦想，而对于美国人，这也许是无路可走的选择，而且常常很快就转行了。
“一般三到五个月，人们就吃不消了”、在 YouTube做过“人肉筛选机”的 Rob说“你会开始想，我勒个去，我天天都在干嘛？”
Rob是2010年入行的，毕业后他和女朋友一起到旧金山谋生，在这儿，他发现自己的历史学学士学位简直就是一块绊脚石。好几个月过去，他越来越失望，直到有一天，他突然接到一家公司的电话，让他去应征Google的一个岗位——给Youtube做筛选。“Google！”在电话里，对方告诉他这是一份合同工，将来转正后，时薪大约是20美元，比在快餐店当服务员高多了。于是他去面试了，还签了一年的合同。“我当时太高兴了，工资不错，而且Youtube的工作经历将让我的简历增色不少。”
刚开始的几个月，Rob并不介意在YouTube的总部做一个“人肉筛选机”。他的同事们也都是他这样的刚刚毕业的年轻人，很多都是像他这样的文科生，觉得找到这工作比服务业强太多。Rob的上司人很好，常常有一些额外福利，比如带他们去自助餐厅搓一顿。每天的八小时，Rob坐在YouTube开放式的办公室里，桌子上摆着两台显示器，在其中一个屏幕上是10个视频为一批的筛选。在另一个屏幕上，他可以自由安排。他通常用一只眼睛看那些折磨人的视频和流言秽语，用另一只眼睛看电视剧，就这样，他居然看完了整部的“星际大争霸 ”。因为这份工作，他还了解了YouTube的工作机制。比如，2010年末，有个英国妇女声称自己看了伊斯兰教牧师Anwar al-Awlaki的极端布道视频，受到启发想要去刺杀一名政客。随后，Google的律师团队通知“擦洗工”们紧急删除该牧师的所有视频。
但是几个月后，这些令人作呕的内容卷土重来，特别是血腥内容：斗殴、虐待动物、自杀性爆炸、砍头、车祸。当“阿拉伯之春”运动蓬勃高涨的时候，活动家们用YouTube把政府镇压行为昭告天下。“人肉筛选机”收到警告，要把这些“具有新闻价值”的视频留着——尽管它们的内容已经违反了规定。那些抗议者们的尸体和街战的近景照片，已经远远超出了Rob和他同事们的承受能力。那些因为病态的喜好而拍摄的内容残酷的视频，摧残着他们的心灵。
“有人会上传自己虐待动物的视频，没错，就是亲自传的。他们还以此为豪。”Rob说，“做变态的事，还很骄傲……通过施暴人的视角看视频不像以第三方视角报道这种变态行为，会伤你伤得尤其厉害。这样的视频会让你看到人性黑暗的一面。”
工作之余，Rob会回想这些视频的内容。他开始变得沉默寡言、暴躁易怒。YouTube给“人肉筛选机”雇了心理咨询师，方便大家随时和他们谈心咨询，但Rob不知道如何和他们开口。据他所知，也没有谁去找过咨询师。所以他只能靠自我调节——他喝酒喝得越来越多，身材也越来越胖。
而且，Rob也逐渐发现他几乎不可能成为Google的正式工。他在签约后的不久便递交了转正申请，但却因为在校学业成绩不够优异而被告知不能参加转正面试（Google否认他们把学业成绩当成招聘员工的重要指标）。Rob说，其实即便成绩优异，像他这样的合同工也从为听说过最终转正的。
在离签约期快到期的几个月前，Rob辞职了，并且找到了新工作。当最后一天的晚上七点，他关上电脑离开办公室，他感觉获得了重生。他跳上车，开到位于澄镇的父母家，大睡了三天三夜。
“人肉筛选机”的人数已经达到了社交网站公司员工总数的一半多，但从事这份工作所带来的长时间心理折磨仍待考察。Jane Stevenson是英国 National Crime Squad（英国的联办调查局）前职业健康与福利部门的负责人。2000年初，第一批反互联网幼儿色情组织成立。她当时亲眼见证了许多成员因看到过多的儿童色情图片而不堪重负。她离职后，仍旧有许多官方组织和私人机构向她求助，于是她创办了一个职业健康咨询公司，针对高压行业。与此同时，她也注意到了社交网络公司的这些“人肉筛选机”的问题，正如当年那些反互联网幼儿色情组织的成员所遭受的一样。
“当你看到第一张图片开始，你的伤害就永久铸就了”Stevenson告诉笔者，遇到同样问题的政府机构已经为员工聘请了经验丰富的心理专家，但是那些互联网公司却还没有意识到问题的严重性。
“可能有些人觉得这些伤害磨不过就像失去亲人，或者工作上遇到的不顺心，可以自我调节。”Stevenson说，“我们几乎都经历过亲友的逝去，或者都曾为某人说的冷言冷语而中伤，所以你可能觉得这很正常。但，和一个两岁的孩子发生性关系还正常么？请注意，它会慢慢地侵蚀你的心理，砍头这种事情正常么？它会是你预期内的事情么？”
在马尼拉，我见到了心理顾问Denise（化名），她受雇于菲律宾两家内容筛选公司。“这种影响类似于‘PTSD(创伤后精神紧张性精神障碍)’”我和她面对面坐在她的办公室里，外面是城市的一条喧闹的高速公路。“他们的大脑里有记忆痕迹。”Denise和她的团队为客户建立了大规模的监控体系，给这些“人肉筛选机”做一系列的心理测试来测量他们的精神底线，然后定期利用访谈、测试去减轻那些恐怖图片带来的伤害。但即便是最好的咨询，也难以抵消因为长期观看人性黑暗面所造成的代价。“人肉筛选机”辞职通常因为，每天长时间盯着那些色情图片导致对性麻木，不愿亲近自己的配偶。而其他人则报告为他们过于强烈的性冲动困扰。“如果你一天8小时盯着色情内容看，你会怎么像？每天！”Denise说，“你又能忍受多久？”
在不远处的一个超市里，我见到了一个年轻女性Maria（化名）。这会儿正是她午饭休息的时间，她在一家内容筛查外包公司上班，这家公司为美国一家大型公司进行云存储的照片和视频筛选。Maria是“质保代表”，这意味着需要复检他们组几十个组员的工作，确保他们没有遗漏。这迫使她必须观看许多被组员标记删除的视频。
“我被那些施加在孩子身上的暴行深深困扰”她说，“我得休息一下，哪怕停一会儿放松下，也许到星巴克喝杯咖啡。”她笑了笑，觉得自己把一次恐怖的性犯罪和一杯昂贵的拿铁相提并论很可笑。
持续观看在这样的视频，让Maria的一些同事变成了严重的偏执狂，因为每天他们都会发现，原来人类的堕落方式是五花八门、无穷无尽的。他们开始猜忌身边的人，想象他们都在硬盘里藏着怎样不可告人的秘密。Maria有两个女同事变得十分多疑，以至于不愿意让保姆照顾她们的孩子，因此她们常常因为找不到信任的人看孩子而不来上班。
Maria刚入行不久就被一个短片击败。“那是一个女人，”她低声说，“大概15到18岁的样子，我不确定，但她看起来像是未成年人，有个秃顶的男人正把他的头往她下体塞，女孩被蒙着眼睛，铐着双手，一边哭一边惨叫。”
视频长达30多分钟。但刚开始不到一分钟，Maria就害怕愤怒地全身抽搐。谁可以如此残暴地对待自己的同类？她观察屏幕上的男人，他秃顶，看上去像是中东血统，但长相没有一点儿特别。那张面孔是那种你在便利店遇见也不会多看第二眼的那种。
在云存储内容筛选公司呆了两年半之后，Maria打算在年底辞职然后去学医，但她估计那个被蒙眼女孩的视频在日后的日子会像幽魂一样地缠着她。“我不知道我能不能忘了它忘，”她说，“看到它已经是很久以前的事了，但，就像是昨天看到的一样。”
Source：Wired
