• 0
社交媒体背后的内容审核员,直面黑暗的“清道夫”
统计 阅读时间大约10分钟(3846字)

2019-12-19 社交媒体背后的内容审核员,直面黑暗的“清道夫”

但在过去一年里,有研究调查了一百多名内容审核人员,结果证明这并不是一个二元性的问题。

【猎云网(微信号:ilieyun)】12月19日报道(编译:叶展盛)

在内容审核方面,谷歌和YouTube采取了与其他科技巨头相同的方法:花钱请其他公司完成这个任务。其中,Accenture运营着谷歌旗下美国地区最大的内容审核网站,这家公司位于德克萨斯州奥斯汀,它的内容审核人员在全天候地为YouTube服务。

Peter是这家网站的内容审核人员之一,YouTube将他和同事们分配到不同的内容队列中,比如版权问题队列、种族憎恨和骚扰队列,以及“成人”色情队列等。

Peter最初是负责“暴力极端主义者队列”(VE)的,这也是Alphabet最严肃的工作之一,这份工作给不少人留下了严重的后遗症。

去年,Peter的一位同事因为工作压力崩溃,最后放弃了两个月的工资选择离职。另外一位同事也因为工作换上了焦虑症和抑郁症,同时还因为饮食不规律,导致严重缺乏维生素,最后不得不住院。

Peter已经从事这份工作两年,他也担心自己的心理健康。他的家人反复要求他离职,但他又担心离职后找不到这样一份高报酬的工作:每小时18.5美元,折算成年薪大约是3.7万美元。

Peter表示,当他刚在VE队列工作时,就开始脱发,体重也在增加,人也开始容易发脾气。哪怕是在节假日,当他开车经过上班地点时,都莫名一阵心悸。

“如果你每天看着别人拿刀砍下另一个人的脑袋,你会感觉这个世界简直疯了。这会让你感到恶心,你会感觉活着没什么意思,”他说道。

Peter以及不少同事都是移民。Accenture招募了一批像他一样会讲阿拉伯语的人,其中不少人是在中东地区长大的。公司将他的语言能力评定为7级,能够精确地识别憎恨言论和恐怖主义宣传,随后就能将这些内容从网站上删除。

Peter和他的同事告诉编辑,他们希望像谷歌的全职员工那样生活,拥有更高的薪水,更完善的医疗保险,还希望拥有更加体贴下属的领导,适当减轻自己的工作压力。

随后编辑采访了一位女员工,她也是谷歌的内容审核人员,年薪达到了“六位数”,拥有不错的医疗保险和其他补贴。但这并不能让她免受审核内容带来的危害。这位员工负责移除恐怖主义和虐童方面的内容,她的急性焦虑发作频繁,和儿童交流时经常哭泣。有心理医生将她诊断为创伤后应激综合征。

2015年,Daisy Soderberg-Rivkin申请了谷歌公开职位中的法律助理。然而这份工作实际上就是内容审核,它只是套了一件“外衣”:“法律方面的内容移除助理”。

可以说Daisy是伴随这项谷歌服务一起发展的,最开始她选择这份工作是看上了谷歌丰厚的福利:公司的餐厅和小厨房、免费的按摩和干洗服务。最终她选择在谷歌的总部,也就是加州山景城工作,随后这支团队被转移到了附近的森尼维尔市。一年的薪水是7.5万,加上谷歌的股票,总收入接近9万美元。

当时的招聘内容里表示,法律助理需要处理一些法律请求,移除搜索引擎中“侵犯版权、诽谤和其他不合适内容”请求的链接。另外法律助理还需要审核一些包含虐童内容的图片。“但我非常清楚地记得当时的注释写着‘这种内容移除工作每周只有1到2个小时’,”Daisy说道。

这种工作需要多个团队协作。在大多数时候,被举报恐怖主义或虐童的内容由奥斯汀等团队负责。谷歌称这些员工是通过第三方公司雇佣的,但在采访中不少员工表示自己是合同工。对于政府方面的法律请求,谷歌则交给全职的员工处理,他们会第一时间删除相关的图片、视频和链接。

经过面试的层层筛选,人事部门给Daisy赋予了神圣的使命——让互联网变得更加安全。“这听起来简直像在度假。在谷歌工作,你能喝免费的海宝茶,午睡有休息室,每周只需要花几个小时看点闹心的内容。这么好的工作哪里找?”当时她只有23岁,她就告诉母亲决定入职。

在此之前,Daisy没有任何心理疾病,她也没想到这份工作可能会给她的心理健康带来影响(可能谷歌也没想到)。入职后,公司也没有进行过任何这方面的培训。

因为擅长法语,Daisy被分配到负责法国地区的内容审核,最终成为了该区的项目主管。如今,她每天都要筛选报告,确定内容是否合适——是否违法法律或谷歌的服务条款。

让她出乎意料的是,暴力内容非常多。2015年11月13日,宣布效忠ISIS的恐怖分子在巴黎和圣丹尼的郊区演唱会中发动恐怖袭击,死亡人数达130人,受伤人数达413人。

“你整天都要看那些残肢断臂横陈在血泊中,脑细胞都无法正常工作,”她说道。

2016年6月的法国国庆日,ISIS的恐怖分子驾驶一辆货车冲入节庆人群,造成86人死亡,458人受伤。网上的相关图片和视频开始剧增,公司高层要求Daisy高负荷工作,处理这些内容。Daisy也想要加快工作进度,然而事与愿违。“你只能看到待审核的内容越来越多,”她说道。

随着网络服务的增加,谷歌部分服务的用户数量甚至超过了10亿,它雇佣了一支内容审核大军。然而上传内容简单,审核内容却很困难。今年10月,该公司在报告中表示,在过去一年里,谷歌删除了16万条包含暴力极端主义的博客和照片,平均每天438条。

在YouTube上,大部分待审核的内容都是良性的。如果没有内容待审核,那么审核人员就比较空闲。然而他们的工作量取决于所在的地区以及上司的同情心。有几位员工表示非常喜欢这份工作,原因是找到非法视频就能获得奖励,同时工作也非常简单,有大量的空闲时间用来放松。

然而负责处理恐怖内容的人员就没那么幸运了。他们表示上司剥夺了自己的休息时间,老板要炒你甚至不会给个合适的理由,没有预先通知就修改排班更是家常便饭。

这些工作人员更是深受暴力的影响,每天审查凶杀画面让他们越来越焦虑。现在Peter看到动作片中的枪战画面都会感到难受。还有部分员工通过药物来解决焦虑。

YouTube的首席执行官Susan Wojcicki曾表示内容审核人员数量已达到1万。但公司没有透露美国地区有多少人。合同制的工作人员更加廉价,相比之下,全职员工年薪达9万美元,这还不包括分红。因此临时工、合同工和第三方人员占据了54%。

Daisy主要负责恐怖内容审核,儿童色情图片(CSAI)更会让她感到不安。虽然当初说每周只要审核一到两个小时,但实际上这类工作占据了不少时间。

工作一年后,Daisy当时的男朋友表示她发生了很大变化,整天提心吊胆,晚上睡觉说梦话,有时候还会尖叫,而且她总是很累。一位室友曾在背后轻轻戳了她一下,结果她就突然转过身来攻击对方。“我的第一反应就是‘这个人要伤害我’,我总是把生活中的事情和那些图片联想到一起,”她说道。

还有一次,Daisy和几个朋友在旧金山的幼儿园看到一群小孩,一位护理人员要求孩子们抓住一根绳子避免掉队。“我眼前仿佛闪过一个画面。一些和他们差不多大的小孩被绳子绑起来,遭到了性侵。当我看到小孩和绳子的时候,就想到了这些画面。然后我呆了好一会,几个朋友问我是否不舒服,我坐下来休息了几分钟,非常想哭,”Daisy说道。

这是她第一次出现急性焦虑症。

谷歌为员工安排了一位咨询师,但只会不定期到访,而且预约很快就会被占满。“当我们收到通知邮件后,就要抢着去预约咨询师,因为每个同事都有类似的症状。”在成功预约后,咨询师建议Daisy去看看心理医生。

坏消息到来之快,远超奥斯汀办事处的预期。尽管有数百名内容审核人员全天候轮班工作,Accenture仍然难以跟上负面视频的增加速度。随着中东恐怖事件的发酵,暴力极端主义的视频越来越多,2017年公司招募了十几位阿拉伯语的员工进行审核。

这些员工都是移民,之前在从事保安、快递配送等工作,他们从朋友那里听到了这个招聘。“我们刚移民到美国的时候,大学学位根本得不到承认。因此我们什么都做,”在该网站工作两年的Michael说道。

据采访的工作人员透露,Accenture要求每位内容审核人员每天要在5小时内处理120部视频,他们每天拥有两小时的休息时间,以及一个小时的午餐时间。之前有高管承诺会将5小时减到4小时,但至今没发生。Accenture则否认给员工设立了任何工作量要求。繁忙的工作还会进一步压缩休息时间。

在奥斯汀,每天两小时的休息是标准。有4位员工表示,当任务非常繁忙时,有员工就会自行放弃休息时间。大约在六个月前,为了达到既定的任务目标,他们也开始放弃休息时间。每个人的电脑上都安装了录屏软件,以此记录每天是否达到5个小时。但还有其他工作任务,比如检查邮件、参加团队会议,这些并不会计入工作时间。

在刚入职时,临时员工还能享有和全职员工一样的休息时间,可以在办公桌上吃东西,自由去卫生间,以及自由安排假期。几个月后,Accenture和Cognizant等公司就开始收回这些权利,还不允许员工带手机。

“他们对待我们的方式非常差。如果你不按要求的做,他们有一万种方法整你,”Michael说道。

之后Daisy也开始接受治疗。在此过程中她明白了工作效率的下降并不是自己的错,当人们反复看一些让人不安的图片后,有些人会暴饮暴食和增重,有些人会剧烈运动,而Daisy这类人就容易疲劳。

随后Daisy听从心理医生的建议,养了一只狗,与它一起参与课程,让它成为自己的情感支撑。随后她发现自己能慢慢和儿童接触。“看着孩子拍拍我的狗,我发现我和他们的关系真的有了很大的进步,”她说道。

她非常庆幸自己不是合同工,哪怕在就诊期间也能获得薪资。“这几个月我在反复思考自己的选择和出路,”她说道。

在经历半年的治疗后,Daisy回到了自己的岗位。让她遗憾的是,上司的态度并没有太大的改变。“他们刚开始会关心我。‘工作做得怎么样?刚回来可以慢慢做。’但最后,所有的事情都会重新和效率挂钩。”

一个星期后,她选择申请读研,最终被塔夫斯大学法律政策学院录取,并于今年年初获得硕士学位。如今她在R Street Institute担任政策研究员,她关注儿童和科技,还抽空去谷歌给决策者们提供儿童隐私和内容审核方面的信息。

在奥斯汀,Accenture开始进行新的尝试。公司开始尝试将视频和照片改成黑白色,以观察内容审核人员受到的情感影响是否会降低。

公司让两组人员分别审核彩色和黑白的照片、视频。每两周,对他们的心理状况进行问卷测试。

研究发现这能显著改善员工的心情——至少在试验期是这样的。

值得注意的事,公司不仅仅在试验。同时它也在限制内容审核人员审核内容的时间,为外出治疗的合同工提供病假,为离职的、患上长期心理疾病的员工提供帮助。

另外谷歌也在尝试用技术解决这些问题,包括利用机器学习系统负责这些工作。谷歌的研究员还表示,将来可能会将照片里血液的颜色改成绿色、对脸部进行打码等,观察它对工作人员情绪的影响。

但在过去一年里,有研究调查了一百多名内容审核人员,结果证明这并不是一个二元性的问题。部分工作人员在入职后前几周表现出PTSD的早期症状,还有一些人则是在工作数年后才患病。

如今Daisy已经离职两年了,但她还会受到一些后遗症的困扰,有时急性焦虑症复发,她也需要抗抑郁药物来稳定情绪。

与此同时,她表示很感谢公司能提供带薪病假,并认为自己是员工中比较幸运的一个。

“我们需要更多的人参与到这个工作中。但整个系统也有待完善,包括它的运作方式,如何为员工提供支持,如何为他们提供工具和资源处理内容。否则,问题只会越发糟糕,”Daisy说道。

1、猎云网原创文章未经授权转载必究,如需转载请联系官方微信号进行授权。
2、转载时须在文章头部明确注明出处、保留官方微信、作者和原文超链接。如转自猎云网(微信号:lieyunjingxuan
)字样。
3、猎云网报道中所涉及的融资金额均由创业公司提供,仅供参考,猎云网不对真实性背书。
4、联系猎云,请加微信号:jinjilei
相关阅读
推荐阅读
{{item.author_display_name}}
{{item.author_display_name}}
{{item.author_user_occu}}
{{item.author_user_sign}}
×