在菲律宾首都马尼拉,昏暗的写字楼隔间里,显示屏上打出明晃晃的亮光,投射在丹尼斯的脸上,各种生殖器的照片她已经见怪不怪了,但这个视频还是引起了她的反感。
“操!他他妈的在割头!”
显示器前是一段从Facebook网络端传来的恐怖组织的处决视频。这是大多数审查员面临的日常工作:恐怖主义、血腥虐杀、自残、儿童色情、种族主义、政治宣传是他们每天需要强迫面对的。
△ 极端组织的处决视频有一部记录网络审查员的纪录片《The Cleaner》(清道夫)翔实介绍了这事儿,并带我了解这块互联网科技公司的灰色大蛋糕,社交媒体不惜通过牺牲生命的代价,来清理互联网垃圾的内幕兜不住了。
导演Hans Block和Moritz Riesewieck通过这部珍贵的纪录片将网络审查的内部工作曝光在公众面前。
△ 纪录片《清道夫》01 电子清道夫
YouTube每分钟能产出500小时的视频,Facebook每分钟产生250万条信息。
在海洋般的信息流中,恐怖主义、虐杀、自残、色情、极端组织言论、政治宣传夹杂在网友的猫咪和美食照片里面,谁来负责清理这些垃圾信息?
为了维护社交媒体平台的健康和吸引力,让广告金主和用户对自己平台不抛弃不放弃。YouTube、Google和Facebook等科技巨头都会建立双重审核制度,一是通过人工智能和算法进行首层审核,接着是通过建立在东南亚的外包公司来进行人工过滤。
△ 菲律宾马尼拉的内容审查办公室据不完全统计,各大科技公司在菲律宾的外包内容审查员人数超过了100000人,Facebook在全球的外包雇佣工人达到20000名。
作为一项庞大的劳动密集型产业,大多数人受到保密协定的约束,他们的工作直面互联网的黑暗角落:过滤暴力、色情、仇恨内容,他们被成为“电子清道夫”。
△ 内容审查员在东南亚是一项庞大的劳动密集型产业在算法和人工智能过滤的背后,科技公司在发展中国家成立外包公司,通过网络招募大量通晓英文的低薪员工。
这个隐秘的行业被光鲜亮丽的科技公司藏匿在数字浪潮的海底,像海洋清洁工般清扫内容的垃圾。
△ 外包公司位于菲律宾马尼拉郊区的前办公室当有违规文字、图片、视频的审核发送过来,审查员进行确认“删除”或者是“忽略”,并传送回网站。在短短25分钟的时间内,审查员丹尼斯已经领略了各种颜色大小的生殖器和几段动物虐杀的视频。
他们每天需要处理25000张图片或视频,然后根据删除原因,比如恐怖主义,自我伤害等十个选项来贴标签归类。
然后,科技公司使用内容审查员的标签来训练机器算法,审查员工作的意义只是帮助培训公司的人工智能来代替自己。而他们对每一张图片的判断时间只有短短的八秒,这是对人类大脑的极限挑战。
一名前员工Bob说道:“我真的受到了孩子们兽交的影响,感觉体内有种病毒在慢慢入侵我的大脑,然后我辞职,我需要停下,这工作有问题。”
他决定自我治疗,开始酗酒,体重增加。
△ 审查员已经对网上令人恶心的视频和图片渐渐麻木他们被要求观看令人恶心反感的视频。比如一位审查员谈到一个令其产生巨大心理阴影的视频:一个男人在卡车里杀死一只狗,将卡车点燃,然后走出卡车朝自己脑袋开了一枪。
在审查员论坛上,还有更多耸人听闻的视频,包括虐待妇女、儿童和动物。有人表示他们每看几个视频就得休息一下才能缓过劲儿来。在日积月累的病态工作下,审查员们渐渐麻木,丧失了对人类的信心。
“当我离开公司时,我已经三年没有握手了,因为我发现人们很恶心。我只是无法触及人,”Bob说。
“世界上大多数正常人都他妈的是怪人。当我离开那里时,我对人性感到厌恶。我的很多同行也遭遇同样的事情。我们都认为人性太可怕了。”
△ 审查员日常工作的场景“有一位女士,”丹尼斯放低了声音。“可能17岁左右,我不知道。她看起来像个未成年人。然后一个秃头的家伙把头塞进了这个女孩的阴道里。这个孩子被蒙住眼睛,戴上手铐,尖叫和哭泣。”
这个视频有近一个小时。看了一分钟后,她开始因悲伤和愤怒而颤抖。谁会对一个女孩这么残忍?她在屏幕上观察了那个人:他是秃头,似乎有中东血统,但在其他方面完全不起眼,跟你在购物商场随便一瞥的普通人没什么两样。