超过140名Facebook内容审核员被诊断出患有严重的创伤后应激障碍(PTSD),原因是他们接触了大量血腥的社交媒体内容,包括谋杀、自杀、儿童性虐待和恐怖主义等。
这些审核员在肯尼亚的一家设施工作,该公司受社交媒体公司的委托,每天工作8到10个小时。内罗毕肯雅塔国家医院的精神健康服务主管伊恩·卡尼亚尼亚博士发现,这些审核员患有PTSD、广泛性焦虑障碍(GAD)和重度抑郁症(MDD)。
这些诊断是在针对Facebook母公司Meta和Samasource Kenya(一家使用来自非洲各地的员工为Meta进行内容审核的外包公司)提起的诉讼中做出的。
诉讼文件称,这些图片和视频包括恋尸癖、兽交和自残等内容,导致一些审核员晕倒、呕吐、尖叫并逃离工作岗位。
此案揭示了近年来社交媒体使用激增带来的沉重代价,为了保护用户免受某些人发布的最糟糕内容的侵害,越来越多的内容审核工作,往往在世界上一些最贫困的地区进行。
至少有40名卷入此案的审核员滥用酒精、大麻、可卡因和安非他明等毒品以及安眠药等药物。一些人报告称婚姻破裂、性亲密欲减退以及与家人关系疏远。一些人负责删除恐怖分子和叛乱分子上传的视频,他们担心自己被监视和针对,担心如果回家会被猎杀。
Facebook和其他大型社交媒体和人工智能公司依靠大量的审核员来删除违反其社区标准的帖子,并训练人工智能系统执行相同任务。
根据诉讼文件,来自肯尼亚和其他非洲国家的审核员从2019年到2023年负责检查来自非洲并且使用其本国语言发布的帖子,但他们的薪酬是美国同行薪酬的八分之一。
提交给内罗毕就业和劳资关系法院的医疗报告(《卫报》已阅览)描绘了Meta承包设施内部工作生活的可怕景象,工作人员在一个类似仓库的冰冷空间中,在明亮的灯光下,不断地查看图片,他们的工作活动被监控到分钟。
近190名审核员提起了多方面诉讼,其中包括蓄意造成精神伤害、不公平的就业行为、人口贩运和现代奴隶制以及非法裁员等指控。卡尼亚尼亚检查的144人中,所有人都被发现患有PTSD、GAD和MDD,其中81%的病例表现出严重或极度严重的PTSD症状,并且大多数症状出现在他们离职至少一年之后。
由于诉讼仍在进行,Meta和Samasource拒绝就这些指控发表评论。
总部位于英国的非营利组织Foxglove的创始人兼联合执行董事玛莎·达克表示:“证据无可辩驳:审核Facebook是一项危险的工作,几乎所有从事这项工作的人都因此患上了终生的PTSD。在肯尼亚,接受PTSD检测的数百名前审核员中,100%的人都患上了该疾病……在任何其他行业,如果我们发现100%的安全工作人员都因工作而患病,那么责任人将被迫辞职,并为严重侵犯人权的行为承担法律后果。这就是Foxglove支持这些勇敢的员工寻求法院公正的原因。”
根据内罗毕案件的文件,卡尼亚尼亚得出结论,这144人的心理健康状况的主要原因是他们作为Facebook内容审核员的工作,因为他们“每天都会遇到极其血腥的内容,包括谋杀、自残、自杀、自杀未遂、性暴力、露骨的性内容、儿童身体和性虐待、可怕的暴力行为等等”。
其中4名审核员患有密集恐惧症,即对重复出现的小孔或凸起图案的厌恶或恐惧,这会导致强烈的焦虑。对某些人来说,这种情况是由于在处理Facebook内容时看到腐烂尸体上的孔洞而产生的。
内容审核和相关的标签内容任务通常是科技繁荣的隐藏部分。对于外包工人来说,也有类似但不太令人痛苦的安排,他们需要对大量普通事物的图像(例如街道家具、客厅和道路场景)进行标签,以便在加州设计的人工智能系统能够识别这些事物。
Meta表示,他们认真对待对内容审核员的支持。与Facebook和Instagram上的第三方内容审核员签订的合同详细说明了对咨询、培训和全天候现场支持以及私人医疗服务的期望。Meta表示,他们在运营的市场中,薪酬水平高于行业标准,并且他们使用了模糊、静音和单色渲染等技术,以限制查看这两个平台上内容的人员接触血腥材料。