谁在审查社交平台?《网络监护人》揭开跨国外包删帖的秘密

谁在审查社交平台?《网络监护人》揭开跨国外包删帖的秘密

互联网广告admin2020-06-30 18:07:1559A+A-

  你可曾好奇,社交平台上,是谁在决定每一篇贴文、每一支影片能否上传成功?汉斯・布洛克(Hans Block)、摩力兹・里斯维克(Moritz Riesewieck)两位德国导演,以6年时间跨5国追踪,终于在菲律宾找到了以数百计的“蜜獾部队”,时薪1到3美元的他们,用几秒钟一则的速度,把关全球平台上的内容。这工作离硅谷的黄金梦很远,但代价很大,有人最终在计算机荧幕前上吊自杀──而他就是专门负责审查自杀相关内容的人。

  坐在东柏林的办公室,34岁的里斯维克接受《报导者》专访。在我们提问之前,他先问,有没有什么数位工具带来社会改变的“好消息”,经过6年,从硅谷一路追到马尼拉,他想要重新相信科技一次。

  从一个单纯的问题出发,来自德国的两位纪录片导演,从没料到自己会一路走进科技的黑暗角落,一个夺走人命的工作现场。

  “我一开始就是好奇,为什么(社交网站)有些贴文能够发布,有些不行?”6年前的里斯维克,跟着这个提问开始调查,没想到答案不是人工智能、不是算法,而是一个被称为蜜獾(Honey badger)的神祕计划。

  根据《路透社》的调查,蜜獾计划是一个专营外包工作的企业,在马来西亚、菲律宾等地,为网络业者寻找外聘工作者的项目。求职者只会知道蜜獾计划的字眼,但除非签订工作契约,否则不会知道在菲律宾的自己,正在应征的工作,拿的其实是来自硅谷的钱;而他们也不会知道,其实社群营运分析师(Community operation analyst)的职称,说穿了就是社群网站的内容审查员。

  花了6年,里斯维克与伙伴布洛克走访美国加州、缅甸、孟加拉、土耳其、马尼拉,从内容审查的提问出发,深入观察并记录下硅谷决策者面临的窘境跟内部决策时的真实思考,并带领观者直面社交网站兴起的几年间,罗兴亚受害者、叙利亚难民、土耳其民众等,如何被卷入人权漩涡。《网络监护人》(The Cleaners)不仅入围日舞影展、鹿特丹影展,还拿下7项电影奖项。

  要花6年这么长的时间,除了因为要纳入不同利害关系人的视角,最大的困难,还是如何让这些“社群营运分析师”开口。

  “他们全都签了一份合约,上面有严格的保密协定,不能跟任何人提起这份工作的内容,连家人都不能知道,”里斯维克说,在工作的地方,有保全公司确保工作者不能与外人接触,就连受访者的家人,也要等到纪录片放映,才了然自己的小孩、另一半,每天离家是去做什么。

  “我们特地去找法律顾问,才知道企业虽然能够阻止机密外泄,但不能禁止员工们分享他们的感受。”里斯维克说,让审查员开口谈感受,成为他们的目标。即使如此,拍摄团队平均还是花上数月时间,才能与受访者建立信任。最后收进片中的露面受访者,还是以离职员工为主。

  其实,离职员工并不难找,社群营运分析师最长的在职时间只有半年,影片中就活生生地记录了一名员工从加入到到决定离开的心境变化。

  让他们快速离开的原因,主要是精神压力。社群营运分析师的工作是这样的:每一则影片、照片、贴文,都只有几秒钟能决定是删除还是发布,如果花太久时间,他们的工作就无法达标。

  几秒钟之内,这些远在菲律宾的年轻人,必须决定叙利亚的军机轰炸画面是保留还是删除?或是判断出一张军人带狗审判跪地男子的照片,是的刑求还是美军的不道德私刑?

  “你要记得,这些人不懂伊斯兰,也不知道叙利亚发生什么事,他们更不知道美国的白人至上主义跟种族歧视之间的关系,但他们几秒钟之内,就要决定一则贴文的去留。”

  里斯维克在片中举出几个判断失误的例子,并沿线寻找到贴文的使用者,以及此则贴文的“受害者”,精准点出社群网站审查内容机制的失误。

  不只是判断上的困难,还有他们承担的责任。这些从街上、校园里面被招募的年轻人,只受过几小时的训练,却成为阻止极端主义、的前线。”国土安全部提供一份清单,我们必须下架上面列的37个恐怖组织,然后删除他们发布的内容,“一位前任审查员受访时说,“算法做不到这件事,但我可以,我必须要帮助人们不受伤害。”

  “对有些人来说,他们带着类似宗教的情怀在做的,否则,他们可能做不下去。”里斯维克叹道。

  片中另一名信奉天主教的审查员,相信自己该为社交平台保护世人,“(如同)耶稣死在十字架上,为什么我不为这个网络世界多承担一些,让更多人避开可能受到的伤害呢?”在任职数月后,她最终因承受不住创伤而辞职。“我感觉到我变成不同的人了,像病毒在身体里渗透一样,连我的思考方式都出现变化。”这名前任审查员说。

  花了6年时间追查,自己也曾试着应征审查员工作的里斯维克,认为自己是在说一个“新型态工伤”的故事。

  审查员每一天目睹暴力、血腥、色情,有时是战场上尸体四散的影片,有时是孩童身上满是精液的照片,更甚者,还有自杀的直播。种种不堪的内容,组成审查员的工作日。片中受访的员工透露,一位专门审查自杀内容的同事,在几次申请调离工作未果后,最终以上吊自杀作结,“他选择在笔电荧幕面前上吊,这是他想传递的讯息吧。”死者同事说。

  “Facebook永远都说他们是注重(员工)人权的,所以他们的确也要求这些外包单位,为员工提供心理辅导。”里斯维克解释,但他们实地走访之后才发现,几乎是以一挡数百的心理辅导师,的确会对员工们付出关怀,但他们的方式是在集体集会时,问他们“大家还好吗?”完成了解审查员心理状态的程序。

  “这是一个全新的方式来虐待劳工。过去,工伤是看得见的,但数位时代的新型态工伤、创伤,无法被看见。”里斯维克对《报导者》强调,片中的低薪劳工不只要用几秒钟给出硅谷菁英都没把握的答案,还用生命付出硅谷菁英不肯掏出的成本:是这些不被看见的工伤,帮助Facebook、Google,继续对全球广告收入鲸吞蚕食。

  10月23号,在美国众议院的听证会上,Facebook创办人扎克伯格(Mark Zuckerberg)回答了内容审查相关问题。

  扎克伯格对现况的理解,与纪录片和众议员的掌握明显不同。美国众议员凯蒂・波特(Katie Porter)问道:“Facebook的内容审核,是靠15,000个约聘者盯着谋杀、砍人、自杀跟其他可怕恶心的影片来完成的,是吗?”这点,扎克伯格回复确认。但对低薪、心理支持不足等血汗条件,扎克伯格只说,他会确保工作人员争取该有的利益。而当众议员问扎克伯格是否愿意每天花一个小时,进行Facebook内容审查工作?扎克伯格两次回覆,“为了我们社群最大利益服务,这不是我该做的事。”

  “我们不是带着揭露的心态拍这部片的,而是要让他们(劳工)的感受被听见。”与官方说法相较之下,影片显露出浓浓的揭露意味,里斯维克强调,身处第一线的审查员需要被听见,现代信息流在这些发展中国家年轻人身上烙下的,需要被看见──当硅谷不断强调「创造连结」的美妙,是他们在承担信息乱流,每天处理数亿则讯息,撑起庞大广告机器,挣那一小时1到3美元的报酬。

  即使,里斯维克带着清楚意识,访谈聚焦在审查员的感受而不是科技公司机密,但光是工作的伤害与感受,就如同揭开社交网站事业黑洞一般,这是被藏起的成本曝了光,大发利市的另一边,科技平台没有说的真相。

  面对网络审查员的血汗困境,算法是否能真的成为解方,还是创造另外一个连「感受」都无法透露的不可控怪兽,把持几十亿使用者的自由?

  《网络监护人》并不只是要指控平台业者。片中除了有Google、Facebook前主管受访坦承平台责任外,导演的目标,是呈现结构性因素,以人的视角,解释这份工作为什么持续存在。于是里斯维克团队不只运用旧大楼、程序模拟界面,来拍摄审查员工作的画面,记录视角也跟着审查员们回到家里,了解他们的家境,以及这份工作对他们的重要性。

  其中,一个前审查员带着导演进到垃圾场,和自己由木头搭起的家,赤裸裸的揭露,在贫富差距极大的国家跟城市,如此低落的劳动条件,可能还是比捡拾破烂的工作好一些。而菲律宾政府更是对这类既提供工作机会、又能打入世界顶尖科技产业链的外包公司张开双手,鼓励进驻。

  《网络监护人》上映之后,除了受到奖项肯定,最让制作团队欣慰的是在各国引起的讨论,诚实反映了各国民众对社交网站认知的不同;不管是放映后观众的问答,或是各地的影评,都成为另一面镜子,看见社交网站的角色在当代的重要性和争议性。遗憾的是,不管是拍摄时的邀访,到放映时的邀请与谈,相关平台业者还是一律保持不回应的态度,用沉默面对曝光的黑洞。

  业者无声,但使用者讨论震天价响。《网络监护人》在日内瓦、耶路撒冷、莫斯科都得奖,在德国,纪录片、电视类型奖项都入围,影片放映后里斯维克也随即在德国出版书籍,回应需求,德国政府被要求加强对社交平台的施压。在俄罗斯,人们则热烈讨论美国企业如何把持全球信息传递。

  如同戳洞游戏一样,里斯维克从审查员的处境,6年一路探进社交平台对于信息管控的无能与无助,呈现了基层外包劳工的困难之后,里斯维克也不停自问,如果外包人力不是答案,那社交平台会用什么方式回应?

  “我担心的是,社群平台业者会依此加强用算法、人工智能审查的政策。”他说,算法长期被诟病的不透明、不受监督的特性,是否能真的成为解方,还是创造另外一个连「感受」都无法透露的不可控怪兽,把持几十亿使用者的自由?“科技业者必须时时提醒自己(算法的危险),如果,他们真的想解决问题。”

点击这里复制本文地址 免责声明:本站内容由程序自动采集于互联网,无人工干预,只作交流和学习使用,本站不储存任何资源内容,如有侵权请联系qq邮箱798244092@qq.com立刻删除,谢谢!

支持Ctrl+Enter提交

广告管家 © All Rights Reserved.  
Powered by 多多资源网 Themes by 多多资源网
联系我们| 关于我们| 留言建议| 网站管理