大家好,我們是社交網絡審核員

摘要

網絡審查員們做著算法還不能完全做到的事,他們就像社交網絡中的「人肉盾牌」,他們受到的傷害卻很少有人關注。

「刪除,刪除,保留,保留,這條刪除比較保險……」2018 年上映的紀錄片《網絡審查員》(The Cleaners)影像化了內容審核工廠的日常作業:在菲律賓馬尼拉一間逼仄的辦公室里,一群人坐在各自的電腦屏幕前,用審判的眼光看著或許發生在馬尼拉千萬公里開外的,來自世界各地的帖子。

赤裸的色情、嘶鳴的槍響、血腥的暴力都直白地鋪在他們的屏幕上,這些圖片、視頻是被互聯網平臺用戶舉報后聚集到審核隊列里的。審查員們面無表情,稍作判斷,按下鼠標。

紀錄片截圖

「(能拍攝到他們)絕非易事,Facebook、Twitter 和其他公司在馬尼拉雇用外包公司,使用業界暗語,還會用報復和恐嚇等手段,阻止數千名員工披露他們的雇主身份。」導演透露。因此,有些出鏡的受訪者使用了化名,也只露了背影。

網絡審查員的工作內容不能對外宣講,甚至,這個人群曾經都是被藏起來的。他們有些每天要審核 2.5 萬條內容,有的因承受不了暴力內容和雇主壓力而選擇自殺。

他們在和互聯網的黑暗面貼身肉搏,做著算法還不能完全做到的事,就像社交網絡中的「人肉盾牌」,網絡審查員受到的傷害卻很少有人關注。


底層的「審判者」

在人們眼中,網絡審查員似乎把握著對平臺內容的「生殺大權」,是審查員決定了用戶最終能看到什么。互聯網上也不乏「質問」審查員的聲音。

「有的時候你會有那種感覺,對內容的生殺大權掌握在我們手里,我讓它放就放,不讓它放就不放。但其實我們只是根據規則去執行。審核人員制定規則是很少的。我提出這條規則,會有多方評估,包括風險評控的、運營人員、產品經理的評估……不可能只有一個人。審核人員是屬于這條鏈條的最底端。」一位在中國工作的網絡審查員向媒體透露稱。

不光沒有決策權,網絡審核員的工作環境同樣令人堪憂,他們就像富士康工廠流水線上的工人,只不過手里重復的只是「刪除」和「保留」的動作。

The Verge 記者 Casey Newton 去年對同一公司的十幾位網絡審查員進行了深入調查,他了解到,Cognizant 這家受雇于 Facebook 的外包公司提供的工作環境極其惡劣。

比如,由于內容審查工作需要全天候有人在崗,所以公司分為 4 班輪職,輪值員工共享辦公桌等設施。這里的主管連員工上廁所的時間都嚴格控管,員工每天上班固定兩次 15 分鐘休息和 30 分鐘的午餐時間,另外還有 9 分鐘所謂的「健康時間」(wellness time)。有媒體稱,這種公司就像是信息行業的富士康。

這些審查員不僅要承受惡劣工作環境的摧殘,還需要適應審核細則的朝令夕改。他們每天幾乎要面對一版更新的審核標準,而突發性事件也會導致規范發生變更。但在審查員審核帖子時,有時候會使用最新的標準審核稍早的帖子,導致標準不一,增加了申訴案件的數量。

盡管審核內容的標準拿捏不一,但 Facebook 對于外包商的「準確率」卻有極高的要求。他們設定的準確率必須達到 95%,但 Cognizant 每個月內容審核的平均準確率大約落在 85% 到 95% 之間。

你每天看到的信息已經過了一輪人工過濾|Pixabay

這群互聯網最底層的「審判者」好比是人肉機器,他們遵照雇主制定的規則對內容進行審核,完成 KPI 的同時還要努力保證準確率,這種雙重壓力的交織顯然會讓他們在判斷上陷入模棱兩可的境地。

只不過「保留」或「刪除」似乎又成了社交媒體與用戶之間形成的內容價值判斷的鴻溝,這種沖突式的對立似乎還沒有標準的解決方案。

在《網絡審查員》中,導演展示了審查員的「誤判」過程。他有意讓審查員判斷伊戰美軍虐囚事件中的圖片,結果并不知曉相關歷史的審查員直接將其判定為 ISIS 士兵虐囚,并表示圖片應該被刪除。

值得一提的是,Facebook 曾在平臺上「誤刪」了那張拍攝于 1972 年的著名反越戰照片。照片中,被南越空軍投擲汽油彈燒傷的小女孩,萬分驚恐地奔逃著、哭喊著。她赤身裸體。這讓 Facebook 遭到多方聲討。后來,平臺修改了審核細則,允許「反戰」原則之下、「具有新聞價值」的裸露,但是還是禁止發布「大屠殺背景下的兒童裸體照片」。

網絡審查員的入行門檻并不高,能吃苦耐勞是基本,遵照審查表刪帖并保證準確度就算進階。這些也在他們的收入上有所體現。

做個對比,Facebook 正式員工的平均年薪是 24 萬美元,但據 The Verge 去年的調查,替 Facebook 做平臺審查的外包勞工薪水卻只有前者收入的零頭——工作時薪僅 15 美元(年薪 2.8 萬美元)。

內容審核要求高標準,巨大的工作量和時刻變更的細則,逼仄的工作環境和微博的收入,這些都讓審查員變得不堪重負,更別提他們所要瀏覽的內容幾乎都是互聯網上最偏激的東西了。


「戰場」上歸來的士兵

「每天必須瀏覽 25000 條,我覺得這可以申請世界紀錄了。」一位互聯網內容審查員在紀錄片中說道。按照這個指標,以 1 秒 1 條的速度計算,做完也需要整整七個小時。

而被安排去審核色情內容的一名女性審查員,原本對她要審核的內容毫無概念。而現在,這位「鑒黃師」學習了英語里各種有關下半身的臟話、俗語,然后還對男女的人體構造研究透徹,還得知曉不少讓人難以接受的性癖。下班后,她還得去成人用品店了解新品。唯有這樣,她才能在審核色情內容的時候不出錯。按紀錄片《網絡審查員》所述,他們每個月只有三次出錯的機會,否則將被辭退。

審核恐怖主義內容的員工平靜地說,「我看過上百場斬首的場面。對于一些人而言,他們很幸運,因為砍在他們脖子上的刀很鋒利」,她還在屏幕比劃著,「如果用的是鈍一點的刀,切口就不會這么利落了。」

在某家大型內容平臺信任團隊工作的 Remy,告訴 Medium 旗下出版物 OneZero:「舉個例子,舉重運動員為了承受巨大的壓力,身體也適應成了一種奇怪的形狀。而審核團隊心理上的自適應,就是不斷被磨煉的判斷力和意志力,永遠保持在正確的時間、正確的地點,做正確的決定。」

面對互聯網上那些難以名狀的負面內容,許多網絡審查員都撐不住了。

其中部分人出現了 PTSD(創傷后應激障礙)。這種疾病指的是人在經歷過情感、戰爭、交通事故等創傷事件后,所導致的個體延遲出現和持續存在的精神障礙。審查員和從戰場上返家的士兵們癥狀相同,兩者的區別在于前者必須隱姓埋名。

他們是一群必須使用化名的人|紀錄片截圖

天天都是接觸偏激內容,有些員工也開始被這些邊緣觀點「洗腦」了。有一個員工在辦公室里成天宣揚「地平論」,另一個前員工則表示「再也不相信 911 是恐怖攻擊事件」,他的工作已漸漸改變了他的世界觀。

據 Facebook 公開透露,2017 年 5 月 3 日,扎克伯格宣布擴大 Facebook 的「社區經營」團隊。到 2018 年底,從原有的 4500 位審查員擴展至 30000 位,其中大約有一半負責內容審核。這些人中,有的已經不堪重負,對社交媒體發起了起訴。

2018 年 9 月,一位名叫 Selena Scola 的審查員向 Facebook 提起訴訟。Scola 在連續 9 個月觀看謀殺、自殺等圖像后,被診斷為 PTSD。今年 2 月 7 日,雙方達成了初步和解。在這個案子中,Facebook 承認內容審核會給員工帶來巨大的傷害,并同意向在職及離職的審查員支付總額為 5200 萬美元的賠款,用以補償他們因工作產生心理健康問題。如果被診斷出患有 PTSD 或其他相關疾病,每名審查員將獲得至少 1000 美元的賠償。

但外包公司的審查員似乎就沒有這種待遇了。在 The Verge 的報道中,Cognizant 提供了員工一些消除工作壓力的方式,他們提供現場的心理咨詢師,以及員工協助課程等。不過,受訪的員工多半認為這些資源并不足夠。他們空閑時靠抽食大麻疏解壓力。

擁有較好工作環境的 Facebook 正式員工尚且如此,外包公司審查員的遭遇可想而知|視覺中國

在《網絡審查員》中,一位出身貧苦的審查員對著鏡頭講述,父母靠撿垃圾維生,她被教導要認真學習,才能躲避他們的命運。然而坐在電腦前點擊「刪除」或「保留」,就像是在翻找網絡世界的垃圾。最后,她選擇辭職,沿著堆滿垃圾的沙路走回了家。


偏激內容的「替罪羊」

社交媒體一貫以超高的自由度和靈活的內容呈現方式,讓用戶深陷其中。但「自由」是相對的,只有遵守平臺規則和法律規定的內容才能得以留存,而社交媒體在審核上投入巨資的同時,也讓自己站在了所謂的用戶「對立面」上,時不時就會承受用戶怒火的平臺也變得如履薄冰。

然而,社交媒體設置的「轉發」和「點贊」,都催生了人們對內容熱度的渴求。那些迎合大眾、駭人聽聞的言論往往能獲得更多人的目光。而過濾掉那些越來越偏激內容的工作,被平臺外包給第三方公司,「人肉防護」的擔子就這樣放到了底層的網絡審查員肩上。

而平臺和網絡暴民的矛盾也在不斷激化。以「美國貼吧」Reddit 為例,在這個月活達 3.3 億社區里,也不乏宣揚暴力和有色情暗示的主題。比如,曾有一個名為「r/FatPeopleHate」的討論組,關注者超過 15 萬。這個活躍社區,以尋找超重人士的滑稽照片為樂,帖子主要針對女性,并且會為照片加上刻薄的題注。圖片貼出后,Reddit 用戶還會把它們轉貼到受害者的 Facebook 頁面上。

2015 年,官方封禁了「r/FatPeopleHate」等幾大活躍的惡意討論組。Reddit 前產品高級副總裁 Dan McComas 和家人后續就被網絡暴民人肉和襲擊。因為這次封禁,Reddit 當時的 CEO Ellen Pao 之后每天都被罵「暴君」。一個月后,她辭了職。

「互聯網最初是一個可以表達自由的堡壘。」她在《華盛頓郵報》上寫道,「但現在,我們想要達成平衡越來越難了。網絡暴民贏了。」

互聯網的日漸繁榮,人們的部分表達空間從現實轉移到了網絡,而社交媒體似乎更崇尚「流量」,于是,不適宜的偏誤內容越來越多,也直接催生了「網絡審查員」這個新的工種。

他們被定義為「一群夾在社交媒體平臺和用戶的中間人」,是這兩者矛盾的緩沖角色。平臺求得增長,就一定會堆積不夠溫和的內容。而平臺和用戶的矛盾,目前也只能主要靠人來解決。


更人道的做法

相比 Reddit 這樣的平臺,Twitter 和 Facebook 是受眾量更大的社區,要做好平衡顯然會更難。它們選擇把部分壓力轉嫁到網絡審查員身上。但面對這些互聯網底層民工受到的精神傷害,以技術傍身的大公司卻似乎沒有找到更好的解決方法。

Google 負責信任和安全業務的副總裁 Kristie Canegallo 也曾表示,公司的確正致力于開發機器學習系統來抓取包含不良內容的視頻,但在技術應用的初期,審查員依然是不可或缺的,他們需要幫助訓練系統。         

眼下除了恰當地過濾掉一些偏激的聲音外,對網絡審查員施以更人道的關懷也是要事。比如,Google 就正在測試將待審查內容中的血液換成綠色,或許這將有助于減少審查員們的壓力。


題圖來源:《網絡審查員》截圖

責任編輯:于本一

本文首發于極客公園,轉載請聯系極客君微信 geekparker 或 [email protected]

最新文章

極客公園

用極客視角,追蹤你最不可錯過的科技圈。

極客之選

新鮮、有趣的硬件產品,第一時間為你呈現。

頂樓

關注前沿科技,發表最具科技的商業洞見。

炸金花来牌的顺口溜 佳境配资 四川麻将真人版 精选3码中特 聚丰达配资 八闽福建麻将官方网站 qq分分彩计划人工全天 东北填大坑游戏下载 2007意甲积分榜 白城麻将吉祥棋牌账号 gpk钱龙捕鱼挂 好当家历史最低和最高 广西棋牌下载 锦江投资股票 大嘴棋牌游戏平台下载 中超开赛日期 无网四人单机麻将六万