美國加州大學洛杉磯分校教育與信息研究院助理教授莎拉·羅伯茨
專訪《幕后之人：社交媒體時代的內容審核》作者莎拉·羅伯茨
作為商業性內容審核員，梅琳達負責審核社交媒體平臺上用戶上傳的內容。每當遇到用戶舉報的不恰當內容，她就會依據平臺政策，判斷是否需要刪除并上報。
商業性內容審核員的工作節奏很快，一天往往要審核成千上萬份圖片、視頻或文本，內容通常會涉及暴力、色情、騷擾、仇恨言論等令人不適或潛在有害的內容。這些圖文影像會成批出現在任務隊列中，且沒有固定的節奏和規律。
“可能一個暴力視頻后，會收到三個仇恨言論視頻，再收到一個騷擾視頻，緊跟著兩個暴力視頻。你會看到很多惡意，看到人類的陰暗面，而且要看一整天，”梅琳達一位曾在硅谷工作的同行這樣描述道。
“食罪者”是在威爾士和英格蘭廣為流傳的民間傳說形象。他們需要吃掉擺放在逝者身上的面包，喝掉麥芽酒，這些代表著逝者生前不可饒恕的罪惡。食罪者通常是社區里的窮人，他們通過這種方式替死者背負罪惡，從而獲得經濟補償。
梅琳達在這個古老的傳說中找到了自己曾經的職業的影子。
數字平臺的特點是有趣、迷人、容易訪問、永遠在線，商業性內容審核是讓這一切成立的前提之一。為此，這個隱身幕后的龐大群體不得不化身為以身心為濾芯的“食罪者”。只是數字世界的“面包和麥芽酒”愈發難以下咽。有人會因此對人性不再樂觀；也有人開始反思，或許正是社交媒體平臺本身導致了他們審核的這些負面內容的產生，并對互聯網文化和政策背后復雜而病態的一面感到厭倦。
“這份工作損害你的大腦，讓你認為暴力是正常的，殺戮他人、肆意轟炸是正常的，你會看到一個人被轟炸，四肢散落各處，頭和腿飛在空中……我可以跳過那些視頻，但如果質檢部發現了，就會被記過。一個月我只被允許出現三次過失?！?018年在圣丹斯電影節首映的紀錄片《The Cleaners（網絡審查員）》中，一位匿名的內容審核員這樣自述。
莎拉·羅伯茨出任上述紀錄片的顧問，梅琳達也是她的訪談對象之一。羅伯茨是美國加州大學洛杉磯分校教育與信息研究院助理教授。2010年起，她開始研究這項“被刻意掩藏的數字勞動”，持續至今。通過訪談分布世界各地，有著不同年齡、學歷和專業背景的商業性內容審核員，她希望能從陰影中拼湊出商業性內容審核的輪廓，并以此為切入點，呼吁改善數字勞工的工作條件，提高公眾對商業性內容審核所產生的社會成本和政治影響的關注，以及對信息環境和數字人文的反思。
跟其他技術挑戰不同，內容審核這類問題很難通過投入大量工程師來解決。人工智能技術的進步仍然無法滿足該領域的當下需求。相反，隨著人們對數字技術的愈發依賴，反而催生了更多新生的勞動形式。全球以兼職或全職方式從事這項有償職業審核工作的人數有增無減。
羅伯茨將其多年研究成果寫進了《幕后之人：社交媒體時代的內容審核》，近期，該書中文版在國內上市。南方人物周刊專訪了羅伯茨，與她就數字零工市場、信息商品化、社交媒體平臺影響力、言論自由邊界以及互聯網倫理等問題展開了討論。
技術無法解決內生于經濟體系的諸多問題
南方人物周刊：你在書中將內容審核員的工作模式分為:在科技公司內部工作、為小型專業公司工作、在呼叫中心工作，以及通過零工平臺工作。不同模式的從業者之間似乎存在著一條鄙視鏈？
羅伯茨：是的。企業通常會將薪酬和地位較低的工作外包出去，這既是出于成本考慮，也能幫大型公司規避很多責任。擁有全球用戶群的網站和平臺需要依靠這種混合用工策略來滿足他們大規模、全天候的內容審核需求，同時節省審核開支，并由此引入一種復雜的分層組織結構和匯報層級。
“鄙視鏈”確實存在，并與員工所處的地理位置、社會地位、性別、種族等因素相關。那些工作地點就在審核內容最終流入平臺和公司的審核員，會覺得自身地位高于那些工作地點遠離平臺和公司的外包人員。
然而，無論這些商業性內容審核員身在加利福利亞的科技公司，還是菲律賓的呼叫中心，都會被當地管理者拿來與印度同行比較。管理者會催促員工加速完成更大量級的工作，否則他們的飯碗就會被印度人奪走。無論這種情況是否屬實，都起到了鞭策本地員工的效果。但問題是，印度本地的數字勞工也并未從這種格局中獲益。
南方人物周刊：全球數字零工市場的現狀如何？
羅伯茨：人們最初曾樂觀地設想，新型技術性知識工作能為參與其中的各類工作者提供更高質量的工作和生活、更豐富的人生和更多的休閑時間，但事實并非如此。以商業性內容審核為例，審核員們的工作環境并沒有人們想象中的美好，除了需要大量的勞動力，并不需要特別高的技能。這只是一份重復性很高的無聊工作。商業性內容審核員不得不長年累月地處理包括色情、血腥暴力及包含仇恨言論等的有害內容。
很多內容審核員最初接受這份工作是希望能以此為敲門磚，進入熱門的科技行業，給自己的簡歷加分，可這一邊緣性崗位無法幫助他們在大型科技公司獲得一份永久性職位。而且，隨著社交媒體公司在全球范圍內招募那些愿意從事數字計件工作的勞動者，審核員的薪酬甚至進一步降低了。在線內容審核更像是經歷了一種反烏托邦式的、由技術進步導致的惡性競爭。全球性的數字零工市場沒有最低工資限制，這也使得勞動力的價值由全球出價最低的工作者決定。
新技術的出現以及后工業時代的新型網絡結構，并不能神奇地消除那些內生于世界經濟體系中的諸多問題。恰恰相反，在讓一些人獲利的同時，它也將不平等強加給另一些人，甚至制造了新的不平等。
南方人物周刊：這個領域最近有哪些值得關注的案件？
羅伯茨：在美國，與內容審核員相關的案件多為集體訴訟，且往往在訴訟前就達成了和解，并簽署了保密協議?？傮w來看，美國政府監管科技公司的政治意愿非常低。國會面向科技公司舉辦的聽證會常常淪為政治表演，而非真正意義上的嚴肅探討。
前段時間公眾關注度較高的是國會眾議院能源和商業委員針對短視頻社交平臺TikTok的聽證會。我并不了解背后的具體曲折。但有一點是比較清楚的，如果議員們認為，一家公司會因為擁有廣受歡迎的社交媒體工具而對其他國家構成生存威脅，那他們恰恰給了其他國家抨擊Facebook及其他類型美國實體的論點。美國人會意識到，“哦，糟糕！我們也在做同樣的事情?！?/p>
我只是希望我們的政治家能夠提出更好的論點，并拷問其中的邏輯。遺憾的是，因為中美之間的緊張關系，人們并不關注其中的邏輯謬誤，也不會對自身做批判性審視。我們必須正視社交媒體在全球政治中扮演的角色。這也是我最初對內容審核萌生興趣的原因之一。
社交媒體不只是暴力和辱罵內容的清理者，更是招攬者
南方人物周刊：你對紀錄片《The Cleaners（網絡審查員）》中的內容并不陌生，但在觀看時你還是落淚了。
羅伯茨：是的。我在過去的訪談過程中聽到過許多類似的故事，但講述者的面容和語調中流露出的痛苦，依然會刺痛我。我對他們的經歷充滿同情。這也促使我反思，為了維系這種商業模式，就要把這些普通人置于如此境地，真的值得么？我們可以做出哪些改變？
南方人物周刊：你訪談的一位前商業性內容審核員提到，為了能處理海量被舉報的暴力和色情內容，他需要盡量克制自己的情緒反應，冷漠應對。這些心理策略真的能奏效么？
羅伯茨：有兩種可能。一種是人們認為自己把情感抽離了，但實際并未做到。比如有訪談對象告訴我，他沒有因為這份工作而產生身心負擔。但幾分鐘后，他又不自覺地提到，從事這份工作期間，體重和酒精攝入量都增加了，也不太愿意和朋友談論自己的工作。這可不是超然的表現。當然，也可能有人真的能做到情感抽離，但這意味著你對本應令人震驚或不安的事情變得麻木了，你也因此失去了一部分人性。
南方人物周刊：內容審核員能接觸大眾無法觀看到的互聯網的另一面。這會讓他們對網絡世界的理解更全面，還是走向另一種片面？
羅伯茨：一位訪談對象對我說，總體上他對人性非常敬畏，因為每當他覺得人類沒法更邪惡的時候，總有人能做到；每當覺得自己已經看到了最黑暗的東西，第二天還會有更黑暗的東西出現。另一位女性審核員甚至在離職三年后都拒絕與人握手，因為她對他人失去了信任，會對他人抱有最壞的預設。內容審核員的工作讓他們更多看到人類的陰暗面，這可能會導致他們對人性得出片面的結論。而如果涉及到跨文化內容的審核，審核員既有的部分刻板印象可能會被強化。
南方人物周刊：您的研究是否影響了你對社交媒體的使用？
羅伯茨：我很喜歡使用社交媒體，在這里你可以結識新的朋友，看到豐富而精彩的人生經歷，但互聯網也有另一面。當這些網站的商業模式就是依靠源源不斷的用戶生成內容來吸引其他用戶的眼球和關注時，就很難將那些展現人性之惡的東西擋在門外。所以我的一些訪談對象會認為，社交媒體不只是暴力和辱罵等有害內容的清理者，還是這些內容最初的招攬者。
實際上，我們這些用戶并非網站服務的核心對象，他們真正的顧客是廣告主。平臺通過跟蹤和記錄用戶的瀏覽痕跡等隱私信息，建立相應的用戶畫像，并推送給他們的品牌客戶，實現廣告的精準投放。我們以為自己是在免費使用這些服務，實際上我們是在無償出售自己。
2023年是我使用互聯網的第30個年頭，我希望它能向更好的方向發展。這促使我去思考一系列問題，比如線上互動的本質是什么？人類的自我表達是否應該被出售？我們使用這類產品的代價是什么？有什么可以改進的地方？我們如何以一種更好的方式進行線上互動？在線上空間花費如此多的時間，是否會犧牲其他類型的互動，這是否會導致公眾想象力的減弱？又會如何影響線下交流……
南方人物周刊：內容審核員也會像普通人一樣沉浸于各類數字應用嗎？
羅伯茨：這讓我想到了邱林川（注：香港中文大學新聞與傳播學院教授）的《信息時代的世界工廠》。他在調研中發現，很多在手機代工廠工作的年輕女工會將大部分薪水用于購買自己參與制造的最新款智能手機。我接觸的商業性內容審核員大多有智能手機，我并不掌握他們每個人的數字應用使用習慣，但和那些年輕的手機制造工人一樣，他們也渴望成為其參與塑造的文化的一部分。
南方人物周刊：一些社交媒體平臺會邀請部分用戶加入社區委員會，對有爭議的用戶投訴進行判定，也是希望剝離一部分內容審核責任。
羅伯茨：對。企業希望用戶能承擔一部分自我管理責任。在當前以成本為中心的模式下，能被審核處理的內容仍然只占很少一部分。舉個不恰當的例子，美國實行判例法，法官判決遵循先例，但在網絡世界里，當沒有足夠的人對不恰當的行為進行判定時，公司內容審核的內部“司法體系”無疑會漏洞百出。當然，這些公司是否有權擁有內部“司法體系”也值得探討。
紀錄片《The Cleaners（網絡審查員）》
數字時代對知識勞動力的依賴會增大
南方人物周刊：社交媒體平臺Meta公司CEO扎克伯格在2021年3月的國會聽證會上表示，該公司依靠人工智能可以清除95%以上的“仇恨言論內容”。你對此持質疑態度。
羅伯茨：雖然一些人工智能專家聲稱他們已經可以借助先進的技術解決大部分內容審核問題，但即便是Facebook，它也承認在全球仍雇傭著成千上萬名內容審核員。輕率地表示內容審核已經可以被技術解決的說法是不負責任的，這掩蓋了大量人類內容審核員的付出。
讓人不安的是，十多年前商業性內容審核員們跟我提及的問題，仍然困擾著他們的后繼者。從當前在柏林和愛爾蘭工作的訪談對象那里，我得知大公司在技術方面的投入真的很不足，除非有充分的財務激勵。平臺會一直尋求更便宜的人力，人類員工在成本和能力上仍然優于機器。我不相信人性會發生什么改變，所以這項工作不會消失，會沿著全球化的軌跡，不斷向那些擁有大量廉價勞動力的地方轉移。
我也不認為未來數年，計算機有可能接替人類完成所有的內容審核工作。相反，我們正在看到平臺對該崗位的需求越來越大。這一現象不只表現在內容審核行業，我們也將看到各種新的職業類型在數字鏈條的不同環節涌現。只要我們還在進行人機交互，就會需要越來越多的人類勞動力以意想不到的方式嵌入數字系統中。
南方人物周刊：你在書中同時列舉了兩個觀點，一是“言論自由似乎總是讓侮辱他人的用戶比被侮辱的用戶擁有更大的權力”，二是“在商業網絡平臺上沒有真正的言論自由”。
羅伯茨：言論自由是指每個人都有權利在不被惡意攻擊的情況下發表自己的觀點。但在美國的政治體系下，言論自由的概念似乎更多地適用于一部分人。很多時候，人們并不是在行使言論自由，更像是在濫用權力來欺凌他人的自由。此外我們也會看到，雖然一些網絡平臺宣稱自己是言論自由的前哨，但當平臺與大廣告主的關系受到威脅時，用戶便有可能被限制言論自由。
南方人物周刊：另一個不幸的事實是，保護自己的責任長期落在網絡暴力的受害者肩上。除了譴責和對施暴者依法懲處外，我們還應該做些什么？
羅伯茨：人們需要對自己的線上行為負責。但令人沮喪的是，當前的美國，人們在日常生活中容易大聲爭吵，甚至要拔槍相向?？稍诰€上，對于一些重要議題的有益的公共討論熱度又跌落到了歷史低點。除了每個人應該承擔更多的個人責任外，平臺營造的環境也會讓人們不斷挑戰言論自由的邊界。平臺從它創造的網絡環境中獲利，卻可以免于承擔與之對應的責任。它們會說，我們只是提供了一個大眾交流平臺，對他們要說什么，我們無法負責。但實際上，平臺有責任設定規則和基調，需要辨明什么才是可以獲得經濟激勵的表達。平臺應該反思，是什么導致你的用戶表達變得極端化？
南方人物周刊：面對這些難以改變的問題，會有無力感么？
羅伯茨：確實會有，但我也能獲得一些正向的反饋。我的書被翻譯成不同的語言，我可以跟不同國家和地區的人交流這些重要議題，他們也會繼續和周圍人分享。確實有太多我無法解決的現實問題，但我能做的是激發更多的批判性思考，更多擁有選票的人會向政治家發問，要求他們提出關鍵問題的解決方案。我經常告訴我的年輕學生，雖然有些問題在上一代并未受到廣泛關注，但年輕一代可以用上一代人無法做到的方式促成改變。我們任何人都無法獨自解決問題，需要一同努力。所以，我還在繼續研究，繼續籌備新書，雖然這些工作真的很累，但是我應該去做的。
