美國加州大學(xué)洛杉磯分校教育與信息研究院助理教授莎拉·羅伯茨（Stella Kalinina/圖）

專訪《幕后之人：社交媒體時(shí)代的內(nèi)容審核》作者莎拉·羅伯茨

作為商業(yè)性內(nèi)容審核員，梅琳達(dá)負(fù)責(zé)審核社交媒體平臺(tái)上用戶上傳的內(nèi)容,。每當(dāng)遇到用戶舉報(bào)的不恰當(dāng)內(nèi)容,，她就會(huì)依據(jù)平臺(tái)政策，判斷是否需要?jiǎng)h除并上報(bào),。

商業(yè)性內(nèi)容審核員的工作節(jié)奏很快,，一天往往要審核成千上萬份圖片、視頻或文本,，內(nèi)容通常會(huì)涉及暴力,、色情、騷擾,、仇恨言論等令人不適或潛在有害的內(nèi)容,。這些圖文影像會(huì)成批出現(xiàn)在任務(wù)隊(duì)列中，且沒有固定的節(jié)奏和規(guī)律,。

“可能一個(gè)暴力視頻后,，會(huì)收到三個(gè)仇恨言論視頻，再收到一個(gè)騷擾視頻,，緊跟著兩個(gè)暴力視頻,。你會(huì)看到很多惡意，看到人類的陰暗面,，而且要看一整天,，”梅琳達(dá)一位曾在硅谷工作的同行這樣描述道。

“食罪者”是在威爾士和英格蘭廣為流傳的民間傳說形象,。他們需要吃掉擺放在逝者身上的面包,，喝掉麥芽酒，這些代表著逝者生前不可饒恕的罪惡,。食罪者通常是社區(qū)里的窮人,，他們通過這種方式替死者背負(fù)罪惡，從而獲得經(jīng)濟(jì)補(bǔ)償,。

梅琳達(dá)在這個(gè)古老的傳說中找到了自己曾經(jīng)的職業(yè)的影子,。

數(shù)字平臺(tái)的特點(diǎn)是有趣,、迷人、容易訪問,、永遠(yuǎn)在線,，商業(yè)性內(nèi)容審核是讓這一切成立的前提之一。為此,，這個(gè)隱身幕后的龐大群體不得不化身為以身心為濾芯的“食罪者”,。只是數(shù)字世界的“面包和麥芽酒”愈發(fā)難以下咽。有人會(huì)因此對(duì)人性不再樂觀,；也有人開始反思,，或許正是社交媒體平臺(tái)本身導(dǎo)致了他們審核的這些負(fù)面內(nèi)容的產(chǎn)生，并對(duì)互聯(lián)網(wǎng)文化和政策背后復(fù)雜而病態(tài)的一面感到厭倦,。

“這份工作損害你的大腦,，讓你認(rèn)為暴力是正常的，殺戮他人,、肆意轟炸是正常的,，你會(huì)看到一個(gè)人被轟炸，四肢散落各處,，頭和腿飛在空中……我可以跳過那些視頻,，但如果質(zhì)檢部發(fā)現(xiàn)了，就會(huì)被記過,。一個(gè)月我只被允許出現(xiàn)三次過失,。”2018年在圣丹斯電影節(jié)首映的紀(jì)錄片《The Cleaners（網(wǎng)絡(luò)審查員）》中,，一位匿名的內(nèi)容審核員這樣自述,。

莎拉·羅伯茨出任上述紀(jì)錄片的顧問，梅琳達(dá)也是她的訪談對(duì)象之一,。羅伯茨是美國加州大學(xué)洛杉磯分校教育與信息研究院助理教授,。2010年起，她開始研究這項(xiàng)“被刻意掩藏的數(shù)字勞動(dòng)”,，持續(xù)至今,。通過訪談分布世界各地，有著不同年齡,、學(xué)歷和專業(yè)背景的商業(yè)性內(nèi)容審核員,，她希望能從陰影中拼湊出商業(yè)性內(nèi)容審核的輪廓，并以此為切入點(diǎn),，呼吁改善數(shù)字勞工的工作條件,，提高公眾對(duì)商業(yè)性內(nèi)容審核所產(chǎn)生的社會(huì)成本和政治影響的關(guān)注，以及對(duì)信息環(huán)境和數(shù)字人文的反思。

跟其他技術(shù)挑戰(zhàn)不同,，內(nèi)容審核這類問題很難通過投入大量工程師來解決。人工智能技術(shù)的進(jìn)步仍然無法滿足該領(lǐng)域的當(dāng)下需求,。相反,，隨著人們對(duì)數(shù)字技術(shù)的愈發(fā)依賴，反而催生了更多新生的勞動(dòng)形式,。全球以兼職或全職方式從事這項(xiàng)有償職業(yè)審核工作的人數(shù)有增無減,。

羅伯茨將其多年研究成果寫進(jìn)了《幕后之人：社交媒體時(shí)代的內(nèi)容審核》，近期,，該書中文版在國內(nèi)上市,。南方人物周刊專訪了羅伯茨，與她就數(shù)字零工市場(chǎng),、信息商品化,、社交媒體平臺(tái)影響力、言論自由邊界以及互聯(lián)網(wǎng)倫理等問題展開了討論,。

技術(shù)無法解決內(nèi)生于經(jīng)濟(jì)體系的諸多問題

南方人物周刊：你在書中將內(nèi)容審核員的工作模式分為:在科技公司內(nèi)部工作,、為小型專業(yè)公司工作、在呼叫中心工作,，以及通過零工平臺(tái)工作,。不同模式的從業(yè)者之間似乎存在著一條鄙視鏈？

羅伯茨：是的,。企業(yè)通常會(huì)將薪酬和地位較低的工作外包出去,，這既是出于成本考慮，也能幫大型公司規(guī)避很多責(zé)任,。擁有全球用戶群的網(wǎng)站和平臺(tái)需要依靠這種混合用工策略來滿足他們大規(guī)模,、全天候的內(nèi)容審核需求，同時(shí)節(jié)省審核開支,，并由此引入一種復(fù)雜的分層組織結(jié)構(gòu)和匯報(bào)層級(jí),。

“鄙視鏈”確實(shí)存在，并與員工所處的地理位置,、社會(huì)地位,、性別、種族等因素相關(guān),。那些工作地點(diǎn)就在審核內(nèi)容最終流入平臺(tái)和公司的審核員,，會(huì)覺得自身地位高于那些工作地點(diǎn)遠(yuǎn)離平臺(tái)和公司的外包人員。

然而,，無論這些商業(yè)性內(nèi)容審核員身在加利福利亞的科技公司,，還是菲律賓的呼叫中心，都會(huì)被當(dāng)?shù)毓芾碚吣脕砼c印度同行比較。管理者會(huì)催促員工加速完成更大量級(jí)的工作,，否則他們的飯碗就會(huì)被印度人奪走,。無論這種情況是否屬實(shí)，都起到了鞭策本地員工的效果,。但問題是,，印度本地的數(shù)字勞工也并未從這種格局中獲益。

南方人物周刊：全球數(shù)字零工市場(chǎng)的現(xiàn)狀如何,？

羅伯茨：人們最初曾樂觀地設(shè)想,，新型技術(shù)性知識(shí)工作能為參與其中的各類工作者提供更高質(zhì)量的工作和生活、更豐富的人生和更多的休閑時(shí)間,，但事實(shí)并非如此,。以商業(yè)性內(nèi)容審核為例，審核員們的工作環(huán)境并沒有人們想象中的美好,，除了需要大量的勞動(dòng)力,，并不需要特別高的技能。這只是一份重復(fù)性很高的無聊工作,。商業(yè)性內(nèi)容審核員不得不長(zhǎng)年累月地處理包括色情,、血腥暴力及包含仇恨言論等的有害內(nèi)容。

很多內(nèi)容審核員最初接受這份工作是希望能以此為敲門磚,，進(jìn)入熱門的科技行業(yè),，給自己的簡(jiǎn)歷加分，可這一邊緣性崗位無法幫助他們?cè)诖笮涂萍脊精@得一份永久性職位,。而且,，隨著社交媒體公司在全球范圍內(nèi)招募那些愿意從事數(shù)字計(jì)件工作的勞動(dòng)者，審核員的薪酬甚至進(jìn)一步降低了,。在線內(nèi)容審核更像是經(jīng)歷了一種反烏托邦式的,、由技術(shù)進(jìn)步導(dǎo)致的惡性競(jìng)爭(zhēng)。全球性的數(shù)字零工市場(chǎng)沒有最低工資限制,，這也使得勞動(dòng)力的價(jià)值由全球出價(jià)最低的工作者決定,。

新技術(shù)的出現(xiàn)以及后工業(yè)時(shí)代的新型網(wǎng)絡(luò)結(jié)構(gòu)，并不能神奇地消除那些內(nèi)生于世界經(jīng)濟(jì)體系中的諸多問題,。恰恰相反,，在讓一些人獲利的同時(shí)，它也將不平等強(qiáng)加給另一些人,，甚至制造了新的不平等,。

南方人物周刊：這個(gè)領(lǐng)域最近有哪些值得關(guān)注的案件？

羅伯茨：在美國,，與內(nèi)容審核員相關(guān)的案件多為集體訴訟,，且往往在訴訟前就達(dá)成了和解，并簽署了保密協(xié)議?？傮w來看,，美國政府監(jiān)管科技公司的政治意愿非常低。國會(huì)面向科技公司舉辦的聽證會(huì)常常淪為政治表演,，而非真正意義上的嚴(yán)肅探討,。

前段時(shí)間公眾關(guān)注度較高的是國會(huì)眾議院能源和商業(yè)委員針對(duì)短視頻社交平臺(tái)TikTok的聽證會(huì)。我并不了解背后的具體曲折,。但有一點(diǎn)是比較清楚的，如果議員們認(rèn)為,，一家公司會(huì)因?yàn)閾碛袕V受歡迎的社交媒體工具而對(duì)其他國家構(gòu)成生存威脅,，那他們恰恰給了其他國家抨擊Facebook及其他類型美國實(shí)體的論點(diǎn)。美國人會(huì)意識(shí)到,，“哦,，糟糕！我們也在做同樣的事情,?！?/p>

我只是希望我們的政治家能夠提出更好的論點(diǎn)，并拷問其中的邏輯,。遺憾的是,，因?yàn)橹忻乐g的緊張關(guān)系，人們并不關(guān)注其中的邏輯謬誤,，也不會(huì)對(duì)自身做批判性審視,。我們必須正視社交媒體在全球政治中扮演的角色。這也是我最初對(duì)內(nèi)容審核萌生興趣的原因之一,。

（盧俊杰/圖）

社交媒體不只是暴力和辱罵內(nèi)容的清理者,，更是招攬者

南方人物周刊：你對(duì)紀(jì)錄片《The Cleaners（網(wǎng)絡(luò)審查員）》中的內(nèi)容并不陌生，但在觀看時(shí)你還是落淚了,。

羅伯茨：是的,。我在過去的訪談過程中聽到過許多類似的故事，但講述者的面容和語調(diào)中流露出的痛苦,，依然會(huì)刺痛我,。我對(duì)他們的經(jīng)歷充滿同情。這也促使我反思,，為了維系這種商業(yè)模式,，就要把這些普通人置于如此境地，真的值得么,？我們可以做出哪些改變,？

南方人物周刊：你訪談的一位前商業(yè)性內(nèi)容審核員提到，為了能處理海量被舉報(bào)的暴力和色情內(nèi)容，他需要盡量克制自己的情緒反應(yīng),，冷漠應(yīng)對(duì),。這些心理策略真的能奏效么？

羅伯茨：有兩種可能,。一種是人們認(rèn)為自己把情感抽離了,，但實(shí)際并未做到。比如有訪談對(duì)象告訴我,，他沒有因?yàn)檫@份工作而產(chǎn)生身心負(fù)擔(dān),。但幾分鐘后，他又不自覺地提到,，從事這份工作期間,，體重和酒精攝入量都增加了，也不太愿意和朋友談?wù)撟约旱墓ぷ?。這可不是超然的表現(xiàn),。當(dāng)然，也可能有人真的能做到情感抽離,，但這意味著你對(duì)本應(yīng)令人震驚或不安的事情變得麻木了,，你也因此失去了一部分人性。

南方人物周刊：內(nèi)容審核員能接觸大眾無法觀看到的互聯(lián)網(wǎng)的另一面,。這會(huì)讓他們對(duì)網(wǎng)絡(luò)世界的理解更全面,，還是走向另一種片面？

羅伯茨：一位訪談對(duì)象對(duì)我說,，總體上他對(duì)人性非常敬畏,，因?yàn)槊慨?dāng)他覺得人類沒法更邪惡的時(shí)候，總有人能做到,；每當(dāng)覺得自己已經(jīng)看到了最黑暗的東西,，第二天還會(huì)有更黑暗的東西出現(xiàn)。另一位女性審核員甚至在離職三年后都拒絕與人握手,，因?yàn)樗龑?duì)他人失去了信任,，會(huì)對(duì)他人抱有最壞的預(yù)設(shè)。內(nèi)容審核員的工作讓他們更多看到人類的陰暗面,，這可能會(huì)導(dǎo)致他們對(duì)人性得出片面的結(jié)論,。而如果涉及到跨文化內(nèi)容的審核，審核員既有的部分刻板印象可能會(huì)被強(qiáng)化,。

南方人物周刊：您的研究是否影響了你對(duì)社交媒體的使用,？

羅伯茨：我很喜歡使用社交媒體，在這里你可以結(jié)識(shí)新的朋友,，看到豐富而精彩的人生經(jīng)歷,，但互聯(lián)網(wǎng)也有另一面,。當(dāng)這些網(wǎng)站的商業(yè)模式就是依靠源源不斷的用戶生成內(nèi)容來吸引其他用戶的眼球和關(guān)注時(shí)，就很難將那些展現(xiàn)人性之惡的東西擋在門外,。所以我的一些訪談對(duì)象會(huì)認(rèn)為,，社交媒體不只是暴力和辱罵等有害內(nèi)容的清理者，還是這些內(nèi)容最初的招攬者,。

實(shí)際上,，我們這些用戶并非網(wǎng)站服務(wù)的核心對(duì)象，他們真正的顧客是廣告主,。平臺(tái)通過跟蹤和記錄用戶的瀏覽痕跡等隱私信息,，建立相應(yīng)的用戶畫像，并推送給他們的品牌客戶,，實(shí)現(xiàn)廣告的精準(zhǔn)投放,。我們以為自己是在免費(fèi)使用這些服務(wù)，實(shí)際上我們是在無償出售自己,。

2023年是我使用互聯(lián)網(wǎng)的第30個(gè)年頭,，我希望它能向更好的方向發(fā)展,。這促使我去思考一系列問題,，比如線上互動(dòng)的本質(zhì)是什么？人類的自我表達(dá)是否應(yīng)該被出售,？我們使用這類產(chǎn)品的代價(jià)是什么,？有什么可以改進(jìn)的地方？我們?nèi)绾我砸环N更好的方式進(jìn)行線上互動(dòng),？在線上空間花費(fèi)如此多的時(shí)間,，是否會(huì)犧牲其他類型的互動(dòng)，這是否會(huì)導(dǎo)致公眾想象力的減弱,？又會(huì)如何影響線下交流……

南方人物周刊：內(nèi)容審核員也會(huì)像普通人一樣沉浸于各類數(shù)字應(yīng)用嗎,？

羅伯茨：這讓我想到了邱林川（注：香港中文大學(xué)新聞與傳播學(xué)院教授）的《信息時(shí)代的世界工廠》。他在調(diào)研中發(fā)現(xiàn),，很多在手機(jī)代工廠工作的年輕女工會(huì)將大部分薪水用于購買自己參與制造的最新款智能手機(jī),。我接觸的商業(yè)性內(nèi)容審核員大多有智能手機(jī)，我并不掌握他們每個(gè)人的數(shù)字應(yīng)用使用習(xí)慣,，但和那些年輕的手機(jī)制造工人一樣,，他們也渴望成為其參與塑造的文化的一部分。

南方人物周刊：一些社交媒體平臺(tái)會(huì)邀請(qǐng)部分用戶加入社區(qū)委員會(huì),，對(duì)有爭(zhēng)議的用戶投訴進(jìn)行判定,，也是希望剝離一部分內(nèi)容審核責(zé)任。

羅伯茨：對(duì),。企業(yè)希望用戶能承擔(dān)一部分自我管理責(zé)任,。在當(dāng)前以成本為中心的模式下,，能被審核處理的內(nèi)容仍然只占很少一部分。舉個(gè)不恰當(dāng)?shù)睦?，美國?shí)行判例法,，法官判決遵循先例，但在網(wǎng)絡(luò)世界里,，當(dāng)沒有足夠的人對(duì)不恰當(dāng)?shù)男袨檫M(jìn)行判定時(shí),，公司內(nèi)容審核的內(nèi)部“司法體系”無疑會(huì)漏洞百出。當(dāng)然,，這些公司是否有權(quán)擁有內(nèi)部“司法體系”也值得探討,。

紀(jì)錄片《The Cleaners（網(wǎng)絡(luò)審查員）》

數(shù)字時(shí)代對(duì)知識(shí)勞動(dòng)力的依賴會(huì)增大

南方人物周刊：社交媒體平臺(tái)Meta公司CEO扎克伯格在2021年3月的國會(huì)聽證會(huì)上表示，該公司依靠人工智能可以清除95%以上的“仇恨言論內(nèi)容”,。你對(duì)此持質(zhì)疑態(tài)度,。

羅伯茨：雖然一些人工智能專家聲稱他們已經(jīng)可以借助先進(jìn)的技術(shù)解決大部分內(nèi)容審核問題，但即便是Facebook,，它也承認(rèn)在全球仍雇傭著成千上萬名內(nèi)容審核員,。輕率地表示內(nèi)容審核已經(jīng)可以被技術(shù)解決的說法是不負(fù)責(zé)任的，這掩蓋了大量人類內(nèi)容審核員的付出,。

讓人不安的是,，十多年前商業(yè)性內(nèi)容審核員們跟我提及的問題，仍然困擾著他們的后繼者,。從當(dāng)前在柏林和愛爾蘭工作的訪談對(duì)象那里,，我得知大公司在技術(shù)方面的投入真的很不足，除非有充分的財(cái)務(wù)激勵(lì),。平臺(tái)會(huì)一直尋求更便宜的人力,，人類員工在成本和能力上仍然優(yōu)于機(jī)器。我不相信人性會(huì)發(fā)生什么改變,，所以這項(xiàng)工作不會(huì)消失,，會(huì)沿著全球化的軌跡，不斷向那些擁有大量廉價(jià)勞動(dòng)力的地方轉(zhuǎn)移,。

我也不認(rèn)為未來數(shù)年,，計(jì)算機(jī)有可能接替人類完成所有的內(nèi)容審核工作。相反,，我們正在看到平臺(tái)對(duì)該崗位的需求越來越大,。這一現(xiàn)象不只表現(xiàn)在內(nèi)容審核行業(yè)，我們也將看到各種新的職業(yè)類型在數(shù)字鏈條的不同環(huán)節(jié)涌現(xiàn),。只要我們還在進(jìn)行人機(jī)交互,，就會(huì)需要越來越多的人類勞動(dòng)力以意想不到的方式嵌入數(shù)字系統(tǒng)中。

南方人物周刊：你在書中同時(shí)列舉了兩個(gè)觀點(diǎn),，一是“言論自由似乎總是讓侮辱他人的用戶比被侮辱的用戶擁有更大的權(quán)力”,，二是“在商業(yè)網(wǎng)絡(luò)平臺(tái)上沒有真正的言論自由”,。

羅伯茨：言論自由是指每個(gè)人都有權(quán)利在不被惡意攻擊的情況下發(fā)表自己的觀點(diǎn)。但在美國的政治體系下,，言論自由的概念似乎更多地適用于一部分人,。很多時(shí)候，人們并不是在行使言論自由,，更像是在濫用權(quán)力來欺凌他人的自由,。此外我們也會(huì)看到，雖然一些網(wǎng)絡(luò)平臺(tái)宣稱自己是言論自由的前哨,，但當(dāng)平臺(tái)與大廣告主的關(guān)系受到威脅時(shí),，用戶便有可能被限制言論自由。

南方人物周刊：另一個(gè)不幸的事實(shí)是,，保護(hù)自己的責(zé)任長(zhǎng)期落在網(wǎng)絡(luò)暴力的受害者肩上,。除了譴責(zé)和對(duì)施暴者依法懲處外，我們還應(yīng)該做些什么,？

羅伯茨：人們需要對(duì)自己的線上行為負(fù)責(zé),。但令人沮喪的是，當(dāng)前的美國,，人們?cè)谌粘Ｉ钪腥菀状舐暊?zhēng)吵,，甚至要拔槍相向?？稍诰€上,，對(duì)于一些重要議題的有益的公共討論熱度又跌落到了歷史低點(diǎn),。除了每個(gè)人應(yīng)該承擔(dān)更多的個(gè)人責(zé)任外,，平臺(tái)營造的環(huán)境也會(huì)讓人們不斷挑戰(zhàn)言論自由的邊界。平臺(tái)從它創(chuàng)造的網(wǎng)絡(luò)環(huán)境中獲利,，卻可以免于承擔(dān)與之對(duì)應(yīng)的責(zé)任,。它們會(huì)說，我們只是提供了一個(gè)大眾交流平臺(tái),，對(duì)他們要說什么,，我們無法負(fù)責(zé)。但實(shí)際上,，平臺(tái)有責(zé)任設(shè)定規(guī)則和基調(diào),，需要辨明什么才是可以獲得經(jīng)濟(jì)激勵(lì)的表達(dá)。平臺(tái)應(yīng)該反思,，是什么導(dǎo)致你的用戶表達(dá)變得極端化,？

南方人物周刊：面對(duì)這些難以改變的問題，會(huì)有無力感么,？

羅伯茨：確實(shí)會(huì)有,，但我也能獲得一些正向的反饋,。我的書被翻譯成不同的語言，我可以跟不同國家和地區(qū)的人交流這些重要議題,，他們也會(huì)繼續(xù)和周圍人分享,。確實(shí)有太多我無法解決的現(xiàn)實(shí)問題，但我能做的是激發(fā)更多的批判性思考,，更多擁有選票的人會(huì)向政治家發(fā)問,，要求他們提出關(guān)鍵問題的解決方案。我經(jīng)常告訴我的年輕學(xué)生,，雖然有些問題在上一代并未受到廣泛關(guān)注,，但年輕一代可以用上一代人無法做到的方式促成改變。我們?nèi)魏稳硕紵o法獨(dú)自解決問題,，需要一同努力,。所以，我還在繼續(xù)研究,，繼續(xù)籌備新書,，雖然這些工作真的很累，但是我應(yīng)該去做的,。