譯 | 闌夕


　　每個依賴UGC模式的App或者網站——例如Facebook、YouTube、Twitter、Instagram、Pinterest等等——都會存在這種隱性的工作，否則整個網站的業務都無法運作起來。審查者曾經一度是自願性質的工作，那些融入了社群之中的人們自發的想要維護這裡。


　　但是社交媒體們成長的同時，審查制度也進化了。「商業性內容稽核」，這是加州大學的學者Sarah T. Roberts為新的審查制度下的定義，一種要求人們以更快的速度審查大量照片、視訊和文字的有償的工作。


　　自從有一次看到中西部某一家小公司針對內容稽核開展外包工作的剪報之後，Roberts在過去十年裡一直在研究內容過濾的工作。


　　「 2010 年，這個話題還根本沒有進入人們的視野。」Roberts說，「我問遍了身邊的所有朋友和教授，你們認不認識什麼人是以這個工作為職業的?每個人第一反應都是，從來沒聽過。然後他們第二反應就是，這事不是電腦在做?當然不是， 2017 年不是， 2010 年就更不是了。」


　　然而這些審查者們無論是在Facebook或者Twitter上都沒有任何存在痕跡。單個個體也許可以發言抱怨，但是這個稽核機構總體上是面目模糊的。直到最近，在類似Roberts這樣的學者、記者如Adrian Chen、和體制內的工作人員如Rochelle LaPlante等人的幫助下，內容審查工作中這些「看不見的人」才變得廣為人知。


　　最近幾個月，人類在組織和過濾網際網路資訊流中扮演的角色開始受到越來越多的關注。企業們希望將兒童色情、極端資訊、虛假內容、惡作劇和各種令人討厭的帖子關閉掉，同時留下其它型別的資訊繼續保持流通。


　　企業必須用資訊的流通性來保障自己的經營模式：內容可以帶來關注和流量。他們依靠注意力經濟變得越來越富有。那麼，人類與此同時產生的內容汙染又要怎麼辦呢?那些令人反感的、噁心的、色情的、非法的或者各種其它的東西怎麼辦?


　　唯一可以確定的就是：計算機演算法沒辦法把這些東西全部解決掉。Roberts看來，「 2017 年，各平臺公司針對這一點發表的各類聲明裡，沒人說我們會用更多的計算資源來解決這個問題，大家都說的是我們會投入更多人力來解決這個問題。」


　　為了展開針對性的調研，Roberts在加利福尼亞大學洛杉磯分校，也是加州山火的正中心，舉辦了業界首次內容審查的研討會。


　　在Roberts看來，審查制度不僅僅是關於這些網站平臺的成本結構。更重要的是，這個工作會觸及網路服務的核心。「它到底會網際網路的本質有什麼影響?」她說，「當人們大面積的參與到我們稱之為網際網路的這個東西之中，它到底會讓我們付出什麼代價?」


　　有一個討論小組直接探討了這個代價問題。它將兩個曾經擔任過內容審查者的人聚在了一起：Rasalyn Bowden曾經擔任MySpace的內容審查員及培訓師，Rochelle LaPlante在Amazon Mechanical Turk工作並且聯合創辦了一個針對AMT員工的網站MTurkCrowd.com。他們兩人都接受了Roberts以及南加州大學Safiya Noble的訪問。


　　>Bowden講述了早年間MySpace平臺正流行的時候，公司突然被違規圖片淹沒的情形——至少是在他們看來違規了。當時其實很難定義到底哪些圖片是違規的，因為當時還沒有制定這些規則。在Bowden的協助下，這些規則被建立了起來，然後用一個記事本記錄了下來。


　　「我昨天翻了翻，有個問題是問，如果穿著牙線那麼細的帶子組成的比基尼，那到底還算不算裸體?牙線那麼細或者像義大利麵那種粗細到底行不行?到底什麼樣算不是裸體的?我們大晚上在飛機上為這些問題爭論了起來。」Bowden說，「如果她的屁股真的很大，那她就不應該穿這種細帶子的。那麼我們是不是應該把這個人刪掉，然後留下那些屁股小一些的女生?這就是我們的決策過程。就像我們一直以來的工作模式。」


　　Bowden說她的團隊裡有很多奇怪的人，他們都願意一整晚盯著這些奇怪的令人不安的東西。「隊裡有個女巫，一個吸血鬼，一個白人至上主義者，還有些正常人。我的團隊裡有各種不同型別的人。」而Bowden是個黑人，「我們總是說，那麼用你那個白人至上的標準看看，這個是不是白人至上的言論?」


　　00 年代中期的時候，社交媒體依賴著UGC的模式持續膨脹發展著，越來越多的公司需要內容審查人員。Roberts將審查的演化作為企業實踐的一部分進行追蹤，並且特別關注了其中勞動分配的問題。在矽谷的總部裡，很少有全職員工在從事這類別的工作。相反他們都選擇了外包商，外包商們可能會在企業裡辦公，但通常是在一些別的地方。總體來說，內容審查者們都被排除在了企業核心機構之外。他們可能身在愛荷華州或者是印度(現在來說，多數都在菲律賓)。


　　「這些員工被企業們以結構性的方式排除在主體之外，由企業認可的承包商們以按量計費的方式僱傭他們，然後他們在一種勞務外包的形式下工作。」Roberts這樣寫道，「於此同時，這些承包商也會利用一些網路平臺來發布按量計費的工作，例如Amazon Mechanical Turk或是Upwork。這樣社交媒體平臺、業務外包公司、以及完成按量計費業務的僱員之間的關係就一目瞭然了。」


　　這些明顯帶有距離感的步驟，把科技公司推離了責任範圍，卻轉而讓審查者們面對這一切。


　　例如在AMT上工作的LaPlante，她手中有一批時間靈活的廉價勞動力名單。當她接到任務時，她必須遵守一系列的工作規定，但是她卻完全不知道釋出任務的公司會如何處理她創造出來的資料。


　　不過，令LaPlante最為在意的是這些人的勞動報酬問題。他們的工作以稽核量來計費，有時候單價會低到每張圖片0. 02 美元，就算好一點的時候也只有每篇文章0. 15 美元。除此之外，科技公司們還可以拒絕接受這個審查員的工作結果，那麼他在這段時間的工作不僅不會得到報酬，他在AMT上的評分還會下降。


　　這份工作是當今網際網路經濟裡殘酷而不可或缺的一部分。它還可以給計算機的深度學習提供必要的訓練資料。然而從事這項事業的勞工們卻只能幸運的拿著最低工資，與此同時還要以飛快的速度工作才能得以生存。


　　正如你預想的一樣，瀏覽這些暴力、色情和令人不安的內容給以此為生的人們留下了不可磨滅的心理影響。


　　「當我從MySpace離開的時候，我大概有 3 年的時間不肯和人握手，因為我覺得人們都很噁心。我無法觸碰別人。」Bowden說，「世界上最普通的人也都是他媽的怪胎。我從那裡出來的時候對人性感到厭惡。我的同僚們，大多數也和我有一樣的感覺。我們都對人性留下了可怕的觀感。」


　　當我問她，十年過去了，你有沒有對人性恢復一些信心的時候，她說沒有。「但是我可以假裝我有信心了。這種信念是必須的。」她說，「也沒什麼不好。一旦你接受了人類的劣根性，你就更容易記住不要去碰某些東西。」


　　LaPlante也強調說，做內容稽核的人們不會因為這些噁心的工作內容去尋求心理諮詢師的幫助。他們一般都自己處理這些心理問題，或者，在同僚們那裡尋找一些心理支援。</p><p>「當你的報酬只有一張圖片 2 美分的時候，你是不可能去找 100 美元一個小時的諮詢師的。」LaPlante說。


　　從樂觀的角度來說，有些科技公司已經開始注意到這些情況了。例如Facebook，他們這次就派了一個小組來參加這次的審查研討會。然而像Twitter和Snap則沒有來參會。


　　Facebook在內容審查方面僱傭的人數超過 10000 人。他們的高管對此事看起來有著非常清晰的思路。這周，Facebook的首席安全官Alex Stamos在Twitter的一個線上發言上說，在解決「基本問題」上「沒有神奇的方案」。「你認為看門人可以決定線上言論令人接受的門檻界限嗎?」他說，「如果是，那界限到底在哪裡?」


　　這是個好問題。但是內容審查者們也知道這個問題。他們在房間裡討論試圖定義哪些是得體的，哪些是淫穢的。這幾千人正在扮演警察的工作，去劃定「令人可以接受的線上言論」的界限。然後原則上來說，他們不被支援，工資很低，只能獨自處理工作留下的情緒損傷，與此同時他們為之賣命的公司正成為全世界市值最高的公司。


　　「每次我看到大的科技公司招聘人員的宣告時，我都要問幾個問題：招了誰?在哪裡?在什麼條件下工作?」Roberts這樣對我說。