文/東方亦落
近日， 一篇名為《一群變態鎖定觀看YouTube的孩童， 我以前為他們工作》的文章頗受關注。 文章中揭露， 一些國外機構針對兒童， 將兒童喜愛的動畫改編為充斥著色情、暴力以及低級笑料的內容， 如對《冰雪奇緣》中的艾莎公主進行捆綁、開顱， 讓蜘蛛俠喝醉遭遇車禍等。 還有許多由孩子主演的影片， 內容涉及黃暴。
隨著AI技術的發展， 互聯網與人工智慧的結合愈發緊密， 演算法、深度學習等技術被廣泛應用於各大平臺， 視頻網站也不例外。 在視頻網站中， 審核有一部分也是依靠AI技術進行篩查， 如借助關鍵字加圖像識別的模式。 這一模式依靠的是深度學習技術， 實際上是通過審查視頻截圖來鑒別， 截圖間隔則由視頻網站自行控制。
機器審核的原理是建模後導入大量資料， 使得多台機器同時進行樣本學習， 再標注不能通過的圖像類別， 從而提升機器的識別能力。
不過這只是理想狀態， 實際上， 要經過人工審核的比率更大， 機器多數時候只能起輔助作用。 所以問題就容易出現， 比如機器檢測到流量不正常， 評論點擊關注數量暴增， 人工會對這類視頻進行二次審核並處理有問題的視頻。 但如果資料沒有異動， 那麼視頻即使不符合規定， 也很難被發現。
有觀點認為， 視頻網站應該增強技術手段以解決此類問題。 然而事實是， 這類視頻做的相當隱晦， 許多內容根本不是目前的AI技術能夠監測到的。 比如一個有關橡皮泥的兒童教程視頻， 中間出現了一小段與內臟有關的內容， 而教程中所用的橡皮泥顏色類似臟器顏色， 就很難被發現， 這也是為何這類視頻都披著動畫外衣的重要原因。
很顯然， 面對這類視頻， 單純的封號下架遮罩關鍵字絕對是治標不治本的做法，
關於視頻審查手段， 實名制是個相當不錯的方法。 推進實名制有利於監管， 並使用戶權益的損失減小。 去年6月起實行的《中華人民共和國網路安全法》已經對實名制有了相當明確的規定， 估計隨著規章制度的完善， 能夠有效打擊不法現象。
從視頻網站的角度來看， 通過此次事件， 各大網站也都加強了這方面的意識。 優酷表示會在視頻上傳環節嚴格把關， 騰訊也發佈聲明稱“正在全力進行技術反制， 將向有關部門報案， 追究法律責任”。 搜狐則回應稱在嚴格審查的基礎上， 也會對相關內容和上傳帳號進行嚴密監控， 以便及時處理。
對於非法視頻的整頓， 並不是單靠某一方的努力就能遏制。 儘管技術水準已經發展到一定的程度， 但對於非法視頻仍是防不勝防。 對此， 平臺在技術層面以及相關部門在制度層面都需要進一步完善和加強， 才能夠有效防範此類事件再次發生， 給用戶一個良好的互聯網環境。