對此， 穀歌開始在視頻內容認證工作中投放越來越多的AI資源， 但現在的問題的是， 這家巨頭公司現用的演算法很有可能還無法勝任這項任務。
華盛頓大學最近發表的一份研究調查就明確地指出了這一問題。 研究團隊對谷歌面向客戶推出的視頻內容自動分類Cloud Video Intelligence API進行了測試。 這套API由深度神經網路驅動的系統雖然在應對常規視頻上表現非常好， 但它卻非常容易被對抗圖像(adversarial images)糊弄過去。
華盛頓大學研究人員指出， 這家公司的API可以給測試視頻的物件標示出諸如“動物”、“野生動物”、“公園”、“大自然”、“遊客”等標籤， 但當他們向視頻中插入一張汽車的圖片之後， API此時給出的標籤則就可能變成“奧迪”。 據悉， 出現這種情況的幾率高達98%。
研究人員表示， 這意味著人們可以通過向某段非法視頻插入良性圖片來達到繞過視頻過濾系統的目的。
現在， 像穀歌、Facebook、Twitter等科技感公司都在開始利用AI過濾系統來説明他們審核上傳至其平臺的內容。