使用深度學習將一個人的臉真實地疊加到另一個人的身體上， 這個點子聽起來還算有趣。 不幸的是， 它也有邪惡的一面， 比如說， 由各色名人主演的“深度偽造”的色情片。 另外， 虛假新聞以及尖端技術可以輕易地被用於欺騙也引起了人們的廣泛擔憂。
然而， 來自德國慕尼克技術大學的研究人員想要解決這一問題 —— 他們開發了一種名為 “XceptionNet” 的演算法， 它能快速發現發佈在網上的偽造視頻。 具體而言， 它可以用來識別互聯網上的誤導性視頻， 以便在必要時將其刪除， 或者， 至少向視頻中涉及的人員透露他們被“偽造”了。
圖丨偽造了蓋爾·加朵的視頻
“理想情況下， 我們的目標是將人工智慧演算法集成到流覽器或社交媒體外掛程式中， 本質上， 該演算法將在後臺運行， 如果它識別出被操縱的圖像或視頻， 它將給使用者發佈警告資訊。 ”該校視覺計算小組的教授 Matthias Niessner 透露。
研究小組首先訓練了一個由 1000 多個視頻和 50 萬張圖片組成的深度學習神經網路。 通過向電腦顯示修改過的和未修改過的圖像， 即使在人類很難識別的情況下， 機器學習工具也能夠找出兩者之間的區別。
Niessner 說：“對於壓縮過的視頻， 我們的使用者研究參與者無法區分假資料和真實資料”。 但人工智慧能夠很容易地區分這兩者。
在 50% 的情況下人類可以正確區分的， 但這其實是隨機猜測， 而卷積神經網路可以在 87 %到 98 %的情況下正確區分壓縮視頻。 這個表現尤其令人驚歎， 因為壓縮圖像和視頻比未壓縮的圖片更難區分。
與其他欺騙性的圖像檢測演算法相比， XceptionNet 遠遠走在了前面。 這其實也證明了人工智慧的力量。