上月中旬出現的由人工智慧(AI)生成的虛假色情視頻(AV)可能讓人們大開眼界， 但如今又出現了一款新的應用， 可以讓普通線民秒變AV導演。
6個星期之前， 社交新聞網站Reddit上出現了一段《神奇女俠》女主角蓋爾·加朵(GalGadot)的色情視頻(AV)。 當然， 這是一段利用人工智慧(AI)技術生成的虛假視頻。
這段虛假視頻是Reddit上一個名為“deepfakes”的用戶製作的。 其中的原理十分簡單：以穀歌圖片和Youtube影像為素材， 利用TensorFlow和Keras等開源深度學習軟體移花接木而成。 由於使用的素材都是易於訪問的視頻、圖像和開原始程式碼， 任何具有深度學習演算法知識的人， 都可以製作出這樣的視頻。
deepfakes說：“我只是找到一個換臉的小技術， 可以利用上百張照片， 生成百萬張模糊圖像， 訓練神經網路。 然後， 我只要把其他人的照片輸入進去， 它就會認為這是另一張訓練用的圖像， 試圖讓照片裡的臉看起來跟訓練用的人臉一樣。
在過去的6個星期內， 在Reddit上熱衷於為女明星製作虛假視頻的成員達到數萬人之多。 同時， 我們也看到了大量的明星被利用該技術製作出了虛假的AV視頻。
雖然deepfakes並不是專業的視頻製作人員， 但要利用他提供的技術成功地製作出虛假AV視頻， 也需要一定的技術。 例如， 需要具有深度學習演算法相關知識。
這就把許多人拒之門外。 但如今， 又出現了一款名為“FakeApp”的應用， 在很大程度上降低了進入門檻， 讓幾乎所有人都能利用它來製作虛假視頻， 只要會安裝應用， 並提供訓練資料即可。
這款新應用的開發者是“deepfakeapp”(與之前的deepfakes無關)， 他說：“當前版本的FakeApp有了一個良好的開端， 但在未來數日和數周內， 我會繼續完善。 最終的目標是：讓使用者在電腦上選擇一段視頻，
如今， 利用這些新技術， Reddit用戶已不滿足於製作虛假的AV視頻。 他們還把替換範圍拓展到了其他人群， 如阿根廷總統毛裡西奧·馬克裡(MauricioMacri)， 西班牙加泰羅尼亞地區議員伊內斯·阿裡馬達斯(InesArrimadas)。 此外， 還有人利用該技術製作出了VR色情視頻。
當前， 這種“換臉演算法”還處於初級階段， 利用該技術製作出的AV視頻還讓人半信半疑。 但相信在不久的將來， 該技術還可能被使用者製作報復性視頻， 視頻中的主角可能是被攻擊者的配偶、父母， 甚至是兒女。