圖片慘遭P圖大神玩壞已是網路常態， 並經常讓網友爆笑不已!隨著AI技術升級， 不僅僅是圖片， 我們看到的視頻也因為“貼臉”技術“慘遭”玩壞， 比如明星出現在未出演過的節目或電影， 甚至是一些不可描述的影片， 引發公眾熱議。
尼古拉斯·凱奇被AI玩壞
媒體報導稱， 得益於AI技術， 網友“寵兒”尼古拉斯·凱奇可參演各類電影或電視節目了。 網友deepfakes在論壇上展示了AI技術幫助下， 凱奇“出演”的一些電影或節目：《007之諾博士》中站在埃及法老墳墓的詹姆斯·邦德， 又或是變身《奪寶奇兵》中的印第安那·鐘斯， 看起來似乎毫無違和感。
此外， 反串《蝙蝠俠大戰超人》中的超人女友露易絲， 以及兩個尼古拉斯·凱奇同屏出現在《週六夜現場秀》， 更是讓網友爆笑不已。 但令人遺憾的是， 這一“貼臉”技術更多是被用於某些不可描述的影片， 並引發公眾批評——而並未能像作者最初設想的那樣，
明星們被“下海”引爭議
過去幾周， 不少影星出現在了一些不可描述影片之中， “中招”的女明星包括了蓋爾·加朵(《神奇女俠》主演)、泰勒·斯威夫特(著名女歌手)、艾瑪·沃特森(《哈利波特》中的赫敏)、斯嘉麗·詹森(代表作《她》和《迷失東京》等)和麥茜·威廉姆斯(《權力的遊戲》中的二丫)等。
當然， 這些視頻並不是真實影片， 而是通過上文提到的AI技術合成的。 據開發者介紹， 他在業餘時間用家裡電腦和開源AI工具， 通過機器學習演算法， 將明星的臉成功移植到了不可描述影片的影星身上。 現階段， 視頻還能看出比較明顯的破綻， 但隨著AI技術的進化， 未來這類偽造視頻能以假亂真也並非不可能的。
更不幸的是， 雖然該技術未得到更多網友關注， 但事態卻已經進一步惡化了——有網友基於該演算法， 開發了一款名為FakeApp的應用， 讓每個用戶都能輕鬆偽造這類影片。 而這也導致AI“貼臉”技術徹底走向失控：不僅助長不可描述視頻的氾濫， 更可能讓公眾群體(明星、普通網友甚至是你自己)成為這類技術的受害者。
“貼臉”技術背後的倫理問題
如果說對凱奇的惡搞， 還能夠得到網友公眾認可， 只是一笑而過。 那麼將這類技術用於不可描述影片， 無疑是侵犯了公民的人身權利。 如果說明星還有可能通過法律手段來維護權益的話， 普通用戶如果遭遇了這類技術， 幾乎可以說無處伸張權益。
事實上， 由於智慧手機和移動互聯網的發展， 許多普通用戶的高清照片也已經在社交網路上隨處可見!這意味著， 用戶隨時可能成為“AI+色情”的受害者， 並可能一直處於毫不知情的狀態， 想想就有點不寒而慄。
現階段， 想要打擊這類事件， 更多要依靠傳播該類內容的平臺。 國外的Gfycat、Discord等社交平臺已經開始針對AI色情視頻行動起來， 展示了一些令用戶感到欣慰的動作。 但這類視頻的製作是如此容易， 也決定了杜絕AI色情是一件“不可能的任務”!
如果說P圖技術讓我們無法信任網路中的圖片， 假新聞讓我們對新聞真實性開始感到質疑， 那麼AI偽造色情視頻的氾濫， 無疑也開始讓我們思考，以後視頻還可以信任嗎?而這，恐怕才是AI色情視頻廣泛傳播背後最讓人害怕的地方。
為何要針對不可描述影片？
利用AI合成假視頻早有先例，包括奧巴馬、川普都曾經被惡搞過。不過當時這項AI黑科技出自美國華盛頓大學，而為了達到視頻展示的較完美嘴型“移植”，開發人員需要足足十七個小時長的視頻作為資料來讓機器解析、學習。
更早之前，電影《速度與激情7》中同樣使用了換臉技術，這不是這一次並未基於AI技術，而是使用替身+動態捕捉+CGI動畫的方式，耗費大量人工與後期特效成本，並通過專業剪輯，才得到了電影螢幕上呈現的效果。
從這兩個案例來看，網友deepfakes所用AI技術遭受批評的最大原因在於，這一切太簡單了，而且還缺乏監管和把控，被網友在欲望的推動下變成了“罪惡之源”——特別是用戶天生喜歡關注性和八卦等話題，哪怕你明知道這一切都是假的。
雖然說AI技術本身無罪，雖說色情業也曾是科技產業推動力，但如果不克制對基本欲望的熱情，無疑會損害到AI普及，並可能讓AI最終成為“人人喊打的過街老鼠”!
無疑也開始讓我們思考，以後視頻還可以信任嗎?而這，恐怕才是AI色情視頻廣泛傳播背後最讓人害怕的地方。為何要針對不可描述影片？
利用AI合成假視頻早有先例，包括奧巴馬、川普都曾經被惡搞過。不過當時這項AI黑科技出自美國華盛頓大學，而為了達到視頻展示的較完美嘴型“移植”，開發人員需要足足十七個小時長的視頻作為資料來讓機器解析、學習。
更早之前，電影《速度與激情7》中同樣使用了換臉技術，這不是這一次並未基於AI技術，而是使用替身+動態捕捉+CGI動畫的方式，耗費大量人工與後期特效成本，並通過專業剪輯，才得到了電影螢幕上呈現的效果。
從這兩個案例來看，網友deepfakes所用AI技術遭受批評的最大原因在於，這一切太簡單了，而且還缺乏監管和把控，被網友在欲望的推動下變成了“罪惡之源”——特別是用戶天生喜歡關注性和八卦等話題，哪怕你明知道這一切都是假的。
雖然說AI技術本身無罪，雖說色情業也曾是科技產業推動力，但如果不克制對基本欲望的熱情，無疑會損害到AI普及，並可能讓AI最終成為“人人喊打的過街老鼠”!