AI時代，百度安全構建人類文明生態安全工程

“AI可能是人類文明史上最重要的事件， 它要麼是一件最好的事， 要麼是最糟的。 ”物理學家斯蒂芬·霍金這句聽起來模棱兩可的話裡隱藏著一個事實資訊——我們對AI的未來充滿未知。 人們一面對AI時代的生活有著種種美好設想， 一面又出於對未知的恐懼對AI的發展做著最壞的打算。 恰如狄更斯的名句：“這是最好的時代， 也是最壞的時代。 ”

一面是海水一面是火焰

未來已來， 而你卻不是未來的一部分， 那會怎樣？我們不妨將這個問題延展開來， “AI帶來的安全挑戰已經擺在面前， 而我們手中卻沒有應對的武器， 那會怎樣？”

一面是海水一面是火焰。 面對新的時代更迭， BAT正基於自身資源優勢制定應對方案。 與阿裡在金融、電商場景， 騰訊在社交、遊戲領域的豐富資料不同的是， 百度搜索涵蓋的是用戶的金融、電商、遊戲、生活等各種需求， 資料類型最為全面， 用戶畫像更加精准。

對於AI， 百度的方向更為明確。 目前， AI技術幾乎已經貫穿至百度旗下所有業務， 從無人駕駛到語音搜索， 從IOT安全到全球視野下的黑產全鏈， “All in AI”的百度顯然比任何企業都更清楚AI意味著什麼。 如果無法保證AI的安全性， 後果難以想像。

事實上， 如果我們無法建立起可靠的AI安全生態體系， 可能遭遇一場噩夢的又何止於企業呢？對我們每個普通人而言， AI時代的夢想與夢魘僅有一牆之隔。

夢想與夢魘僅一牆之隔

人類的天性似乎是樂觀的， 否則便無法解釋人們在面對AI這一充滿不確定性的技術時還能夠滿懷憧憬的做出種種美好設想。 人們迫不及待的想要坐上無人駕駛的汽車， 想要用機器人將自己從大量的重複勞動中解脫出來，

甚至試圖以將記憶存儲至晶片的方式獲得某種意義上的永生。 但在科技公司致力於使用AI技術改善人類生活的同時， 在沒有陽光的黑暗裡， 一些不法分子正把AI當做作惡的工具。

在去年11月舉辦的GeekPwn極棒破解大會現場， 百度安全實驗室的研究員只用一張列印的A4紙晃了晃，

就成功破解了某安卓智慧手機的人臉識別認證系統， 虹膜和指紋也相繼被破解。 試想， 如果這套破解技術和方式掌握在不法分子手中， 結果會怎樣？騰訊安全科恩實驗室也曾多次在無物理接觸的環境下破解無人駕駛汽車特斯拉， 這項技術如果掌握在駭客手中， 後果也不堪設想。

技術是中立無罪的， 但人類的善與惡卻在技術身上得到體現。 AI承載著人類的美好夢想， 但也可能成為作惡的工具， 帶來不可挽回的夢魘。 夢想與夢魘之間僅有一牆之隔。

去年11月6日， 百度安全牽頭成立AI智慧終端機安全生態聯盟， 這是國內第一個開放的致力於AI生態安全的聯盟組織。 AI時代的來臨， 企業遇到的安全問題是系統性的，

這要求安全生態的各個環節不能像過去一樣彼此孤立存在。 百度首席安全科學家、百度安全實驗室負責人韋韜不久前也明確表示：“安全生態的碎片化導致安全成本急劇上升， 需要安全生態各個環節協力合作。 ”在百度牽頭成立的AI全生態聯盟中， 終端廠商、高校專家、科研機構甚至存在競爭關係安全廠商， 都在聯盟成員的範圍內， 這種開放程度是史無前例的。

從競爭思維走向開放思維， 這是一次有著標誌性意義的思維模式轉變。 而促成這種轉變的是大家共同面對的問題——AI安全。 就仿佛科幻小說中， 當人類在遭受外星文明的攻擊時便會自然而然地放下國與國、人與人間的利益爭奪， 結成命運共同體。因為所有人都清楚，這事關人類的文明。而AI之於人類顯然也是兩種文明的碰撞。

AI時代的人類文明工程

漫長的人類歷史中有過許多改變人類文明進程的工程，萬里長城促進了民族、經濟與文化的融合，巴拿馬大運河架起連接大西洋和太平洋的“世界橋樑”，阿波羅登月計畫讓人類對宇宙以及我們自身有了全新的認識......正是有了這些偉大的工程才有了今天的人類文明，而今天，正如霍金所言，AI可能是人類文明史最重要的事件，它有可能將人類帶入全新的文明，也有可能讓人類文明毀於一旦。

將視野放到人類文明的高度來看，AI安全生態建設正是AI時代一項重要的文明工程，這項工程很大程度上決定著人類的未來。因為，唯有搭建起AI安全生態才能最大限度降低由AI帶來的安全風險，反之，不可控的風險將會對人類文明帶來毀滅性的打擊。

科幻作家劉慈欣在《三體》中創造一個概念叫“降維攻擊”，高維度的AI文明是否會對人類文明發起降維攻擊，目前還是個未知數，但並不能排除這種可能性。在AI面前，人類是命運的共同體。今天我們之所以能夠神情自若地探討AI安全生態的問題，原因是AI給了我們討論這一問題的時間和機會，我們應該慶倖還擁有充足的預案時間。

資源的爭奪和競爭曾經推動了人類文明的進程，但在新的文明之下人類是時候放下競爭結成聯盟了。AI安全生態是一個龐大的系統化的工程，任何企業和個體都不可能憑藉一己之力完成，這也是百度AI生態安全聯盟等安全聯盟和組織成立的價值所在。

AI時代究竟是一個最好的時代，還是最壞的時代，我們無法給出準確答案，但值得慶倖的是我們在做了最壞打算的同時也已經開始為最好做出努力。1月19日，百度安全將舉辦一場聚焦AI安全的BSRC年度盛典，這場盛典也是目前國內規模最大的“白帽子”碰頭，AI會不會往霍金所擔憂的方向發展？在這場盛典上，我們或許能找到一個答案。

結成命運共同體。因為所有人都清楚，這事關人類的文明。而AI之於人類顯然也是兩種文明的碰撞。

AI時代的人類文明工程

漫長的人類歷史中有過許多改變人類文明進程的工程，萬里長城促進了民族、經濟與文化的融合，巴拿馬大運河架起連接大西洋和太平洋的“世界橋樑”，阿波羅登月計畫讓人類對宇宙以及我們自身有了全新的認識......正是有了這些偉大的工程才有了今天的人類文明，而今天，正如霍金所言，AI可能是人類文明史最重要的事件，它有可能將人類帶入全新的文明，也有可能讓人類文明毀於一旦。

將視野放到人類文明的高度來看，AI安全生態建設正是AI時代一項重要的文明工程，這項工程很大程度上決定著人類的未來。因為，唯有搭建起AI安全生態才能最大限度降低由AI帶來的安全風險，反之，不可控的風險將會對人類文明帶來毀滅性的打擊。

科幻作家劉慈欣在《三體》中創造一個概念叫“降維攻擊”，高維度的AI文明是否會對人類文明發起降維攻擊，目前還是個未知數，但並不能排除這種可能性。在AI面前，人類是命運的共同體。今天我們之所以能夠神情自若地探討AI安全生態的問題，原因是AI給了我們討論這一問題的時間和機會，我們應該慶倖還擁有充足的預案時間。

資源的爭奪和競爭曾經推動了人類文明的進程，但在新的文明之下人類是時候放下競爭結成聯盟了。AI安全生態是一個龐大的系統化的工程，任何企業和個體都不可能憑藉一己之力完成，這也是百度AI生態安全聯盟等安全聯盟和組織成立的價值所在。

AI時代究竟是一個最好的時代，還是最壞的時代，我們無法給出準確答案，但值得慶倖的是我們在做了最壞打算的同時也已經開始為最好做出努力。1月19日，百度安全將舉辦一場聚焦AI安全的BSRC年度盛典，這場盛典也是目前國內規模最大的“白帽子”碰頭，AI會不會往霍金所擔憂的方向發展？在這場盛典上，我們或許能找到一個答案。