中國互聯網安全領袖峰會：思想碰撞！多維度探討人工智慧與未來安全
2017 年 8 月 16 日下午，第三屆中國互聯網安全領袖峰會（Cyber Security Summit2017,簡稱CSS2017）人工智慧與安全倫理分會場在京成功召開，主辦方邀請了人工智慧領域的多位專家及大咖圍繞「人工智慧如何有效地提升網路和資訊安全」這一主題展開討論，
極客公園 COO 吳江發在開場致辭中表示，自從去年 AlphaGo 戰勝人類後，人們逐漸感受到人工智慧為我們生活帶來的巨大影響，但與此同時，人工智慧對互聯網安全和未來互聯網發展來說，是利還是弊依然是個未知數。因此，作為互聯網從業者，我們在面對這樣一個問題時，應該持有一個理性而客觀的態度，
從駭客角度如何攻破 AI
Geekpwn Lab 總監王海兵從駭客的角度談及了人工智慧的安全問題。他表示，自2014 年他們第一次舉辦了 GeekPwn 大賽，到現在已經舉辦了 5 次，向各廠商彙報了幾百個嚴重的安全性漏洞，並協助修復，破攻破的設備種類繁多，攝像頭、路由器、無人機和 POS 機等都有被攻破。
現在，他們也進軍了 AI 領域。王海兵表示，「我們注意到一個 AI 應用系統，應用到人們的生活當中去幫助大家的時候，也會運行在一個特定的資訊系統環境當中。作為一個整體，作為人工智慧這一塊即使非常安全，其他環節出了問題，一樣會有問題。」
因此他們在嘗試攻破 AI 領域應用較為成熟的人臉識別門禁系統的時候，並沒有找到人臉識別本身演算法的問題，而是發現了應用系統的問題，最終達到了一樣的效果——任意人臉都可以通過門禁。
王海兵將對 AI 的駭客攻擊分為 3 個層次，最核心的是演算法的層面，即對抗樣本演算法。比如聊天機器人之前出現過一些「不良」表現，就是學習的樣本出現了問題，從而使 AI 代理被污染。
對 AI 來說，做出一個錯誤的決策和判斷，與整個系統被控制，在駭客看來是沒有區別的，任何地方有弱點有漏洞都會被攻擊。王海兵表示他發現安全界和 AI 界交流不暢，而 GeekPwn 願意站出來作為一個橋樑來溝通兩邊，讓 AI 更加安全健康地發展。
從AI 角度如何抵禦駭客攻擊
與王海兵探討如何攻擊 AI 相反，微軟的首席安全官邵江寧分享了微軟如何運用AI檢測惡意網路攻擊。
傳統網路安全防護手段如：反病毒、入侵偵測和防火牆，由於網路威脅特性的演化，在今天的網路空間安全對抗過程中面臨著新的挑戰，需要重構和進化，打造新的網路安全生態體系。微軟在新的時代，建立了新的體系化的整體安全性原則，包括：平臺，合作，和安全情報。
邵江寧分享了微軟內部AI 在安全領域運用的成功經驗和「可度量的要素」：包括AI模型可自我調整，它能夠適應惡意程式碼新的變種；其次，必須可解釋，人工智慧檢測的結果需要與安全專業知識能夠相互融合，能由安全專家理解和解釋得通，能夠運用在實際；最後，要可執行。「人工智慧輸出的結果，需要幫助安全回應鏈條的安全專家、回應團隊降低工作量，提高回應速度。」
「人工智慧成功使用于網路安全防禦，要達到三個效果：速度、品質、回應。微軟在 Azure 雲安全中心上使用先進的人工智慧和安全回應專家專業技能的組合，使用原子/特徵檢測，基於傳統的特徵檢測，使用者端遭遇的未知惡意程式碼在會使用智慧雲端超過160種機器學習演算法模型進行檢測和分析；基於網路威脅情報的檢測，發現使用者 IP 和僵屍網路的控制伺服器的通訊；基於行為分析，對新型惡意變種軟體但是可疑行為已知，把新威脅識別出來。」
哲學、交互、應用多層面立體化分析AI與未來安全
除了AI領域的攻防之外，來自中山大學人工智慧實驗室主任翟振明教授從哲學層面分享了他對於 AI 和人機交互的看法。 隨後翟振明教授提出了人機交互的三個原則：1. 從客體到主體的方向，資訊越暢通越好； 2. 從主體到客體方向，控制信號越暢通越好，資訊密封度越高越好；3. 以上兩條的鬆動調節，最嚴苛的程式保證以各個主體為主導。
來自滴滴 Labs 安全研究的負責人藺毅翀先生也從一個產品經理和創業者的角度，分享了機器學習在人工智慧和資訊安全的應用。BroadLink 的高級副總裁康海洋則在會上來分享了在智慧家居領域如何保證安全。康海洋表示，開發智慧家居產品時，他們主要受到了三種主要威脅：系統、智慧和資料層面。因此，他們需要不斷更新安全演算法，提高整體安全防護能力；在整個智慧家居平臺系統中減少攻擊面，儘量不開放埠；針對資料量過大的問題，通過使用演算法，分析資料的來源和動態，來保障智慧家居領域的安全。
與此同時，科大訊飛的吳江照先生也來到了分論壇現場發表演講，他重點說到了人工智慧與我們的生活之間的聯繫。關於泛安防和智慧互聯領域的 AI 應用，曠視科技的安防技術專家張鑫也分享了公司在公共安全領域的一些應用。
此次，人工智慧與安全倫理分會場的主辦方——中國互聯網安全領袖峰會（Cyber Security Summit，簡稱“CSS”）是由騰訊公司、中國電子技術標準化研究院等企事業單位共同創辦。峰會自2015年創辦至今，得到了安全行業及各個產業的認可，更得到了國家網信辦、工信部、公安部等國家部門的大力支持。目前，由騰訊主辦的CSS正在演變成一個由全球企業、機構共同構建的無邊界網路安全平臺。
同時，本屆中國互聯網安全領袖峰會還聚集了“世界頭號傳奇駭客”Kevin D Mitnick、”電腦安全教母”Dawn Song、Visa副董事長兼首席風險官 Ellen Richey 等來自全球的五千多名安全技術專家，共同圍繞“安全新秩序 連接新機遇”這一主題，聚焦金融安全、大資料與雲安全、安全法治治理、智慧硬體安全、人工智慧等多個安全熱點領域進行了深入探討與分享。旨在新的安全秩序下通過連接打通個產業，以安全護航各產業發展，並保持不斷創新，對各產業網路安全進行深度剖析與資訊資源整合，實現共用、開放、互贏互利。
未來，作為CSS領袖峰會的發起方，騰訊將持續推進和建立開放、協作的安全生態新體系。目前，騰訊安全開放平臺成員已超百家，並將騰訊安全聯合實驗室等核心安全能力、資料全面向合作夥伴開放，安全防範和保障範圍覆蓋了連接、系統、應用、資訊、設備、雲六大互聯網關鍵領域，惠及數億線民，涉及個人生活的方方面面，在推動建立全產業鏈協作的安全體系上做出了切實的努力。
包括：平臺，合作，和安全情報。邵江寧分享了微軟內部AI 在安全領域運用的成功經驗和「可度量的要素」：包括AI模型可自我調整，它能夠適應惡意程式碼新的變種；其次，必須可解釋，人工智慧檢測的結果需要與安全專業知識能夠相互融合，能由安全專家理解和解釋得通，能夠運用在實際；最後，要可執行。「人工智慧輸出的結果，需要幫助安全回應鏈條的安全專家、回應團隊降低工作量，提高回應速度。」
「人工智慧成功使用于網路安全防禦，要達到三個效果：速度、品質、回應。微軟在 Azure 雲安全中心上使用先進的人工智慧和安全回應專家專業技能的組合，使用原子/特徵檢測，基於傳統的特徵檢測，使用者端遭遇的未知惡意程式碼在會使用智慧雲端超過160種機器學習演算法模型進行檢測和分析；基於網路威脅情報的檢測，發現使用者 IP 和僵屍網路的控制伺服器的通訊；基於行為分析，對新型惡意變種軟體但是可疑行為已知，把新威脅識別出來。」
哲學、交互、應用多層面立體化分析AI與未來安全
除了AI領域的攻防之外，來自中山大學人工智慧實驗室主任翟振明教授從哲學層面分享了他對於 AI 和人機交互的看法。 隨後翟振明教授提出了人機交互的三個原則：1. 從客體到主體的方向，資訊越暢通越好； 2. 從主體到客體方向，控制信號越暢通越好，資訊密封度越高越好；3. 以上兩條的鬆動調節，最嚴苛的程式保證以各個主體為主導。
來自滴滴 Labs 安全研究的負責人藺毅翀先生也從一個產品經理和創業者的角度，分享了機器學習在人工智慧和資訊安全的應用。BroadLink 的高級副總裁康海洋則在會上來分享了在智慧家居領域如何保證安全。康海洋表示，開發智慧家居產品時，他們主要受到了三種主要威脅：系統、智慧和資料層面。因此，他們需要不斷更新安全演算法，提高整體安全防護能力；在整個智慧家居平臺系統中減少攻擊面，儘量不開放埠；針對資料量過大的問題，通過使用演算法，分析資料的來源和動態，來保障智慧家居領域的安全。
與此同時，科大訊飛的吳江照先生也來到了分論壇現場發表演講，他重點說到了人工智慧與我們的生活之間的聯繫。關於泛安防和智慧互聯領域的 AI 應用，曠視科技的安防技術專家張鑫也分享了公司在公共安全領域的一些應用。
此次，人工智慧與安全倫理分會場的主辦方——中國互聯網安全領袖峰會（Cyber Security Summit，簡稱“CSS”）是由騰訊公司、中國電子技術標準化研究院等企事業單位共同創辦。峰會自2015年創辦至今，得到了安全行業及各個產業的認可，更得到了國家網信辦、工信部、公安部等國家部門的大力支持。目前，由騰訊主辦的CSS正在演變成一個由全球企業、機構共同構建的無邊界網路安全平臺。
同時，本屆中國互聯網安全領袖峰會還聚集了“世界頭號傳奇駭客”Kevin D Mitnick、”電腦安全教母”Dawn Song、Visa副董事長兼首席風險官 Ellen Richey 等來自全球的五千多名安全技術專家，共同圍繞“安全新秩序 連接新機遇”這一主題，聚焦金融安全、大資料與雲安全、安全法治治理、智慧硬體安全、人工智慧等多個安全熱點領域進行了深入探討與分享。旨在新的安全秩序下通過連接打通個產業，以安全護航各產業發展，並保持不斷創新，對各產業網路安全進行深度剖析與資訊資源整合，實現共用、開放、互贏互利。
未來，作為CSS領袖峰會的發起方，騰訊將持續推進和建立開放、協作的安全生態新體系。目前，騰訊安全開放平臺成員已超百家，並將騰訊安全聯合實驗室等核心安全能力、資料全面向合作夥伴開放，安全防範和保障範圍覆蓋了連接、系統、應用、資訊、設備、雲六大互聯網關鍵領域，惠及數億線民，涉及個人生活的方方面面，在推動建立全產業鏈協作的安全體系上做出了切實的努力。