2017年人工智慧與國家安全報告
哈佛大學甘迺迪政治學院貝爾弗科學與國際事務中心7月發佈《人工智慧與國家安全》報告,分析人工智慧(AI)對美國家安全的巨大影響,為美政府AI政策提供建議。
報告概要:
雖然美國軍事和情報界計畫在投資組合中納入更多人工智慧技術,
保持美國技術領先優勢,為軍事和情報能力優勢提供砝碼。
支援AI用於和平和商業用途,幫助民事和商業部門享受新技術帶來的好處。
減少災難性風險,防範或降低偶發/敵對事件帶來的嚴重後果。
重點內容:
AI技術發展迅猛
人工智慧領域在過去5年取得了顯著的技術進步,遠遠超出預期;這種形勢還將會繼續發展,甚至會進一步提速。推動AI快速發展的4個因素是:電腦性能在近幾十年呈指數級增長、訓練機器學習的大型資料集數量增加、機器學習技術不斷進步、商業投資猛增。其中機器學習子領域的發展是主因。
AI技術是給國家安全帶來深刻變化的顛覆性技術
現有的AI技術能力在國家安全方面擁有巨大潛力,
AI技術對國家安全的具體影響
在軍事方面,AI的發展將產生新的能力,並使現有能力成本被更廣泛的行為體所接受,AI催生的商業可用技術(如遠端無人機包裹運送等)可能會使弱國和非國家行為體獲得遠端精准打擊能力。在網路領域,目前需要大量高技能勞動力的活動(如先進持續性威脅行動等)未來可能會實現高度自動化,並在黑市上廣泛出售。在資訊優勢方面,AI將大幅提升資料收集、分析以及建立資料的能力。
變革性技術案例帶來的經驗
該機構分析了之前的核、航空航太、網路和生物技術4個變革性軍事技術案例,
報告建議:
報告對美國政府有關AI技術的國家安全政策提出3項目標和11項建議。
維持美國的技術領先優勢
國防部應開展以AI為核心的軍事演習,以甄別潛在的顛覆性軍事創新;國防部應資助以人工智慧技術及影響為主題的各種長期戰略分析;國防部應優先考慮能夠提供可持續優勢並降低核心風險的AI研發投資領域;美國防情報界應大力投資“反AI”的進攻和防禦能力。
支援AI技術用於和平目的
DARPA、IARPA、海軍研究辦公室和國家科學基金會應增加與AI相關的基礎研究經費;國防部應發佈關於AI軍民兩用能力的資訊徵詢書;向美國In-Q-Tel公司(專門服務於中央情報局)提供更多資源,促進國家安全機構和AI商業公司的合作。
管理災難性風險
國家安全委員會和國務院需研究美國應利用條約的形式限制哪些AI應用;國防和情報部門應設立專門的AI安全機構;DARPA應為AI系統自動防故障和安全運行技術研究提供資金;國家標準與技術研究院和國家安全局應探索防AI造假技術方案。
報告建議:
報告對美國政府有關AI技術的國家安全政策提出3項目標和11項建議。
維持美國的技術領先優勢
國防部應開展以AI為核心的軍事演習,以甄別潛在的顛覆性軍事創新;國防部應資助以人工智慧技術及影響為主題的各種長期戰略分析;國防部應優先考慮能夠提供可持續優勢並降低核心風險的AI研發投資領域;美國防情報界應大力投資“反AI”的進攻和防禦能力。
支援AI技術用於和平目的
DARPA、IARPA、海軍研究辦公室和國家科學基金會應增加與AI相關的基礎研究經費;國防部應發佈關於AI軍民兩用能力的資訊徵詢書;向美國In-Q-Tel公司(專門服務於中央情報局)提供更多資源,促進國家安全機構和AI商業公司的合作。
管理災難性風險
國家安全委員會和國務院需研究美國應利用條約的形式限制哪些AI應用;國防和情報部門應設立專門的AI安全機構;DARPA應為AI系統自動防故障和安全運行技術研究提供資金;國家標準與技術研究院和國家安全局應探索防AI造假技術方案。