哈佛大學甘迺迪政治學院貝爾弗科學與國際事務中心7月發佈《人工智慧與國家安全》報告, 分析人工智慧(AI)對美國家安全的巨大影響, 為美政府AI政策提供建議。
報告概要:
雖然美國軍事和情報界計畫在投資組合中納入更多人工智慧技術, 但最具顛覆性的AI應用尚未實現。 報告提出了制定人工智慧和國家安全未來政策的三個目標:
保持美國技術領先優勢, 為軍事和情報能力優勢提供砝碼。
支援AI用於和平和商業用途, 幫助民事和商業部門享受新技術帶來的好處。
減少災難性風險, 防範或降低偶發/敵對事件帶來的嚴重後果。
重點內容:
AI技術發展迅猛
人工智慧領域在過去5年取得了顯著的技術進步, 遠遠超出預期;這種形勢還將會繼續發展, 甚至會進一步提速。 推動AI快速發展的4個因素是:電腦性能在近幾十年呈指數級增長、訓練機器學習的大型資料集數量增加、機器學習技術不斷進步、商業投資猛增。 其中機器學習子領域的發展是主因。
AI技術是給國家安全帶來深刻變化的顛覆性技術
現有的AI技術能力在國家安全方面擁有巨大潛力, 如機器學習技術可使衛星圖像分析和網路防禦等勞動密集型活動實現高度自動化。 未來的AI技術有可能與核武器、飛機、電腦和生物技術一樣, 成為給國家安全帶來深刻變化的顛覆性技術。
AI技術對國家安全的具體影響
在軍事方面, AI的發展將產生新的能力, 並使現有能力成本被更廣泛的行為體所接受, AI催生的商業可用技術(如遠端無人機包裹運送等)可能會使弱國和非國家行為體獲得遠端精准打擊能力。 在網路領域, 目前需要大量高技能勞動力的活動(如先進持續性威脅行動等)未來可能會實現高度自動化, 並在黑市上廣泛出售。 在資訊優勢方面, AI將大幅提升資料收集、分析以及建立資料的能力。 在情報行動中, 意味著有越來越多的資訊源可供分辨真相;相應的,
變革性技術案例帶來的經驗
該機構分析了之前的核、航空航太、網路和生物技術4個變革性軍事技術案例, 從中提取出以下幾條可用的經驗和教訓:激進的技術變革催生全新的政府政策及思想, 世界各國政府將考慮甚至部分國家將採取相當激進的政策措施;AI在戰爭和間諜活動上的擴展應用是不可避免的, 但必須設立更加溫和的目標, 對AI技術進行安全有效的管理;必須認識到AI技術固有的軍民兩用性, 對突破性技術進行保密和保護,
報告建議:
報告對美國政府有關AI技術的國家安全政策提出3項目標和11項建議。
維持美國的技術領先優勢
國防部應開展以AI為核心的軍事演習, 以甄別潛在的顛覆性軍事創新;國防部應資助以人工智慧技術及影響為主題的各種長期戰略分析;國防部應優先考慮能夠提供可持續優勢並降低核心風險的AI研發投資領域;美國防情報界應大力投資“反AI”的進攻和防禦能力。
支援AI技術用於和平目的
DARPA、IARPA、海軍研究辦公室和國家科學基金會應增加與AI相關的基礎研究經費;國防部應發佈關於AI軍民兩用能力的資訊徵詢書;向美國In-Q-Tel公司(專門服務於中央情報局)提供更多資源,
管理災難性風險
國家安全委員會和國務院需研究美國應利用條約的形式限制哪些AI應用;國防和情報部門應設立專門的AI安全機構;DARPA應為AI系統自動防故障和安全運行技術研究提供資金;國家標準與技術研究院和國家安全局應探索防AI造假技術方案。