人工智慧（AI）將改變世界， 但這是“惡”還是“善”， 備受爭議。 為此， 一個專家團隊齊聚亞利桑那州立大學（ASU）的“設想和解決不良AI的結果”研討會，
人工智慧科學家Eric Horvitz指出， AI具有巨大的潛力， 以多種方式影響到社會的各個方面。 同時， 就像任何技術一樣， 人工智慧有利也有弊。
作為AI樂觀支持者的一員， Horvitz表示非常看好人工智慧的未來。 與此同時， 他也認為AI要想贏得公眾的信任， 那麼在技術方面仍要不斷努力。 為了實現這一點， 所有圍繞著技術的問題都要被討論。
專家希望這次對話能夠解決有關AI的問題。 由科學家、網路安全專家和政策制定者組成的40個人， 被分成兩隊， 討論AI會以哪些方式給世界造成麻煩。
紅隊的任務是將AI可能導致的災難性情況都列出來， 藍隊則被要求設計相應的解決方案。 假設的情況也要基於當前的技術， 而不是胡亂假設一通。
若人工智慧“失控”
紅隊假設AI可能存在的風險有以下幾種。 自動網路攻擊（這是一種足夠智慧的網路武器， 在攻擊後能隱藏自己， 並能防止被毀滅）， 股票市場將被操縱， 無人駕駛技術無法對關鍵路標進行識別，
並不是每一個問題都給予了足夠的解決方案， 表明了人類目前面對AI可能帶來的糟糕情況毫無準備。 例如， 在智慧自動化網路攻擊的情況下， 攻擊者很容易使用不知情的互聯網遊戲玩家來掩蓋自己的蹤跡， 使用類似於線上遊戲來掩蓋攻擊本身。
將其作為娛樂的人可能認為這些是無稽的末日景象， 但實際上這些假設是向認識AI可能構成的威脅邁出了深思熟慮的第一步。
美國國防部高級研究計畫署的John Launchbury希望這場討論能給網路戰爭、自動化武器和機器人部隊制定具體的協議。
研討會的目的不是為了煽動恐懼情緒， 而是合理、現實地預測技術如何被濫用的各種可能性， 並希望能在AI防禦方面取得突破。