物理學家斯蒂芬·霍金在接受英國《泰晤士報》採訪時反復重申：人工智慧在給人類帶來各種可能性的同時， 也帶來了風險和威脅。 他認為， 世界政府是解決人工智慧和其他全球挑戰的途徑之一。
霍金對人工智慧的態度可謂愛恨交加：他無疑是人工智慧的擁躉之一；但他也曾毫無保留地指出， 人工智慧會給人類帶來一些挑戰。 在最近的一次採訪中， 他舊調重彈， 並提供了一種讓保守人士很難接受的解決方案。
3月7日， 75歲的霍金憑藉在理論物理和宇宙學領域的突出成就榮膺“倫敦自由榮譽獎”， 這是倫敦市政府頒發的最高榮譽。 頒獎結束後， 霍金在接受《泰晤士報》採訪時表示， 他對未來很樂觀， 但他也對人工智慧和其他全球性威脅深感憂慮。 他給出的答案是：國際行動， 可能的話， 世界政府。
霍金說：“我們應該快馬加鞭‘揪出’此類威脅， 並在它們變得失控之前採取行動。
然而， 他也警告稱， 世界政府這樣一種解決方案“可能會演變成一種專橫的暴政”。 隨著人工智慧在現代社會中發揮的作用與日俱增， 電腦科學家和政策制定者們的工作也從構建這樣的系統,轉變到利用其強大能力為社會大眾謀福祉。 儘管觀察人士對人工智慧的某些認識大相徑庭， 但他們也達成了一個廣泛認可的共識：人工智慧帶來的負面影響需要被解決， 或許世界政府能提供一種解決方案。
英國牛津大學的教授Nick Bostrom 對此心有戚戚焉， 他在發給《基督教科學箴言報》的郵件中表示：“是的， 我認為不斷改善的世界治理不可或缺， 它不僅可以應對日益精進的人工智慧，
Nick Bostrom是牛津大學人類未來實驗室的創辦負責人， 他說：“儘管我們能夠持續不斷地研製出各種功能更強大的工具， 但我不確定我們能作為一個分裂的世界無期限地存活下去。 ”
今天， 人工智慧似乎無所不在。 它隱藏在自動駕駛汽車背後；它讓Facebook的廣告篩選過程變得更強大；它通過Apple的Siri和Amazon的Alexa等虛擬助手與人相互交流。 在紐約城， 它能預測火災；在英國， 人們部署機器學習來償還債務。 霍金以前曾指出， 最終， 人工智慧甚至能消除疾病和貧窮等社會頑疾。
但觀察人士稱， 獨特的機會伴隨著獨特的問題。 有人擔心， 在一個全部由機器支配的社會， 經濟可能面臨極大的挑戰。
普林斯頓大學電腦科學和公共事務教授Edward Felten 在接受《基督教科學箴言報》書面採訪時解釋稱：“有兩大經濟風險——首先，
他認為， 可以通過採用好的公共政策來解決這些問題， 這些公共政策能對生產力提高帶來的好處進行分配。
然而， 霍金的言外之意是：他擔心人工智慧會變得超級強大並採用人類無法控制的方式行動。 不過並非所有人都確信， 科幻小說中描寫的獨斷專行的機器一定會出現。 比如， Felten教授就表示， 他並沒有看到“電腦科學的發展足以讓我們得出結論——機器智慧會突然加速發展。
而“未來今天研究所”（Future Today Institute）的創辦者兼首席執行官Amy Webb對此則更為謹慎。 她解釋稱， 人工智慧的目標之一是教會機器能在一個“無人監督的學習”系統中， 自己理出頭緒。 這意味著我們需要信任機器， 相信這些人工智慧系統能做出正確的決定。 她認為這種情況就好比一個學生在教室裡學習數學。 “但如果學生在學習的過程中， 學到了不正確的答案：比如1+1=3， 並且接著教下一群學生， 錯誤的答案會不斷擴散， 影響其他決定， 所謂牽一髮而動全身， 結局會如何？”
而且， 數學課出現的錯誤與人工智慧系統造成的風險不可同日而語， 因為我們賦予了人工智慧很多重任：比如進行身份識別、為人們的安全保駕護航、部署武器， 等等。”
Bostrom將人工智慧現在面臨的問題看成是“一種可升級的控制：如何確保人工智慧與其程式開發者的意圖保持一致”。
這些受訪者表示，有現在儘管微小但不斷發展壯大的研究領域在嘗試解決這些問題，世界政府或人工智慧法律的國際統一也不失為一種方法。Bostrom表示，儘管他不認為“全球事務領域近期會出現任何轉變”，但政治聚集的下一階段可能就是世界政府。
Bostrom 說：“人類的社會治理方式在不斷發生變化，從狩獵帶到酋邦再到單一民族國家直到目前的國家和國際組織相互交織。再前進一步，我們就到了世界政府。”
儘管Webb女士也同意國際合作意義重大，但她懷疑這一情況是否會儘快到來，足以解決這些迫在眉睫的問題。
Webb 指出：“如果全球各國在人工智慧的標準和用途方面達成一致意見，這不啻為好事一件。但現實情況是，此刻，我們甚至不能就氣候變化達成單邊協定，因此，國際政府之間的合作跟上人工智慧發展的步伐還有待時日。”
技術政策研究所（Technology Policy Institute）的負責人兼資深研究員ScottWallsten說，隨著人工智慧變得無孔不入，政府決定可能也會受到人類行為無法預期的變化的影響。
Wallsten 博士反問道：“基於人工智的更安全的汽車會使人們更魯莽地行動，比如闖紅燈——如果他們相信汽車能自動停止的話，會這樣嗎？”
等等。”Bostrom將人工智慧現在面臨的問題看成是“一種可升級的控制：如何確保人工智慧與其程式開發者的意圖保持一致”。
這些受訪者表示，有現在儘管微小但不斷發展壯大的研究領域在嘗試解決這些問題，世界政府或人工智慧法律的國際統一也不失為一種方法。Bostrom表示，儘管他不認為“全球事務領域近期會出現任何轉變”，但政治聚集的下一階段可能就是世界政府。
Bostrom 說：“人類的社會治理方式在不斷發生變化，從狩獵帶到酋邦再到單一民族國家直到目前的國家和國際組織相互交織。再前進一步，我們就到了世界政府。”
儘管Webb女士也同意國際合作意義重大，但她懷疑這一情況是否會儘快到來，足以解決這些迫在眉睫的問題。
Webb 指出：“如果全球各國在人工智慧的標準和用途方面達成一致意見，這不啻為好事一件。但現實情況是，此刻，我們甚至不能就氣候變化達成單邊協定，因此，國際政府之間的合作跟上人工智慧發展的步伐還有待時日。”
技術政策研究所（Technology Policy Institute）的負責人兼資深研究員ScottWallsten說，隨著人工智慧變得無孔不入，政府決定可能也會受到人類行為無法預期的變化的影響。
Wallsten 博士反問道：“基於人工智的更安全的汽車會使人們更魯莽地行動，比如闖紅燈——如果他們相信汽車能自動停止的話，會這樣嗎？”