著名物理學家斯蒂芬·霍金去世了， 享年76歲。
至少有3個關鍵字， 是提到霍金總避不開的：黑洞、外星人、人工智慧。
人工智慧可能終結人類文明
我的一生中， 我見證了許多深刻的社會變化。 其中最深刻、對人類影響與日俱增的變化就是人工智慧的崛起。 簡單地說， 我認為人工智慧的崛起， 要麼是人類歷史上最好的事， 要麼是最糟的事。 是好是壞， 我們依然不能確定。 但是， 我們應該竭盡全力確保其未來發展對我們的後代和環境有利。 我們別無選擇。 我認為人工智慧的發展， 本身是一種存在著問題的趨勢，
人工智慧的研究與開發正在迅速推進。 也許科學家應該暫停片刻， 把研究重點從提升人工智慧的能力轉移到增強人工智慧的社會效益。 基於這樣的考慮， 美國人工智慧協會於2008—2009年成立了人工智慧長期未來總籌論壇。 人工智慧系統必須要按照我們的意志工作。 那麼跨學科研究也許是一條可行的道路：涉及經濟、法律、哲學， 以及電腦安全、形式化方法， 當然還有人工智慧本身的各個分支。
人工智慧不斷發展， 並被證明非常有用。 同時， 我也在擔憂這樣的結果：創造出等同或超越人類的人工智慧， 一旦其脫離束縛並以不斷加速的狀態重新自我設計時， 人類由於受到漫長的生物進化的限制，
調研人工智慧的影響
過去20年裡， 人工智慧一直專注于建設智慧代理（即在特定環境下可以感知並行動的各種系統）所產生的問題。 智慧是一個與統計學和經濟學相關的理性概念， 通俗地講， 是一種能做出好的決定、計畫和推論的能力。 基於這些工作， 大量的整合和交叉孕育被應用在人工智慧、機器學習、統計學、控制論、神經科學以及其他領域。 共用理論框架的建立， 結合資料的供應和處理能力， 在各種細分的領域取得了顯著的成功， 例如語音辨識、圖像分類、自動駕駛、機器翻譯、步態運動和問答系統。
近來的里程碑， 比如之前提到的無人駕駛汽車， 以及人工智慧贏得圍棋比賽， 都是未來趨勢的跡象。 我們目前所取得的成就， 和未來幾十年後可能取得的成就相比必然相形見絀， 而且我們遠不能預測我們能取得什麼成就。 也許在這種新技術革命的輔助下， 我們可以解決一些工業化對自然界造成的損害。
但是， 人工智慧也有可能是人類文明史的終結， 除非我們學會如何避免危險。 我曾經說過， 人工智慧的全方位發展可能招致人類的滅亡， 比如最大化使用智慧性自主武器。 目前， 9個核大國可以控制大約14000個核武器， 這些核武器失去控制後可能將城市夷為平地， 放射性廢物會大面積污染農田， 最可怕的危害是誘發核冬天， 火和煙霧會導致全球的小冰河期。 這一結果使全球糧食體系崩塌， 末日般動盪， 很可能導致大部分人死亡。 作為科學家， 我們對核武器承擔著特殊的責任。
我對人工智慧的災難探討可能驚嚇到了各位， 很抱歉。 但是作為今天的與會者， 重要的是， 在影響當前技術的未來研發中， 你們要清楚自己所處的位置。
我相信我們團結在一起， 來呼籲國際條約的支持或者簽署呈交給各國政府的公開信， 科技領袖和科學家正極盡所能避免不可控的人工智慧的崛起。 我們對潛在危險有所意識， 我內心仍秉持樂觀態度， 我相信創造智慧的潛在收益是巨大的。 也許借助這項新技術革命的工具， 我們將可以削減工業化對自然界造成的傷害。
人工智慧的未來進展
歐洲議會呼籲起草一系列法規， 以管理機器人和人工智慧的創新。 令人驚訝的是，這裡涉及一種形式的電子人格，以確保最有能力和最先進的人工智慧盡到其應盡的權利和責任。
歐洲議會發言人評論說，隨著日常生活中越來越多的領域日益受到機器人的影響，我們需要確保機器人無論現在還是將來，都為人類服務。
向歐洲議會議員提交的報告，明確認為世界正處於新的工業機器人革命的前沿。報告中分析了是否應該給機器人提供作為電子人的權利。報告強調，任何時候，研究和設計人員都應確保每一個機器人設計都包含有終止開關。報告承認在幾十年的時間內，人工智慧可能會超越人類智力範圍，進而挑戰人機關係。報告最後呼籲成立歐洲機器人和人工智慧機構，以提供技術、倫理和監管方面的專業知識。
人工智慧發展進程中，我們還應該扮演一個角色，確保下一代不僅有機會還要有決心。我們需要跳出“事情應該如何”這樣的理論探討，並且採取行動，以確保他們有機會參與進來。
我們站在一個美麗新世界的入口。這是一個令人興奮的、同時充滿了不確定性的世界，而你們是先行者。我祝福你們。
本文來自《科學畫報》
令人驚訝的是，這裡涉及一種形式的電子人格，以確保最有能力和最先進的人工智慧盡到其應盡的權利和責任。歐洲議會發言人評論說，隨著日常生活中越來越多的領域日益受到機器人的影響，我們需要確保機器人無論現在還是將來，都為人類服務。
向歐洲議會議員提交的報告，明確認為世界正處於新的工業機器人革命的前沿。報告中分析了是否應該給機器人提供作為電子人的權利。報告強調，任何時候，研究和設計人員都應確保每一個機器人設計都包含有終止開關。報告承認在幾十年的時間內，人工智慧可能會超越人類智力範圍，進而挑戰人機關係。報告最後呼籲成立歐洲機器人和人工智慧機構，以提供技術、倫理和監管方面的專業知識。
人工智慧發展進程中，我們還應該扮演一個角色，確保下一代不僅有機會還要有決心。我們需要跳出“事情應該如何”這樣的理論探討，並且採取行動，以確保他們有機會參與進來。
我們站在一個美麗新世界的入口。這是一個令人興奮的、同時充滿了不確定性的世界，而你們是先行者。我祝福你們。
本文來自《科學畫報》