可能關於人工智慧毀滅世界， 人們更容易直接聯想到如果外星人入侵地球， 它們作為生物， 帶著高級文明會怎麼毀滅我們。
而人工智慧畢竟是我們創造的，
我們很難想像自己家裡的掃地機器人是怎樣產生自我意識然後決定毀滅人類的。
這的確非常難， 至少目前來看幾乎是不可達成的。
想先介紹一下圖靈測試
圖靈測試的方法是， 被測試人， 和一個是聲稱自己有人類智力的機器。 測試時， 測試人與被測試人是分開的， 測試人只有通過一些裝置（如鍵盤）向被測試人問一些問題， 這些問題隨便是什麼問題都可以。 問過一些問題後， 如果測試人能夠正確地分出誰是人誰是機器， 那機器就沒有通過圖靈測試， 如果測試人沒有分出誰是機器誰是人， 那這個機器就是有人類智慧的。
但是真的想通過圖靈測試是很難的， 比如你問一個陌生人類，
正常人會感到被侵犯隱私， 對方魯莽， 會搪塞的回答。 即使願意回答這個問題， 也會考慮如何美化或者淡化某些方面。
但是對於AI， 首先判斷對方問題的情緒就很難。 其次讓它收集周圍資訊（就算他有女朋友的話）， 這些資訊哪些是重要的那些是不重要的哪些是私密的都很難自主判斷。
而如果所有判斷都要AI的設計者來教給他是不可能的。
再拋開電腦不談， 人類自己對生物的認知都還在初級階段。 只知道自己怎麼想的， 連自己為什麼這麼想都不知道。 整個一個黑盒子。
想拿個如此複雜的黑盒子做逆向工程也太不現實了。 所以其實我本人並不認為AI會發展的有多快， 也不認為毀滅人類的事情會在近幾年近幾十年發生。
與其擔心人類被自己創造的只能毀滅， 還不如擔心人類中出現超厲害反人類科學家。
最後講個一個驚悚故事
“教授， 我覺得我們處在危險之中， 我們的AI沒有通過圖靈測試”
“那有什麼危險的”
“因為他本應該通過的”