人工智慧（AI)會發展出“意識”威脅人類嗎？不，因為“人工智慧”根本無法像人一樣“白癡”！
最近，矽谷鋼鐵俠、特斯拉CEO伊隆·馬斯克在幾十位美國州長面前，聲稱AI是對人類存在的最大威脅，並且呼籲加強對AI的監管。馬斯克鼓吹這一論調多年，其中不乏有重大影響力的同調者，
紮克伯克針對馬斯克的再一次呼籲不客氣地指出：“我認為那些對AI持否定態度或者鼓吹末日論的人，其實根本沒理解什麼是AI。他們的看法太消極了，甚至有些不負責任”，紮克伯格認為“未來5-10年內，AI將大幅提高我們的生活品質。”
馬斯克對紮克伯格的“不負責任”之說回擊道：“我跟小紮聊過了。他對這事兒（AI）的理解有限”。
李開複博士針對此事在接受自媒體“量子位”的採訪時答道：“AI現在僅僅是人類的工具，離擁有意識的‘超級智慧’（Superintelligence）'還非常遙遠，更別提滅絕人類了。”
辯論的雙方其實都沒有解決論題的根本實質：AI是否真的有可能產生意識？生命的"意識"與“智慧”是否有本質區別？
或者，其實可以更本質、更哲學化地提出一個問題：人有沒有可能像“上帝”一樣創造“生命”？
觀察所謂“AI”的發展，我們會非常清晰地看到，有三大優點使得相比人類，其“智慧”早已經算是“超級”：一、具有超強的資料存儲與調用的能力解決了人類記憶的不足；二、幾乎不會犯下邏輯性的錯誤而沒有人類身上非常容易犯邏輯推理錯誤的毛病；三、不存在任何情緒，
如果一個具有血肉的真實生命具有上述三大優點，我們會說這樣的生命是天才，人類歷史上的“天才”會是人類的“威脅”嗎？真實歷史恐怕不是如此，我們應該倒過來看。
機器具有了這樣的“智慧”之後，哪怕比現在的“阿爾法狗”還要“智慧”千百億倍，真的會具有自主“意識”嗎？對那些狂熱的科幻愛好者來說，很遺憾我們必須破滅他們的幻想並指出：“智慧”與“意識”是兩個不同的範疇，
我的意思是“智慧”與“意識”的差別其實是本質性的，
其次，我們再看“人工智慧”的創造與發展的基本原理，無非可以概括為：一、 強大的資料存儲能力；二、高度機械性的邏輯化，也即進行資料分析的演算法。人類在這兩點上是先天不能相比的，因為人會遺忘，很難總是機械重複不犯錯，但也正因如此，人有情緒有喜怒哀樂，有意志性。人作決定，常常不是因為功利分析，而是由內心深處的基本善惡意志所決定的。人工智慧機器作出決定，是憑資料分析，而資料分析事實上一定是依照某種功利標準模式的，是無法按照常常違反功利標準的善惡喜好來作決定；因為後者是非邏輯性的，甚至有時候是反邏輯的，而人工智慧是不可能違背自己的基本製造原理來行為的，這就意味著它無法具有人類的那種非邏輯性的“意識”。
第三，人類的“非邏輯性的意識”，其實是一種與環境互動的體驗，而這是“人工智慧”所不可能擁有的。“人工智慧”可以模擬種種人類的體驗，甚至非常逼真，乃至以假亂真，通過所謂的“圖靈測驗”，但其本質終究只是如“鸚鵡學舌”一般，不是真正擁有了人類的獨有的體驗、語言能力。就像拿石頭砸人，比用拳頭打人，更容易打痛人，這在某種程度上可以說“石頭”的能力超過人類的“拳頭”，但石頭砸人的本事之所以比人類厲害，恰恰是因為它不會“痛”，它比拳頭更“強硬”更不“脆弱”。就像人類發明的許多工具，譬如汽車替代人類的雙腿，望遠鏡超過眼睛望遠的能力，但這不意味著這些工具的生命性更強。AI本質上依然只是人類的工具，不可能“進化”為生命。這是其本身“誕生”所依賴的根本原理所決定的。
目前，人工智慧在語言的“智慧翻譯”上已經逐步走向成熟發達，我們完全可以預見，在不久的將來，“人工智慧”的翻譯機器將會大量替代人的翻譯，這意味人工智慧其實不僅僅是越來越像人，而且也越來越再度不像人，就是機器本身。因為我們很難找到一個人，“精通”數十門語言，這意味著碰上這種所謂“人”，其實反而就基本可以斷定是“機器”了。
AI其實根本就不與現實互動，僅僅只是在與資料打交道而已人們常常忽略了：“機器”其實是不與“現實”互動的，就像石頭之不知周邊環境的冷暖。機器以演算法為模式，以資料為物件；而人類生命不一樣，資料或符號是人類之間用來交流現實的工具符號，但實踐上，與人類交互的是現實環境，不是對現實環境的抽象結構進行類比與映射的資料。人類其實是可以離開語言等資料工具符號與現實打交道的，無非只是因此會效率降低，顯得有時智商低能了而已，但哪怕就像低等的一隻蚊蟲，並沒有依靠這些符號性的邏輯工具，也能與現實互動，會更具所謂的“真實性”。而我們很難想像，人工智慧離開了“資料”還是所謂的AI。
人工智慧的“思考”模式，我們不妨想像一下，這裡打一個不是完全準確的比喻：其實，人工智慧其實一直好比“精神病患者”，總是自己跟自己的記憶“對話”，也就是說就像精神病人始終跟自己構造出來的記憶中的“材料"或“資料”打交道。對於人工智慧來說，其所面對的“物件”或“現實”是它自己存儲的所有的“資料”，也就是說完全是它自己的“記憶”。但生命並非如此，生命的“記憶”很大程度上是作為建構條件反射所依靠的模式及材料，但總是必須直接面對所發生的現實，經常有全新的體驗，這種“新鮮感”不僅僅是時間意義上的，還有“模式”創新上的。人們會為藝術形式上的變革產生內心的激動，並非是量化意義上的。
而對人工智慧來說，所謂“新”僅僅只是資料庫上存檔的資料的時間度量而已，一切其實都只是量化。
人工“智慧”的思考模式是基於“離散數學”的，但生命面向的是非“離散”的“連續”現實而且，人工智慧的計算永遠是“離散”式的，量化的界限是分明的，是非“連續”的。
但生命的模式，就像數學中還包含無理數一樣，使整個實數域充滿連續，其中沒有任何可分割的“洞”或“界限”。
就像“無理數”的存在反映了真實世界的無窮動態的不可再造，所以人類的機器永遠只可能是用“離散”的方式去近似計算，“逼近”而已。由此來看，生命體現了宇宙的本質真理，是無法人為構造的。
因此，就像“核能”的可怕不再於“核能”本身，而是掌握“核能”的人類社會。真正要害的問題是人類的政治制度是否足夠良性，以抑制人類本身的邪惡意志，而充分發揮出善良的和平的意志。
人工智慧哪怕能模仿“人類意志”性的行為，最終決定其方向，依然還是人類自身的善良與邪惡。如果人類提供給其學習的資料都是邪惡與淫穢的，那麼就像那些黃色網站，指導人“自殺”與“犯罪”的網站，自然會幹出種種壞事。但其實，不是機器幹壞事，還是人本身在幹壞事！
所以，應該警惕的還是人本身，人本身的精神模式與組織方式！
其次，我們再看“人工智慧”的創造與發展的基本原理，無非可以概括為：一、 強大的資料存儲能力；二、高度機械性的邏輯化，也即進行資料分析的演算法。人類在這兩點上是先天不能相比的，因為人會遺忘，很難總是機械重複不犯錯，但也正因如此，人有情緒有喜怒哀樂，有意志性。人作決定，常常不是因為功利分析，而是由內心深處的基本善惡意志所決定的。人工智慧機器作出決定，是憑資料分析，而資料分析事實上一定是依照某種功利標準模式的，是無法按照常常違反功利標準的善惡喜好來作決定；因為後者是非邏輯性的，甚至有時候是反邏輯的，而人工智慧是不可能違背自己的基本製造原理來行為的，這就意味著它無法具有人類的那種非邏輯性的“意識”。
第三，人類的“非邏輯性的意識”，其實是一種與環境互動的體驗，而這是“人工智慧”所不可能擁有的。“人工智慧”可以模擬種種人類的體驗，甚至非常逼真，乃至以假亂真，通過所謂的“圖靈測驗”，但其本質終究只是如“鸚鵡學舌”一般，不是真正擁有了人類的獨有的體驗、語言能力。就像拿石頭砸人，比用拳頭打人，更容易打痛人，這在某種程度上可以說“石頭”的能力超過人類的“拳頭”，但石頭砸人的本事之所以比人類厲害，恰恰是因為它不會“痛”，它比拳頭更“強硬”更不“脆弱”。就像人類發明的許多工具，譬如汽車替代人類的雙腿，望遠鏡超過眼睛望遠的能力，但這不意味著這些工具的生命性更強。AI本質上依然只是人類的工具，不可能“進化”為生命。這是其本身“誕生”所依賴的根本原理所決定的。
目前，人工智慧在語言的“智慧翻譯”上已經逐步走向成熟發達，我們完全可以預見，在不久的將來，“人工智慧”的翻譯機器將會大量替代人的翻譯，這意味人工智慧其實不僅僅是越來越像人，而且也越來越再度不像人，就是機器本身。因為我們很難找到一個人，“精通”數十門語言，這意味著碰上這種所謂“人”，其實反而就基本可以斷定是“機器”了。
AI其實根本就不與現實互動，僅僅只是在與資料打交道而已人們常常忽略了：“機器”其實是不與“現實”互動的，就像石頭之不知周邊環境的冷暖。機器以演算法為模式，以資料為物件；而人類生命不一樣，資料或符號是人類之間用來交流現實的工具符號，但實踐上，與人類交互的是現實環境，不是對現實環境的抽象結構進行類比與映射的資料。人類其實是可以離開語言等資料工具符號與現實打交道的，無非只是因此會效率降低，顯得有時智商低能了而已，但哪怕就像低等的一隻蚊蟲，並沒有依靠這些符號性的邏輯工具，也能與現實互動，會更具所謂的“真實性”。而我們很難想像，人工智慧離開了“資料”還是所謂的AI。
人工智慧的“思考”模式，我們不妨想像一下，這裡打一個不是完全準確的比喻：其實，人工智慧其實一直好比“精神病患者”，總是自己跟自己的記憶“對話”，也就是說就像精神病人始終跟自己構造出來的記憶中的“材料"或“資料”打交道。對於人工智慧來說，其所面對的“物件”或“現實”是它自己存儲的所有的“資料”，也就是說完全是它自己的“記憶”。但生命並非如此，生命的“記憶”很大程度上是作為建構條件反射所依靠的模式及材料，但總是必須直接面對所發生的現實，經常有全新的體驗，這種“新鮮感”不僅僅是時間意義上的，還有“模式”創新上的。人們會為藝術形式上的變革產生內心的激動，並非是量化意義上的。
而對人工智慧來說，所謂“新”僅僅只是資料庫上存檔的資料的時間度量而已，一切其實都只是量化。
人工“智慧”的思考模式是基於“離散數學”的，但生命面向的是非“離散”的“連續”現實而且，人工智慧的計算永遠是“離散”式的，量化的界限是分明的，是非“連續”的。
但生命的模式，就像數學中還包含無理數一樣，使整個實數域充滿連續，其中沒有任何可分割的“洞”或“界限”。
就像“無理數”的存在反映了真實世界的無窮動態的不可再造，所以人類的機器永遠只可能是用“離散”的方式去近似計算，“逼近”而已。由此來看，生命體現了宇宙的本質真理，是無法人為構造的。
因此，就像“核能”的可怕不再於“核能”本身，而是掌握“核能”的人類社會。真正要害的問題是人類的政治制度是否足夠良性，以抑制人類本身的邪惡意志，而充分發揮出善良的和平的意志。
人工智慧哪怕能模仿“人類意志”性的行為，最終決定其方向，依然還是人類自身的善良與邪惡。如果人類提供給其學習的資料都是邪惡與淫穢的，那麼就像那些黃色網站，指導人“自殺”與“犯罪”的網站，自然會幹出種種壞事。但其實，不是機器幹壞事，還是人本身在幹壞事！
所以，應該警惕的還是人本身，人本身的精神模式與組織方式！