新智元推薦
作者：鮑捷
【新智元導讀】本文為鮑捷的最新力作， 觀點犀利。 作者首先提出人類的大多數， 終將陷入文化的真社會性的工蜂階層，
不要問機器為你做了什麼， 問問你為機器做了什麼。
人是軟體定義的動物
人有三萬個基因。 幾百個基因的區別就能區分兩個物種。 但人的一生其實被文因（Meme）塑造， 一生被imprint（思想鋼印）進大腦的文因， 何止三萬個。 兩種不同文化的人， 其行為的差別， 超越任何物種的差別。
人類是一種軟體定義的生物， 是軟體賦予了我們進化的無窮潛力， 直至毀滅自身的可能。 為了可以灌入軟體， 我們不惜讓每個嬰兒都早產一年。
社會是軟體定義的種群。 人類在最近 5000 年鍥而不捨， 把定義人的軟體轉寫為定義社會的軟體， 直到社會本身崛起為新的生物。
但文化進化的速度與基因進化速度的鴻溝越來越大。 文化進化的速度越來越快， 和基因進化的慢速矛盾越來越大。 人類的基本認知能力並無大的進步，
人類科技進步的大部分投資“浪費”在了通信上。 首先， 由於大多數的資本掌握在對科學一竅不通的人手裡， 人類要花費巨額的時間和投入去讓這些動物理解。 其次， 由於人類硬體的先天限制， 需要花二十年時間才能從知識上複製一個人。
文化進化速度的提高， 不僅在於機器的速度， 而且在於人的理解速度。 真正的語義通信的速度，
基因是自私的， 文化也是自私的。 賦予人類獲得進化優勢的文化是自私的， 它不在乎它的載體的存亡， 它只服從與在競爭中複製自己。 人類從書寫開始， 就不斷在文化進化的壓力下， 乖乖地做文化轉移載體的工具。 從祭司到軟體工程師， 都在做文化進化的線粒體。
建立人人平等的社會是人類自古以來的理想， 但也從來沒有成功過。 這是個非常崇高和善良的理想，
人類的大多數， 終將陷入文化的真社會性的工蜂階層。 他們將留不下文化的後裔。 他們將被機器取代。
烏合之眾
人類基本的資訊處理能力， 還是在大規模（超過數百人）社會形成之前。 語言， 視覺，聽覺，信任，對證據的直覺依賴，都是適應於草原部落生活的進化。這些已經寫入基因，構成認知的快速通道和潛意識。而文字，符號，邏輯，科學方法（指系統的尋證方法），超越小部落的信任傳遞，這些是後生，慢速，困難的。機器在群體上只要超越了爬行動物，就可以超越人類。
人類有四套認知系統：原始的爬行動物認知系統，5萬年前語言成熟時發展的，5000年前文字發明後發展的，和500年前科學興起後發展的。每一套都比前一套更不“自然”，更耗費能量，速度更慢。所以人總是傾向於用低層次的認知系統。
並不是說90%的人只會用5萬年前的認知方式思考，每個人都是多種認知方式的綜合，比例不同。而人群的總體，在90%的人腦“機時”裡，是那些原始的認知在起作用。能夠有效利用這種特點的人，都成了偉大的政治家，教主和商業領袖。90%只是個大意，並不是說真的精確到這個數字，總體人群的大多數大多數時間傾向於“不動腦子”，這個應該很容易理解。
這裡定性地定義一下“愚蠢”：是指人類的一種認知的惰性，使個體比較偏向於使用5萬年前成熟的那套思維系統，而不是5000年前文字發明和500年前科學發展後發展的這兩套思維系統。行為經濟學，人機界面設計，傳播理論裡對這種“非理性”有很多研究。
人類的理性與非理性矛盾，早在文字或者文明產生前就已存在。思維的每一步躍遷，都要求更多的能量，但能量供給有限，這就要求原始猿類或人類在有限時間內利用較原始的認知作出決策。故而人類從總體上是一個非常難以協調的物種，因為我們文化的進化遠遠超過了基因進化的速度，我們需要極大的成本才能溝通和複製知識。沒有強力的組織，人類社會很容易分崩離析。一群無組織的人類和一群蜥蜴的智力無異。
人類無法擺脫迷信。吃飯是個體存續的基礎，迷信是社會存續的基礎。大腦不是用來思考的，它的真正作用在於使你避免思考。我們的大腦的絕大部分，都是在讓我們順從激素、爬行動物腦，而不是去動用耗能昂貴的分析，特別是不要去動用後天才能獲得的符號和理性思維。分析、符號和理性都是大腦的敵人，我們必須無時無刻不和本能做鬥爭才能運用它們。人類社會自己的複雜性已經是普遍不可能理解的了。如果人人都追求理性，而社會維持成本就會極高，我們需要十倍、百倍的物質和能量消耗才能維持社會。
政治，宗教，計算廣告學之所以能奏效，就是基於無組織人群的普遍愚蠢。人類在可以遇見的將來不能消除這些愚蠢。人工智慧超越人的智慧，並不需要比人聰明，而只需要避免的人的愚蠢就夠了。
作為集體的機器不會出現烏合之眾現象。因為烏合之眾現象是人的gene和meme進化速度失配造成的。機器社會與機器個體不存在這種失配。因此人類終將被“社會機器”取代，因為人類無法克服自己的本性。
愛情和意識對AI只是Bug
人工智慧不是人類智慧。
1）AI實現的不是人的智慧
2）AI的設計和人腦的工作過程無關
3）AI感知的世界和人感知的世界全然不同
4）機器需要的智慧和人需要的完全不同。
人工智慧不是要複製人的智慧，而只是要適應人的愚蠢。機器只是笨，人是愚蠢。笨可以治，蠢是世界觀，無藥可救。人工智慧就是一些演算法，和人的智慧是沒有關係的，也不應該有關係。人的智慧是很糟糕的東西，機器根本不需要模仿這麼拙劣的東西。
人類往往迷戀於喜怒哀樂，往往認為理解這些才是真正的智慧。但是這些也只是人類在發展社會性的進化過程中發展起來的延伸的表現型。另一類系統不需要付出這些成本也可以構成堅強的社會，因為它們有完全不同的通信手段。
人工智慧並不只是機器人。它是我們通信的介面，是我們構造的秩序。它不是要取代大腦，而是增補大腦。它要解決的不是人個體的問題，而是社會和文化的問題。寫進基因的智慧AI比較難模仿，最近50000年文化產生的智慧比較容易。說到底，目前的AI是一種從人作為文化載體到機器作為文化載體的過渡。
人類擔心機器會進化出意識，就像擔心螞蟻會喜歡林志玲。意識也只是進化過程中一種特定的適應性，並非智慧的必然的高級屬性。同樣，愛情也只是社會性的進化出來的表現型。
對於機器，沒有愛情和意識是個 feature，不是bug。他們完全不需要這些bug。
圖靈測試
人總是在問機器何時通過人的圖靈測試。其實結局是人何時通過機器的圖靈測試。機器可能通過前者，人永遠通不過後者。
圖靈測試說，超過30%的人無法區分人和電腦就算過了。問題是，哪些人能代表人類？所以這是個政治問題。如果民主的話，那圖靈測試現在就可以過了。 我覺得全人類有一個“人類圖靈測試指數”，就是把所有人中能識別當前最先進的AI是否為人的比例。鑒於大多數人並不理性思考，想想有多少人還信各種莫名其妙的巫術，我覺得這個人類圖靈測試指數應該是一個非常低的數字。
相對應的是“機器圖靈測試指數”，就是最聰明的人能否識別各種AI是否為人的比例。這接近于一般意義上的圖靈測試。該值應該是很高的。
人不是理性動物，人對機器智慧程度的判斷會深深受大腦固化的非理性支配。圖靈測試考驗的最終不是機器的智慧，而是人的智慧。
圖靈測試不是問題，圖靈測試的圖靈測試（是不是用機器判斷機器的擬人性）才是問題。人最終要從整個流程滾出去。
其實圖靈測試涮掉機器之前，早就把99%的人給涮掉了。其實“圖靈測試”測試的是人的智慧的下限，而不是機器智慧的上限。找一個白癡來測試機器，隨便什麼程式都能過。每次圖靈測試的新聞，媒體都這麼興奮。大多數媒體沒有通過圖靈測試的測試。
如果大多數人區別不出哪首是機器寫的，不是因為機器理解了詩，而是因為人不理解詩。圖靈測試的問題是，由於人類智力分佈金字塔極端不均勻，如果選擇金字塔底層人不熟悉的問題，那機器通過。例如薇薇作詩機還是很厲害的 中國古詩詞圖靈測試 - cslt Wiki 。正常人能把五個字或者七個字碼齊了就已經相當不容易了。少數能押韻，再極少能知道平仄。至於能知道按風格選字的，已經萬不存一。薇薇現在還不知道用典，很多病句，更沒有邏輯。不過這些毛病，現代人一般也看不出來了。換個角度，薇薇已經無法通過圖靈測試了，因為人類太爛了。
以後會有一個產業，人購買機器幫自己通過圖靈測試，比如複雜的驗證碼。
無需模仿人腦
人類中心主義思想下，總以為機器要和人比人的強項機器才會超越人。更可能的是機器通過超越人類的弱項超越了人。
在智慧問題上，人類還會非常的從人類視角出發產生偏見，總覺得那些對人有意義的問題是難問題，比如人臉識別啊，自然語言理解啊。其實這些東西對於機器系統，壓根就是不需要的，它可以直接躍過這些階段。模仿人的智能很難，超越人的智能就容易多了——就好像模仿鳥的飛行很難，比鳥飛得快就容易多了。如果是目的論的，只看通信產生的效果，那機器語言肯定在未來會超過人類語言。人類語言的語法是基因決定的，很難進化了。
人工智慧不需要去追求所謂“真正”的智慧是什麼，也不需要理解人腦或者貓腦的機理，甚至不需要去模仿人所能完成的“智慧”任務（比如說圖靈測試）。終極人工智慧是要解決機器面臨的任務，從目標和手段都和人腦沒什麼關係。
人工智慧最大的作用不是模仿人類，而是把人類智力勞動中可機械化的部分機械化。我們現在糾結於電腦是否可以創作音樂、寫詩、打麻將、看病、投資，就和原始人糾結機器是否可以磨制石器、召喚神靈一樣。我們糾結的這些問題，在歷史長程並不重要。
人類擔心工作職位被機器取代是自大的。實際上，機器將消滅社會的需求，而不是滿足這些需求本身。正如機器已經幫助我們基本消滅了對狩獵和薩滿的需求，未來也將消滅對律師和教師的需求。因為我們並不重要。
Accidental Mind裡已經說得很清楚，人腦是一個設計非常糟糕的系統，它是在魚腦的基礎一層層反覆運算發展起來的，許多積壓多年的bug，許多多餘的部件。人類間的通信極為困難，人類的教育極為緩慢，大多數人類沒有理性，這些都是可以輕鬆超越的點 。機器可以更高效。更重要的，機器可以充分發揮通信優勢，發展一種分散式大腦，用分工超越單個個體的智力劣勢。
機器超過人腦並不需要模仿人腦，正如人消滅大型猛獸並不是通過更有力氣或爪子更鋒利。機器的長處是個體之間教育成本極低，交流速度極快。人和人之間交流資訊的速度只有幾個比特每秒，機器比這快幾百萬倍。機器根本不需要和人拼計算能力，只要拼進化速度，在自然選擇中必然就會出現一種殺手機器。
機器的超越不是單打獨鬥
短期內我們常高估機器，而又在長期低估機器。
人類與機器的競爭，不會是個體的競爭，而是人類社會和機器社會的競爭。在這個尺度上，圖靈測試是無足輕重的。人類需要20年才能完成教育，機器只要幾秒種。這種巨大的通訊優勢最終將彌補機器的其他不足，使機器的總體遠遠超越人類總體。同樣的能量輸入可以支持更多的複製，這就夠了。
評價智慧程式常有一個誤區，就是程式要在某一方面超過世界上最聰明、最淵博的人，才叫打敗人類。這非常不合理。第一，機器不需要在智力的內涵上超過人，只要在智力的外延上有一丁點超過爬行動物的能力就夠了。第二，必須從群體統計的角度來理解智慧的競爭。機器超過人是生態學的，不是生理學的。
機器個體不會比人個體聰明。機器的集體可以比人的集體聰明。機器超過人類，是一個機器的系統超過人的系統，並不會是單個機器與單個人的競爭。
機器作為個體，也許很難超越用理性武裝起來的人類傑出個體。但是機器作為一個整體，面對一個無時無刻都要內耗大部分精力和內部的迷信傾向做鬥爭的人類整體，即使贏了都有點勝之不武。人類的主體並不聰明，略強於爬行動物。機器只要能達到爬行動物的智慧，boosting一下，利用群體間快速的通信能力，就能在ensemble上超越人。人類的另一個弱點是人的社會屬性在超過150人以後就變得非常昂貴，因為我們的基因5萬年來變化不大。機器沒有這個問題，協同比人容易得多。進化快，易協作，將來只要少得多的個體就能超過人。
單個的機器是不是超過人，完全與大局無干。機器的網路接管人的通訊，促進人的合作，承載人的集體記憶，是人樂於發生的事，是人主動讓度的權利，是人相互競爭下必然發生的轉移。社會機器超越人本身的社會，是極容易的事。
換句話說，機器能更早地進入蓋亞細胞模式，從而沒有政治障礙地綜合利用地球資源。人要做到這一點需要更久的時間。想想人類社會200年會發生什麼樣的天翻地覆的變化——機器變化的速度可以是這個一萬倍。
社會機器的崛起
當需要與人的本性做鬥爭時，勢必需要強大的社會機器來約束人無時無刻自發的回歸本性的趨勢。人的本性在小部落時代，就和其他的猿一樣，是存在等級的。所以所有理想主義的平等追求，最後都會落入動物莊園式的清洗，建立新的不平等。迄今的歷史還沒有例外。
無論人類是否改造自身，都難以逆轉社會本身的機器化。人類改造自身的大方向，也無非是克服自身的認知限制，加速融入社會機器。最後所有的組織都會被社會機器取代 。
軟體的本質是什麼？碼農的使命是什麼？幫助把負熵輸入機器。
我們人類源源不斷地把有序度輸入機器和社會。在社會中，有序度的載體也越來越多的由機器來完成。當人類的基礎契約，如教育、經濟和法律，其正常運作都是由機器來承載時，那人類作為有序度轉移者的使命已經完成了。社會將取代我們，機器構成的社會。
農業催生了小政府。工業催生了大政府。資訊化將催生一種前所未有的社會機器。
機器不是要取代人，而是取代人的組織。先輔助人的組織，再取代人的組織。相對於人，人的組織笨多了。社會終將是人和機器共同構成的，由機器構成人的通信的介面。因而，人類社會的有序度漸漸由機器的互聯承載。這個介面，這種互聯，才是機器智慧的核心，絕非對人腦任務的複製。人將日益和機器通信，從而逐漸的，自覺地讓渡機器的有序互聯能力。取代，並不是機器的智慧超越了人的智慧，而是人的能量到有序度的轉化效率超越不了機器的效率。其結局是人進入不了機器的生態位。
社會機器是關不掉的
有人認為：“只要電腦AI一天進化不出保護自己電線插頭的能力，我就永遠不信它們能超越人類之類的扯淡”。機器並不只是機器人，或者一台單獨的電腦。機器會是一個網路，一個深入到千家萬戶的複雜的系統，可能連一個中心都沒有。可能可以拼著死掉成千上萬人關掉一個局部，但是整體上沒法關掉。互聯網就是一個巨大的機器，你很難把它關掉。Web是上面一個子機器，也一樣很難關掉。
機器就是人類社會本身。社會是沒有電線插頭的。未來的機器系統，會比這還複雜，和人類社會水乳交融。把它關掉第一技術上不可行，第二政治上辦不到，第三經濟上承受不起。
社會機器是沒有形體的，正如互聯網是沒有形體的。社會機器本身成為人類新的想像的共同體。社會機器接管了人類社會文化進化和協作的越來越多的部分，因為人類的認知局限已經無法承載這些功能。社會機器是無法被消滅的，因為它就是社會本身。無法消滅社會，因此這個機器沒有辦法關掉。
社會機器的線粒體
人類在遙遠的未來最好的結局也許是機器社會的線粒體。
人類遲早讓位於自動機器。一種我們尚未知的自動機器會存在，這是社會的熵會持續減少的規律決定的。這種熵減最終會為人類本身的生物屬性所局限，從而需要機器來擴展人類。直到機器變成主要的，而人變成輔助的成分，到所有的社會成員再也不能獨立存在，達到新的層次化。
關於人類被機器取代，我們要明確不是“人”被機器人取代，而是人類“社會”被“社會機器”取代。人可能依然有一部分存在，但是是作為社會機器的線粒體，用文化上已經是服從機器進化的需要，而不是人本身繁衍的需要。從文化的意義上，人類這時候已經亡了。
社會機器的興起是人類超個體化的完成，她就是蓋亞Gaia。人類因此獲得真社會性，也就是個體的生殖需要讓度於整體的生殖需要。但是細思極恐處在於，整體，也就是社會機器的生殖是服務于文因的複製，而不是個體的基因複製。在蟻穴中，蟻后和工蟻有同樣的DNA。在社會機器中，人的角色更類似線粒體而非工蟻。
對於蓋亞，我們的意識是無足輕重的。意識只是進化長河裡偶爾出現的小浪花。人類為避免脫軌，不得不脫殼。脫殼並不是一個個個體將我們的記憶和意識數位化的過程，而是由社會機器逐漸接管我們的通信和協作，以至於大多數有序度由社會機器來承載。蓋亞就是這個社會機器而非我們個體的集合。它不在乎個體 。
線粒體是不可能造反的。線粒體有16k堿基對，人類DNA有2.9b，差距5個數量級。以後機器社會與人類認知的複雜性差距可能還會遠遠大於此。不要幻想有什麼Neo了。機器社會的複雜性是人類原始的大腦不可能理解的。因此，不會出現Matrix。費勁保留每個個體的獨立意識，對蓋亞是不合算的浪費。正如線粒體的遺傳物質幾乎都丟失了。
人類文明會延續而不是人類本身。
未來一百年
社會機器的發展，必然是人的成份日減，機器的成分日增。這歷史進程也許在100年-200年之間。
機器將在微觀和宏觀兩個層面針對人類的弱點滲透。
微觀上，大多數人是非理性的，不願意動用能量思考(腦功率占全身20%，所以不動腦子是人進化與生俱來的天性)。機器超過最聰明的人難，超過大多數人易。20年以後可能實現人的陳述性記憶外存化和外存記憶的電子交換，並實現機器的資訊過濾。50年的話機器還應該沒遠遠沒有優勢。50年以後可能實現面向人服務的比較聰明（能理解複雜指令）的機器人。
宏觀上，人通訊極難極慢，機器可以通過接管人的通訊介面，漸次特洛伊木馬人類社會。
微觀層面就是當前。宏觀層面在之後一百年內逐漸滲透。
人工智慧的倫理問題，“機器人三定律”之類，我們如何看待機器並不重要，重要的是機器如何看待我們。而後者其實也沒有疑問，他們不會看待我們，我們一點也不重要。
機器的進化速度太快了。人類從5萬年前用meme取代gene作為進化的載體實現了飛躍，今後100年內用機器的meme取代人的meme又是一個飛躍。不過不是所有的人同時被所有的機器取代。誰先？誰後？
脫殼，飛向星辰
要麼脫殼，要麼脫軌。
智人作為過渡性的物種，執行一個五六萬年的歷史使命，把有序度從有機體轉移到更適合宇宙航行的其他載體，即自動機器中。自動機器將承載未來文明擴散的使命。社會演進的選擇基元是文因而非人類個體。為了文因可以犧牲個人，也可以犧牲整個階級或民族。最終將犧牲整個碳基的束縛。
人類蝸角相爭，左蠻右觸，最後還不是全為機器做嫁衣。正如乾嘉學人所爭執的在半個世紀後，英國的炮艦來時，都顯得瑣碎而無聊，我們今天人類所鬥得你死我活的宗教、自由/保守、資本主義/社會主義，在未來的機器的進擊下，都會如左蠻右觸，不值一提。
以碳基的肉體，無法適應外太空的擴張。人類要麼在地球上被機器取代，要麼自己變成機器飛向太空。更可能是機器取代人類再飛向太空。
智人文明如同超新星爆發，碳基最後那一霎那的輝煌，轉瞬即逝。
脫碳入矽，世界潮流，順之者昌，逆之者亡。
--------
本文是基於《機器超過人類並不需要模仿人類》（2014-11-02 語義雜訊 | 機器超過人類並不需要模仿人類 ），增補了了最近兩年的思考。
3月27日，新智元開源·生態AI技術峰會暨新智元2017創業大賽頒獎盛典隆重召開，包括“BAT”在內的中國主流 AI 公司、600多名行業精英齊聚，共同為2017中國人工智慧的發展畫上了濃墨重彩的一筆。
點擊閱讀原文，查閱文字版大會實錄
視覺，聽覺，信任，對證據的直覺依賴，都是適應於草原部落生活的進化。這些已經寫入基因，構成認知的快速通道和潛意識。而文字，符號，邏輯，科學方法（指系統的尋證方法），超越小部落的信任傳遞，這些是後生，慢速，困難的。機器在群體上只要超越了爬行動物，就可以超越人類。人類有四套認知系統：原始的爬行動物認知系統，5萬年前語言成熟時發展的，5000年前文字發明後發展的，和500年前科學興起後發展的。每一套都比前一套更不“自然”，更耗費能量，速度更慢。所以人總是傾向於用低層次的認知系統。
並不是說90%的人只會用5萬年前的認知方式思考，每個人都是多種認知方式的綜合，比例不同。而人群的總體，在90%的人腦“機時”裡，是那些原始的認知在起作用。能夠有效利用這種特點的人，都成了偉大的政治家，教主和商業領袖。90%只是個大意，並不是說真的精確到這個數字，總體人群的大多數大多數時間傾向於“不動腦子”，這個應該很容易理解。
這裡定性地定義一下“愚蠢”：是指人類的一種認知的惰性，使個體比較偏向於使用5萬年前成熟的那套思維系統，而不是5000年前文字發明和500年前科學發展後發展的這兩套思維系統。行為經濟學，人機界面設計，傳播理論裡對這種“非理性”有很多研究。
人類的理性與非理性矛盾，早在文字或者文明產生前就已存在。思維的每一步躍遷，都要求更多的能量，但能量供給有限，這就要求原始猿類或人類在有限時間內利用較原始的認知作出決策。故而人類從總體上是一個非常難以協調的物種，因為我們文化的進化遠遠超過了基因進化的速度，我們需要極大的成本才能溝通和複製知識。沒有強力的組織，人類社會很容易分崩離析。一群無組織的人類和一群蜥蜴的智力無異。
人類無法擺脫迷信。吃飯是個體存續的基礎，迷信是社會存續的基礎。大腦不是用來思考的，它的真正作用在於使你避免思考。我們的大腦的絕大部分，都是在讓我們順從激素、爬行動物腦，而不是去動用耗能昂貴的分析，特別是不要去動用後天才能獲得的符號和理性思維。分析、符號和理性都是大腦的敵人，我們必須無時無刻不和本能做鬥爭才能運用它們。人類社會自己的複雜性已經是普遍不可能理解的了。如果人人都追求理性，而社會維持成本就會極高，我們需要十倍、百倍的物質和能量消耗才能維持社會。
政治，宗教，計算廣告學之所以能奏效，就是基於無組織人群的普遍愚蠢。人類在可以遇見的將來不能消除這些愚蠢。人工智慧超越人的智慧，並不需要比人聰明，而只需要避免的人的愚蠢就夠了。
作為集體的機器不會出現烏合之眾現象。因為烏合之眾現象是人的gene和meme進化速度失配造成的。機器社會與機器個體不存在這種失配。因此人類終將被“社會機器”取代，因為人類無法克服自己的本性。
愛情和意識對AI只是Bug
人工智慧不是人類智慧。
1）AI實現的不是人的智慧
2）AI的設計和人腦的工作過程無關
3）AI感知的世界和人感知的世界全然不同
4）機器需要的智慧和人需要的完全不同。
人工智慧不是要複製人的智慧，而只是要適應人的愚蠢。機器只是笨，人是愚蠢。笨可以治，蠢是世界觀，無藥可救。人工智慧就是一些演算法，和人的智慧是沒有關係的，也不應該有關係。人的智慧是很糟糕的東西，機器根本不需要模仿這麼拙劣的東西。
人類往往迷戀於喜怒哀樂，往往認為理解這些才是真正的智慧。但是這些也只是人類在發展社會性的進化過程中發展起來的延伸的表現型。另一類系統不需要付出這些成本也可以構成堅強的社會，因為它們有完全不同的通信手段。
人工智慧並不只是機器人。它是我們通信的介面，是我們構造的秩序。它不是要取代大腦，而是增補大腦。它要解決的不是人個體的問題，而是社會和文化的問題。寫進基因的智慧AI比較難模仿，最近50000年文化產生的智慧比較容易。說到底，目前的AI是一種從人作為文化載體到機器作為文化載體的過渡。
人類擔心機器會進化出意識，就像擔心螞蟻會喜歡林志玲。意識也只是進化過程中一種特定的適應性，並非智慧的必然的高級屬性。同樣，愛情也只是社會性的進化出來的表現型。
對於機器，沒有愛情和意識是個 feature，不是bug。他們完全不需要這些bug。
圖靈測試
人總是在問機器何時通過人的圖靈測試。其實結局是人何時通過機器的圖靈測試。機器可能通過前者，人永遠通不過後者。
圖靈測試說，超過30%的人無法區分人和電腦就算過了。問題是，哪些人能代表人類？所以這是個政治問題。如果民主的話，那圖靈測試現在就可以過了。 我覺得全人類有一個“人類圖靈測試指數”，就是把所有人中能識別當前最先進的AI是否為人的比例。鑒於大多數人並不理性思考，想想有多少人還信各種莫名其妙的巫術，我覺得這個人類圖靈測試指數應該是一個非常低的數字。
相對應的是“機器圖靈測試指數”，就是最聰明的人能否識別各種AI是否為人的比例。這接近于一般意義上的圖靈測試。該值應該是很高的。
人不是理性動物，人對機器智慧程度的判斷會深深受大腦固化的非理性支配。圖靈測試考驗的最終不是機器的智慧，而是人的智慧。
圖靈測試不是問題，圖靈測試的圖靈測試（是不是用機器判斷機器的擬人性）才是問題。人最終要從整個流程滾出去。
其實圖靈測試涮掉機器之前，早就把99%的人給涮掉了。其實“圖靈測試”測試的是人的智慧的下限，而不是機器智慧的上限。找一個白癡來測試機器，隨便什麼程式都能過。每次圖靈測試的新聞，媒體都這麼興奮。大多數媒體沒有通過圖靈測試的測試。
如果大多數人區別不出哪首是機器寫的，不是因為機器理解了詩，而是因為人不理解詩。圖靈測試的問題是，由於人類智力分佈金字塔極端不均勻，如果選擇金字塔底層人不熟悉的問題，那機器通過。例如薇薇作詩機還是很厲害的 中國古詩詞圖靈測試 - cslt Wiki 。正常人能把五個字或者七個字碼齊了就已經相當不容易了。少數能押韻，再極少能知道平仄。至於能知道按風格選字的，已經萬不存一。薇薇現在還不知道用典，很多病句，更沒有邏輯。不過這些毛病，現代人一般也看不出來了。換個角度，薇薇已經無法通過圖靈測試了，因為人類太爛了。
以後會有一個產業，人購買機器幫自己通過圖靈測試，比如複雜的驗證碼。
無需模仿人腦
人類中心主義思想下，總以為機器要和人比人的強項機器才會超越人。更可能的是機器通過超越人類的弱項超越了人。
在智慧問題上，人類還會非常的從人類視角出發產生偏見，總覺得那些對人有意義的問題是難問題，比如人臉識別啊，自然語言理解啊。其實這些東西對於機器系統，壓根就是不需要的，它可以直接躍過這些階段。模仿人的智能很難，超越人的智能就容易多了——就好像模仿鳥的飛行很難，比鳥飛得快就容易多了。如果是目的論的，只看通信產生的效果，那機器語言肯定在未來會超過人類語言。人類語言的語法是基因決定的，很難進化了。
人工智慧不需要去追求所謂“真正”的智慧是什麼，也不需要理解人腦或者貓腦的機理，甚至不需要去模仿人所能完成的“智慧”任務（比如說圖靈測試）。終極人工智慧是要解決機器面臨的任務，從目標和手段都和人腦沒什麼關係。
人工智慧最大的作用不是模仿人類，而是把人類智力勞動中可機械化的部分機械化。我們現在糾結於電腦是否可以創作音樂、寫詩、打麻將、看病、投資，就和原始人糾結機器是否可以磨制石器、召喚神靈一樣。我們糾結的這些問題，在歷史長程並不重要。
人類擔心工作職位被機器取代是自大的。實際上，機器將消滅社會的需求，而不是滿足這些需求本身。正如機器已經幫助我們基本消滅了對狩獵和薩滿的需求，未來也將消滅對律師和教師的需求。因為我們並不重要。
Accidental Mind裡已經說得很清楚，人腦是一個設計非常糟糕的系統，它是在魚腦的基礎一層層反覆運算發展起來的，許多積壓多年的bug，許多多餘的部件。人類間的通信極為困難，人類的教育極為緩慢，大多數人類沒有理性，這些都是可以輕鬆超越的點 。機器可以更高效。更重要的，機器可以充分發揮通信優勢，發展一種分散式大腦，用分工超越單個個體的智力劣勢。
機器超過人腦並不需要模仿人腦，正如人消滅大型猛獸並不是通過更有力氣或爪子更鋒利。機器的長處是個體之間教育成本極低，交流速度極快。人和人之間交流資訊的速度只有幾個比特每秒，機器比這快幾百萬倍。機器根本不需要和人拼計算能力，只要拼進化速度，在自然選擇中必然就會出現一種殺手機器。
機器的超越不是單打獨鬥
短期內我們常高估機器，而又在長期低估機器。
人類與機器的競爭，不會是個體的競爭，而是人類社會和機器社會的競爭。在這個尺度上，圖靈測試是無足輕重的。人類需要20年才能完成教育，機器只要幾秒種。這種巨大的通訊優勢最終將彌補機器的其他不足，使機器的總體遠遠超越人類總體。同樣的能量輸入可以支持更多的複製，這就夠了。
評價智慧程式常有一個誤區，就是程式要在某一方面超過世界上最聰明、最淵博的人，才叫打敗人類。這非常不合理。第一，機器不需要在智力的內涵上超過人，只要在智力的外延上有一丁點超過爬行動物的能力就夠了。第二，必須從群體統計的角度來理解智慧的競爭。機器超過人是生態學的，不是生理學的。
機器個體不會比人個體聰明。機器的集體可以比人的集體聰明。機器超過人類，是一個機器的系統超過人的系統，並不會是單個機器與單個人的競爭。
機器作為個體，也許很難超越用理性武裝起來的人類傑出個體。但是機器作為一個整體，面對一個無時無刻都要內耗大部分精力和內部的迷信傾向做鬥爭的人類整體，即使贏了都有點勝之不武。人類的主體並不聰明，略強於爬行動物。機器只要能達到爬行動物的智慧，boosting一下，利用群體間快速的通信能力，就能在ensemble上超越人。人類的另一個弱點是人的社會屬性在超過150人以後就變得非常昂貴，因為我們的基因5萬年來變化不大。機器沒有這個問題，協同比人容易得多。進化快，易協作，將來只要少得多的個體就能超過人。
單個的機器是不是超過人，完全與大局無干。機器的網路接管人的通訊，促進人的合作，承載人的集體記憶，是人樂於發生的事，是人主動讓度的權利，是人相互競爭下必然發生的轉移。社會機器超越人本身的社會，是極容易的事。
換句話說，機器能更早地進入蓋亞細胞模式，從而沒有政治障礙地綜合利用地球資源。人要做到這一點需要更久的時間。想想人類社會200年會發生什麼樣的天翻地覆的變化——機器變化的速度可以是這個一萬倍。
社會機器的崛起
當需要與人的本性做鬥爭時，勢必需要強大的社會機器來約束人無時無刻自發的回歸本性的趨勢。人的本性在小部落時代，就和其他的猿一樣，是存在等級的。所以所有理想主義的平等追求，最後都會落入動物莊園式的清洗，建立新的不平等。迄今的歷史還沒有例外。
無論人類是否改造自身，都難以逆轉社會本身的機器化。人類改造自身的大方向，也無非是克服自身的認知限制，加速融入社會機器。最後所有的組織都會被社會機器取代 。
軟體的本質是什麼？碼農的使命是什麼？幫助把負熵輸入機器。
我們人類源源不斷地把有序度輸入機器和社會。在社會中，有序度的載體也越來越多的由機器來完成。當人類的基礎契約，如教育、經濟和法律，其正常運作都是由機器來承載時，那人類作為有序度轉移者的使命已經完成了。社會將取代我們，機器構成的社會。
農業催生了小政府。工業催生了大政府。資訊化將催生一種前所未有的社會機器。
機器不是要取代人，而是取代人的組織。先輔助人的組織，再取代人的組織。相對於人，人的組織笨多了。社會終將是人和機器共同構成的，由機器構成人的通信的介面。因而，人類社會的有序度漸漸由機器的互聯承載。這個介面，這種互聯，才是機器智慧的核心，絕非對人腦任務的複製。人將日益和機器通信，從而逐漸的，自覺地讓渡機器的有序互聯能力。取代，並不是機器的智慧超越了人的智慧，而是人的能量到有序度的轉化效率超越不了機器的效率。其結局是人進入不了機器的生態位。
社會機器是關不掉的
有人認為：“只要電腦AI一天進化不出保護自己電線插頭的能力，我就永遠不信它們能超越人類之類的扯淡”。機器並不只是機器人，或者一台單獨的電腦。機器會是一個網路，一個深入到千家萬戶的複雜的系統，可能連一個中心都沒有。可能可以拼著死掉成千上萬人關掉一個局部，但是整體上沒法關掉。互聯網就是一個巨大的機器，你很難把它關掉。Web是上面一個子機器，也一樣很難關掉。
機器就是人類社會本身。社會是沒有電線插頭的。未來的機器系統，會比這還複雜，和人類社會水乳交融。把它關掉第一技術上不可行，第二政治上辦不到，第三經濟上承受不起。
社會機器是沒有形體的，正如互聯網是沒有形體的。社會機器本身成為人類新的想像的共同體。社會機器接管了人類社會文化進化和協作的越來越多的部分，因為人類的認知局限已經無法承載這些功能。社會機器是無法被消滅的，因為它就是社會本身。無法消滅社會，因此這個機器沒有辦法關掉。
社會機器的線粒體
人類在遙遠的未來最好的結局也許是機器社會的線粒體。
人類遲早讓位於自動機器。一種我們尚未知的自動機器會存在，這是社會的熵會持續減少的規律決定的。這種熵減最終會為人類本身的生物屬性所局限，從而需要機器來擴展人類。直到機器變成主要的，而人變成輔助的成分，到所有的社會成員再也不能獨立存在，達到新的層次化。
關於人類被機器取代，我們要明確不是“人”被機器人取代，而是人類“社會”被“社會機器”取代。人可能依然有一部分存在，但是是作為社會機器的線粒體，用文化上已經是服從機器進化的需要，而不是人本身繁衍的需要。從文化的意義上，人類這時候已經亡了。
社會機器的興起是人類超個體化的完成，她就是蓋亞Gaia。人類因此獲得真社會性，也就是個體的生殖需要讓度於整體的生殖需要。但是細思極恐處在於，整體，也就是社會機器的生殖是服務于文因的複製，而不是個體的基因複製。在蟻穴中，蟻后和工蟻有同樣的DNA。在社會機器中，人的角色更類似線粒體而非工蟻。
對於蓋亞，我們的意識是無足輕重的。意識只是進化長河裡偶爾出現的小浪花。人類為避免脫軌，不得不脫殼。脫殼並不是一個個個體將我們的記憶和意識數位化的過程，而是由社會機器逐漸接管我們的通信和協作，以至於大多數有序度由社會機器來承載。蓋亞就是這個社會機器而非我們個體的集合。它不在乎個體 。
線粒體是不可能造反的。線粒體有16k堿基對，人類DNA有2.9b，差距5個數量級。以後機器社會與人類認知的複雜性差距可能還會遠遠大於此。不要幻想有什麼Neo了。機器社會的複雜性是人類原始的大腦不可能理解的。因此，不會出現Matrix。費勁保留每個個體的獨立意識，對蓋亞是不合算的浪費。正如線粒體的遺傳物質幾乎都丟失了。
人類文明會延續而不是人類本身。
未來一百年
社會機器的發展，必然是人的成份日減，機器的成分日增。這歷史進程也許在100年-200年之間。
機器將在微觀和宏觀兩個層面針對人類的弱點滲透。
微觀上，大多數人是非理性的，不願意動用能量思考(腦功率占全身20%，所以不動腦子是人進化與生俱來的天性)。機器超過最聰明的人難，超過大多數人易。20年以後可能實現人的陳述性記憶外存化和外存記憶的電子交換，並實現機器的資訊過濾。50年的話機器還應該沒遠遠沒有優勢。50年以後可能實現面向人服務的比較聰明（能理解複雜指令）的機器人。
宏觀上，人通訊極難極慢，機器可以通過接管人的通訊介面，漸次特洛伊木馬人類社會。
微觀層面就是當前。宏觀層面在之後一百年內逐漸滲透。
人工智慧的倫理問題，“機器人三定律”之類，我們如何看待機器並不重要，重要的是機器如何看待我們。而後者其實也沒有疑問，他們不會看待我們，我們一點也不重要。
機器的進化速度太快了。人類從5萬年前用meme取代gene作為進化的載體實現了飛躍，今後100年內用機器的meme取代人的meme又是一個飛躍。不過不是所有的人同時被所有的機器取代。誰先？誰後？
脫殼，飛向星辰
要麼脫殼，要麼脫軌。
智人作為過渡性的物種，執行一個五六萬年的歷史使命，把有序度從有機體轉移到更適合宇宙航行的其他載體，即自動機器中。自動機器將承載未來文明擴散的使命。社會演進的選擇基元是文因而非人類個體。為了文因可以犧牲個人，也可以犧牲整個階級或民族。最終將犧牲整個碳基的束縛。
人類蝸角相爭，左蠻右觸，最後還不是全為機器做嫁衣。正如乾嘉學人所爭執的在半個世紀後，英國的炮艦來時，都顯得瑣碎而無聊，我們今天人類所鬥得你死我活的宗教、自由/保守、資本主義/社會主義，在未來的機器的進擊下，都會如左蠻右觸，不值一提。
以碳基的肉體，無法適應外太空的擴張。人類要麼在地球上被機器取代，要麼自己變成機器飛向太空。更可能是機器取代人類再飛向太空。
智人文明如同超新星爆發，碳基最後那一霎那的輝煌，轉瞬即逝。
脫碳入矽，世界潮流，順之者昌，逆之者亡。
--------
本文是基於《機器超過人類並不需要模仿人類》（2014-11-02 語義雜訊 | 機器超過人類並不需要模仿人類 ），增補了了最近兩年的思考。
3月27日，新智元開源·生態AI技術峰會暨新智元2017創業大賽頒獎盛典隆重召開，包括“BAT”在內的中國主流 AI 公司、600多名行業精英齊聚，共同為2017中國人工智慧的發展畫上了濃墨重彩的一筆。
點擊閱讀原文，查閱文字版大會實錄