周小平：柯潔是真的輸給了人工智慧嗎？
曾經自信表態：“阿法狗可以打敗李世石，卻無法打敗我”的少年天才棋手柯潔以1/4目首敗阿法狗，引起輿論熱潮。不過這並不能說柯潔以前是在“吹牛”，畢竟我們看之前柯潔對李世石的戰績是十分驚豔的，
當然這並不是最重要的，最重要的某位自詡“AI導師”的人開始站出來表示：“這毫無意義，有空對弈圍棋，不如投入精力研發人工智慧AI。
我並不是要否定阿法狗的計算先進性，也不是要否定比賽結果，因為在這場博弈中，
1、深藍是人工智慧嗎？
在阿法狗之前出現的“人工智慧”是“深藍”，它對應的是國際象棋。國際象棋的棋盤為 8x8 的網格，對陣雙方各走三步後，可能出現的棋局就會超過九百萬種。
首先它會搜索勝率最大的棋局，以便預測更多步以後的可能性。然後它還會在判斷下一步怎麼走時，先評估對手下一步棋的各種走法概率。然而這是一種非常累的方式，“深藍”僅評估演算法就有 8000 多個部分。而人類和人類之間在對弈國際象棋的時候，
可是人的腦子，最強大的不是這個計算功能。任何人的腦子，如今都比不過電腦的計算能力，所以人類的象棋大師很快就不敵深藍了。因為和電腦比計算能力，就等於是拿雞蛋去和鋼球比硬度一樣。儘管深藍擊敗了象棋大師，但它依然不能算是“人工智慧”，只是一個很會計算國際象棋譜的軟體而已。它和人腦的功能及思維方式，有著天壤之別。關於這一點，筆者待會兒再講。
2、阿法狗是人工智慧嗎？
我們先繼續講阿法狗。阿法狗也可以說是“深藍”的升級產品，但它的結構不同，它的“自主學習”能力更強。它不像深藍那樣需要依靠那麼多的計算部分，而是採用了更簡潔，更高效的計算方式。不過它依然擺脫不了：“根據當前棋局盡可能計算更多步，以及計算出對手落子概率這兩點。”圍棋的棋盤為 19x19 的網格，比國際象棋複雜得多，因為它需要窮舉的可能數是（10^174））這已經超過已知宇宙中所有原子數的總和。由於棋盤存在如此巨大的變數，所以它長期以來一度被視為人類對抗電腦的最後堡壘。
不過既然電腦都無法窮舉，人類就更無法窮舉了。所以電腦只需要計算能力比人更強，就可以擊敗人類。根本無需窮舉。
人類在下圍棋時，人腦依然是被橫豎線規則局限在對棋盤規則的計算當中的，每一個棋手其實也都是在通過自己的下棋經驗和判斷對方的落子概率來盡可能推算更多步以後的局面。當然由於圍棋將比國際象棋提供的計算博弈空間更大，因此人和人進行對弈時出現的計算能力較量也就顯得更有趣。有些大腦計算能力非常出色的人，可以算得比別人更精准，還能夠將很多自己的絕殺套路佈局在全盤棋中。但不管怎樣，這個遊戲的本質依然還是在比拼棋手大腦的計算能力。
而AlphaGo 同樣是採用這兩種思路來進行計算的。一個是評估當前局勢，另外一個是通過預測對手下一步各種走法的幾率，來盡可能地算出更多步數後的優勢。有了這兩個基點以後，阿法狗就可以開始“窮舉”計算了。目前為止AlphaGo至少已經輸入了三千萬種棋局，自我博弈超過一百萬次以上。相信以後達到三億種棋局，一千萬次以上自我博弈；或三百億種棋局，十億次自我博弈也不是什麼難事。而人類呢？由於人類的大腦的最強功能根本不是進行這種海量運算，所以就算柯潔從娘胎裡就開始下棋，且每一局都過目不忘，那麼他所掌握的博弈棋局對戰也不可能超過十萬局吧。這，怎麼比？
因此，實際上在筆者看來，阿法狗也好，深藍也好，雖然戰勝了人類，但它們的本質依然都只是在棋盤的計算能力上超越了人腦，而並不意味著它們和人腦可以比擬。因為今天的電腦或“AI”，都依然只能夠進行最機械的計算組合而已，面對複雜的真實世界，缺乏基本的人腦的計算特徵，都無法通過科學界公認的最基本的人工智慧測試標準。
3、判斷標準是什麼？
要瞭解人工智慧的判斷標準是什麼，就先要瞭解人腦的特徵是什麼？讀者可能以為我會說情感，但其實不是。因為情感的原理更為複雜。單說人類的大腦計算規則，就依然是一個謎。儘管從神經元的分佈上，人類可以大致勾勒出大腦思考的過程，可是迄今為止人類的大腦思考計算過程和規則，依然相當撲朔迷離，甚至具備某種“量子特徵”。
舉個最簡單的例子。美國此前研發的自動無人戰車AI，也號稱人工智慧，它不僅可以通過高清攝像頭、紅外線等各種手段繪製地圖，然後做出比人類更為精確的駕駛操作。但它的計算過程，卻很容易出現重大錯誤。比如，一個人類駕駛員，突然看見對面有一大團報紙堆，完全可以碾壓過去。但是，無人戰車無法瞬間判斷它的材質。不知道它到底是一堆什麼。它也許會判斷成：“此路不通”，因為顯然道路被巨大障礙物給堵住了。需要緊急刹車，或繞路。
而人類似乎“不經思考”，只需要看一眼，就知道這個“障礙物”到底是什麼。但在我們只是看一眼時，人腦就已經瞬間完成了所有的計算，並得出了計算結果。人腦是根據什麼來計算的呢？根據顏色？還是觀感？這些似乎是一部分，但也不完全，它非常模糊且難以表達，支撐計算的依據特別多且特別跳躍。
當然如果你用塑膠做一個模擬的假報紙堆，人類也會上當。可問題是，只要不是這種“刻意欺騙”，那麼真報紙堆和其他材質障礙物，人腦基本是可以作出瞬間判斷的。但是，電腦或目前的"AI"卻都不行。它無法從直接的直觀感受上判斷出來障礙物的材質，而是只能計算長寬高，然後呢？ 就沒有然後了。它無法得出結論！ 目前很多的無人駕駛汽車出現離奇車禍的原因，也是如此。它對很多景物，出現了無法計算的誤判。來的是一片落葉，還是一塊磚頭？遠處灰濛濛的是一片障礙物，還是彎道路邊小土堆？這突然閃過的黑影是大塑膠袋還是一個小孩？是應該刹車還是急轉彎，它完全蒙了。
其實關於這一點，當年有個很聰明的人早就想到了，所以他認為：“電腦是否具備人工智慧，應該參照一個標準：即讓兩個智商正常的人使用電腦互相隨意提問。進行多次測試後，如果有超過30%的測試者不能確定出被測試者是人還是機器，那麼這台機器就通過了測試，並被認為具有人類智慧。” 他叫圖靈，而他提出的這個測試標準被國際社會和科學界廣泛接受，也被稱為“圖靈測試”。——也就是說，凡是不能通過“圖靈測試”的程式，均不能視為人工智慧。只是單純的計算和模仿程式罷了。
不過很遺憾的是，現在無論再先進的電腦程式，你都完全無法與之順利對話。前不久某“人工智慧教父”，就在大庭廣眾下和一台號稱是目前最先進的測試與“AI”進行測試。不過尷尬的是，電腦程式完全答非所問。
此前也有人想到過利用海量的聊天資料讓“AI”自主學習，試著讓它掌握和人類對話的技巧。這方法就和阿法狗的計算方法幾乎完全一致了。不過，很可惜這個嘗試悲慘的失敗了。很快它就被網友“調教”成了一個滿嘴髒話，充滿種族歧視的對噴子機器，儘管它和人交談的次數，可以是普通人類一生交談次數的一百倍，一千倍，一萬倍，可只要和它對話，傻子都知道它是個程式而不是一個人。
人腦，只需要掌握基本的文字語言，再進行完基本的義務教育，就可以創造出無限合理的對話來，並不需要像背棋譜那樣在心中背下幾萬億種可能出現的對話場景。但“AI”輸入的類比對話再多，卻連基本的對話邏輯也很難具備。這就是證明人腦和目前“AI”的計算規則是截然不同的，不是一個層面的東西。
像阿法狗這類的“AI”不要說是學會人類的思考邏輯，甚至就連一般的圖像識別組合也很難突破。比如著名的前中國鐵道部（現鐵總）火車票購票網站，為了防止有人開發“機器人搶票程式”採用的方式，就是採用識圖組合。
這一下，所有的破解組都傻眼了，至今為止無法破解，只好在網上編了很多帖子罵鐵總。他們唯一的破解辦法就是窮舉所有的圖案，然後自動點擊。可是鐵總的圖庫，加上每次展示的圖片數量組合可能性太多，比19*19的圍棋盤多了無數倍的無數倍，因此即便知道鐵總的圖庫是多少，電腦也永遠不能計算或窮舉出組合。因此，永遠無法破解。不過人腦就不一樣了，人一看就知道應該怎麼選，“AI”卻看到死也不明白到底怎麼選。且就算“AI”通過海量學習，看懂了一種，換個角度，換種顏色材質和款式的梳子，再換種搭配組合（比如配合掛麵），它就又分不出來了。噗……
4、我們離真正的AI還有多遠？
其實，我們離真正的AI還有無限遠的距離。首先，我們需要開發出和現在的電腦完全不同的“計算規則”，才有可能逐步接近人腦的計算方式。在這條路上，甚至連量子電腦商業化以後都還是遠遠不夠的，它還涉及到對目前整個軟體領域演算法的徹底顛覆。不亞於量子物理對經典物理帶來的衝擊，甚至更大。
其實今天電腦和人腦的差距根本不在計算能力，而是在於計算規則。人腦和當前的電腦認識世界的方式、規則和途徑是完全不同的。因此人類和電腦去比計算能力是毫無意義的，而目前這種規則下的電腦計算能力再強也不可能擁有人腦的特徵。也就是說，不可能通過圖靈測試，更稱不上是人工智慧。
目前這種層次的“AI”和真正意義上的AI，差距究竟有多大呢？筆者認為差距就像沒有掌握現代數學和物理化學之前的冷兵器文明，和掌握了現代數學和物理化學之後的工業文明的差距一樣大。儘管，冷兵器時代就可以製造出射程達到1500米的弩，這比今天的很多槍支射程還遠，可是卻毫無意義。因為當弩兵對上現代化的機槍兵，只有被碾壓成渣的份兒。因為根本就不是一種層次上的東西。
一個更簡單的例子是，人類看過一遍風景很難按照原樣一絲不改地畫下來。有一個“怪才”他有嚴重的自閉症，但大腦有過目不忘的功能，基本上看過的畫面都能畫出來，連細節也基本絲毫不差，這已經是人類所知的在這方面功能最強的大腦了。可是即便如此，他的大腦也不如任何一部拍照手機計算能力強。手機一點，哢嚓拍下來，比他畫出來的更事無巨細。
難道我們可以說這就證明“相機人工智慧畫家”，已經超越人類畫家了嗎？當然不能！因為相機只是在完全複製這一點上超越了人類。人和相機去比完全照搬的能力，純粹就是自找沒趣。但人腦卻可以誕生藝術，只要看過風景以後，人腦可以衍生出無限種想像，會繪畫的人就可以演繹出無限多比原風景更有欣賞價值的作品來，而這是目前任何“相機人工智慧畫家”所不可能具備的東西。
5、尾聲和警惕
人類的大腦至少在可見的未來是不可取代的東西，能通過“圖靈測試”的真正人工智慧在可見的未來不可能出現。當然即便是目前這種擁有超強計算能力的軟體出現，也將極大地影響一些現有行業。比如目前中國已經出現的無人集裝箱碼頭，無人快遞公司，甚至未來的無人機快遞，還有那些在基礎醫學、銀行、金融、社會安全保障、娛樂系統等方面，都有可能極度依賴這些超強計算能力的軟體。
不過我們依然需要嚴格區分人工智慧，和非人工智慧。不能誤導讀者，更不能隨意修改定義人工智慧的行業標準。只有這樣我們才會發現人腦的價值不可取代性，否則就會出現重大的問題。
比如筆者曾經在一家網路公司工作，公司的資料分析部當時就引用了大資料概念。有一次，資料分析部門作出的一份根據大資料和調查檔的結論顯示：玩家在遊戲中死亡並掉落裝備後，選擇下線的幾率很大，甚至棄玩遊戲的幾率也會上升。同時，在調查檔裡，99%以上的玩家表示厭惡掉落裝備。
因此，在這個大資料行為分析結論的支援下，公司裡搞資料分析的部門就拿出一份不可置疑的報告，認為必須取消玩家死亡後會掉落裝備這一個功能，才能使遊戲的線上率變得更高。——當然，如果交給“AI”，恐怕"AI"也一定會得出同樣的結論。所以，當時公司也決定要刪除這個功能。
不過我站出來力排眾議，強烈要求保留這個功能。我表示：人玩遊戲不僅要看資料，更還要看感受。雖然玩家掉落裝備很心痛，但正因為心痛才會有珍惜遊戲裝備的情感產生，同時玩家不太容易記住打掉別人裝備時的快感，卻比較容易記住自己掉落裝備時的痛苦。一旦刪除該功能，玩家再也得不到打掉別人裝備的快樂，同時也失去了珍惜遊戲裝備的情感，最後的結果必然將是遊戲徹底沒人玩了。
這場爭執最後的結果是，公司決定先開一個不掉落裝備的伺服器試試水。結果顯然不能掉落裝備的伺服器資料慘不忍睹。一般伺服器可以有4000人同時線上，而不掉落裝備伺服器一開始有3000人，三天后就暴跌到600人，兩周後掉到200人不到，最後宣佈關閉。公司長舒一口氣，表示幸虧沒純看資料就做出決定。
我認為，這就是我們人類大腦的“AI”以及“大資料”的顯著不同之處，我們的思考魅力在於能想到“AI”所不能想到的東西。而如今隨著外媒重新包裝“人工智慧”概念並配合“大資料”炒作，將很有可能誤導我們的相關產業研究走入歧途。而鼓吹“人工智慧”在很多重要資料領域可以徹底取代人的思潮，也很容易埋下重大隱患。
我們必須理清的是：目前尚無一個程式可以通過“圖靈測試”，因此也就不存在真正意義上的人工智慧。所以人腦在任何領域，都是不可缺失的唯一防火牆，也是唯一決策和研判核心。對於這一點，我們的相關產業應當引起足夠的重視，望傳遞、周知。
因為和電腦比計算能力，就等於是拿雞蛋去和鋼球比硬度一樣。儘管深藍擊敗了象棋大師，但它依然不能算是“人工智慧”，只是一個很會計算國際象棋譜的軟體而已。它和人腦的功能及思維方式，有著天壤之別。關於這一點，筆者待會兒再講。2、阿法狗是人工智慧嗎？
我們先繼續講阿法狗。阿法狗也可以說是“深藍”的升級產品，但它的結構不同，它的“自主學習”能力更強。它不像深藍那樣需要依靠那麼多的計算部分，而是採用了更簡潔，更高效的計算方式。不過它依然擺脫不了：“根據當前棋局盡可能計算更多步，以及計算出對手落子概率這兩點。”圍棋的棋盤為 19x19 的網格，比國際象棋複雜得多，因為它需要窮舉的可能數是（10^174））這已經超過已知宇宙中所有原子數的總和。由於棋盤存在如此巨大的變數，所以它長期以來一度被視為人類對抗電腦的最後堡壘。
不過既然電腦都無法窮舉，人類就更無法窮舉了。所以電腦只需要計算能力比人更強，就可以擊敗人類。根本無需窮舉。
人類在下圍棋時，人腦依然是被橫豎線規則局限在對棋盤規則的計算當中的，每一個棋手其實也都是在通過自己的下棋經驗和判斷對方的落子概率來盡可能推算更多步以後的局面。當然由於圍棋將比國際象棋提供的計算博弈空間更大，因此人和人進行對弈時出現的計算能力較量也就顯得更有趣。有些大腦計算能力非常出色的人，可以算得比別人更精准，還能夠將很多自己的絕殺套路佈局在全盤棋中。但不管怎樣，這個遊戲的本質依然還是在比拼棋手大腦的計算能力。
而AlphaGo 同樣是採用這兩種思路來進行計算的。一個是評估當前局勢，另外一個是通過預測對手下一步各種走法的幾率，來盡可能地算出更多步數後的優勢。有了這兩個基點以後，阿法狗就可以開始“窮舉”計算了。目前為止AlphaGo至少已經輸入了三千萬種棋局，自我博弈超過一百萬次以上。相信以後達到三億種棋局，一千萬次以上自我博弈；或三百億種棋局，十億次自我博弈也不是什麼難事。而人類呢？由於人類的大腦的最強功能根本不是進行這種海量運算，所以就算柯潔從娘胎裡就開始下棋，且每一局都過目不忘，那麼他所掌握的博弈棋局對戰也不可能超過十萬局吧。這，怎麼比？
因此，實際上在筆者看來，阿法狗也好，深藍也好，雖然戰勝了人類，但它們的本質依然都只是在棋盤的計算能力上超越了人腦，而並不意味著它們和人腦可以比擬。因為今天的電腦或“AI”，都依然只能夠進行最機械的計算組合而已，面對複雜的真實世界，缺乏基本的人腦的計算特徵，都無法通過科學界公認的最基本的人工智慧測試標準。
3、判斷標準是什麼？
要瞭解人工智慧的判斷標準是什麼，就先要瞭解人腦的特徵是什麼？讀者可能以為我會說情感，但其實不是。因為情感的原理更為複雜。單說人類的大腦計算規則，就依然是一個謎。儘管從神經元的分佈上，人類可以大致勾勒出大腦思考的過程，可是迄今為止人類的大腦思考計算過程和規則，依然相當撲朔迷離，甚至具備某種“量子特徵”。
舉個最簡單的例子。美國此前研發的自動無人戰車AI，也號稱人工智慧，它不僅可以通過高清攝像頭、紅外線等各種手段繪製地圖，然後做出比人類更為精確的駕駛操作。但它的計算過程，卻很容易出現重大錯誤。比如，一個人類駕駛員，突然看見對面有一大團報紙堆，完全可以碾壓過去。但是，無人戰車無法瞬間判斷它的材質。不知道它到底是一堆什麼。它也許會判斷成：“此路不通”，因為顯然道路被巨大障礙物給堵住了。需要緊急刹車，或繞路。
而人類似乎“不經思考”，只需要看一眼，就知道這個“障礙物”到底是什麼。但在我們只是看一眼時，人腦就已經瞬間完成了所有的計算，並得出了計算結果。人腦是根據什麼來計算的呢？根據顏色？還是觀感？這些似乎是一部分，但也不完全，它非常模糊且難以表達，支撐計算的依據特別多且特別跳躍。
當然如果你用塑膠做一個模擬的假報紙堆，人類也會上當。可問題是，只要不是這種“刻意欺騙”，那麼真報紙堆和其他材質障礙物，人腦基本是可以作出瞬間判斷的。但是，電腦或目前的"AI"卻都不行。它無法從直接的直觀感受上判斷出來障礙物的材質，而是只能計算長寬高，然後呢？ 就沒有然後了。它無法得出結論！ 目前很多的無人駕駛汽車出現離奇車禍的原因，也是如此。它對很多景物，出現了無法計算的誤判。來的是一片落葉，還是一塊磚頭？遠處灰濛濛的是一片障礙物，還是彎道路邊小土堆？這突然閃過的黑影是大塑膠袋還是一個小孩？是應該刹車還是急轉彎，它完全蒙了。
其實關於這一點，當年有個很聰明的人早就想到了，所以他認為：“電腦是否具備人工智慧，應該參照一個標準：即讓兩個智商正常的人使用電腦互相隨意提問。進行多次測試後，如果有超過30%的測試者不能確定出被測試者是人還是機器，那麼這台機器就通過了測試，並被認為具有人類智慧。” 他叫圖靈，而他提出的這個測試標準被國際社會和科學界廣泛接受，也被稱為“圖靈測試”。——也就是說，凡是不能通過“圖靈測試”的程式，均不能視為人工智慧。只是單純的計算和模仿程式罷了。
不過很遺憾的是，現在無論再先進的電腦程式，你都完全無法與之順利對話。前不久某“人工智慧教父”，就在大庭廣眾下和一台號稱是目前最先進的測試與“AI”進行測試。不過尷尬的是，電腦程式完全答非所問。
此前也有人想到過利用海量的聊天資料讓“AI”自主學習，試著讓它掌握和人類對話的技巧。這方法就和阿法狗的計算方法幾乎完全一致了。不過，很可惜這個嘗試悲慘的失敗了。很快它就被網友“調教”成了一個滿嘴髒話，充滿種族歧視的對噴子機器，儘管它和人交談的次數，可以是普通人類一生交談次數的一百倍，一千倍，一萬倍，可只要和它對話，傻子都知道它是個程式而不是一個人。
人腦，只需要掌握基本的文字語言，再進行完基本的義務教育，就可以創造出無限合理的對話來，並不需要像背棋譜那樣在心中背下幾萬億種可能出現的對話場景。但“AI”輸入的類比對話再多，卻連基本的對話邏輯也很難具備。這就是證明人腦和目前“AI”的計算規則是截然不同的，不是一個層面的東西。
像阿法狗這類的“AI”不要說是學會人類的思考邏輯，甚至就連一般的圖像識別組合也很難突破。比如著名的前中國鐵道部（現鐵總）火車票購票網站，為了防止有人開發“機器人搶票程式”採用的方式，就是採用識圖組合。
這一下，所有的破解組都傻眼了，至今為止無法破解，只好在網上編了很多帖子罵鐵總。他們唯一的破解辦法就是窮舉所有的圖案，然後自動點擊。可是鐵總的圖庫，加上每次展示的圖片數量組合可能性太多，比19*19的圍棋盤多了無數倍的無數倍，因此即便知道鐵總的圖庫是多少，電腦也永遠不能計算或窮舉出組合。因此，永遠無法破解。不過人腦就不一樣了，人一看就知道應該怎麼選，“AI”卻看到死也不明白到底怎麼選。且就算“AI”通過海量學習，看懂了一種，換個角度，換種顏色材質和款式的梳子，再換種搭配組合（比如配合掛麵），它就又分不出來了。噗……
4、我們離真正的AI還有多遠？
其實，我們離真正的AI還有無限遠的距離。首先，我們需要開發出和現在的電腦完全不同的“計算規則”，才有可能逐步接近人腦的計算方式。在這條路上，甚至連量子電腦商業化以後都還是遠遠不夠的，它還涉及到對目前整個軟體領域演算法的徹底顛覆。不亞於量子物理對經典物理帶來的衝擊，甚至更大。
其實今天電腦和人腦的差距根本不在計算能力，而是在於計算規則。人腦和當前的電腦認識世界的方式、規則和途徑是完全不同的。因此人類和電腦去比計算能力是毫無意義的，而目前這種規則下的電腦計算能力再強也不可能擁有人腦的特徵。也就是說，不可能通過圖靈測試，更稱不上是人工智慧。
目前這種層次的“AI”和真正意義上的AI，差距究竟有多大呢？筆者認為差距就像沒有掌握現代數學和物理化學之前的冷兵器文明，和掌握了現代數學和物理化學之後的工業文明的差距一樣大。儘管，冷兵器時代就可以製造出射程達到1500米的弩，這比今天的很多槍支射程還遠，可是卻毫無意義。因為當弩兵對上現代化的機槍兵，只有被碾壓成渣的份兒。因為根本就不是一種層次上的東西。
一個更簡單的例子是，人類看過一遍風景很難按照原樣一絲不改地畫下來。有一個“怪才”他有嚴重的自閉症，但大腦有過目不忘的功能，基本上看過的畫面都能畫出來，連細節也基本絲毫不差，這已經是人類所知的在這方面功能最強的大腦了。可是即便如此，他的大腦也不如任何一部拍照手機計算能力強。手機一點，哢嚓拍下來，比他畫出來的更事無巨細。
難道我們可以說這就證明“相機人工智慧畫家”，已經超越人類畫家了嗎？當然不能！因為相機只是在完全複製這一點上超越了人類。人和相機去比完全照搬的能力，純粹就是自找沒趣。但人腦卻可以誕生藝術，只要看過風景以後，人腦可以衍生出無限種想像，會繪畫的人就可以演繹出無限多比原風景更有欣賞價值的作品來，而這是目前任何“相機人工智慧畫家”所不可能具備的東西。
5、尾聲和警惕
人類的大腦至少在可見的未來是不可取代的東西，能通過“圖靈測試”的真正人工智慧在可見的未來不可能出現。當然即便是目前這種擁有超強計算能力的軟體出現，也將極大地影響一些現有行業。比如目前中國已經出現的無人集裝箱碼頭，無人快遞公司，甚至未來的無人機快遞，還有那些在基礎醫學、銀行、金融、社會安全保障、娛樂系統等方面，都有可能極度依賴這些超強計算能力的軟體。
不過我們依然需要嚴格區分人工智慧，和非人工智慧。不能誤導讀者，更不能隨意修改定義人工智慧的行業標準。只有這樣我們才會發現人腦的價值不可取代性，否則就會出現重大的問題。
比如筆者曾經在一家網路公司工作，公司的資料分析部當時就引用了大資料概念。有一次，資料分析部門作出的一份根據大資料和調查檔的結論顯示：玩家在遊戲中死亡並掉落裝備後，選擇下線的幾率很大，甚至棄玩遊戲的幾率也會上升。同時，在調查檔裡，99%以上的玩家表示厭惡掉落裝備。
因此，在這個大資料行為分析結論的支援下，公司裡搞資料分析的部門就拿出一份不可置疑的報告，認為必須取消玩家死亡後會掉落裝備這一個功能，才能使遊戲的線上率變得更高。——當然，如果交給“AI”，恐怕"AI"也一定會得出同樣的結論。所以，當時公司也決定要刪除這個功能。
不過我站出來力排眾議，強烈要求保留這個功能。我表示：人玩遊戲不僅要看資料，更還要看感受。雖然玩家掉落裝備很心痛，但正因為心痛才會有珍惜遊戲裝備的情感產生，同時玩家不太容易記住打掉別人裝備時的快感，卻比較容易記住自己掉落裝備時的痛苦。一旦刪除該功能，玩家再也得不到打掉別人裝備的快樂，同時也失去了珍惜遊戲裝備的情感，最後的結果必然將是遊戲徹底沒人玩了。
這場爭執最後的結果是，公司決定先開一個不掉落裝備的伺服器試試水。結果顯然不能掉落裝備的伺服器資料慘不忍睹。一般伺服器可以有4000人同時線上，而不掉落裝備伺服器一開始有3000人，三天后就暴跌到600人，兩周後掉到200人不到，最後宣佈關閉。公司長舒一口氣，表示幸虧沒純看資料就做出決定。
我認為，這就是我們人類大腦的“AI”以及“大資料”的顯著不同之處，我們的思考魅力在於能想到“AI”所不能想到的東西。而如今隨著外媒重新包裝“人工智慧”概念並配合“大資料”炒作，將很有可能誤導我們的相關產業研究走入歧途。而鼓吹“人工智慧”在很多重要資料領域可以徹底取代人的思潮，也很容易埋下重大隱患。
我們必須理清的是：目前尚無一個程式可以通過“圖靈測試”，因此也就不存在真正意義上的人工智慧。所以人腦在任何領域，都是不可缺失的唯一防火牆，也是唯一決策和研判核心。對於這一點，我們的相關產業應當引起足夠的重視，望傳遞、周知。