CNET科技行者 9月28日 北京消息 Harri Valpola是名芬蘭電腦科學家， 同時， 他也是ZenRobotics創始人兼CTO， Curious AI Company創始人兼CEO。
Harri Valpola的理想是創造AI互聯網。 “從人類的角度來看， 它看起來像個巨大的大腦，
然而前路漫漫， 艱難而漫長。 儘管近年來取得了一些進展， 但人工智慧的發展速度仍然不盡人意。 Valpola 表示， “目前使用的所有AI都是二流的， 而不是頂級的， 這種AI就像愚蠢的蜥蜴， 無法理解這個複雜的世界。 我們需要大量資料， 因為我們想要建立的是更傾向於哺乳動物的大腦。 ”
從學者到創業者的轉變 Valpola遇到了很多難題
與許多研究AI前沿領域的電腦科學家和數學家一樣， Valpola也擁有無可挑剔的研究能力。 他是芬蘭神經網路先驅Tuevo Kohonen的學生， 他在阿爾托大學工作了二十年(研究人造大腦)。
為了把理論付諸實踐， Valpola與其同事共同創立了ZenRobotics公司， 主要致力於為智慧型機器人開發大腦。 他說， 我們原本的計畫是對AI進行革命。 技術在實驗室中運作良好， 但卻總難以應付紛繁複雜的現實情況。
第一個問題是：數據。 模擬實驗中， 機器人可以“看到”周圍的一切， 但電腦卻總難以讀取淩亂複雜的現實世界的資料。 第二個問題是：現實情況下， 電腦無法通過數百萬次測試得到有效的解決方法。 像人類一樣， 機器人是個物體， 且總運動緩慢;由於受過多的重複訓練， 它們很少有機會能夠自主進化發展。
Valpola表示， 現實世界中， 互動是種非常稀缺的資源。 他使用的許多技術以及他人的研究所獲得的許多驚人的發現， 實際上是基於模擬環境。 以AlphaGo為例， 這是個非常好的系統， 但為了讓AlphaGo學會遊戲規則需要花費的時間也是驚人的。 該系統達到頂級人類玩家水準之前， 從某種程度上來說已經花費了3000年的時間練習此遊戲。
由於無法實現其初始目標， ZenRobotics公司進行了一些調整：現在， 機器人致力於實現較為簡單的目標， 即從工業廢物中挑選有用的原料。 該公司籌集了1100萬英鎊， 吸引了全球最大的回收公司成為客戶。 但對Valpola而言， 一切都只是妥協。 因此， 2015年， Valpola離開了ZenRobotics公司， 他打算從頭再來， 再進行一次嘗試。
重頭再來 創立The Curious AI Company
44歲的Harri Valpola創立了一家擁有20名員工的人工智慧初創公司The Curious AI Company(以下簡稱Curious公司)。
風險投資公司Balderton Capital的合夥人Daniel Waterhouse表示：“投資於研究型企業並不常見， 但有益於本輪融資和之前的種子輪融資。 但從長遠看， 研究型企業有能力創造出產品和商機。 這種方式有利於培養人才， 且Valpola也致力於建立一個世界級頂尖研究團隊。 ”
Curious公司聯合創始人：從左到右分別是Harri Valpola、首席技術官(CTO)Antti Rasmus和首席運營官(COO)TimoHaanpää
Curious公司解決了當初ZenRobotics公司所面臨的難題， 首先是處理資料的難度。 Valpola的方法很簡單：“清理髒資料的最好辦法是讓電腦來處理”。 2015年他發表了一篇文章， 公佈了他的第一次嘗試：他描述了一個梯形網路：一個能夠通過在結果中注入噪音來訓練自己處理複雜情況的神經網路， 像教師在考試題目中加入易錯點來幫助學生保持警覺一樣。
梯形網路允許電腦學習大量未經預先標記的例子， 該領域中稱其為半監督學習(semi-supervised learning)。手寫數位圖片是基準問題測試領域常用的資料集，此次使用該方法取得的實驗結果令人驚歎。100個初始標記的示例中，該系統正確識別了近99%的圖像。世界頂尖電腦科學家稱讚該技術“令人印象深刻，是最先進的技術”。
Valpola繼續研發新技術以處理其他類型的資料集。今年的神經資訊處理系統大會上(AI領域的重要會議，也稱NIPS)，他將提出一個類似“梯子網路”的新技術，Valpola將其命名為具有雙關意義的“Mean Teacher(刻薄的老師)”。發表的實驗結果顯示：此次實驗物件是Google街景視圖的房屋編號圖片——即使僅經過較少的訓練，該項技術仍然取得了較以往更好的表現。
Yoshua Bengio是蒙特利爾大學電腦科學系的教授，也是深度學習的領軍人物之一，他說：“根據文中描述，我認為其取得的成果相當不錯，是半監督學習的又一創紀錄發展。”
Valpola也在研究其在ZenRobotics公司時所面臨的另一個問題，即AI對於試錯的依賴。這也是最先進的“無模型”AI所運用的方法——對於這類AI，研究人員並未預先將其可能遇到的所有規則預先錄入。可以嘗試數十億種不同的場景，而後再逐漸建立有效模式。但現實世界中事情永遠不會如此簡單。Valpola表示，為了保證AI順利運轉，AI將需要基於相對較少的資訊進行推理，這一能力也被我們稱之為“計畫”。
但問題在於神經網路僅能單向發揮作用。例如向其展示大熊貓和長臂猿的圖像，他們將迅速而準確的識別出這兩個物件。但如果問AI：“你會把長臂猿歸為何種形象?”正如一個典型案例表明的那樣，AI處於混亂狀態，無法理解這個問題，即使長臂猿看起來與熊貓完全不同。Valpola說，“這項技術背後有堅實的理論作支撐，但引人注目的是其在實踐中的表現。網路在一方面可信，另一方面竟然表現得如此愚蠢，簡直讓人難以相信。”
人類非常擅長逆向思考(很多動物也十分擅長於此)。當你思考某事物時，你也在這樣做，這時你需要問自己：“我是如何做到這一點的?”你可能只考慮是否向老闆發一封關於假期的電子郵件或者親自打電話給他。神經網路可以利用目前情況和計畫行動，且利用它們預測未來。但是，神經網路無法進行反向操作，不能說：“如果想要實現某個目標，你最好這樣做”，神經網路的線性進程無法逆轉。
對於任何智慧決策過程而言，這都至關重要。Valpola表示，“我們已經解決了這個問題，能夠調用可以發出語音的神經網路，能夠以預期結果為導向做出行動。”儘管該研究尚未公佈，但Valpola認為不久的將來這一切都將實現。
一切只是開始 Valpola想創造出“AI互聯網”
對於Valpola而言，這一切還只是開始。他不會感到滿足，除非創造出AI互聯網。對此，他的解決方案是模仿人類思維過程，特別是人類思維方式中的“關係推理”。
想要理解關係推理的運作方式，只需要低頭看下手。手與其他部分的關係十分密切，其他部分包括另一隻手、身體的其餘部分、房間的其他物體等。大腦通過將其放置在具體語境中使其變得有意義。
神經網路看待世界的方式非常不同。預將手展示出來，必須拍攝圖片，之後圖片被分解成圖元;然後，神經網路開始處理圖元，為每個局部區域分配一組數位：實質上其評分方法是通過對比不同物件的相似程度。
該系統類比的是大腦中細胞的運動，但忽略了一個關鍵因素：即可以識別出物件的特徵，但不能理解哪些特徵屬於哪個物件以及物件之間相互關聯的方式。因此，它需要大量資料。因為它不能進行推斷，註定要重新學習每一種情況。
“你無法恰當地表達某些事物，就好像某些東西屬於一類，但又與其他事物分開，” Valpola說，“從內部看，該網路並未真正地代表某類事物。如無這一能力，人工智慧在任何情況下都不會是革命性的”。
對於Valpola的觀點，許多人表示同意。倫敦大學帝國理工學院認知機器人教授Murray Shanahan說：“我曾與Valpola見過幾次面，我們對AI和深度學習有類似的觀點，” Bengio補充道：“我認為他是對的。我自己就發起了一個有類似目標的研究專案。在我看來，從對知識的突破到更高層次的認知，這些才是未來進步的關鍵方面。”
問題在於：怎麼做?Alphabet的人工智慧研究部門DeepMind最近發表了一篇論文，對調整神經網路以應對挑戰提出了建議。這篇文章沒有給Valpola留下什麼深刻印象。他說：“我在這一領域已經研究了很長時間了，現在出版的東西與八年前我們剛開始進行的工作非常相似。光是發現問題、描述問題不管用。”
Valpola說：這樣做不行的原因在於它仍然是基於離散資訊的數位模型。他認為：想要克服物件關係問題，人工智慧必須能處理連續的資料信號——這意味著需要增強其類比能力。
“這是人類學習的基礎，” Valpola說。這一點也是他想要模擬哺乳動物大腦的關鍵：“我們需要的是與目前的深入學習具有相同知覺能力的東西，除此之外，還需要符號操縱能力和類比推理的先天能力。”關於如何實現這一點，他表示“那是個秘密”，值得一提的是，這是自他進入學術界以來一直研究的問題。
“第一個原型是十年前建成的。而我們也正在繼續這方面的研究。所以我們正在構建這些具有更好互動能力的神經網路。我認為人們目前還未意識到實現這一點的意義。接下來的一年中，我們將在該領域展開非常有趣的研究。”
試想AI如能理解關係，也有助於理解他們未來的發展方向。Valpola對於AI的常見難題置之一笑，例如迴紋針最多化(paperclip maximiser，這是牛津大學哲學家 Nick Bostrom 提出的一個思維實驗)。“必須有一個智慧系統來接管世界，另一方面，需要一個非常愚蠢的系統按照人類的要求辦事。但到目前為止，這些還都未能實現。”他說道。
相反，人工智慧將自己看作與其他智慧生物一樣的複雜網路的一部分：不僅是人工智慧(作為AI互聯網的一部分)，而且作為人類。他們會更加社會化，產生或好或更壞的影響。
Valpola表示，“如何帶領人們走向美好生活，我認為AI能夠理解這個問題。”
在AI的第一波發展浪潮中，你需要的是成為一名程式師。第二波浪潮中，你需要成為一名資料科學家。而在第三波浪潮中——你需要擁有更高的道德，而且越高，越好。
該領域中稱其為半監督學習(semi-supervised learning)。手寫數位圖片是基準問題測試領域常用的資料集，此次使用該方法取得的實驗結果令人驚歎。100個初始標記的示例中，該系統正確識別了近99%的圖像。世界頂尖電腦科學家稱讚該技術“令人印象深刻，是最先進的技術”。Valpola繼續研發新技術以處理其他類型的資料集。今年的神經資訊處理系統大會上(AI領域的重要會議，也稱NIPS)，他將提出一個類似“梯子網路”的新技術，Valpola將其命名為具有雙關意義的“Mean Teacher(刻薄的老師)”。發表的實驗結果顯示：此次實驗物件是Google街景視圖的房屋編號圖片——即使僅經過較少的訓練，該項技術仍然取得了較以往更好的表現。
Yoshua Bengio是蒙特利爾大學電腦科學系的教授，也是深度學習的領軍人物之一，他說：“根據文中描述，我認為其取得的成果相當不錯，是半監督學習的又一創紀錄發展。”
Valpola也在研究其在ZenRobotics公司時所面臨的另一個問題，即AI對於試錯的依賴。這也是最先進的“無模型”AI所運用的方法——對於這類AI，研究人員並未預先將其可能遇到的所有規則預先錄入。可以嘗試數十億種不同的場景，而後再逐漸建立有效模式。但現實世界中事情永遠不會如此簡單。Valpola表示，為了保證AI順利運轉，AI將需要基於相對較少的資訊進行推理，這一能力也被我們稱之為“計畫”。
但問題在於神經網路僅能單向發揮作用。例如向其展示大熊貓和長臂猿的圖像，他們將迅速而準確的識別出這兩個物件。但如果問AI：“你會把長臂猿歸為何種形象?”正如一個典型案例表明的那樣，AI處於混亂狀態，無法理解這個問題，即使長臂猿看起來與熊貓完全不同。Valpola說，“這項技術背後有堅實的理論作支撐，但引人注目的是其在實踐中的表現。網路在一方面可信，另一方面竟然表現得如此愚蠢，簡直讓人難以相信。”
人類非常擅長逆向思考(很多動物也十分擅長於此)。當你思考某事物時，你也在這樣做，這時你需要問自己：“我是如何做到這一點的?”你可能只考慮是否向老闆發一封關於假期的電子郵件或者親自打電話給他。神經網路可以利用目前情況和計畫行動，且利用它們預測未來。但是，神經網路無法進行反向操作，不能說：“如果想要實現某個目標，你最好這樣做”，神經網路的線性進程無法逆轉。
對於任何智慧決策過程而言，這都至關重要。Valpola表示，“我們已經解決了這個問題，能夠調用可以發出語音的神經網路，能夠以預期結果為導向做出行動。”儘管該研究尚未公佈，但Valpola認為不久的將來這一切都將實現。
一切只是開始 Valpola想創造出“AI互聯網”
對於Valpola而言，這一切還只是開始。他不會感到滿足，除非創造出AI互聯網。對此，他的解決方案是模仿人類思維過程，特別是人類思維方式中的“關係推理”。
想要理解關係推理的運作方式，只需要低頭看下手。手與其他部分的關係十分密切，其他部分包括另一隻手、身體的其餘部分、房間的其他物體等。大腦通過將其放置在具體語境中使其變得有意義。
神經網路看待世界的方式非常不同。預將手展示出來，必須拍攝圖片，之後圖片被分解成圖元;然後，神經網路開始處理圖元，為每個局部區域分配一組數位：實質上其評分方法是通過對比不同物件的相似程度。
該系統類比的是大腦中細胞的運動，但忽略了一個關鍵因素：即可以識別出物件的特徵，但不能理解哪些特徵屬於哪個物件以及物件之間相互關聯的方式。因此，它需要大量資料。因為它不能進行推斷，註定要重新學習每一種情況。
“你無法恰當地表達某些事物，就好像某些東西屬於一類，但又與其他事物分開，” Valpola說，“從內部看，該網路並未真正地代表某類事物。如無這一能力，人工智慧在任何情況下都不會是革命性的”。
對於Valpola的觀點，許多人表示同意。倫敦大學帝國理工學院認知機器人教授Murray Shanahan說：“我曾與Valpola見過幾次面，我們對AI和深度學習有類似的觀點，” Bengio補充道：“我認為他是對的。我自己就發起了一個有類似目標的研究專案。在我看來，從對知識的突破到更高層次的認知，這些才是未來進步的關鍵方面。”
問題在於：怎麼做?Alphabet的人工智慧研究部門DeepMind最近發表了一篇論文，對調整神經網路以應對挑戰提出了建議。這篇文章沒有給Valpola留下什麼深刻印象。他說：“我在這一領域已經研究了很長時間了，現在出版的東西與八年前我們剛開始進行的工作非常相似。光是發現問題、描述問題不管用。”
Valpola說：這樣做不行的原因在於它仍然是基於離散資訊的數位模型。他認為：想要克服物件關係問題，人工智慧必須能處理連續的資料信號——這意味著需要增強其類比能力。
“這是人類學習的基礎，” Valpola說。這一點也是他想要模擬哺乳動物大腦的關鍵：“我們需要的是與目前的深入學習具有相同知覺能力的東西，除此之外，還需要符號操縱能力和類比推理的先天能力。”關於如何實現這一點，他表示“那是個秘密”，值得一提的是，這是自他進入學術界以來一直研究的問題。
“第一個原型是十年前建成的。而我們也正在繼續這方面的研究。所以我們正在構建這些具有更好互動能力的神經網路。我認為人們目前還未意識到實現這一點的意義。接下來的一年中，我們將在該領域展開非常有趣的研究。”
試想AI如能理解關係，也有助於理解他們未來的發展方向。Valpola對於AI的常見難題置之一笑，例如迴紋針最多化(paperclip maximiser，這是牛津大學哲學家 Nick Bostrom 提出的一個思維實驗)。“必須有一個智慧系統來接管世界，另一方面，需要一個非常愚蠢的系統按照人類的要求辦事。但到目前為止，這些還都未能實現。”他說道。
相反，人工智慧將自己看作與其他智慧生物一樣的複雜網路的一部分：不僅是人工智慧(作為AI互聯網的一部分)，而且作為人類。他們會更加社會化，產生或好或更壞的影響。
Valpola表示，“如何帶領人們走向美好生活，我認為AI能夠理解這個問題。”
在AI的第一波發展浪潮中，你需要的是成為一名程式師。第二波浪潮中，你需要成為一名資料科學家。而在第三波浪潮中——你需要擁有更高的道德，而且越高，越好。