華文網

英特爾新型神經晶片Loihi能從環境回饋中自主學習

英特爾本周推出了一種先進的自學習神經晶片,名為Loihi。該晶片由 128 個計算核心組成,每個核心有 1024 個人工神經元,整個晶片共有超過 13 萬個神經元和 1.3 億個突觸連接。

神經原替代邏輯門,能耗比超CPU 1000倍

像所有的神經元晶片一樣,Loihi模仿了大腦的運作方式,以“刺激神經元”作為其基本的計算基礎,根據環境的不同回饋模式進行操作。這些神經元代替了當今矽片中的傳統邏輯門,並且沒有將資訊作為二進位1和0處理,而是將它們發送的信號加權,

使其功能比二進位更加類比。而且,與CPU不同,這些神經元不受中央“時鐘”的控制,而是可以在需要時觸發。

同時,Loihi也是一款節能的晶片,比當今處理器能耗比提升高達1000倍,當涉及到AI在手機和筆記型電腦上的工作時,這是一個巨大的優勢。“大腦並不像你所想的那樣頻繁溝通,

”Intel 實驗室的高級首席工程師和首席科學家 Narayan Srinivasa 在採訪中說,“沒有神經刺激的時候,晶片是不需要耗能的。”

Loihi研究測試晶片包括類比大腦基本機制的數位電路,可以利用資料來學習和推斷,不需要以傳統的方式進行訓練,通過“非同步啟動”來計算,使機器學習更快更有效率,同時需要對計算力的需求更小。

晶片內的每個“人工神經”都有“突觸”同其他神經互相連接,以“思考”問題答案。

不用資料庫也能自己學習?

英特爾稱該晶片可以適應 Go 語言並使用它學習。目前最前沿的機器學習系統依賴於需要大規模資料和大量算力的深度學習,而 Loihi 晶片完全不需要那些緊張而集中的學習過程,並且可以自主學習(self-learning),

英特爾稱。

也就是說,Loihi可以在單個晶片上完成訓練和推理,而不是等待雲的下一個知識包更新。英特爾認為該晶片可以用於現實世界中需要即時學習的設備:自動駕駛無人機和汽車,即時適應環境中發生的狀況;用攝像頭找尋失蹤人口;或者讓紅綠燈自動適應交通狀況。

研究人員已經證明,與其他典型的尖脈衝神經網路相比,在解決MNIST的數字識別問題時,他們的學習速度要快100萬倍。與卷積神經網路和深度學習神經網路等技術相比,Loihi測試晶片在同一任務上使用了更少的資源。

總結下來,Loihi測試晶片的特點包括:

•完全的非同步神經形態的多核網狀結構,它支持許多種不同的稀疏、層級、迴圈神經網路拓撲結構,每個神經元都能與成千上萬的其他神經元進行通信。

•每個神經形態核心包括一個學習引擎,可以在操作過程中對網路參數進行程式設計,支援監督、無監督、強化和其他學習模式。

•由英特爾的14納米工藝製造。

•總共有13萬神經元和1.3億突觸。

•開發和測試高效的演算法,包括路徑規劃、約束滿足、稀疏編碼、詞典學習和動態模式學習和適應。

從神經元數量上看,Loihi 晶片比一個簡單的蝦腦更複雜一些。然而,人類大腦由超過 800 億個神經元構成。也就是說,這個晶片距離類比人類大腦的內部的複雜行為還很遙遠。

IBM是神經形態晶片界老前輩

英特爾預期在11月能開發出第一代測試晶片,以英特爾的14nm工藝技術製作。英特爾聲稱將計畫在2018年上半年內,使晶片能被AI研究領域的大學和研究員使用。

即使英特爾還沒有實際開發出晶片,公司已經利用FPGA對其硬體做了有限測試。利用 FPGA,英特爾已經測試了一些應用,比如路徑規劃(在地圖上的兩個地點之間尋找最優路徑),以及詞典學習。

Srinivasa說英特爾在三年前就開始關注神經形態計算,不過英特爾並不是第一個探索這個想法的公司。尤其是IBM Research已經花了好幾年時間研究一種類似的類比神經元的神經形態晶片,即TrueNorth。TrueNorth晶片包含4096個核以及540萬個電晶體,只需要70毫瓦的能耗。該晶片類比了一百萬個神經元和2億5600萬個突觸,比起英特爾的第一代Loihi測試晶片的規模可大多了。TrueNorth大概能模擬一隻蜜蜂的大腦。

“它正在現今無機矽技術的極限內,盡可能的模仿大腦的工作方式。”IBM首席科學家,TrueNorth項目負責人Dharmendra Modha在去年的採訪中說。

有些AI專家對IBM的專案提出了質疑。2014年當IBM公佈了TrueNorth的時候,深度學習先驅和Facebook AI研究團隊負責人Yann LeCun在一篇文章中寫道,該晶片在執行使用卷積神經網路的深度學習模型進行圖像識別的時候會遭遇困難。Srinivasa也承認英特爾的晶片也在使用一些深度學習模型時表現的不好。

Srinivasa說:“我們追求的是速度,這是深度學習所缺失的。”

不管英特爾的神經生態晶片走到哪一步,它都表明了英特爾打破傳統CPU的藩籬。如今隨著AI越來越重要,英特爾也在擁抱其他類型的晶片設計。在2015年,英特爾花費167億美元收購了FPGA晶片製造商Altera。去年,英特爾以4億美元的價格收購了AI創業公司Nervana。其競爭對手英偉達的GPU目前正牢牢掌控著這一領域。

Srinivasa說:“也許不用三、五年,Loihi晶片就能走出實驗室了。”

本文綜合自雷鋒網、太平洋電腦網、機器之心、36kr報導

每個神經元都能與成千上萬的其他神經元進行通信。

•每個神經形態核心包括一個學習引擎,可以在操作過程中對網路參數進行程式設計,支援監督、無監督、強化和其他學習模式。

•由英特爾的14納米工藝製造。

•總共有13萬神經元和1.3億突觸。

•開發和測試高效的演算法,包括路徑規劃、約束滿足、稀疏編碼、詞典學習和動態模式學習和適應。

從神經元數量上看,Loihi 晶片比一個簡單的蝦腦更複雜一些。然而,人類大腦由超過 800 億個神經元構成。也就是說,這個晶片距離類比人類大腦的內部的複雜行為還很遙遠。

IBM是神經形態晶片界老前輩

英特爾預期在11月能開發出第一代測試晶片,以英特爾的14nm工藝技術製作。英特爾聲稱將計畫在2018年上半年內,使晶片能被AI研究領域的大學和研究員使用。

即使英特爾還沒有實際開發出晶片,公司已經利用FPGA對其硬體做了有限測試。利用 FPGA,英特爾已經測試了一些應用,比如路徑規劃(在地圖上的兩個地點之間尋找最優路徑),以及詞典學習。

Srinivasa說英特爾在三年前就開始關注神經形態計算,不過英特爾並不是第一個探索這個想法的公司。尤其是IBM Research已經花了好幾年時間研究一種類似的類比神經元的神經形態晶片,即TrueNorth。TrueNorth晶片包含4096個核以及540萬個電晶體,只需要70毫瓦的能耗。該晶片類比了一百萬個神經元和2億5600萬個突觸,比起英特爾的第一代Loihi測試晶片的規模可大多了。TrueNorth大概能模擬一隻蜜蜂的大腦。

“它正在現今無機矽技術的極限內,盡可能的模仿大腦的工作方式。”IBM首席科學家,TrueNorth項目負責人Dharmendra Modha在去年的採訪中說。

有些AI專家對IBM的專案提出了質疑。2014年當IBM公佈了TrueNorth的時候,深度學習先驅和Facebook AI研究團隊負責人Yann LeCun在一篇文章中寫道,該晶片在執行使用卷積神經網路的深度學習模型進行圖像識別的時候會遭遇困難。Srinivasa也承認英特爾的晶片也在使用一些深度學習模型時表現的不好。

Srinivasa說:“我們追求的是速度,這是深度學習所缺失的。”

不管英特爾的神經生態晶片走到哪一步,它都表明了英特爾打破傳統CPU的藩籬。如今隨著AI越來越重要,英特爾也在擁抱其他類型的晶片設計。在2015年,英特爾花費167億美元收購了FPGA晶片製造商Altera。去年,英特爾以4億美元的價格收購了AI創業公司Nervana。其競爭對手英偉達的GPU目前正牢牢掌控著這一領域。

Srinivasa說:“也許不用三、五年,Loihi晶片就能走出實驗室了。”

本文綜合自雷鋒網、太平洋電腦網、機器之心、36kr報導