華文網

穀歌嫌Intel處理器太弱發飆自研:快70倍!

四年前,穀歌面臨一道難題,如果每個使用者每天都會花費三分鐘時間來使用語音辨識服務的話,那麼公司將不得不將資料中心規模再翻一倍,以便處理海量的語音資料和AI計算。

不過為了滿足這樣的需求,穀歌並沒有去建設更大的資料中心,而是轉為開發適用於AI計算的高性能轉用硬體。

最終,名為TPU(Tensor Processing Unit)的處理器誕生了,其是一種專門為加速深層神經網路運算能力而研發的晶片。

今天,穀歌在一篇博文中提到了在TPU上所取得的一系列成績。

穀歌表示,相比類似的伺服器級Intel Haswell CPU和NVIDIA K80 GPU,TPU在AI運算測試中的平均速度要快15-30倍。更重要的是,TPU的每瓦性能要比普通的GPU高出25-80倍。

穀歌資料中心自2015年以來一直在使用TPU來加速AI服務,而且首獲了理想的效果,其能夠更快的處理用戶發送的請求,降低結果回饋的延遲。

值得一提的是,穀歌認為現在的TPU仍在硬體和軟體方面存在很大的優化空間,比如假定用上了NVIDIA K80 GPU中的GDDR5記憶體,那麼TPU就可以發揮出更好的性能。

此外,谷歌工程師還為TPU開發了名為CNN1的軟體,其可以讓TPU的運行速度比普通CPU高出70多倍!