2017年人工智慧（AI）處理器應用元年：華為、蘋果、高通哪家強？

AI處理器真的做什麼？

一個專門的“神經處理單元”真的會影響你嗎？

科技界的最大玩家們已經完全接受了人工智慧（AI）革命了。 蘋果， 高通和華為已經制定了移動晶片組， 旨在更好地解決機器學習（machine learning）任務， 每個都有一個稍微不同的方法。 華為今年在IFA上推出了麒麟970（ Kirin 970）， 稱它是第一款帶有專用神經處理單元（NPU）的晶片組。 然後， 蘋果公司推出了A11仿生晶片（A11 Bionic chip）， 該晶片為iPhone 8,iPhone 8 Plus和iPhone X提供動力。 A11 Bionic的特點是該公司所說的神經引擎是“專用於機器學習”等等。

圖1、華為麒麟970

上周， 高通宣佈推出驍龍（Snapdragon） 845處理器， 稱它將AI任務發送到最合適的內核。 這三家公司的方法之間沒有太大的區別 - 最終歸結為每個公司為開發人員提供的訪問級別， 以及每個設置消耗的功率。

在我們討論之前， 讓我們來看看AI晶片是否與現有的CPU完全不同。 最近在行業中最常聽到的一個術語是“異構計算（heterogeneous computing）”。 它指的是使用多種處理器的系統，

每種處理器都有專門的功能， 以獲得性能提升或者節約能源。 這個想法並不新鮮 - 大量現有的晶片組都在使用它 - 這三種新產品只是在不同程度上使用了這個概念而已。

圖2、驍龍（Snapdragon）845

今年的“人工智慧（AI）晶片”通過增加一個新的專用晶片組件來執行機器學習任務，

或者在Snapdragon 845的情況下， 使用其他低功耗內核來實現這個概念。 例如， 驍龍845可以利用其數位訊號處理器（DSP）來處理需要大量重複數學運算的長時間運行的任務， 如傾聽熱詞。 高通公司產品管理總監Gary Brotman告訴媒體說， 像圖像識別這樣的活動GPU能夠更好地處理。 Brotman領導著高通的AI和Snapdragon平臺的機器學習。

圖3、蘋果發佈A11仿生處理器

同時， 蘋果的A11仿生處理器在其GPU中使用神經引擎來加速人臉識別， 以及Animoji和一些協力廠商應用程式。 這意味著， 當您啟動iPhone X上的這些進程時， A11會打開神經引擎來執行所需的計算， 以驗證您的身份， 或將您的面部表情映射到的通信處理器上。

在麒麟970上， NPU（Neural-network Processing Unit， 既嵌入式神經網路處理器）接管了掃描和翻譯單詞的任務， 這些單詞是由微軟翻譯公司提供的， 這是目前為止唯一一個針對這個晶片組進行優化的協力廠商軟體。 華為表示， 其“HiAI”異構計算架構可以最大化其晶片組上大部分元件的性能， 因此可能將AI任務分配給不止一個NPU上。

不同之處在於，

這種新架構意味著用於在雲中處理的機器學習計算現在可以在設備上更高效地執行。 通過使用CPU以外的其他部分來運行AI任務， 手機可以同時做更多的事情， 所以在等待翻譯或找到您的狗的照片時， 您不太可能遇到滯後和延時。

另外， 在您的手機上運行這些流程而不是將它們發送到雲端也會更有利於保護您的隱私， 因為您可以減少駭客獲取資料的潛在機會。

圖4、A11 Bionic的兩個“性能”內核和四個“效率”內核。

這些AI晶片的另一大優勢是節能。功率是寶貴的資源，需要明智地分配，因為這些行動中的需要手機可以重複一整天。 GPU傾向於吸取更多的電流，所以如果DSP的能效更高，效果相似，那麼最好是挖掘後者的潛力。

要清楚的是，執行某些任務時，不是由晶片組本身來決定使用哪個內核。Gary Brotman說：“今天，這取決於他們想要運行它的開發人員或者手機OEM廠家。程式師可以使用Google的TensorFlow（或者更精確的說它的Lite移動版本）支援的庫來指定在哪些內核上運行他們的模型。高通，華為和蘋果都使用TensorFlow Lite和Facebook的Caffe2等最流行的軟體發展工具一起工作。高通還支持最新的Open Neural Networks Exchange（ONNX），而Apple通過其核心ML框架增加了對更多機器學習模型的相容性。

到目前為止，這些晶片都沒有提供非常明顯的現實世界的好處。 晶片製造商將吹捧他們自己的測試結果和基準，這些測試最終沒有任何意義，直到AI流程成為我們日常生活中更重要的一部分。 我們正處於設備上機器學習的早期階段，開發人員使用新硬體的情況寥寥可數。

不過現在，顯而易見的是，使設備上的機器學習相關任務更快更省電的比賽正在開始。 我們只能等待一段時間才能看到這個支點對人工智慧（AI）的真正好處。

（完）

圖4、A11 Bionic的兩個“性能”內核和四個“效率”內核。

這些AI晶片的另一大優勢是節能。功率是寶貴的資源，需要明智地分配，因為這些行動中的需要手機可以重複一整天。 GPU傾向於吸取更多的電流，所以如果DSP的能效更高，效果相似，那麼最好是挖掘後者的潛力。

要清楚的是，執行某些任務時，不是由晶片組本身來決定使用哪個內核。Gary Brotman說：“今天，這取決於他們想要運行它的開發人員或者手機OEM廠家。程式師可以使用Google的TensorFlow（或者更精確的說它的Lite移動版本）支援的庫來指定在哪些內核上運行他們的模型。高通，華為和蘋果都使用TensorFlow Lite和Facebook的Caffe2等最流行的軟體發展工具一起工作。高通還支持最新的Open Neural Networks Exchange（ONNX），而Apple通過其核心ML框架增加了對更多機器學習模型的相容性。

到目前為止，這些晶片都沒有提供非常明顯的現實世界的好處。 晶片製造商將吹捧他們自己的測試結果和基準，這些測試最終沒有任何意義，直到AI流程成為我們日常生活中更重要的一部分。 我們正處於設備上機器學習的早期階段，開發人員使用新硬體的情況寥寥可數。

不過現在，顯而易見的是，使設備上的機器學習相關任務更快更省電的比賽正在開始。 我們只能等待一段時間才能看到這個支點對人工智慧（AI）的真正好處。

（完）