您的位置:首頁>科技>正文

微軟聯合英特爾,為AI打造專屬Brainwa平臺

微軟作為軟體公司的形象深入人心, 但實際上它從未放棄過涉足硬體的機會。

Zune 播放機、Xbox 360遊戲機、Kinect 體感輸入裝置、微軟人體工學鍵鼠、Surface 平板、Lumia 手機、Surfacebook、Band 手環等等都是這家軟體公司在硬體方面的嘗試,

可惜成功的並不多。

這次微軟又聯合英特爾開發了一款自家的硬體加速平臺 Project Brainwave, 目標是帶來高速、即時的雲端 AI。 配置上英特爾提供了最新的 14nm 制程 Stratix 10 FPGA晶片, 可以在 1 毫秒內完成 39.5 Teraflops 的機器學習運算, 特別適合處理異常複雜的AI工作。

由於 Brain Brainwave 專案在基於雲服務的深度學習模式中取得性能和靈活性上的巨大飛躍。 設計即時的 AI 系統便有了可能, 這意味著採用 Brainwa 平臺的 AI 系統能以超低的延遲時間來處理請求。

隨著雲計算的興起, 無論是搜索、查詢、感測器資料流程還是人機對話, 能夠即時的進行資料處理並做出回饋越來越重要, 比如我們每個人都有用過的蘋果 Siri、微軟 Cortant、亞馬遜 Alexa、Google now這些語音助手, 其中亞馬遜 Alexa 的交互體驗獲得一致稱讚, 就是因為亞馬遜 Alexa 做到了高即時性, 在你和它互動時無需等待即可得到回答, 尤其是在連續進行問答的時候, 即時無延遲的交互操作對於用戶體驗非常重要。

該項系統由三個層構成:

高性能的分散式系統架構;

整合硬體DNN引擎作為微服務;

用於部署低延遲訓練模型的編譯器和運行環境;

首先, Brainwave 項目利用了微軟在過去幾年中部署的大規模 FPGA 架構。 將高性能的 FPGA 直接連結到我們的資料中心網路, 我們可以將 DPU 作為硬體微服務提供服務, DPU 可以映射到遠端 FPGA 池,

並在伺服器中迴圈調用。 由於 CPU 不需要處理傳入的請求, 因此 FPGA 處理請求可以和網路傳輸達到同樣的速度, 所以該系統可以大幅降低延遲。

其次, Brainwave 項目採用強大的 “軟” DPU, 很多公司習慣使用硬體 DPU, 雖然可以達到很高的峰值性能, 但硬體 DPU 在設計時就必須選擇運算子和資料類型,

這就導致了靈活性不足。 Brainwave 專案所需的資料類型是在合成時決定的。 這種方法結合 FPGA 上的 ASIC 數位信號處理模組, 並對資料進行定制化、窄精度處理, 從而實現了不弱於硬體 DPU 的峰值性能。

最後, Brainwave 專案已經支持 Microsoft Cognitive Toolkit 和 Google 的 Tensorflow 深度學習平臺, 並計畫支持更多平臺, 同時將在流行框架中常用的訓練模型編譯到 Brainwave 的基礎架構中, 來達到更高的性能。

微軟是雲計算領域第一家採用 FPGA 架構部署的服務商,而 Brainwave 平臺使得能夠在概念上讓 DNN 的思考方式類似於人腦。

微軟未來將在自家的 Azure 雲端提供 Brainwave 計算平臺,在現在這個時代,得 AI 者得用戶,相信有了 Brainwa 平臺加成,說不定真的能夠打造出完全即時的AI呢。

微軟是雲計算領域第一家採用 FPGA 架構部署的服務商,而 Brainwave 平臺使得能夠在概念上讓 DNN 的思考方式類似於人腦。

微軟未來將在自家的 Azure 雲端提供 Brainwave 計算平臺,在現在這個時代,得 AI 者得用戶,相信有了 Brainwa 平臺加成,說不定真的能夠打造出完全即時的AI呢。

Next Article
喜欢就按个赞吧!!!
点击关闭提示