圖1、行業新趨勢：推動在包括您的智慧手機在內的邊緣設備上進行機器學習
機器學習（ML， Machine learning）的執行和推論正在推進所謂的“邊緣（edge）”設備， 其中包括智慧手機等的發展， 德勤全球認為， 2017年銷售的3億部智慧手機擁具有機載機器學習ML（Machine learning）能力。 智慧向邊緣設備的遷移對於處理接近資料來源的資料和增加雲是有必要的。 將計算移到邊緣的原因包實現括低延遲， 保護隱私和連接問題。 將機器學習ML（Machine learning）推到邊緣設備與機器學習的訓練不同， 模型在高性能計算平臺上進行了訓練， 並將生成的模型推送到邊緣設備。
圖2、機器學習實現模型
圖2：資料中心用例中描述的FPGA上的硬體微服務：相互連接的FPGA構成一個獨立的計算平面， 可以獨立於CPU進行管理和使用。
智慧在邊緣是人工智慧（AI）和物聯網（IoT）的研究前沿， 但是當涉及到將一個機器學習（ML， Machine learning）模型變成一個具有資源約束的邊緣設備時， 挑戰是很大的。 不過， 智慧手機是最流行的計算平臺。 IHS Markit預測到2020年將有60億部智慧手機被使用。 使用機器學習（ML， Machine learning）的應用程式將使智慧手機變得更加自主， 增加隱私性和可靠性， 因為它們不必經常性地連接到雲中。
圖3、Tesla的內部智慧架構
人工智慧工作負載面臨的挑戰是計算密集型， 涉及複雜併發的大型複雜神經網路模型。 智慧手機（和其他物聯網設備）總是傾向于開啟， 並且通常必須即時地產生結果。 受限制的環境需要高效的熱設計， 以實現需要長時間電池續航時間的光滑， 超輕型的設備， 同時需要滿足存儲和記憶體的限制。 智慧手機和物聯網設備有著共同的挑戰。 這就是為什麼機器學習（ML， Machine learning）演算法的任何改進現在都是一個大問題的原因之一。 很多公司正在爭取優化存儲空間和運行時的效率， 以改善在資源受限設備上的機器學習（ML， Machine learning）。 同樣， 邊緣計算與連接到雲計算的好處消除了延遲和連接問題，
圖4、機器學習模型
除了開發者和消費者之外， Google還創建了一個名為“聯合學習”（Federated Learning）的眾包培訓模式， 該模式“使手機能夠協作學習共用預測模型， 同時將所有的訓練資料保存在設備上， 機器學習（ML， Machine learning）不需要將資料存儲在雲中。 “就像在您的智慧手機上創建一個自動補丁來更新雲中的智慧手機模型。 您可以從雲端下載當前模型， 並通過允許從手機上的資料進行學習來改進模型。 對模型所做的更改將作為“小而專注的更新”發送， 並被加密發送到雲端， 這樣保證了相應的安全性。
圖5、Google的“聯合學習”（Federated Learning）
（完）