您的位置:首頁>數碼>正文

神經網路推理硬體加速器Movidius神經計算棒

Movidius現在是Intel的一部分(由Intel在2016年收購)。

Movidius神經計算棒

性能測試

Ubuntu 16.04下的SDK安裝順利。 該SDK還包含腳本, 從互聯網上獲取朱古力的模型。 預設情況下,

以下型號可用:Age, AlexNet, Gender, GoogLeNet, SqueezeNet。

此例編譯用了C編寫的例子(位於ncapi / c_examples /資料夾), 並進行了一些檢查。 與硬體的所有交互都是使用libusb(看起來像構建在libusb之上的libmvnc.so), 而不需要任何內核級的驅動程式。

C示例允許我們做“圖像分類”。 現在我們來做一些測試。 這是一個性別檢測過程:

時間./c_examples/ncs-fullcheck -c100 ./networks/Gender/〜/ mona-lisa.jpg

正如我們可以看到, Mona Lisa的性別被準確地檢測到(99.51%的女性)。

Mona Lisa性別檢測與神經網路

檢測時間約為26秒, 100次。 這意味著我們已經通過硬體加速實現了約4 fps(每秒幀數)。

功耗和能源效率

在這次測試中能夠控制功耗, 平均電流為0.18Amps。

Movidius神經計算棒功耗0.18A

在5V USB上, 這給了我們5 * 0.18 = 0.9Watts。 這意味著我們可以實現4 / 0.9 = 4.4 fps每瓦。

為了更明確, 與iphone7(11Wh)相同規格的電池可以為該設備供電約12小時。 這些都是移動和自主用例的好結果。

順便說一下, 使用Joker主模組(使用英特爾的x5-z8500), 使用相同的任務(圖像分類), 功耗約為5W, 達到2 fps。 因此, 這相當於每瓦0.4 fps。 與Movidius神經計算棒相比, 這個結果是11倍。 一個很大的特點是我們將神經網路任務卸載到“輔助處理器”, 為其他重要任務留下了主要的CPU功能。

停電狀態下的功耗

預設情況下, 在Linux中禁用USB設備的掛起。 我們已經使用Movidius Neural Compute Stick連接到以下命令的埠:

echo“auto”> / sys / bus / usb / devices / 1-2 / power / control

幾秒鐘後, 內核日誌顯示裝置已切換到掛起狀態:

7,101290,1988008779700, - ; usb 1-2:usb自動掛起, 喚醒0

暫停狀態下的功耗約為0.07A(70mA)。 該值高於USB規格(應小於2.5 mA)。 這可能會在移動應用中引起更高的電池排放率。

Movidius神經計算功能暫停狀態下的功耗約為0.07安

Movidius拆解圖

Next Article
喜欢就按个赞吧!!!
点击关闭提示