近年來， 英偉達(Nvidia)公司一直在蓬勃發展， 因為它的圖形晶片對於人工智慧的分支非常有用， 這些分支導致了語音和圖像識別以及自動駕駛汽車的突破。 現在， 它的目標是在這方面領先——搶先提供從晶片到雲服務的一切適用於深度學習神經網路的東西。
為此， 該公司在加利福尼亞州聖約瑟市的GPU技術大會上推出了大量的新產品和服務， 所有這些產品和服務都把重點放在圖形處理單元晶片和相關軟體上。 新產品既可以提高晶片和電腦的性能， 也可以增強使用它們的雲服務的性能， 並將深度學習延伸到潛在的數十億種產品——從自動駕駛汽車到消費電子產品再到手機。
英偉達的創始人兼首席執行官黃仁勳(圖)說：“使用GPU計算的人數呈指數增長。 我們正處在臨界點。 ”
在所有這些公告中唯一漏掉的一件事是新一代GPU， 這往往是會議的重頭戲。 英偉達在去年五月的同一次會議上介紹了基於其Volta技術的Tesla V100晶片。 但直到去年11月， 其最強大的晶片才能通過所有主要的高性能計算和雲計算提供商獲得， 並且勢頭仍在增長。
黃仁勳確實公佈了他稱之為世界上最大的GPU——基於Volta的Quadro GV100。 它擁有16個Tesla V100晶片內核以及更多的記憶體和一項用於連接晶片中處理內核的新技術。 它還使用了在遊戲開發者大會上介紹的名為RTX的新圖形技術。
但是， 最近幾年的主要焦點是深度學習， 英偉達並不缺乏支援使用深度學習的Volta晶片的新技術。 首先， 黃仁勳介紹了對英偉達平臺進行的一系列改進， 這些平臺在六個月前將深度學習工作負載的性能提高了八倍。
原因之一是該公司已將V100上的記憶體量增加了一倍， 達到了32千百萬位元組， 這將記憶體受限的高性能計算應用程式的性能提高了一半。 另一個原因是一個連接於名為NVSwitch的GPU的新“架構(fabric)”， 它可以讓多達16個V100進行快速通信， 以運行更大的資料集和一個更新的軟體“棧”。
同樣重要的是，
Moor Insights&Strategy的總裁兼首席分析師Patrick Moorhead表示：“DGX-2的最大特點是新的NVSwitch。 這可以提高性能， 並減少延遲， 因為GPU不需要頻頻訪問主記憶體......這是非常重要的事情。 ”
運行模型
英偉達的晶片已被大多數公司用於訓練語音和圖像識別等應用的深度學習模型， 並宣佈了運行這些模型的名為“推斷”的新技術。 Nvidia Accelerated Computing的副總裁兼總經理Ian Buck在新聞發佈會上表示，
例如， 坎薩斯城正在使用深度學習來預測道路上出現坑洞的準確率為76%， 它預計準確率將達到95%。 品趣志公司(Pinterest Inc.)使用基於GPU的系統來執行即時圖像分類和推薦系統。 Buck說：“我們正在創建一個新的計算模型， 這實際上就是軟體自己編寫軟體。 ”
英偉達為了進一步擴大其在推斷工作中的影響力， 它宣佈要推出新版本的TensorRT推斷軟體， 其中包括與穀歌公司(Google Inc.)的受人青睞的TensorFlow機器學習軟體框架的集成。 英偉達還與亞馬遜網路服務公司、臉書公司(Facebook Inc.)和微軟公司合作， 確保Caffe 2、MXNet CNTK、Chainer和Pytorch等框架可以在英偉達平臺上輕鬆運行。 同樣重要的是， 現在針對軟體容器的流行“編排”工具Kubernetes有了GPU加速功能， 它可以讓應用程式在多種電腦、作業系統和雲上運行。
物聯網
英偉達旨在將深度學習引進汽車乃至智慧手機的“物聯網”設備。 為此， 它已經與ARM Holdings(製造主要用於移動設備的節能晶片的廠家)建立了合作關係， 將英偉達的開源Deep Learning Accelerator架構整合到ARM的Trillium機器學習處理器專案中。
Moorhead說：“這一消息使英偉達的機器學習技術能夠應用于家居自動化， 甚至是智慧手機等更小的物聯網設備中。 與ARM的合作並不能保證英偉達的NVDLA能在‘非常小的優勢’上取得成功， 但卻大大增加了它的機會。 ”
同樣重要的是， 英偉達正在處理改進自動駕駛汽車的關鍵任務， 其中一個任務緣起優步(Uber Technologies Inc.)在亞利桑那州引發的一起行人喪生事故， 這起事故似乎是可以預防的。 英偉達的資深汽車總監Danny Shapiro指出， 蘭德公司(Rand Corp.)認為要使自動駕駛汽車變得安全，數十億英里的訓練是少不了的。他說，在合理的時間範圍內做到這一點的唯一方法是通過快速，超現實的模擬。
這就是英偉達宣佈的內容。DRIVE Constellation是一款使用虛擬實境技術的自動駕駛模擬器，它可以模擬攝像機，LiDAR和用於汽車操作的雷達。來自該模擬器的資料被送入車內的第二台伺服器DRIVE Pegasus進行處理，並且駕駛命令以每秒30次的頻率傳回Constellation，以驗證車輛是否正常運行。我們可以反復模擬各種罕見的“奇怪”駕駛情況來改進系統。
這可能特別關鍵，因為英偉達宣佈，作為對最近發生的交通事故，它暫時停止了自動駕駛汽車的測試，隨後優步也停止了在亞利桑那州的測試。數百家致力於自動駕駛汽車的公司使用英偉達的DRIVE技術。
Moorhead說：“DRIVE Constellation意義非凡，因為英偉達能根據人們在遊戲中的背景和影片創意提供他們想要的盡可能真實的圖像。讓我喜歡的是：汽車公司可以模擬數百億英里的駕駛，而不必在真正的可能會危及生命的汽車中駕駛。”
前沿
此外，與人工智慧相關的公告似乎讓英偉達走到了前沿——機器學習模型的訓練和運行所需的晶片和軟體。儘管最近這種競爭更激烈。例如，英特爾公司在11月宣佈與長期競爭對手超微半導體公司(Advanced Micro Devices Inc.，AMD)建立了令人驚訝的合作夥伴關係，為高端筆記型電腦製造晶片，這些電腦將英特爾的中央處理器與超微半導體的GPU相結合。谷歌已經利用其專用於機器學習的自有張量處理單元(Tensor Processing Unit)晶片服務在雲方面抓住了時機。
儘管如此，Buck還是指出，由於機器學習的發展還處於很早的階段，而且新模型也在不斷湧現，“有一個可程式設計的程式來處理這些問題是非常重要的”。Moor Insights & Strategy的高性能計算和深度學習的諮詢負責人Karl Freund稱：到目前為止，他是對的。
Freund說：“我不認為有任何競爭對手此時會產生任何有意義的影響力。這可能會發生改變，但與英偉達相比，迄今為止他們所付出所有努力都顯得徒勞無功。”
機器學習的發展並沒有明顯的減速。Global Equities Research的分析師Trip Chowdhry表示：“深度機器學習是所有企業應用和所有消費應用的前沿地帶，因此對英偉達的GPU的投資是不會那麼快消停的。
蘭德公司(Rand Corp.)認為要使自動駕駛汽車變得安全，數十億英里的訓練是少不了的。他說，在合理的時間範圍內做到這一點的唯一方法是通過快速，超現實的模擬。這就是英偉達宣佈的內容。DRIVE Constellation是一款使用虛擬實境技術的自動駕駛模擬器，它可以模擬攝像機，LiDAR和用於汽車操作的雷達。來自該模擬器的資料被送入車內的第二台伺服器DRIVE Pegasus進行處理，並且駕駛命令以每秒30次的頻率傳回Constellation，以驗證車輛是否正常運行。我們可以反復模擬各種罕見的“奇怪”駕駛情況來改進系統。
這可能特別關鍵，因為英偉達宣佈，作為對最近發生的交通事故，它暫時停止了自動駕駛汽車的測試，隨後優步也停止了在亞利桑那州的測試。數百家致力於自動駕駛汽車的公司使用英偉達的DRIVE技術。
Moorhead說：“DRIVE Constellation意義非凡，因為英偉達能根據人們在遊戲中的背景和影片創意提供他們想要的盡可能真實的圖像。讓我喜歡的是：汽車公司可以模擬數百億英里的駕駛，而不必在真正的可能會危及生命的汽車中駕駛。”
前沿
此外，與人工智慧相關的公告似乎讓英偉達走到了前沿——機器學習模型的訓練和運行所需的晶片和軟體。儘管最近這種競爭更激烈。例如，英特爾公司在11月宣佈與長期競爭對手超微半導體公司(Advanced Micro Devices Inc.，AMD)建立了令人驚訝的合作夥伴關係，為高端筆記型電腦製造晶片，這些電腦將英特爾的中央處理器與超微半導體的GPU相結合。谷歌已經利用其專用於機器學習的自有張量處理單元(Tensor Processing Unit)晶片服務在雲方面抓住了時機。
儘管如此，Buck還是指出，由於機器學習的發展還處於很早的階段，而且新模型也在不斷湧現，“有一個可程式設計的程式來處理這些問題是非常重要的”。Moor Insights & Strategy的高性能計算和深度學習的諮詢負責人Karl Freund稱：到目前為止，他是對的。
Freund說：“我不認為有任何競爭對手此時會產生任何有意義的影響力。這可能會發生改變，但與英偉達相比，迄今為止他們所付出所有努力都顯得徒勞無功。”
機器學習的發展並沒有明顯的減速。Global Equities Research的分析師Trip Chowdhry表示：“深度機器學習是所有企業應用和所有消費應用的前沿地帶，因此對英偉達的GPU的投資是不會那麼快消停的。