1新智元報導
2017年9月26日, 北京, 英偉達GPU技術峰會GTC CHINA 開幕。 英偉達創始人兼CEO黃仁勳發表主旨演講。
生態:GPU帝國, BAT、華為浪潮聯想, 1900家創業公司統統包括
“Welcome Beijing!”黃仁勳揮著手激動上臺, 然後直奔主題。
首先, 黃仁勳講了兩股力量推動計算領域發生改變。 第一次是摩爾定律的結束, 加快、加深管道, 讓CPU設計者在片上放下越來越多的電晶體。 但是, 現在這樣做越來越來。 45%, CPU性能卻只以10%的速度增長。
另一方面, 新的計算模型, 也即深度學習, 以暴風般的速度和大資料一起席捲而來。
深度學習研究者發現了GPU的力量,
一方面發現新的計算模型, 持續提升性能。 每一代都能夠將更多晶體管的數量轉換為計算力。 讓有一個月的計算縮減為一天。
GPU的崛起, 單從GTC的參會人數就能看出來。
黃仁勳在演講中提到, 摩爾定律已經是昨天的定律, 是一種緩慢的定律, 我們現在處於超級摩爾定律時代。
在展示了GPU的獨特性能和為深度學習而生的歷史使命之後, 黃仁勳展示了英偉達更加強大的一面——生態系統。
另外, 他還介紹了面向全球開發人員的NVIDIA.AI。 英偉達將會全力推進“統一架構” CUDA GPU計算。 通過Inception計畫, 支援1900家初創企業。
從CUDA開始,英偉達其實一直做得最出色的便是打造生態系統的能力,在GPU性能不斷受到關注的今天,有人指出,英偉達的技術也許不是最強的,但是他們打造生態系統的能力和決心絕對不容忽視。未來,GPU帝國終會成型。
關於英偉達在中國打造的計算新紀元,下面這張圖是很好的說明:
最重磅發佈:NVIDIA TENSORRT 3,應對TPU
在本次大會上,黃仁勳發佈了本次發佈會英偉達最重要的一個產品NVIDIA TENSORRT3——中是一款可程式設計的AI 推理加速器。支持所有的框架,比如Caffe,Pytorch和TensorFlow。
正是因為具備相對良好的程式設計環境,GPU成為目前最主流的深度學習硬體。英偉達公司發佈的CUDA運算平臺,是專門針對開發者提供的一種平行計算平臺。開發者能通過CUDA平臺使用軟體語言很方便得開發英偉達GPU實現運算加速。由於CUDA平臺之前被廣泛認可和普及,積累了良好的程式設計環境,目前應用在人工智慧領域、可進行通用計算的GPU市場基本被英偉達壟斷。
現在,英偉達推出加速推理的TensorRT 3,可程式設計,支援所有框架,所有機器,可以想見,又會擴大另一大片市場。
從黃仁勳現場的介紹來看,TensorRT 3主要的功能是推理和加速,這與穀歌的TPU功能類似。
黃仁勳在現場說,神經網路的回應時間或處理延時會對服務品質造成直接影響。運行在V100上的TensorRT在處理頭像時刻實現7ms的延時,在處理語音時延時報導200ms,這是標準雲服務的理想目標。單靠CPU是無法實現的。上圖,藍色是CPU運行TensorFlow。
接下來黃仁勳介紹了AI 推理在資料中心的應用,最主要的是是降低成本,在這裡依然是與CPU直接作比較,他說,V100相較CPU加速了40倍。
提到省錢,黃仁勳說:“你買越多的GPU,你節省的錢就越多。”
原來,4個機架,160CPU,65KW
現在,1個機架就行了,節省50萬美元
黃仁勳來來回回將4個機架和1個機架的圖像進行對比,他說自己可以玩上一整天。“更少的空間,更少的碳足跡,節省更多錢!”
How exciting is that!
Demo 影像處理和聲音處理
為了展示TensorTR 3的性能,臺上做了挺多展示。其中有《權力的遊戲》的展示,用語音搜索“冬天來了”,首先轉換成文字,然後直接跳到那一幀。語音到文字的轉換,龐大的視頻資料,幾乎沒有延遲,達到可以商用的程度。
黃仁勳說,有了TensorTR 3,將來我們不需要龐大的資料中心,更多樣的應用,“節省更多的錢”!
然後他宣佈,中國AI五巨頭——阿裡巴巴、騰訊、百度、京東、訊飛,都已經採用了英偉達的推理平臺。
不僅如此,英偉達還與海康威視聯手,利用TensorRT,發佈端到端的智慧視頻解決方案,目標是直接從視頻中尋找答案。
海康威視的合作屬於智慧城市(AI CITY)的議題。在這方面,英偉達與大華、華為和阿裡巴巴也有合作。
所有這些,都是希望用一個推理平臺,解決不同類型的資料和應用案例的問題。
力推自動駕駛汽車變革
黃仁勳展示了圖中是英偉達與空客正在實際進行的項目。分為三部分,車架、車廂和自動飛行的機翼——將來,你能自動駕駛到一個地方,然後讓機翼來接你,自動飛行到另一個地點。
英偉達的自動駕駛平臺,支援L3、L4、L5。
感知(用雷達、雷射雷達和其他感測器感知周圍環境),推理(定位),規劃(比如如何行車變換軌道)是自動駕駛三大核心要素,會議現場展示了英偉達自動駕駛平臺的效果。
145家初創公司基於NV Drive開發自動駕駛平臺,包括Pony.ai、圖森和景馳等。
自主機器新紀元:京東X 選擇Xavier實現自主機器
黃仁勳說,自動駕駛汽車的根本的目標是“避免碰撞”,因此即使起影響巨大,但技術上卻是自動機器當中最簡單、最容易實現的。
黃仁勳說,下一個AI時代,是AI離開雲端,走入與人類交互的機器中來。
接著,黃仁勳發佈了全球首款自主機器處理器 Xavier,將在2018年第四季度推出。
Xavier即時運行平行算法,推理周圍世界,最後進行規劃。這是世界上最複雜的SoC——將超級電腦變為一張晶片。
黃仁勳介紹,這款晶片是世界第一,英偉達幾年前開始做這個項目,代號Project Xavier。
接著,他宣佈京東X與英偉達合作,使用Xavier晶片,實現自主機器。
還沒有完!
英偉達還發佈了一個能夠即時訓練機器人的模擬環境 Isaac Lab。Nvidia虛擬實境模擬器實驗室來構建機器人 isac lab 演示了如何玩曲棍球和高爾夫。
Tesla V100 GPU、可程式設計推理平臺TensorRT 3,自動駕駛平臺、自助機器超級Soc Xviare,還有虛擬機器人訓練環境,可以說,英偉達的AI佈局全線鋪開,沒有放過任何一塊。
除了深度學習,黃仁勳在這次GTC上還頻頻提到遷移學習、VR。其中,最顯眼的無疑是TensorRT 3。推理是一個巨大的市場,潛力無限,而英偉達已經用TensorRT 3搶佔先機,並且已經佔據了中國AI五巨頭。
點擊閱讀原文可查看職位詳情,期待你的加入~
從CUDA開始,英偉達其實一直做得最出色的便是打造生態系統的能力,在GPU性能不斷受到關注的今天,有人指出,英偉達的技術也許不是最強的,但是他們打造生態系統的能力和決心絕對不容忽視。未來,GPU帝國終會成型。
關於英偉達在中國打造的計算新紀元,下面這張圖是很好的說明:
最重磅發佈:NVIDIA TENSORRT 3,應對TPU
在本次大會上,黃仁勳發佈了本次發佈會英偉達最重要的一個產品NVIDIA TENSORRT3——中是一款可程式設計的AI 推理加速器。支持所有的框架,比如Caffe,Pytorch和TensorFlow。
正是因為具備相對良好的程式設計環境,GPU成為目前最主流的深度學習硬體。英偉達公司發佈的CUDA運算平臺,是專門針對開發者提供的一種平行計算平臺。開發者能通過CUDA平臺使用軟體語言很方便得開發英偉達GPU實現運算加速。由於CUDA平臺之前被廣泛認可和普及,積累了良好的程式設計環境,目前應用在人工智慧領域、可進行通用計算的GPU市場基本被英偉達壟斷。
現在,英偉達推出加速推理的TensorRT 3,可程式設計,支援所有框架,所有機器,可以想見,又會擴大另一大片市場。
從黃仁勳現場的介紹來看,TensorRT 3主要的功能是推理和加速,這與穀歌的TPU功能類似。
黃仁勳在現場說,神經網路的回應時間或處理延時會對服務品質造成直接影響。運行在V100上的TensorRT在處理頭像時刻實現7ms的延時,在處理語音時延時報導200ms,這是標準雲服務的理想目標。單靠CPU是無法實現的。上圖,藍色是CPU運行TensorFlow。
接下來黃仁勳介紹了AI 推理在資料中心的應用,最主要的是是降低成本,在這裡依然是與CPU直接作比較,他說,V100相較CPU加速了40倍。
提到省錢,黃仁勳說:“你買越多的GPU,你節省的錢就越多。”
原來,4個機架,160CPU,65KW
現在,1個機架就行了,節省50萬美元
黃仁勳來來回回將4個機架和1個機架的圖像進行對比,他說自己可以玩上一整天。“更少的空間,更少的碳足跡,節省更多錢!”
How exciting is that!
Demo 影像處理和聲音處理
為了展示TensorTR 3的性能,臺上做了挺多展示。其中有《權力的遊戲》的展示,用語音搜索“冬天來了”,首先轉換成文字,然後直接跳到那一幀。語音到文字的轉換,龐大的視頻資料,幾乎沒有延遲,達到可以商用的程度。
黃仁勳說,有了TensorTR 3,將來我們不需要龐大的資料中心,更多樣的應用,“節省更多的錢”!
然後他宣佈,中國AI五巨頭——阿裡巴巴、騰訊、百度、京東、訊飛,都已經採用了英偉達的推理平臺。
不僅如此,英偉達還與海康威視聯手,利用TensorRT,發佈端到端的智慧視頻解決方案,目標是直接從視頻中尋找答案。
海康威視的合作屬於智慧城市(AI CITY)的議題。在這方面,英偉達與大華、華為和阿裡巴巴也有合作。
所有這些,都是希望用一個推理平臺,解決不同類型的資料和應用案例的問題。
力推自動駕駛汽車變革
黃仁勳展示了圖中是英偉達與空客正在實際進行的項目。分為三部分,車架、車廂和自動飛行的機翼——將來,你能自動駕駛到一個地方,然後讓機翼來接你,自動飛行到另一個地點。
英偉達的自動駕駛平臺,支援L3、L4、L5。
感知(用雷達、雷射雷達和其他感測器感知周圍環境),推理(定位),規劃(比如如何行車變換軌道)是自動駕駛三大核心要素,會議現場展示了英偉達自動駕駛平臺的效果。
145家初創公司基於NV Drive開發自動駕駛平臺,包括Pony.ai、圖森和景馳等。
自主機器新紀元:京東X 選擇Xavier實現自主機器
黃仁勳說,自動駕駛汽車的根本的目標是“避免碰撞”,因此即使起影響巨大,但技術上卻是自動機器當中最簡單、最容易實現的。
黃仁勳說,下一個AI時代,是AI離開雲端,走入與人類交互的機器中來。
接著,黃仁勳發佈了全球首款自主機器處理器 Xavier,將在2018年第四季度推出。
Xavier即時運行平行算法,推理周圍世界,最後進行規劃。這是世界上最複雜的SoC——將超級電腦變為一張晶片。
黃仁勳介紹,這款晶片是世界第一,英偉達幾年前開始做這個項目,代號Project Xavier。
接著,他宣佈京東X與英偉達合作,使用Xavier晶片,實現自主機器。
還沒有完!
英偉達還發佈了一個能夠即時訓練機器人的模擬環境 Isaac Lab。Nvidia虛擬實境模擬器實驗室來構建機器人 isac lab 演示了如何玩曲棍球和高爾夫。
Tesla V100 GPU、可程式設計推理平臺TensorRT 3,自動駕駛平臺、自助機器超級Soc Xviare,還有虛擬機器人訓練環境,可以說,英偉達的AI佈局全線鋪開,沒有放過任何一塊。
除了深度學習,黃仁勳在這次GTC上還頻頻提到遷移學習、VR。其中,最顯眼的無疑是TensorRT 3。推理是一個巨大的市場,潛力無限,而英偉達已經用TensorRT 3搶佔先機,並且已經佔據了中國AI五巨頭。
點擊閱讀原文可查看職位詳情,期待你的加入~