2017 年 4 月 7-9 日, 由 CCF 和 KDD China 聯合主辦的高端學術及技術系列性品牌活動, 中國電腦學會學科前沿講習班(CCF Advanced Disciplines Lectures, 簡稱 ADL)第 78 期在北京中國科學院計算技術研究所舉辦。
本期主題“深度學習:從演算法到應用”圍繞當下大熱的人工智慧領域進行, 邀請了 8 位來自學術界和工業界的學術大牛, 在三天的時間裡, 向 400 多位學員講授了人工智慧領域的前沿技術和學術研究。
本次講習班由中科院計算所研究員、博導, 中科視拓創始人、董事長兼 CTO 山世光主持。 雷鋒網旗下 AI 科技評論編輯亦到場聽講。
8 位學術大牛分別是:
曠視科技 (Face++) 首席科學家孫劍
微軟亞洲研究院主任研究員鄭宇
地平線機器人創始人兼 CEO 余凱
地平線機器人技術聯合創始人&演算法副總裁黃暢
360 首席科學家顏水成
華為諾亞方舟實驗室主任李航
思必馳創始人兼首席科學家俞凱
KDD China 主席楊強
8 位頂級深度學習大牛講了啥?
這次,
下面就來回顧一下本次講習班的主要內容(按分享時間順序總結, 排名不分先後)。
孫劍:如何在大公司和創業公司做好(電腦視覺)的研究
孫劍博士, 曠視科技(Face++)首席科學家、研究負責人。 2003年畢業于西安交通大學人工智慧與機器人研究所, 畢業後加入微軟亞洲研究院(Microsoft Research Asia), 任至首席研究員。
作為開場課程, 孫劍主要從工業界的角度向大家教授電腦視覺在一些實際場景裡的應用。 他表示, 曠視做視覺智慧的基本路線和很多公司類似, 從技術、到產品、再到資料, 希望這個環能夠轉起來。
孫劍介紹了由微軟提出了 ResNet 深度殘差網路, 它進一步將深度學習的深度從 20 多層推進到 152 層;並接著講述了人臉識別和物體檢測的進展;最後, 他介紹了如何在大公司和創業公司做好研究。
超越人類的人臉識別
關於在微軟研究院和曠視研究院的工作有什麼不同, 他介紹說, “我們的使命定位是類似的, 但是我們的目標範圍是更小的。 我們現在只關心的研究最好的深度學習和電腦視覺技術, 讓最好的技術落地, 推動公司的快速發展。
鄭宇:針對時空資料的深度學習
鄭宇, 博士、教授、博導, 微軟亞洲研究院主任研究員、CCF傑出會員、美國電腦學會傑出科學家、ACM資料採擷中國分會(KDD China)秘書長、上海交通大學講座教授、香港科技大學客座教授、人工智慧國際權威期刊(SCI一區刊物)ACM TIST主編。
鄭宇的報告探討時空資料(區別于文本、語音和視頻資料)的特性,以及深度學習技術在時空大資料上的使用和設計方法。他分享了基於深度學習的城市人流量預測的實戰案例,並介紹了深度學習和深度強化學習在圍棋中的應用(圍棋也可看作一種時空資料)。
在詳細講解用深度學習網路處理時空資料(包括圍棋)後,鄭宇認為,時空資料是特別的,它在空間上有不同層次的分佈,在時間上存在區段和趨勢。深度學習和深度強化學習在這個領域可以應用於城市人流和交通預測,物流業的資源調配等領域。
餘凱:深度學習在自動駕駛和智慧硬體中的應用
余凱,博士、地平線機器人技術( Horizon Robotics )創始人&CEO。中組部“千人計畫”國家特聘專家,機器學習專家,互聯網人工智慧領域全球領導者之一。前百度研究院執行院長,百度深度學習研究院(IDL)創始人。
余凱主講深度學習是如何推動自動駕駛革命的。他認為,我們正跨入一個新時代,這個時代裡 AI 在語音辨識、電腦視覺、手勢交互、遊戲以及日常決策領域帶來了巨大的進步。而在未來 20 年,AI 將在汽車領域帶來革命,讓駕駛變得前所未有的安全和方便。
課堂上,餘凱同樣介紹了深度學習演算法所面臨的挑戰,以及電腦硬體方面存在的問題,包括穀歌剛剛公佈的 TPU 的評價。
黃暢:強化學習簡介
黃暢博士,地平線機器人技術( Horizon Robotics )聯合創始人&演算法副總裁。本科、碩士以及博士畢業于清華大學電腦科學與技術系,曾經在美國南加州大學和 NEC 美國研究院擔任研究員。2012年加入百度美國研發中心,2013年參與組建百度深度學習研究院( IDL ),任高級科學家、主任研發架構師。
同樣來自地平線機器人的黃暢博士,本次課堂向學員們介紹了深度學習的進階領域——強化學習。
強化學習的一些例子:從左至右,強化學習網路玩 ATARI、AlphaGo、樂高、四足機器人越過崎嶇路面模擬。
顏水成:深度學習的三個維度
顏水成,360首席科學家,人工智慧研究院院長,新加坡國立大學終身教職,IEEE Fellow, IAPR Fellow 及 ACM 傑出科學家。
顏水成主要介紹新加坡國立大學LV研究組以及奇虎 360 人工智慧研究院在深度學習的 Compactness, Speed, and Accuracy 三個維度的進展,然後重點介紹在圖像分割領域的一些最新的成果和應用。除了 Network-in-Network , 主要介紹 CVPR17 及剛投出去的一些工作。
李航:深度學習在自然語言處理(NLP)領域的應用
李航,華為技術有限公司諾亞方舟實驗室主任,北京大學、南京大學客座教授,IEEE會士,ACM傑出科學家, KDD China委員。
李航對深度學習在自然語言處理的應用(Deep Learning for Natural Language Processing)進行了綜述。首先,簡要介紹深度學習的基本技術,包括單詞嵌入、卷積神經網路、迴圈神經網路。之後,指出自然語言處理的許多工可以形式化為幾個最基本的問題,包括分類、匹配、翻譯、結構預測,講解深度學習在這些問題上的核心技術。
接著,介紹基於深度學習技術實現的一些自然語言處理應用案例,包括機器翻譯、圖片搜索、自然語言對話、知識問答。之後,指出神經處理和符號處理的結合應該是深度學習在自然語言處理應用的未來發展方向,並且給出一些具體實例。最後,展望與預測自然語言處理的未來發展趨勢、可能的技術突破及可能的應用前景。
俞凱:語音辨識中的深度學習實踐
俞凱,上海交通大學電腦科學與工程系研究員,清華大學本科、碩士,英國劍橋大學工程系博士。中組部青年千人、NSFC 優青和上海市“東方學者”特聘教授,蘇州思必馳資訊科技有限公司創始人及首席科學家。IEEE 高級會員、中國大陸高校首位 IEEE Speech and Language Processing Technical Committee 成員。
俞凱的報告集中介紹了深度學習在語音辨識聲學建模中的應用給,分成兩部分進行。上半部分介紹語音辨識的基本概念、處理流程以及以CD-DNN-HMM為代表的深度學習在語音辨識中的經典應用及其理論分析。下半部分介紹深度學習在語音辨識中的高級應用和技術前沿結果,包括語音辨識自我調整、抗噪語音辨識、序列鑒別性訓練等。
俞凱的課程包含統計語音辨識、深度學習經典運用、語音辨識高級技術、深度學習前沿應用、開源工具及參考書五個部分。非常系統地介紹了深度學習在語音辨識領域的應用,使用了許多案例,課程實用價值很高。
楊強:深度遷移學習
香港科技大學新明工程學講座教授、 電腦系主任及大資料研究所主任、ACM資料採擷中國分會(KDD China)主席。
最後壓軸上場的楊強教授題目最短,內容同樣乾貨十足,他介紹了深度學習的未來發展方向——遷移學習。遷移學習技術能夠借助多個不同資料的相關性,將知識和模型從某些領域適配到其他相關的領域當中。遷移學習可以和深度學習很自然地結合。
楊強教授平易近人、風趣幽默,他用深入淺出的方式向學員們介紹了遷移學習,它有什麼作用以及如何來發揮這些作用。
現場:座無虛席,交流熱烈
3 天、400 多人,每天從上午 9 點到下午 6 點,報告廳座無虛席。不僅有討論熱烈的 Panel 環節,講師們也非常注重與學員之間的溝通交流,每堂課都預留時間讓學員提問前予以認真回答。下課後許多學員紛紛圍上來繼續與講師交流,直到飯點才意猶未盡地散去。
下面是雷鋒網編輯在現場看到的一些盛況:
現場概況
Panel 環節
學員踴躍提問
講師和學員交流
一堂乾貨十足的深度學習課程
正如余凱老師所說,我們正踏入一個新時代,在這人時代裡,人工智慧將對人類生活的各個領域產生深遠影響,而沒有人才這一切都無法實現。今天,人工智慧人才十分短缺,可謂一人難求,許多學生和技術從業者也希望提高自己這方面的能力,這次舉辦的課程正是要幫助培養更多更好的人工智慧人才。
這期主題為“深度學習:從演算法到應用”,聚集了 8 位學術大牛,從理論到應用,使許多學員對人工智慧有了更深的認識,並學到了許多實操經驗。
據雷鋒網瞭解,本期課程的學員,除了許多來自高校的大學生、研究生外,還有很多公司,包括知名互聯網公司技術從業者前來向大牛學習。
一位元從事電腦視覺方向工作的學員在課程結束後對雷鋒網表示,學完這三天的課程,不僅解答了他在深度學習應用到工作中產生的一些疑惑,而且對於今後公司技術和產品的規劃也有了更清晰的想法。
最後,雷鋒網得知,本次課程早早就報滿,受場地限制並未提供更多名額,而且 CCF 還將推出更多 ADL課程。為了讓更多人工智慧愛好者、業界從業者、科研研究者們都能看到 CCF ADL 課程,人工智慧培訓平臺 AI慕課學院獲 CCF 獨家線上視頻版權,完整再現各路專家現場授課、交流的場景。本次課程為付費課程,4月15日之前會在AI慕課學院獨家上線,原價 4000 元的線下課程現在現時特價 499 元預售,有興趣的學員可以訪問 mooc.ai搜索“CCF ADL",或者掃描下圖二維碼觀看。
鄭宇的報告探討時空資料(區別于文本、語音和視頻資料)的特性,以及深度學習技術在時空大資料上的使用和設計方法。他分享了基於深度學習的城市人流量預測的實戰案例,並介紹了深度學習和深度強化學習在圍棋中的應用(圍棋也可看作一種時空資料)。
在詳細講解用深度學習網路處理時空資料(包括圍棋)後,鄭宇認為,時空資料是特別的,它在空間上有不同層次的分佈,在時間上存在區段和趨勢。深度學習和深度強化學習在這個領域可以應用於城市人流和交通預測,物流業的資源調配等領域。
餘凱:深度學習在自動駕駛和智慧硬體中的應用
余凱,博士、地平線機器人技術( Horizon Robotics )創始人&CEO。中組部“千人計畫”國家特聘專家,機器學習專家,互聯網人工智慧領域全球領導者之一。前百度研究院執行院長,百度深度學習研究院(IDL)創始人。
余凱主講深度學習是如何推動自動駕駛革命的。他認為,我們正跨入一個新時代,這個時代裡 AI 在語音辨識、電腦視覺、手勢交互、遊戲以及日常決策領域帶來了巨大的進步。而在未來 20 年,AI 將在汽車領域帶來革命,讓駕駛變得前所未有的安全和方便。
課堂上,餘凱同樣介紹了深度學習演算法所面臨的挑戰,以及電腦硬體方面存在的問題,包括穀歌剛剛公佈的 TPU 的評價。
黃暢:強化學習簡介
黃暢博士,地平線機器人技術( Horizon Robotics )聯合創始人&演算法副總裁。本科、碩士以及博士畢業于清華大學電腦科學與技術系,曾經在美國南加州大學和 NEC 美國研究院擔任研究員。2012年加入百度美國研發中心,2013年參與組建百度深度學習研究院( IDL ),任高級科學家、主任研發架構師。
同樣來自地平線機器人的黃暢博士,本次課堂向學員們介紹了深度學習的進階領域——強化學習。
強化學習的一些例子:從左至右,強化學習網路玩 ATARI、AlphaGo、樂高、四足機器人越過崎嶇路面模擬。
顏水成:深度學習的三個維度
顏水成,360首席科學家,人工智慧研究院院長,新加坡國立大學終身教職,IEEE Fellow, IAPR Fellow 及 ACM 傑出科學家。
顏水成主要介紹新加坡國立大學LV研究組以及奇虎 360 人工智慧研究院在深度學習的 Compactness, Speed, and Accuracy 三個維度的進展,然後重點介紹在圖像分割領域的一些最新的成果和應用。除了 Network-in-Network , 主要介紹 CVPR17 及剛投出去的一些工作。
李航:深度學習在自然語言處理(NLP)領域的應用
李航,華為技術有限公司諾亞方舟實驗室主任,北京大學、南京大學客座教授,IEEE會士,ACM傑出科學家, KDD China委員。
李航對深度學習在自然語言處理的應用(Deep Learning for Natural Language Processing)進行了綜述。首先,簡要介紹深度學習的基本技術,包括單詞嵌入、卷積神經網路、迴圈神經網路。之後,指出自然語言處理的許多工可以形式化為幾個最基本的問題,包括分類、匹配、翻譯、結構預測,講解深度學習在這些問題上的核心技術。
接著,介紹基於深度學習技術實現的一些自然語言處理應用案例,包括機器翻譯、圖片搜索、自然語言對話、知識問答。之後,指出神經處理和符號處理的結合應該是深度學習在自然語言處理應用的未來發展方向,並且給出一些具體實例。最後,展望與預測自然語言處理的未來發展趨勢、可能的技術突破及可能的應用前景。
俞凱:語音辨識中的深度學習實踐
俞凱,上海交通大學電腦科學與工程系研究員,清華大學本科、碩士,英國劍橋大學工程系博士。中組部青年千人、NSFC 優青和上海市“東方學者”特聘教授,蘇州思必馳資訊科技有限公司創始人及首席科學家。IEEE 高級會員、中國大陸高校首位 IEEE Speech and Language Processing Technical Committee 成員。
俞凱的報告集中介紹了深度學習在語音辨識聲學建模中的應用給,分成兩部分進行。上半部分介紹語音辨識的基本概念、處理流程以及以CD-DNN-HMM為代表的深度學習在語音辨識中的經典應用及其理論分析。下半部分介紹深度學習在語音辨識中的高級應用和技術前沿結果,包括語音辨識自我調整、抗噪語音辨識、序列鑒別性訓練等。
俞凱的課程包含統計語音辨識、深度學習經典運用、語音辨識高級技術、深度學習前沿應用、開源工具及參考書五個部分。非常系統地介紹了深度學習在語音辨識領域的應用,使用了許多案例,課程實用價值很高。
楊強:深度遷移學習
香港科技大學新明工程學講座教授、 電腦系主任及大資料研究所主任、ACM資料採擷中國分會(KDD China)主席。
最後壓軸上場的楊強教授題目最短,內容同樣乾貨十足,他介紹了深度學習的未來發展方向——遷移學習。遷移學習技術能夠借助多個不同資料的相關性,將知識和模型從某些領域適配到其他相關的領域當中。遷移學習可以和深度學習很自然地結合。
楊強教授平易近人、風趣幽默,他用深入淺出的方式向學員們介紹了遷移學習,它有什麼作用以及如何來發揮這些作用。
現場:座無虛席,交流熱烈
3 天、400 多人,每天從上午 9 點到下午 6 點,報告廳座無虛席。不僅有討論熱烈的 Panel 環節,講師們也非常注重與學員之間的溝通交流,每堂課都預留時間讓學員提問前予以認真回答。下課後許多學員紛紛圍上來繼續與講師交流,直到飯點才意猶未盡地散去。
下面是雷鋒網編輯在現場看到的一些盛況:
現場概況
Panel 環節
學員踴躍提問
講師和學員交流
一堂乾貨十足的深度學習課程
正如余凱老師所說,我們正踏入一個新時代,在這人時代裡,人工智慧將對人類生活的各個領域產生深遠影響,而沒有人才這一切都無法實現。今天,人工智慧人才十分短缺,可謂一人難求,許多學生和技術從業者也希望提高自己這方面的能力,這次舉辦的課程正是要幫助培養更多更好的人工智慧人才。
這期主題為“深度學習:從演算法到應用”,聚集了 8 位學術大牛,從理論到應用,使許多學員對人工智慧有了更深的認識,並學到了許多實操經驗。
據雷鋒網瞭解,本期課程的學員,除了許多來自高校的大學生、研究生外,還有很多公司,包括知名互聯網公司技術從業者前來向大牛學習。
一位元從事電腦視覺方向工作的學員在課程結束後對雷鋒網表示,學完這三天的課程,不僅解答了他在深度學習應用到工作中產生的一些疑惑,而且對於今後公司技術和產品的規劃也有了更清晰的想法。
最後,雷鋒網得知,本次課程早早就報滿,受場地限制並未提供更多名額,而且 CCF 還將推出更多 ADL課程。為了讓更多人工智慧愛好者、業界從業者、科研研究者們都能看到 CCF ADL 課程,人工智慧培訓平臺 AI慕課學院獲 CCF 獨家線上視頻版權,完整再現各路專家現場授課、交流的場景。本次課程為付費課程,4月15日之前會在AI慕課學院獨家上線,原價 4000 元的線下課程現在現時特價 499 元預售,有興趣的學員可以訪問 mooc.ai搜索“CCF ADL",或者掃描下圖二維碼觀看。