您的位置:首頁>正文

德國科學家談AI:他們關注我們就跟我們關注螞蟻一樣多

在西柏林一個佈置舒適的工作室裡, 一群國際科學家正在討論機器人的未來。 來自歐洲一家大型汽車製造商的工程師剛剛完成了一項對無人駕駛汽車持謹慎樂觀態度的進度報告。 他補充說, 機器人正在漸漸學習區分車輛和諸如行人、騎自行車的人這類更加脆弱的移動物體。 一些機器人已經比人類更善於分辨不同品種的狗。 “但是當然, ”他說, “這些都是小步子。 ”

接著, 一個留著灰白色山羊胡、穿著淺灰色三件套西服、有著運動員體格的高個男人大步走向講臺, 這個人上午的大部分時間都在玩著他的智能手機。

突然間, 嬰兒般的小步子變成了星際間的飛躍。 “很快, 最聰明和最重要的決定將可能不再是由人類做出的, ”他說這話時, 臉上帶著類似父母對十幾歲的孩子解釋成長的痛苦時那種憐憫的微笑。 “我們即將面臨的不是另一次工業革命, 而是一種新的生命形式, 就像大爆炸那樣。 ”

人們這樣形容於爾根·施米德胡貝(Jürgen Schmidhuber):第一代具有自我意識的機器人將會視他為父親。 這位54歲的德國科學家開發了讓我們可以對電腦講話或是用智慧手機將普通話譯成英語的演算法, 但他並不太贊同於這一理念——未來機器人的存在主要是為了服務人類。

相反, 施米德胡貝相信機器智慧將很快不再只是與人類智慧匹敵,

而是超越人類, 可以設計和製造耐熱的機器人, 他們將比薄皮膚的智人更近距離地接近太陽能源, 而且最終通過自我複製的機器人工廠穿越銀河向小行星帶殖民。 而施米德胡貝是那個建造他們的大腦的人。

他的演講過後, 當我們坐在地上的懶人沙發時,

施米德胡貝解釋說, 在瑞士阿爾卑山盧加諾的實驗室裡, 他的公司Nnaisense已經在研發頗像嬰孩一樣運行的系統了, 它們給自己設計小小的實驗, 以便理解世界是如何運作的, 他稱之為“真正的AI”。 唯一的問題是它們還是太慢了——他們有大約十億神經連結, 而與此相比人的大腦皮層有約1百萬億神經連結。

“但我們有個趨勢, 電腦每5年就會提速10倍, 只要這個趨勢不打破的話, 只要25年我們就能得到可與人腦相當的遞迴神經網路。 我們距離類動物智慧(比如烏鴉或是僧帽猴的智慧)並沒有很多年。 ”

確切地說, 是多少年?“我認為按年比按十年來算可以更好地估量, 但是我不想把我自己跟四年或是七年的說法捆綁在一起。

當我問他何以對自己的時間表如此有信心時, 他引入了超光速引擎, 突然間我們從大爆炸跳到了新石器革命, 從火藥的發明跳到了萬維網。 Schmidhuber說, 宇宙歷史中重大事件之間的間隔時間似乎正在以指數級的速度縮短——每個大事件到來的時間是前一個大事件的四分之一。 如果你研究這個模式, 看起來它將要彙聚於2050年。

“到了2050年, 時間並不會停止, 但AI將比我們更加智慧, 而且我們將不再拘泥於我們的生物圈。 他們想要將歷史推進到一個新的水準高度, 並將朝著其他的資源進軍。 一兩百萬年以後, 他們已經殖民了銀河系。 ”

他形容這個彙聚點為“歐米茄(omega)”, 這個詞最早是由生於1888年的法國耶穌會牧師泰亞爾·德·夏爾丹(Teihard de Chardin)創造的。 Schmidhuber說他喜歡歐米茄(omega)是“因為它聽起來有點像是‘Oh my God’”。

Schmidhuber作為機器智慧之父的地位並不是完全無可爭議的。 身為電腦科學家, 他有時候發表的不科學言論令人驚掉下巴。 在他的柏林演講期間, 後排的聽眾發出了明顯的抱怨聲。 當Schmidhuber描述機器人最終將如何永遠離開地球並且從探索宇宙中獲得樂趣時, 一位巴西神經系統學家打斷了他:“這就是你所說的嗎?演算法是用來好玩的?你正在當著所有這些人的面毀掉科學方法。這太可怕了!”

當問到這些聽眾的反應時,Schmidhuber的臉上再次現出那種憐憫的神情。“幾十年來我的觀點一向是有爭議的,所以我已經習慣了這些常規的爭論。但是很多神經系統學家完全不清楚AI的世界正在發生了些什麼。”

不過即便是在AI領域內,Schmidhuber也有一些詆毀者。當我向人工智慧研發者們提及Schmidhuber時,有幾個人說他的工作無疑影響甚大並“越來越重要”,而且他“有點兒愛挑釁”。許多人認為他對技術進步速度的樂觀是沒有根據的,還可能是危險的。有個人的看法是,Schmidhuber遠遠不是未來機器人的真正先知,他正在做的是將人工智慧推向與賽格威代步車(Segway)相似的命運,後者的出現曾被大肆宣傳為可媲美PC個人電腦的技術革命,最後卻像電影《百貨戰警(Paul Blart: Mall Cop)》中的鬧劇一樣終結。

想要理解為什麼Schmidhuber的形象會在先知與笑柄之間搖擺不定,我們必須得深入瞭解他的經歷。Schmidhuber1963年生於慕尼克,青春期時對機器人學產生了興趣,他從附近的圖書館借走裝滿背包的通俗科學讀物和科幻小說——Olaf Stapledon的《Star Maker》,ETA Hoffmann的《The Sandman》,還有他特別喜愛的Stanislaw Lem的小說。

他的偉大英雄,“我的絕妙白癡”,他說,是阿爾伯特·愛因斯坦。“在某個時刻,我意識到如果我造出比我自己聰明,甚至比愛因斯坦還要聰明的事物,我能有更大的影響。”他在慕尼克工業大學攻讀數學和電腦科學學位,30歲那年慕尼克工業大學授予他教授職位。

1997年,Schmidhuber和他的一個學生Sepp Hochreiter合作寫了一篇論文,該論文提出了一種方法,通過添加根據先前獲得的資訊來解釋文字或圖像模式的迴圈,憑藉這一記憶功能來增強人工神經網路——模仿人類大腦的電腦系統。他們稱它為長短期記憶網路/Long Short-Term Memory (LSTM)。

那時,AI正在經歷一個漫長的“寒冬”:技術未能達到人造智慧第一波宣傳的浪潮,資金難以獲得。 在二十世紀六十年代,人們希望機器可以自上而下地被編碼,以理解這個世界包括它所有的複雜性。如果現在有新的嗡嗡聲,那麼它是一個似乎看起來更簡單的想法:機器可以配備一個比較基本的演算法,但是讓他們逐漸自下而上地學習這個世界真正有多複雜。

1997年,Schmidhuber關於LSTM的論文被麻省理工學院拒絕,但現在它看起來是深度學習這波新浪潮後的關鍵概念之一。2015年,Google宣佈,其語音辨識軟體使用LSTM後錯誤率降低了近50%。它也是亞馬遜的Alexa的支援系統,另外,蘋果公司去年宣佈正在使用LSTM改進iPhone。

如果Schmidhuber有辦法,這個概念會得到更多的認可。 在2015年的一篇措辭尖銳的文章中,他抱怨說,在矽谷被譽為AI超級明星的“加拿大”電腦科學家三人組——Geoffrey Hinton(Google),Yann Lecun(Facebook)和Yoshua Bengio(IBM)——“大量地相互引證”,但“沒有提及這個領域的先驅們”。

在他的柏林演講和我們的採訪中,他重複強調說,目前圍繞電腦學習的嗡嗡聲是陳舊的,LSTM多年前就到達那裡了。他很快將火力對準了矽谷,他認為矽谷已被“割喉式惡性競爭”所支配,以致於它所生產的價值要少於歐洲的機構。

傾聽Schmidhuber談論機器人未來時,不由得會想到一個可能性是,他無情的技術烏托邦主義只不過是一個策略,以確保他自己不至於成為AI領域的西斯托·羅德里格茲(美國歌手,其經歷見紀錄片《尋找小糖人》),影響一時但最終被忽視遺忘,與此同時“矽谷狄倫們”卻入駐了名人堂。

而且這很無情。考慮到他對科幻小說的興趣,他從來不擔心一旦機器人具備自我意識他們就會奴役和統治我們嗎?Schmidhuber搖搖頭。“我們不會被奴役,至少因為我們非常不適合作某個人的奴隸,而他可以造出遠遠優於我們的機器人。”他駁斥了電影《駭客帝國》,在片中被囚禁的人類被用來為AI們提供動力:“這是有史以來最愚蠢的情節。當維持他們生存的電站可以產出更多的能量時,為什麼要使用人類的生物能源來給機器人提供動力呢?”

但在這種情況下,機器人不會把它看作更有效地消滅人類的方法嗎?“像所有科學家一樣,高度智慧的AI將會對生命和文明的起源著迷。但過一段時間後這種著迷將會減弱,就像如今大多數人都不明白這個世界的起源。一般來說,對我們最好的保護是他們對我們缺乏興趣,因為大多數物種最大的敵人是他們的同類。他們對我們的關注,大概就跟我們對螞蟻的關注一樣多。”

我不知道這一比喻是否比他想要表達的更令人不安。我們有時會踩到螞蟻?一些人甚至使用化學品給整個聚居區下毒。“當然,這僅僅適用於全球螞蟻種群的一小部分,似乎沒有人想把所有的螞蟻從地球表面抹去。相反,當我們聽到地球上的螞蟻仍然多過人類時——其中大多數螞蟻生活在巴西叢林的某個地方,我們大多數人都很高興。”

“我們可能比螞蟻聰明得多,但是這個星球上人類的總體重量仍然與所有螞蟻的總重相當,”他援引哈佛大學教授Edmund O Wilson最近提出的很有爭議性的觀點。

讓我們忘掉科幻小說吧,我說。不如談談更急迫的擔憂,比如自動化引發大規模失業?在Nature雜誌最近的一篇文章中,研究AI的Kate Crawford和網際法教授Ryan Calo警告說,當涉及到用機器人取代人類的社會衝擊效應時,智慧設計的新一波興奮浪潮正在製造危險的盲點。

再一次,Schmidhuber沒有太擔心。他說,當他在千禧年初生下兩個女兒時,機器人未來的曙光是清晰的。“我給他們什麼建議?我會告訴他們:你們的父親認為一切都會很好,即使可能會有起伏。準備學習如何學習。”

“遊戲玩家一直有發明不存在的工作的才能。絕大多數人已經在做著奢侈的工作,比如你我。”他邊說邊對我的記事本點點頭。“預測哪類工作將會消失是很容易的,但很難預測哪些新工作將會創造出來。1980年代時,誰會想到30年後會出現數百萬的職業視頻遊戲玩家或是YouTube明星?”

“甚至醫療職業這樣受到高度尊重的工作也將受到影響。2012年,當使用深度神經網路篩查癌症時,機器人開始贏得比賽。這是否意味著醫生將失去工作? 當然不是。這只是意味著同一個醫生在相同的時間裡可以治療相當於過去10倍數量的患者。 許多人將獲得便宜的醫療研究機會。人類的生命將得到拯救和延長。”

他高興地提出,在日本、德國、韓國、瑞士這些人均機器人很多的國家,失業率卻相對比較低。 我試圖提出,一個從未聽說過JavaScript的50多歲的卡車司機可能不會分享他的樂觀主義,但是在與思考像歐米茄飛躍一樣的人討論時,很難談論世代的關注,而不是談論個人。

每當你試圖深入理解Schmidhuber對機器人未來的樂觀願景時,在它的核心你都將遇到一個非常簡單的情境。當兩個人面臨利益衝突,他說,他們有兩種解決辦法:或是協作,或是競爭。然而,每次我們在交往中遇到這樣的岔路口時,協作都會勝出。

我問他未來的機器人,除了好奇和好玩之外,是否也能夠墜入愛河,他表示同意,因為“愛情顯然是一種極端的合作形式”。機器人的愛情生活將是多元的,而非一夫一妻制的:“機器人之間會有各種各樣的關係。他們將能夠分享他們的部分心靈,人類目前無法做到,或者僅當他們為彼此投入大量的時間才可以。屆時從未存在於有機生物體之中的物種融合將會出現。”

如果愛情真的只是一種強烈的合作形式,那為什麼它讓人感覺如此非理性呢?為什麼我們感到欲望,或心碎?Schmidhuber沒有上鉤。“我們已經有了疼痛感測器,這樣能讓機器人在撞到某些東西時會弄疼自己。我們終究會弄明白欲望。最終,它們是相同的事情。”

假如一家公司——蘋果或是Google——建立了對超智慧型機器人的壟斷地位,從而控制了未來的世界?他認為那種反烏托邦,如同Dave Eggers在小說《The Circle》中描述過的,是“極不可能的”。在這兒協作也終將獲勝。“智慧的核心演算法是非常短的。允許系統自我完善的演算法也許是10行偽代碼。目前我們所缺少的也許只是另5行。”

“也許我們會在我的小公司開發這10行代碼,但在這樣的時代,即使是瑞士銀行保密系統都已經接近其終結,它也不會停留在那裡。它將會被洩漏。也許在印度某個地方某個不為人知的人會想出這些代碼,並提供給每一個人。”

要是這聽起來有點兒盲目樂觀,那是出於Schmidhuber自己的經驗——LSTM最初的被拒,以及他對“割喉般殘酷”的矽谷的普遍不信任,這些經驗教會他:競爭既製造贏家,也製造輸家。假如他能放下武裝,假如他的樂觀主義能夠停留在個人層面上,假如他願意清楚表達這個疑問,我對未來最先進的生物將由Jürgen Schmidhuber助產接生這一想法會感到舒服得多。

他以一張表達歉意的便條結束了我們的談話:“抱歉,你在和這樣一個青少年談話。但是自從1970年代和1980年代以來我一直在說相同的東西。唯一的區別是人們現在開始認真對待我了。”

(翻譯 劉溜)

……………………………………

一位巴西神經系統學家打斷了他:“這就是你所說的嗎?演算法是用來好玩的?你正在當著所有這些人的面毀掉科學方法。這太可怕了!”

當問到這些聽眾的反應時,Schmidhuber的臉上再次現出那種憐憫的神情。“幾十年來我的觀點一向是有爭議的,所以我已經習慣了這些常規的爭論。但是很多神經系統學家完全不清楚AI的世界正在發生了些什麼。”

不過即便是在AI領域內,Schmidhuber也有一些詆毀者。當我向人工智慧研發者們提及Schmidhuber時,有幾個人說他的工作無疑影響甚大並“越來越重要”,而且他“有點兒愛挑釁”。許多人認為他對技術進步速度的樂觀是沒有根據的,還可能是危險的。有個人的看法是,Schmidhuber遠遠不是未來機器人的真正先知,他正在做的是將人工智慧推向與賽格威代步車(Segway)相似的命運,後者的出現曾被大肆宣傳為可媲美PC個人電腦的技術革命,最後卻像電影《百貨戰警(Paul Blart: Mall Cop)》中的鬧劇一樣終結。

想要理解為什麼Schmidhuber的形象會在先知與笑柄之間搖擺不定,我們必須得深入瞭解他的經歷。Schmidhuber1963年生於慕尼克,青春期時對機器人學產生了興趣,他從附近的圖書館借走裝滿背包的通俗科學讀物和科幻小說——Olaf Stapledon的《Star Maker》,ETA Hoffmann的《The Sandman》,還有他特別喜愛的Stanislaw Lem的小說。

他的偉大英雄,“我的絕妙白癡”,他說,是阿爾伯特·愛因斯坦。“在某個時刻,我意識到如果我造出比我自己聰明,甚至比愛因斯坦還要聰明的事物,我能有更大的影響。”他在慕尼克工業大學攻讀數學和電腦科學學位,30歲那年慕尼克工業大學授予他教授職位。

1997年,Schmidhuber和他的一個學生Sepp Hochreiter合作寫了一篇論文,該論文提出了一種方法,通過添加根據先前獲得的資訊來解釋文字或圖像模式的迴圈,憑藉這一記憶功能來增強人工神經網路——模仿人類大腦的電腦系統。他們稱它為長短期記憶網路/Long Short-Term Memory (LSTM)。

那時,AI正在經歷一個漫長的“寒冬”:技術未能達到人造智慧第一波宣傳的浪潮,資金難以獲得。 在二十世紀六十年代,人們希望機器可以自上而下地被編碼,以理解這個世界包括它所有的複雜性。如果現在有新的嗡嗡聲,那麼它是一個似乎看起來更簡單的想法:機器可以配備一個比較基本的演算法,但是讓他們逐漸自下而上地學習這個世界真正有多複雜。

1997年,Schmidhuber關於LSTM的論文被麻省理工學院拒絕,但現在它看起來是深度學習這波新浪潮後的關鍵概念之一。2015年,Google宣佈,其語音辨識軟體使用LSTM後錯誤率降低了近50%。它也是亞馬遜的Alexa的支援系統,另外,蘋果公司去年宣佈正在使用LSTM改進iPhone。

如果Schmidhuber有辦法,這個概念會得到更多的認可。 在2015年的一篇措辭尖銳的文章中,他抱怨說,在矽谷被譽為AI超級明星的“加拿大”電腦科學家三人組——Geoffrey Hinton(Google),Yann Lecun(Facebook)和Yoshua Bengio(IBM)——“大量地相互引證”,但“沒有提及這個領域的先驅們”。

在他的柏林演講和我們的採訪中,他重複強調說,目前圍繞電腦學習的嗡嗡聲是陳舊的,LSTM多年前就到達那裡了。他很快將火力對準了矽谷,他認為矽谷已被“割喉式惡性競爭”所支配,以致於它所生產的價值要少於歐洲的機構。

傾聽Schmidhuber談論機器人未來時,不由得會想到一個可能性是,他無情的技術烏托邦主義只不過是一個策略,以確保他自己不至於成為AI領域的西斯托·羅德里格茲(美國歌手,其經歷見紀錄片《尋找小糖人》),影響一時但最終被忽視遺忘,與此同時“矽谷狄倫們”卻入駐了名人堂。

而且這很無情。考慮到他對科幻小說的興趣,他從來不擔心一旦機器人具備自我意識他們就會奴役和統治我們嗎?Schmidhuber搖搖頭。“我們不會被奴役,至少因為我們非常不適合作某個人的奴隸,而他可以造出遠遠優於我們的機器人。”他駁斥了電影《駭客帝國》,在片中被囚禁的人類被用來為AI們提供動力:“這是有史以來最愚蠢的情節。當維持他們生存的電站可以產出更多的能量時,為什麼要使用人類的生物能源來給機器人提供動力呢?”

但在這種情況下,機器人不會把它看作更有效地消滅人類的方法嗎?“像所有科學家一樣,高度智慧的AI將會對生命和文明的起源著迷。但過一段時間後這種著迷將會減弱,就像如今大多數人都不明白這個世界的起源。一般來說,對我們最好的保護是他們對我們缺乏興趣,因為大多數物種最大的敵人是他們的同類。他們對我們的關注,大概就跟我們對螞蟻的關注一樣多。”

我不知道這一比喻是否比他想要表達的更令人不安。我們有時會踩到螞蟻?一些人甚至使用化學品給整個聚居區下毒。“當然,這僅僅適用於全球螞蟻種群的一小部分,似乎沒有人想把所有的螞蟻從地球表面抹去。相反,當我們聽到地球上的螞蟻仍然多過人類時——其中大多數螞蟻生活在巴西叢林的某個地方,我們大多數人都很高興。”

“我們可能比螞蟻聰明得多,但是這個星球上人類的總體重量仍然與所有螞蟻的總重相當,”他援引哈佛大學教授Edmund O Wilson最近提出的很有爭議性的觀點。

讓我們忘掉科幻小說吧,我說。不如談談更急迫的擔憂,比如自動化引發大規模失業?在Nature雜誌最近的一篇文章中,研究AI的Kate Crawford和網際法教授Ryan Calo警告說,當涉及到用機器人取代人類的社會衝擊效應時,智慧設計的新一波興奮浪潮正在製造危險的盲點。

再一次,Schmidhuber沒有太擔心。他說,當他在千禧年初生下兩個女兒時,機器人未來的曙光是清晰的。“我給他們什麼建議?我會告訴他們:你們的父親認為一切都會很好,即使可能會有起伏。準備學習如何學習。”

“遊戲玩家一直有發明不存在的工作的才能。絕大多數人已經在做著奢侈的工作,比如你我。”他邊說邊對我的記事本點點頭。“預測哪類工作將會消失是很容易的,但很難預測哪些新工作將會創造出來。1980年代時,誰會想到30年後會出現數百萬的職業視頻遊戲玩家或是YouTube明星?”

“甚至醫療職業這樣受到高度尊重的工作也將受到影響。2012年,當使用深度神經網路篩查癌症時,機器人開始贏得比賽。這是否意味著醫生將失去工作? 當然不是。這只是意味著同一個醫生在相同的時間裡可以治療相當於過去10倍數量的患者。 許多人將獲得便宜的醫療研究機會。人類的生命將得到拯救和延長。”

他高興地提出,在日本、德國、韓國、瑞士這些人均機器人很多的國家,失業率卻相對比較低。 我試圖提出,一個從未聽說過JavaScript的50多歲的卡車司機可能不會分享他的樂觀主義,但是在與思考像歐米茄飛躍一樣的人討論時,很難談論世代的關注,而不是談論個人。

每當你試圖深入理解Schmidhuber對機器人未來的樂觀願景時,在它的核心你都將遇到一個非常簡單的情境。當兩個人面臨利益衝突,他說,他們有兩種解決辦法:或是協作,或是競爭。然而,每次我們在交往中遇到這樣的岔路口時,協作都會勝出。

我問他未來的機器人,除了好奇和好玩之外,是否也能夠墜入愛河,他表示同意,因為“愛情顯然是一種極端的合作形式”。機器人的愛情生活將是多元的,而非一夫一妻制的:“機器人之間會有各種各樣的關係。他們將能夠分享他們的部分心靈,人類目前無法做到,或者僅當他們為彼此投入大量的時間才可以。屆時從未存在於有機生物體之中的物種融合將會出現。”

如果愛情真的只是一種強烈的合作形式,那為什麼它讓人感覺如此非理性呢?為什麼我們感到欲望,或心碎?Schmidhuber沒有上鉤。“我們已經有了疼痛感測器,這樣能讓機器人在撞到某些東西時會弄疼自己。我們終究會弄明白欲望。最終,它們是相同的事情。”

假如一家公司——蘋果或是Google——建立了對超智慧型機器人的壟斷地位,從而控制了未來的世界?他認為那種反烏托邦,如同Dave Eggers在小說《The Circle》中描述過的,是“極不可能的”。在這兒協作也終將獲勝。“智慧的核心演算法是非常短的。允許系統自我完善的演算法也許是10行偽代碼。目前我們所缺少的也許只是另5行。”

“也許我們會在我的小公司開發這10行代碼,但在這樣的時代,即使是瑞士銀行保密系統都已經接近其終結,它也不會停留在那裡。它將會被洩漏。也許在印度某個地方某個不為人知的人會想出這些代碼,並提供給每一個人。”

要是這聽起來有點兒盲目樂觀,那是出於Schmidhuber自己的經驗——LSTM最初的被拒,以及他對“割喉般殘酷”的矽谷的普遍不信任,這些經驗教會他:競爭既製造贏家,也製造輸家。假如他能放下武裝,假如他的樂觀主義能夠停留在個人層面上,假如他願意清楚表達這個疑問,我對未來最先進的生物將由Jürgen Schmidhuber助產接生這一想法會感到舒服得多。

他以一張表達歉意的便條結束了我們的談話:“抱歉,你在和這樣一個青少年談話。但是自從1970年代和1980年代以來我一直在說相同的東西。唯一的區別是人們現在開始認真對待我了。”

(翻譯 劉溜)

……………………………………

同類文章
Next Article
喜欢就按个赞吧!!!
点击关闭提示