作者:Avinash Royyuru、Scott Tobias
編譯:劉克一、Sean、克雷格
【新智元導讀】《西部世界》第二季最新一集上線, 講述機器人擁有意識後造成“天下大亂”。 這部電視劇的核心是在探討自主意識是如何產生的,
昨天, 熱門美劇《西部世界》第二季上線, 主題是講述機器(接待員)產生自我意識後會產生的難以預期的行為,
在前不久大火的電影《頭號玩家》描繪的未來世界中, 人類將成為囚禁在機器中的幽靈, 用他們的缺點和道德缺陷傳染新獨立的人工智慧體。
《西部世界》中, 也探討了人類與人工智慧共存的意義。
那麼, 人類到底如何與它們相處?
《西部世界》與《頭號玩家》:講述人工智慧的同感能力《西部世界》講述的是人造人的故事。
女主角Dolores是西部世界主題公園的一名“接待員”, 她長得跟人類沒有什麼差別, 並且可以表達複雜的情感, 這些情感都是事先用程式編寫好的。 這些人造人沒有記憶, 他們活在特定的設定裡, 只能重複有限的動作和談論指定的內容。
他們只是看上去,
這部劇中, 作者為我們描述了日常生活中建立在有限自我意識之上的種種細節。 比如, Dolores在試圖把購物袋掛到馬鞍上時, 弄撒了一罐食物。 一個男人幫他撿了起來。 她早上醒來會和父親坐在門廊裡聊天。 這些“接待員”表現出和人類別無二致的複雜行為。
如果西部世界是一款遊戲的話, 那麼他們將成為終極NPC。
再來看《頭號玩家》。
《頭號玩家》故事設定在2045年, 地球因為人類的破壞變得無法居住, 美國城市到處都是貧民窟和窮人, 主人公韋德·沃茲居住在破破爛爛的拖車建築中。
唯一逃脫的方法是一個名為OASIS的虛擬世界, 這是一個可以無限延展的未開發世界, 人類戴上虛擬實境眼鏡後可以在這個世界重新創造自我, 享受他們現實中享受不到的自由。
OASIS和《西部世界》都參照了沙箱(sandbox)視頻遊戲, 例如Grand Theft Auto, 它們都設定了特定的挑戰, 但是允許玩家進行開放式的探索。
人類如何與人工智慧共存?有個意識金字塔《西部世界》和《頭號玩家》都在講述人工智慧變成一種失控的“異物”,
特別是《西部世界》, 這部電視劇的核心是在探討自主意識會從怎樣的事物當中產生, 意識不是一種程式可以被寫進機器人當中。 Arnold(主人公之一)的意識金字塔理論給了我們啟示。
在金字塔的最底層,是我們的底層記憶。向上一層是慣性反應層,是根據利己主義而做出的快速反應。最後則是我們還不是很瞭解的最頂層。
在《西部世界》裡,作者給出了很多有關這個金字塔的線索,但是對於這些線索,我們同樣不是很確信。
除了最頂層之外的其他兩層,我們很好理解。
最底層的記憶來自於經歷,並且我認為大腦是一部預言機器,跟現在的神經網路很像。只不過我們的大腦要複雜得多,因為它需要處理來自全身上下的所有輸入信號,管理身體機能,接受身體的各種感官,最後匯總給你。因此我們可以將大腦比喻成是一部靈魂的獨角戲。而我們所有的經歷,夢境和記憶就像是神經網路的訓練資料,來不斷充實這部獨角戲。
《頭號玩家中》OASIS背後的主腦是一位謙虛的技術宅James Halliday,他設計OASIS是為了滿足他對80年代文化的沉迷,包括當時流行的科幻小說《Tron》和《WarGames》。這兩部小說當中的機器可以學習和進化。
《Tron》和《WarGames》都被改變成電影
在《Tron》當中,邪惡的主控制程式的表現要比任何人類好900到1200倍。在《WarGames》中,人類要組織一台軍用超級電腦發動第三次世界大戰。它們不是要創造(像OASIS或西部世界那樣)更好的新世界,而是要毀滅人類現在的世界。
《西部世界》的女主角Dolores的做法跟《WarGames》的超級電腦有異曲同工之妙。在第二季第一集中,Dolores想要找到虛擬世界的出口,進入到人類的真實世界(但不知是否要毀滅人類)。
《西部世界》的女主角Dolores
涉足人工智慧就意味著最終我們在挑戰自我意識《西部世界》的創立者Arnold和Ford認為,最終這些“接待員”會產生自我意識。但是他們設想的意識產生方式有所不同。
Arnold和Ford
他們的根本想法都是受到二分心智的啟發而來。
二分心智理論認為,人類直到3000年前才產生自我意識。在那之前,這種“從內心中發出的聲音”被認為是神的旨意。後來慢慢的,人們逐漸意識到這種聲音來自於人類內心,他們可以慢慢掌控。
《西部世界》中的“接待員”的記憶會被定期擦除,因此他們沒有所謂了過往經歷。但是過往的記憶碎片卻與程式設定好的慣性反應產生了分歧,這是這些人造人發散性思維的開端。
這種自我意識應該是來自內心的,是一種自我感知的延伸,是一種行為中自由意願的表達。
如果機器人戰勝人類,它們獲得自由後會做什麼?它們可能會像《Tron》和《WarGames》中沒有個性特徵的CPU一樣奴役或消滅人類,或者像克萊頓小說中的Gunslinger那樣展開殘酷的復仇,但是它們很可能也思考未來,思考世界後世界會變成什麼樣。
在《西部世界》中,機器人是新的拓荒者,他們踐踏淩辱本土居民,侵佔領土。第二季中,它們在試圖搞清它們新創造的組織的未來,以及在前進的道路上接受它們犯下的嚴重錯誤。
也許正像第二季所預示的那樣,自我意識將會產生難以預期的行為——天下大亂(Chaos takes Control)。
西部世界有可能成為現實嗎?說不準。
在電視劇裡,Ford說他們花了35年的時間打造西部世界,而人造人通過圖靈測試只需一年。Ray Kurzweil曾預測,人工智慧將會在2029年通過圖靈測試。而《西部世界》的時間線是2063年。這也就是說,倒退35年的話,Ford和Arnold是從2028年開始打造西部世界的,而這距離現在也就是十年的時間。
現如今,人們在人工智慧,神經科學等領域可以說是如魚得水。就算是剛剛涉足這一領域的人,也會覺得十年的時間足夠讓我們走很遠了。你不需要一定是這個領域的佼佼者,因為成功地開一家公司只是技術出眾也是遠遠不夠的。
對於西部世界,你是怎麼想的呢,也許10年以後,你就是西部世界裡的第一批開荒者。
【加入社群】
新智元 AI 技術 + 產業社群招募中,歡迎對 AI 技術 + 產業落地感興趣的同學,加小助手微信號: aiera2015_1 入群;通過審核後我們將邀請進群,加入社群後務必修改群備註(姓名 - 公司 - 職位;專業群審核較嚴,敬請諒解)。
在金字塔的最底層,是我們的底層記憶。向上一層是慣性反應層,是根據利己主義而做出的快速反應。最後則是我們還不是很瞭解的最頂層。
在《西部世界》裡,作者給出了很多有關這個金字塔的線索,但是對於這些線索,我們同樣不是很確信。
除了最頂層之外的其他兩層,我們很好理解。
最底層的記憶來自於經歷,並且我認為大腦是一部預言機器,跟現在的神經網路很像。只不過我們的大腦要複雜得多,因為它需要處理來自全身上下的所有輸入信號,管理身體機能,接受身體的各種感官,最後匯總給你。因此我們可以將大腦比喻成是一部靈魂的獨角戲。而我們所有的經歷,夢境和記憶就像是神經網路的訓練資料,來不斷充實這部獨角戲。
《頭號玩家中》OASIS背後的主腦是一位謙虛的技術宅James Halliday,他設計OASIS是為了滿足他對80年代文化的沉迷,包括當時流行的科幻小說《Tron》和《WarGames》。這兩部小說當中的機器可以學習和進化。
《Tron》和《WarGames》都被改變成電影
在《Tron》當中,邪惡的主控制程式的表現要比任何人類好900到1200倍。在《WarGames》中,人類要組織一台軍用超級電腦發動第三次世界大戰。它們不是要創造(像OASIS或西部世界那樣)更好的新世界,而是要毀滅人類現在的世界。
《西部世界》的女主角Dolores的做法跟《WarGames》的超級電腦有異曲同工之妙。在第二季第一集中,Dolores想要找到虛擬世界的出口,進入到人類的真實世界(但不知是否要毀滅人類)。
《西部世界》的女主角Dolores
涉足人工智慧就意味著最終我們在挑戰自我意識《西部世界》的創立者Arnold和Ford認為,最終這些“接待員”會產生自我意識。但是他們設想的意識產生方式有所不同。
Arnold和Ford
他們的根本想法都是受到二分心智的啟發而來。
二分心智理論認為,人類直到3000年前才產生自我意識。在那之前,這種“從內心中發出的聲音”被認為是神的旨意。後來慢慢的,人們逐漸意識到這種聲音來自於人類內心,他們可以慢慢掌控。
《西部世界》中的“接待員”的記憶會被定期擦除,因此他們沒有所謂了過往經歷。但是過往的記憶碎片卻與程式設定好的慣性反應產生了分歧,這是這些人造人發散性思維的開端。
這種自我意識應該是來自內心的,是一種自我感知的延伸,是一種行為中自由意願的表達。
如果機器人戰勝人類,它們獲得自由後會做什麼?它們可能會像《Tron》和《WarGames》中沒有個性特徵的CPU一樣奴役或消滅人類,或者像克萊頓小說中的Gunslinger那樣展開殘酷的復仇,但是它們很可能也思考未來,思考世界後世界會變成什麼樣。
在《西部世界》中,機器人是新的拓荒者,他們踐踏淩辱本土居民,侵佔領土。第二季中,它們在試圖搞清它們新創造的組織的未來,以及在前進的道路上接受它們犯下的嚴重錯誤。
也許正像第二季所預示的那樣,自我意識將會產生難以預期的行為——天下大亂(Chaos takes Control)。
西部世界有可能成為現實嗎?說不準。
在電視劇裡,Ford說他們花了35年的時間打造西部世界,而人造人通過圖靈測試只需一年。Ray Kurzweil曾預測,人工智慧將會在2029年通過圖靈測試。而《西部世界》的時間線是2063年。這也就是說,倒退35年的話,Ford和Arnold是從2028年開始打造西部世界的,而這距離現在也就是十年的時間。
現如今,人們在人工智慧,神經科學等領域可以說是如魚得水。就算是剛剛涉足這一領域的人,也會覺得十年的時間足夠讓我們走很遠了。你不需要一定是這個領域的佼佼者,因為成功地開一家公司只是技術出眾也是遠遠不夠的。
對於西部世界,你是怎麼想的呢,也許10年以後,你就是西部世界裡的第一批開荒者。
【加入社群】
新智元 AI 技術 + 產業社群招募中,歡迎對 AI 技術 + 產業落地感興趣的同學,加小助手微信號: aiera2015_1 入群;通過審核後我們將邀請進群,加入社群後務必修改群備註(姓名 - 公司 - 職位;專業群審核較嚴,敬請諒解)。