人工智慧新書life3.0(生命3.0)簡析內容(三)
人工智慧
咱們接上文繼續講講!!
對待這個問題有四大流派
第一派被稱為熱得分子,最早是指英國工業革命時期因為機器代替了人力而失業的技術工人,現在引申為反對發展人工智慧的人。這一派當然非常懼怕超人工智慧的出現。
第二派呢是以拉裡佩奇庫茲韋爾為代表的數字烏托邦主義者,他們認為人類很有可能在21世紀發展出超人工智慧,而且他們衷心歡迎這一步的到來。
第三派則是以百度前首席科學家吳恩達為代表的技術懷疑論者,
吳文達說擔心AI的風險可以說是一種有害的分心,可能會拖慢人工智慧的進展,第二排和第三派並不擔心超人工智慧的問題,因為前者熱切期盼它的到來,後者認為它在本世紀內甚至更遙遠的將來也不會出現
還有第四怕
他們中有好幾位都是大名鼎鼎的人物,比如比爾蓋茨,霍金,埃隆馬斯克,
泰格瑪克把這一派稱之為益智運動派,也就是指推動有意的人工智慧發展的人群。
這派認為超人工智慧是有可能在本世紀出現的,但它並不保證對人類有好的結果,所以現在對於AI有關的安全問題的研究和討論能夠增加未來出現良好結果的概率。
除了我們耳熟能詳的幾位斯圖爾特,羅素是這一派的代表人物,他是目前還活著的最著名的人工智慧,研究人員與其他人撰寫過關於這個主題的標準教科書,他說有一些關於AI的關鍵問題,我們需要提前作出回答,這些問題非常困難,所以我們應該提早進行研究,避免在需要的時候才臨時抱佛腳。到了今天,斯圖爾特的觀點已經成為了主流,但是在幾年以前,
作為益智運動派的議員,作者泰格瑪克於2014年和幾個朋友一起成立了一個名為未來生命研究所的非營利組織,目標是促進生命在未來的蓬勃發展,避免技術導致的自我毀滅。
該組織第一次會議達成的共識是,雖然我們應該關注生物技術核武器以及氣候變化等重大問題,
但最首要的目標是推動AI的安全研究成為主流。
正是由於他們的努力,埃隆馬斯克,比爾蓋茨才紛紛就此發言,進一步推動越來越多的公眾討論。
益智運動的第二個目標是讓世界領先的人工智慧研究人員聚在一起消除誤解達成一致,建立可行的計畫。這次會議在今年1月的波多黎各順利舉辦,會上雖然存在許多有爭議的話題,但依然形成一個顯著的共識,凝聚成為一封8000多人簽名的公開信,公開性的宗旨是發展人工智慧的目標應該被重新定義。我們的目標不應該是創造沒有方向的智慧,而是創造有意的智慧。
會議的另外一個重要結論是人工智慧所引發的問題,在道德層面上也是至關重要的,因為我們的選擇可能會影響到整個生命的未來。人類過去的選擇有時具有很大的道德意義,但總歸有限制。我們從最大的災難裡恢復過來了,甚至最大的帝國也最終崩潰了,太陽照常升起,人類也照常受到貧困疾病和戰爭的侵襲。
但波多黎各的一些發言人認為這一次可能會有所不同,我們有史以來第一次可能會通過強大的技術永久地結束這些禍患,但也可能不小心就結束了我們人類自己。
感興趣的朋友可以關注我的頭條查看前兩期,以及以後更新的內容!
我們的目標不應該是創造沒有方向的智慧,而是創造有意的智慧。會議的另外一個重要結論是人工智慧所引發的問題,在道德層面上也是至關重要的,因為我們的選擇可能會影響到整個生命的未來。人類過去的選擇有時具有很大的道德意義,但總歸有限制。我們從最大的災難裡恢復過來了,甚至最大的帝國也最終崩潰了,太陽照常升起,人類也照常受到貧困疾病和戰爭的侵襲。
但波多黎各的一些發言人認為這一次可能會有所不同,我們有史以來第一次可能會通過強大的技術永久地結束這些禍患,但也可能不小心就結束了我們人類自己。
感興趣的朋友可以關注我的頭條查看前兩期,以及以後更新的內容!