前段時間熱播的科幻美劇《西部世界》大家看了嗎?劇中機器人覺醒、反叛, 這或將在現實中發生, 甚至情況還會更糟糕。
繼2015年9月拋出“人工智慧威脅論”之後,
AI可能摧毀人類, 人類必須儘早防止威脅
人工智慧技術一直是霍金關注的重點。
霍金表示, 世界的毀滅已經逼近, 人類創造了可以毀滅世界的人工智慧, 卻至今仍無能力可以避免這個災難。
自從人類文明形成以來, 來自生存能力優勢群體的侵略就一直存在, 而未來人工智慧進一步發展便可能具備這種優勢, 它們可能會通過核戰爭或生物戰爭摧毀我們。
霍金認為, 人類需要利用邏輯和理性去控制未來可能出現的威脅, 必須建立有效機制儘早識別威脅所在, 防止新科技(人工智慧)對人類帶來的威脅進一步上升。
霍金還就如何應對人工智慧的威脅給出了自己的建議。 霍金認為, 人類可以組成某種形式的“世界政府”來防範人工智慧可能帶來的威脅, 但他同時認為“世界政府”本身也有問題, 因為這樣一個政府可能會施行暴政。
世界末日逐步逼近, 霍金多次做出預測
霍金一直對AI帶來的潛在挑戰表示擔憂。 2015年9月, 霍金在美國網站reddit的AMA(問我任何問題)專欄中談到, 他擔心聰明能幹的AI會讓人類滅亡。 霍金表示:
一個超級聰明的AI可以非常好地實現它的目標, 如果這些目標都沒有與我們人類一致, 我們人類就麻煩了。
2016年10月, 霍金再次表示, 人工智慧雖然能為人類消除難題或疾病, 但也有可能成為淩駕於人腦的存在, 甚至衍生出有自我意識的武器, 就像電影《終結者》當中的情節一樣, 過度進化的人工智慧會試圖反噬人類。
2016年11月, 霍金還對地球末日做出過預測。 他認為, 按照目前人類活動的強度, 地球的壽命只剩下1000年時間, 屆時如果人類還沒有找到另一個移民星球的話,
AI潛在威脅受到越來越多科學家關注
近年來, 隨著人工智慧技術蓬勃發展, 其潛在的威脅受到越來越多科學家的關注。
英國牛津大學教授、人類未來研究所創始人Nick Bostrom表示:
我認為改善全球治理很有必要, 不僅可應對AI帶來的危險挑戰,
對比霍金等人“人工智慧將威脅人類”的觀點, 普林斯頓大學電腦科學教授Edward Felten更關注眼下人工智慧技術帶來的影響, 他表示:
AI主要有兩個經濟風險:第一, 工人具備的技能與未來工廠所需要的技能可能不匹配。 第二, 通過增加資本所有者和某些高級技工的回報, AI可能加劇經濟不平等性。
Edward Felten認為, 電腦科學領域還不存在完美基礎, 可以促使機器智慧水準突然加速提高。 上述問題可以通過調整公共政策解決, 比如重新分配生產力。
不帶來源和二維碼一律舉報。
若覺得見聞君寫得不錯,
請點下面的或轉給朋友。
若覺得見聞君寫得不錯,
請點下面的或轉給朋友。