您的位置:首頁>科技>正文

黑鏡第四季《U.S.S. CALLISTER》:人工智慧AI的“人權”?

生物學的克隆技術和電腦科學的人工智慧技術, 一直都是都是科幻作品中的兩大熱門題材, 尤其是最近幾年, 隨著技術日漸成熟越來越接近想像的領域, 話題度越來越火熱, 相關作品也越來越多, 從《西部世界》、《攻殼機動隊》和《銀翼殺手2049》的熱映盛況就可見一斑。

至於其中原因, 大概是因為這兩門學科的發展方向都在不斷挑戰著人類現有的道德價值體系, 才會造成如此強烈的理念價值衝擊。

試著想像一下, 如果未來某一天, 世界上真的出現了克隆人, 或者出現超級人工智慧的AI, 它們究竟算不算是“人”呢?人類又該如何和他們相處?如果接受它們融入人類社會, “人”的定義又該如何重新界定?關於這個問題的每一種可能性幻想, 都是一部科幻作品。

《黑鏡》系列最大的特點就是從不避諱人性與道德黑暗面。

《U.S.S. CALLISTER》的故事創意其實也不算太新奇:天才宅男程式師戴利跟朋友沃頓合夥成立了一家遊戲公司, 兩位創始人分工明確, 沃頓負責公司的經營, 而戴利則負責技術開發。 幾年過去, 沃頓利用戴利的技術賺的盆滿缽滿, 生活中也是意氣風發, 可是戴利卻沒有得到公司創始人之一應有的尊重, 好不容易有了一個小迷妹, 公司裡的人卻暗示她遠離戴利這個生活中的loser。 懦弱的戴利無法再現實中發洩情緒, 於是利用自己天才的技術搭建了一個類似於私服的空間, 將現實中認識的人都複製進來, 通過欺淩虐待這些AI來發洩不滿。 最終, 當女主進來後,

這些AI奮起反擊, 利用遊戲版本升級的機會, 將戴利永遠地困在了遊戲世界。

玩家在遊戲中虐AI發洩情緒的情況很常見, 比如DOTA2中每天死在玩家手中的斧王就有千千萬萬, 正常情況下我們很難對這些AI產生道德愧疚感或是同情, 因為我們很清楚它們不是人, 但是如果將AI製作得越來越逼真, 越來越近似於人, 那我們是否應該尊重它們的“人權”呢?

戴利最大的問題, 就是將AI製作地太逼真了, 按照現在的科技認知, 正常情況下即使拿到別人的DNA, 克隆出的也只是和主人相同基因的肉體, 不可能複製出記憶和思想。 不過這門技術若是被用於犯罪, 後果實在太恐怖了, 也就是說真實世界的人對於複製的自己是毫無隱私可言的。

戴利在遊戲中的罪行似乎不可饒恕, 他將沃頓等公司同事的複製體困在遊戲中肆意蹂躪, 尤其是為了報復沃頓, 戴利將沃頓的兒子複製進來, 將他扔到了飛船外, 讓沃頓親眼看著兒子被宇宙空間撕碎。

現實和遊戲畢竟是兩個完全不同的世界,一個人的生命應該和遊戲AI的生命對等嗎?這可能是未來某一天我們不得不思考的問題。不過確實有點難以接受這集的結局,虛擬遊戲世界之中所做的惡,自然應該有相應的處罰方式,但是按照編劇所設計的情節,戴利最終意識被困在虛擬世界,現實中的他相當於腦死亡,遊戲AI奪走了玩家的生命,這在現有的人類認知中是絕對不允許的,生命權是一個人最基本最重要的權力,不應該如此輕易被剝奪。如果某一天AI真的能夠做到這一步,無異于正式向人類宣戰,其崛起要麼向《終結者》中的天網系統一樣勢不可擋,要麼就是迅速被人類放棄,畢竟種族生存問題大於一切,即使是“人權”也是在活著的情況下才有討論的意義。

關注人工智慧領域

DATADUO

致力於

做中國最好的人工智慧技術培訓

做中國最專業的人工智慧產品推廣平臺

做中國領先的AI早期VC服務

共 享 A I 未 來

現實和遊戲畢竟是兩個完全不同的世界,一個人的生命應該和遊戲AI的生命對等嗎?這可能是未來某一天我們不得不思考的問題。不過確實有點難以接受這集的結局,虛擬遊戲世界之中所做的惡,自然應該有相應的處罰方式,但是按照編劇所設計的情節,戴利最終意識被困在虛擬世界,現實中的他相當於腦死亡,遊戲AI奪走了玩家的生命,這在現有的人類認知中是絕對不允許的,生命權是一個人最基本最重要的權力,不應該如此輕易被剝奪。如果某一天AI真的能夠做到這一步,無異于正式向人類宣戰,其崛起要麼向《終結者》中的天網系統一樣勢不可擋,要麼就是迅速被人類放棄,畢竟種族生存問題大於一切,即使是“人權”也是在活著的情況下才有討論的意義。

關注人工智慧領域

DATADUO

致力於

做中國最好的人工智慧技術培訓

做中國最專業的人工智慧產品推廣平臺

做中國領先的AI早期VC服務

共 享 A I 未 來

Next Article
喜欢就按个赞吧!!!
点击关闭提示