我們既有可能在地球上創造出前所未有的蓬勃發展的社會， 也有可能創造出一個永遠無法被推翻的無比壓抑的全球監視系統。
這本書的目的就是説明你加入這個對話， 但是目前許多關於AI的爭論其實意義不大， 因為參與討論的人們存在著不少基本的誤解， 比如說對同一個詞彙有不同的理解， 所以我們在進入有價值的討論之前， 首先應該澄清一些最常見的誤解。
泰格瑪克提供了他對於一些核心術語的定義， 並非說它的定義是最好的， 只是泰格瑪克想通過明確的解釋來避免混淆， 而且它採用的是廣義上的定義，
這裡我轉述一下比較重要的幾個
智慧指的是完成複雜目標的能力。
弱人工智慧指的是實現一組有限的目標的能力， 比如下圍棋或者駕駛汽車。
通用智慧指的是有能力達成幾乎任何目標， 包括學習。
超人工智慧指的是遠超人類水準的通用智慧。
除了混淆術語之外， 許多AI的對話還被一些簡單的誤解所困擾， 最常見的有以下三個。
第一個是關於時間表的神話人類發展出超人工智慧需要多長時間， 在這個問題上最常見的誤解就是我們非常確定地知道答案， 比如最流行的說法是我們知道自己將在本世紀內創造出超人工智慧， 但是回顧一下歷史， 我們曾經也很確信自己會造出滿天飛的汽車，
另一方面， 一個流行的相反的說法則是我們確信自己本世紀內造不出超人工智慧， 1956年天文學家理查武力聲稱太空旅行絕對不可能。 類似這樣事後看來可笑的預測在歷史上比比皆是。
物理學家知道大腦是由誇克和電子組成的一台強大的電腦， 所以沒有什麼物理定律阻止我們構建更加智慧的誇克結構。 從這個意義上來說， 我們不能鐵口斷言人類未來製造不出超人工智慧。
現在已經有一些調查詢問AI的研究人員， 你們認為多少年後我們至少有五成的概率製造出超人工智慧， 結論是這個領域的頂尖專家對此問題分歧極大， 所以我們其實不知道答案。 現在有媒體宣稱過不了幾年超人工智慧就要誕生了， 其實呢那些對此表示擔憂的著名人士也認為至少還有幾十年才會出現超人工智慧， 但是他們同時認為， 只要我們不能拍著胸脯保證本世紀內不會出現超人工智慧， 那麼現在就應該開始相關的安全研究， 因為這些問題太複雜了， 可能需要好幾十年才能找到解決方案。
第二個誤解是關於爭議的神話， 也就是誤以為AI研究者對於是否支持人工智慧安全研究存在巨大的爭議，
所以傾向于優先考慮短期內的AI挑戰。
第三個誤解是關於風險的深化， 相信你一定看過這樣的新聞標題：霍金髮出警告， 機器人的崛起可能是人類的災難， 通常這類文章會搭配上一張裝備的武器的邪惡機器人的科幻圖片， 文章還會告訴我們要警惕機器人發展出一時， 並且變得邪惡， 最終殺死人類。
這類文章很抓人眼球， 但其實體現了一些人對於意識邪惡以及機器人這三個概念的誤解。 如果你自己開車的話， 你會有關於顏色聲音等的主觀上的體驗，那麼無人駕駛汽車會不會有這種主觀上的體驗呢？他是否會感覺到自己是一輛無人駕駛汽車還是像一個沒有任何主觀體驗的僵屍？
雖然這個一時之謎是挺有意思的，但是他和人工智慧的風險無關。
如果你被一輛無人駕駛汽車撞倒，那麼他有沒有主觀意識跟你的腿有沒有斷沒有任何關係。
同理，超人工智慧對人類的影響在於它會做什麼，而不是它意識到什麼，害怕機器變得邪惡也是無聊的問題。我們真正應該擔心的不是機器的惡意，而是他的能力。根據定義，一個超人工智慧非常擅長實現目標，無論這個目標是什麼，所以我們需要確保其目標與我們的一致。你可能本身並不討厭螞蟻，但如果你負責一個水力發電項目，那麼有一個蟻穴在項目建設過程中被水淹沒就再正常不過了。益智運動就是希望努力避免人類遭遇和這些螞蟻同樣的命運被沒有惡意但十分強大的超人工智慧隨手毀滅。對於一時的誤解和另一則神話有關，那就是一些人所聲稱的
機器無法擁有目標，機器當然可以擁有目標了，一顆熱能追蹤導彈朝你飛來。從狹義上來說，他的目標就是你，這和導彈是否有意識並且體驗到一種目標感無關。這一刻你只會感到很恐慌，而不會像哲學家一樣淡定的說。我不擔心，因為機器不可能擁有目標。
第三個膚淺的理解是關於機器人，其實對我們有威脅的人工智慧並不需要一個金屬怪物的身體，只要一個互聯網連接就夠了。
益智運動主要的關注點不在於機器人，而在於智慧本身，具體而言就是與我們的目標不符的智慧，一個超人工智慧可以很容易通過收買等手段操縱無數的人來執行他的目標，有些人以為機器不可能控制人類，事實上只要機器足夠聰明，他就能控制人類，正如同人類可以控制比我們強上的多的老虎一樣。
好吧，澄清的這些常見的誤解，我們就可以一勞永逸地丟棄。
他們將我們和朋友的討論集中在許多有價值的議題上，這也是我們未來幾天的功課。
總結一下今天的內容：
第一，生命是一個可以保持其複雜性和複製性的過程。生命可以分為三個階段，生命1.0為生物演變在其生命週期內無法重新設計。他的軟硬體。生命2.0為文化演變，能夠在其生命週期內重新設計它的大部分的軟體，但基本無法重新設計自己的硬體。生命3.0為技術演變，能夠重新設計自己的軟體和硬體。
第二，超人工智慧是生命3.0的代表，除了反對人工智慧的樂得份子，人工智慧專家分為三個主要陣營，包括數位烏托邦主義者技術懷疑論者以及益智運動的支持者。數位烏托邦主義者相信並且期待超人工智慧到來。技術懷疑論者認為建立超人工智慧非常困難，21世紀甚至數百年內都不會出現，現在擔心這個問題是愚蠢的。益智運動派的認為本世紀有可能出現超人工智慧，但它並不保證對人類有良好的結果，需要通過辛勤的安全研究工作來確保結果向好。
第三，除了世界頂尖的人工智慧專家之間存在的有價值的爭議之外，
還有許多因為誤解所引起的無聊爭論，比如明確你和你朋友所使用的術語的準確定義，不要浪費時間爭論生命智慧或者一時等詞彙。另外，不要斷言超人工智慧出現的時間表，不要過於關心邪惡機器人，不要誤以為機器沒有目標或者無法控制人類
今天的讀書筆記就講到這裡，我們明天再見。
歡迎關注的我頭條號！
你會有關於顏色聲音等的主觀上的體驗，那麼無人駕駛汽車會不會有這種主觀上的體驗呢？他是否會感覺到自己是一輛無人駕駛汽車還是像一個沒有任何主觀體驗的僵屍？雖然這個一時之謎是挺有意思的，但是他和人工智慧的風險無關。
如果你被一輛無人駕駛汽車撞倒，那麼他有沒有主觀意識跟你的腿有沒有斷沒有任何關係。
同理，超人工智慧對人類的影響在於它會做什麼，而不是它意識到什麼，害怕機器變得邪惡也是無聊的問題。我們真正應該擔心的不是機器的惡意，而是他的能力。根據定義，一個超人工智慧非常擅長實現目標，無論這個目標是什麼，所以我們需要確保其目標與我們的一致。你可能本身並不討厭螞蟻，但如果你負責一個水力發電項目，那麼有一個蟻穴在項目建設過程中被水淹沒就再正常不過了。益智運動就是希望努力避免人類遭遇和這些螞蟻同樣的命運被沒有惡意但十分強大的超人工智慧隨手毀滅。對於一時的誤解和另一則神話有關，那就是一些人所聲稱的
機器無法擁有目標，機器當然可以擁有目標了，一顆熱能追蹤導彈朝你飛來。從狹義上來說，他的目標就是你，這和導彈是否有意識並且體驗到一種目標感無關。這一刻你只會感到很恐慌，而不會像哲學家一樣淡定的說。我不擔心，因為機器不可能擁有目標。
第三個膚淺的理解是關於機器人，其實對我們有威脅的人工智慧並不需要一個金屬怪物的身體，只要一個互聯網連接就夠了。
益智運動主要的關注點不在於機器人，而在於智慧本身，具體而言就是與我們的目標不符的智慧，一個超人工智慧可以很容易通過收買等手段操縱無數的人來執行他的目標，有些人以為機器不可能控制人類，事實上只要機器足夠聰明，他就能控制人類，正如同人類可以控制比我們強上的多的老虎一樣。
好吧，澄清的這些常見的誤解，我們就可以一勞永逸地丟棄。
他們將我們和朋友的討論集中在許多有價值的議題上，這也是我們未來幾天的功課。
總結一下今天的內容：
第一，生命是一個可以保持其複雜性和複製性的過程。生命可以分為三個階段，生命1.0為生物演變在其生命週期內無法重新設計。他的軟硬體。生命2.0為文化演變，能夠在其生命週期內重新設計它的大部分的軟體，但基本無法重新設計自己的硬體。生命3.0為技術演變，能夠重新設計自己的軟體和硬體。
第二，超人工智慧是生命3.0的代表，除了反對人工智慧的樂得份子，人工智慧專家分為三個主要陣營，包括數位烏托邦主義者技術懷疑論者以及益智運動的支持者。數位烏托邦主義者相信並且期待超人工智慧到來。技術懷疑論者認為建立超人工智慧非常困難，21世紀甚至數百年內都不會出現，現在擔心這個問題是愚蠢的。益智運動派的認為本世紀有可能出現超人工智慧，但它並不保證對人類有良好的結果，需要通過辛勤的安全研究工作來確保結果向好。
第三，除了世界頂尖的人工智慧專家之間存在的有價值的爭議之外，
還有許多因為誤解所引起的無聊爭論，比如明確你和你朋友所使用的術語的準確定義，不要浪費時間爭論生命智慧或者一時等詞彙。另外，不要斷言超人工智慧出現的時間表，不要過於關心邪惡機器人，不要誤以為機器沒有目標或者無法控制人類
今天的讀書筆記就講到這裡，我們明天再見。
歡迎關注的我頭條號！