您的位置:首頁>正文

美國三院院士邁克爾喬丹長文論述:為何說人工智慧革命尚未發生

圖源:unsplash

作者:Michael Jordan

「雷克世界」編譯:嗯~是阿童木呀、KABUDA、EVA

人工智慧的出現, 它能夠與我們所有人相媲美——讓我們著迷, 並以同樣的方式讓我們感到害怕。

而不幸的是, 它分散了我們的注意力。

關於當前時代, 還有一種不同的說法。 認真思考下面這個故事, 它涉及到人類、電腦、資料以及生與死的抉擇問題, 但重點在於矽基智慧幻想之外的東西。 14年前, 當我的配偶懷孕時, 我們進行了超聲波檢查。 房間裡有一位遺傳學家, 她指出胎兒心臟周圍有一些白色斑點, “這些都是唐氏綜合征(Down syndrome)的標誌”, 她指出, “你的風險現在已經升高到1/20”。 她進一步告訴我們, 我們可以通過羊膜穿刺術瞭解胎兒實際上是否具有遺傳性唐氏綜合症。 但是羊膜穿刺術風險很大——在手術過程中殺死胎兒的風險大約為1/300。 作為統計學家, 我決定找出這些數字的來源。 長話短說, 我發現英國有一項統計分析已經進行了十年,

其中, 這些反映鈣積聚的白色斑點確實被列為唐氏綜合症的預測指標。 但我也注意到, 相較於英國研究中所使用的機器, 我們的測試中所使用的成像機器每平方英寸中多了幾百個圖元。 隨後, 我就去告訴遺傳學家, 我認為這些白色斑點可能是假陽性——它們實際上是“白色雜訊”。 她說:“啊, 這就解釋了為什麼我們幾年前就開始看到唐氏綜合征診斷率的上升, 新機器時代到來了”!

我們沒有做羊膜穿刺術, 幾個月後, 一個健康的女孩出生了。 但是這一事件讓我感到很困擾, 特別是進行一個粗略的計算後, 我確信, 全世界範圍內, 當天有成千上萬的人得到了這種診斷, 他們中的許多人選擇了羊膜穿刺術,

從而致使一些嬰兒不必要地死亡了。 而這種情況日復一日地發生, 直到其不知何故地得以固定下來。 這一事件所揭示的問題不單單是我個人的醫療保健問題, 它與醫療系統密切相關, 對不同地點和時間內的變數和結果進行測量, 進行統計分析, 並在其他地方和時間中使用這些結果。 這個問題不僅與資料分析本身有關, 而且與資料庫研究人員所謂的“來源”有關。 廣義而言, 資料從何而來?從資料中得出了什麼推論?以及這些推斷與當前情況之間的相關程度如何?雖然一位經驗豐富的工作人員可能能夠在個案(case-by-case)基礎上完成所有這些工作, 但問題在於設計一個行星級(planetary-scale)的醫療系統, 使其能夠在無需進行這種詳細的人類監督的情況下,
做到這一點。

我也是一名電腦科學家, 我突然意識到, 建立這種行星級推理和決策系統所需的原則, 將電腦科學與統計學相結合, 並將人力資源納入考慮, 而這在我所接受的教育中是不存在的。 我想到, 不僅在醫療領域, 而且在商業、交通和教育等領域, 這些原則的發展至少是與那些用於建立AI系統, 從而使其能夠可以讓我們驚歎於它們的玩遊戲或感覺運動技能的原理是同等重要的。

無論我們是否能夠在短期內理解“智慧”, 我們都確實面臨著一個重大挑戰, 即將電腦和人類結合在一起, 從而提高人類的生活品質。 儘管在有些人看來, 這種做法是屈從於“人工智慧”的產物, 但也可以將其看作是一個新的工程分支,

且同樣值得尊敬。 就像過去幾十年的土木工程和化學工程一樣, 這門新學科的目標是將一些關鍵思想的力量凝聚起來, 為人們帶來新的資源和能力, 並且安全地做到這一點。 鑒於土木工程和化學工程是建立在物理和化學基礎之上, 而這個新的工程學科將建立在上一個世紀所賦予的思想基礎以上——諸如“資訊”、“演算法”、“資料”、“不確定性”、“計算”、“推理”、“優化”。 此外, 由於新學科的側重點將放在來自以及有關人類的資料上, 而其發展將需要社會科學和人文科學的觀點。

雖然構建塊已經開始出現, 但將這些構建塊組合在一起的原則還沒有出現, 因此這些構建塊正在以特定方式組合在一起。

因此, 正如人類在土木工程出現之前建造房屋和橋樑一樣, 人類正在初步構建涉及機器、人類和環境的社會規模推理和決策系統(inference-and-decision-making systems)。正如早期的建築和橋樑有時會以不可預見的方式和悲慘的後果坍塌一樣,我們早期的許多社會規模推斷和決策系統已經暴露出嚴重的概念缺陷。

不幸的是,我們並不善於預測下一個正在出現的嚴重缺陷是什麼。我們缺少的是一個具有分析和設計原理的工程學科。

目前,關於這些問題的公開對話過於頻繁地使用“AI”作為智慧萬用字元(intellectual wildcard),這使得人們很難對新興技術的範圍和後果進行推理。我們需要從近期和歷史的角度更為仔細地思考一下,“AI”到底是用來指稱什麼的。

可以這樣說,如今被稱為“AI”的大多數東西,特別是在公共領域,在過去的幾十年中往往被被稱之為“機器學習”(ML)。ML是一個演算法領域,它將來自統計學、電腦科學和許多其他學科的思想融合在一起,設計了用以處理資料、做出預測並説明做出決策的演算法。就對現實世界的影響而言,ML是真實的,而這並不僅僅是針對近期而言的。事實上,早在20世紀90年代初期就有明確的端倪顯示,ML將會發展成巨大的產業關聯性。而到世紀之交,諸如亞馬遜這樣的具有前瞻性的公司已經在他們的業務中使用了ML,從而解決了欺詐行為檢測和物流鏈預測中的關鍵任務後端問題,並構建了具有創新性的面向消費者的服務,如推薦系統。隨著資料集和計算資源在接下來二十年裡的快速增長,很明顯,ML很快將不僅為亞馬遜提供支援,實際上可以為任何將決策與大規模資料綁定在一起的公司提供推動力。新的商業模式將會出現。“資料科學”這個短語開始被用來指代這種現象,反映了ML演算法專家需要與資料庫和分散式系統專家相互合作以建立具有可擴展性的、魯棒性的ML系統,並且反映了所研究出系統的更大的社會和環境範圍。

在過去幾年裡,思想和技術趨勢的這種融合被重新命名為“AI”。而這個品牌重塑還有待商榷。

從歷史上看,“人工智慧”這個詞在20世紀50年代後期被創造出來,表達了在軟體和硬體中實現具有人類水準智慧的實體的強烈願望。我們將使用“模仿人類的人工智慧(human-imitative AI)”一詞來指代這一願望,強調人工智慧實體似乎應該是我們中的一員,即使不是在實體層面上,至少在精神上如此。這主要是在學術界範疇內。雖然諸如運籌學、統計學、模式識別、資訊理論和控制理論等相關學術領域已經存在,並且常常受到人類智慧(和動物智慧)的啟發,但這些領域只能說是集中在“低水準”的信號和決策上。例如,松鼠能夠感知它所居住的森林的三維結構,並在樹枝之間跳躍的能力,對於這些領域來說是很有啟發性的。“人工智慧”旨在聚焦於一些不同的事物——人類進行“推理”和“思考”的“高水準”或“認知”能力。然而,60年後,高水準推理和思想仍然難以捉摸。目前被稱為“人工智慧”的發展主要集中在與低水準模式識別和運動控制相關的工程領域,以及統計學領域中,統計學專注於找到資料中的模式並進行有根據的預測,假設和決定的測試。

事實上,20世紀80年代早期由David Rumelhart重新發現的著名的“反向傳播”演算法,現在被視為所謂“AI革命”的核心,其實最早出現在20世紀50年代和60年代的控制理論領域中。其早期應用之一是優化阿波羅太空船登陸月球任務的推力。

雖然自20世紀60年代以來,該領域已經取得了很大的進步,但是可以說這並非來自於對模仿人類AI的追求。相反,就像阿波羅太空船的例子一樣,這些思想經常被隱藏在幕後,並且一直是研究人員聚焦于特定工程挑戰的結果。雖然對於公眾而言這些是不可見的,但是在文檔檢索、文本分類、欺詐檢測、推薦系統、個性化搜索、社交網路分析、規劃、診斷和A/B測試等領域中的研究和系統建設已經取得了重大成功。這些進步推動了穀歌、Netflix、Facebook和亞馬遜等公司的發展。

人們可以簡單地將所有這些都稱為“AI”,而且事實上人們似乎已經這樣做了。這樣的標籤可能會讓優化或統計學的研究人員感到意外,他們一覺醒來後發現自己突然被稱為“AI研究人員”。但是,除了給研究人員貼標籤之外,更大的問題是,使用這個單一的、定義不明確的縮寫詞會使人們對當前情況下知識和商業範圍的問題難以有清晰的認識。

在過去的二十年裡,人們在工業和學術界對模仿人類AI加以補充的願望已經取得了重大的進步,這通常被稱為“智力增強(Intelligence Augmentation,IA)”。在這裡,計算和資料被用於創建增強人類智力和創造力的服務。搜尋引擎可以被看作是IA的一個例子(它增強了人類記憶和事實性知識),自然語言翻譯也是如此(它增強了人類的溝通能力)。基於計算的聲音和圖像生成如同是藝術家的調色板和創造力增強劑。雖然這種服務可以令人信服地涉及到高水準的推理和思考,但目前它們並沒有這樣做,它們主要執行各種類型的字串匹配和數值運算,以捕捉人類可以利用的模式。

希望讀者能容忍本文出現的最後一個首字母縮略詞,讓我們廣泛地設想一下“智慧基礎設施(Intelligent Infrastructure, II)”規則,即能夠使人類環境更具有支持性、更有趣的和安全的計算、資料和物理實體網路。這樣的基礎設施已經開始在交通、醫學、商業和金融等領域中出現,對人類個體和社會影響巨大。這種有時出現在關於“物聯網”(Internet of Things)的對話中,但這種成就通常指的是僅僅將“事物”接入到互聯網上的問題,而不是指與這些“事物”相關的更大的挑戰——能夠分析這些資料流程以發現關於世界的事實, 並且在比僅僅是“bit”更高的抽象層次上與人類和其他“事物”進行交互。

舉個例子,回到我的個人軼事中,我們可以想像我們生活在一個“社會規模的醫療系統”(societal-scale medical system)中,它在醫生和位於人體內部和周圍的設備之間建立了資料流程和資料分析流,從而能夠在進行診斷和提供護理的過程中幫助人類智慧。該系統將包含人體細胞、DNA、血液檢查、環境,群體遺傳學和大量關於藥物和治療的科學文獻資訊。它不僅關注于單個病人和醫生,還關注所有人類之間的關係——就像當前的醫學測試允許對一組人類(或動物)進行實驗,以帶入到對其他人類的醫療中。它將以當前的銀行系統在金融和支付領域集中應對此類挑戰的方式來説明保持相關性、來源和可靠性。而且,儘管人們可以預見到這樣一個系統會出現許多問題——涉及隱私問題、責任問題、安全問題等等,但是這些問題應該被恰當地視為挑戰,而不是障礙。

我們現在面臨一個關鍵問題:現在所研究的經典模仿人類AI是專注於這些更大挑戰的最佳途徑還是唯一途徑?最近,一些最受歡迎的關於ML的成功故事實際上存在於與模仿人類AI相關的領域,比如電腦視覺、語音辨識、遊戲和機器人技術。因此,或許我們只是應該等待這些領域的進一步發展再做定論。這裡有兩點需要說明。首先,儘管人們不會從閱讀報紙中知道這一點,但是在模仿人類AI方面的成功實際上是有限的,我們距離實現模仿人類AI的願望還很遠。不幸的是,在模仿人類AI領域取得哪怕有限的進展所帶來的興奮(和恐懼)導致了行業的過度興奮和媒體的過度關注,而這在其他工程領域並不存在。

其次,並且更重要的是,這些領域的成功既不足以解決重要的IA和II問題,也不是必需的。在充分性方面,考慮一下自動駕駛汽車。要實現這樣的技術,需要解決一系列工程問題,而這些問題可能與人類所具備的能力(或人類能力不足)關係不大。整體運輸系統(一個II系統)可能更類似於目前的空中交通管制系統,而不是當前正處於鬆散耦合的、前向的、人類駕駛員注意力不集中的資料收集階段的系統。它將比當前的空中交通管制系統複雜得多,尤其是在使用大量資料和自我調整統計建模以進行細細微性決策的情況下。正是這些需要站在最前線的挑戰,以及在這樣的努力下對模仿人類AI的專注,可能會讓人分心。

至於必要性方面的論證,有時人們認為模仿人類AI願望包含了IA和II願望,因為模仿人類AI系統不僅能夠解決AI的經典問題(作為體現,例如,圖靈測試),這也將是我們解決IA和II問題的最佳選擇。這樣的論點幾乎沒有歷史先例。土木工程是通過想像一個人造的木匠或砌磚工的建造物來發展的嗎?化學工程的發展是通過設計一個人造的化學家實現的嗎?甚至更有爭議的是:如果我們的目標是建造化工廠,我們應該先創造出一個人造化學家,然後再由他來研究如何建造一個化工廠嗎?

一個相關的論點是,人類智慧是我們所知道的唯一一種智慧,並且也是應當將旨在模擬它作為研究的第一步。但是人類實際上並不是很擅長某種推理——我們有自己的過失、偏見和局限。此外,至關重要的是,我們並沒有進化到能夠執行現代II系統必須面對的那種大規模決策,也無法應對在II環境中出現的那種不確定性。人們可能說,AI系統不僅會模仿人類智慧,而且還會“糾正”它,並且還會擴展到任意大的問題上。但是我們現在正處於科幻小說的領域——雖然這種推測性的爭論在小說的背景下具有娛樂性,但它不應該成為我們在面對即將出現的關鍵IA和II問題時向前邁進的主要策略。我們需要根據自己的優點來解決IA和II問題,而不是僅僅作為模仿人類AI議程的必然結果。

不難看出,在II系統中,演算法和基礎設施挑戰並不是進行模仿人類AI研究的核心主題。II系統需要具備管理分散式知識庫的能力,這些知識庫正在迅速變化,並且可能在全球範圍內具有不連貫性。這樣的系統能夠做出及時的分散式決策以處理雲邊交互,同時也必須處理長尾效應(long-tail phenomena),即大多數資料掌握在少數人手中,而大多數人掌握很少的資料。他們必須解決跨管理和競爭界限以共用資料所存在的困難。最後,非常重要的一點是,II系統必須將激勵和定價等經濟思想納入統計和計算基礎設施領域,從而將人與人、人與有價值的貨物聯繫起來。這樣的II系統不僅可以提供服務,還可以創造市場。有些領域,如音樂、文學和新聞等,迫切需要這樣的市場出現,在這一市場中,資料分析將使生產者和消費者聯繫在一起。這一切都必須在不斷發展的社會、道德和法律規範的背景下完成。

當然,經典的模仿人類AI問題依然非常有趣。然而,目前的重點是通過收集資料、部署“深度學習”基礎設施以及模仿某些狹義的人類技能的系統演示,進行AI研究,這些方法很少涉及到新出現的解釋性原則,往往會轉移人們對經典AI中重大開放問題的注意力。這些問題包括將意義和推理納入系統以執行自然語言處理的需要,推理和表示因果關係的需要,開發計算上易於處理的不確定表示的需要,以及開發制定和追求長期目標的系統的需要。這些都是模仿人類AI中的經典目標,但在當前“AI革命”的喧囂中,人們很容易忘記這些還未解決的問題。

IA依然會非常重要,因為在可預見的未來,電腦無法像人類一樣,對現實世界的情況進行抽象的推理。我們需要利用人與電腦之間成熟的相互,來解決最緊迫的問題。我們希望電腦能夠觸發人類創造力的新水準,而不是取代人類的創造力(不管這意味著什麼)。

正是John McCarthy(目前是達特茅斯(Dartmouth)大學的教授,並且很快就會拿到麻省理工學院的任職),他創造了“AI”這個詞,這顯然是為了區別於Norbert Wiener(當時是麻省理工學院的一位老教授)的早期研究議程。Wiener創造了“控制論”來指代自己的“智慧系統願景”,這一願景與運籌學、統計學、模式識別、資訊理論和控制理論密切相關。另一方面,McCarthy強調了與邏輯的聯繫。一個有趣的反轉是,Wiener的知識體系被囊括在McCarthy的術語旗幟下,在當今時代佔據主導地位(然而,這種情況肯定只是暫時的,相比於其他領域,AI這個鐘擺的擺動幅度要大得多)。

但我們需要超越McCarthy和Wiener的特定歷史視角。

我們需要認識到當前關於AI的公眾話題(它側重於狹義的行業子集和學術子集)會使我們對AI、IA和II的完整範圍帶來的挑戰和機遇視而不見。

這個範圍不是關於實現科幻夢想或超級人類機器的噩夢,更多的是關於人類理解和塑造技術的需求,因為它在日常生活中變得更加現實和富有影響力。此外,在這一理解和塑造中,需要來自各行各業的不同聲音,而不僅僅是技術上的對話。將注意力狹隘地集中在模仿人類AI上,使人們難以聽到更多的聲音。

儘管工業界將持續推動很多方面的發展,但學術界也會繼續發揮重要作用,不僅在提供一些最具創新性的技術思想方面,而且還將把計算和統計學科的研究人員與其他學科的研究人員聚集在一起,這些研究人員的貢獻與觀點是我們迫切需要的,特別是社會科學、認知科學和人文科學界的。

另一方面,雖然人文和科學是我們前行的關鍵,但我們也不能假裝我們談論的不是一項規模和範圍都前所未有的工程嘗試,當今社會正致力於構建新的工藝品。這些人工製品應以按照要求進行工作為前提而被建造。我們不想建立一個幫助我們進行醫學治療、提出運輸建議、獲取商業機會的系統,因為我們會發現諸如此類的系統實際上根本不起什麼作用,並且這些系統犯下的錯誤會對人類的生命和幸福造成危害。在這方面,正如我強調的,對於聚焦資料和學習的領域,尚有一門工程學科還未出現。儘管這些領域看上去令人興奮,但它們還不能被看作是一門工程學科。

此外,我們應該接受一個這樣的事實:我們正目睹一個嶄新的工程學分支的誕生。“工程(engineering)”這一詞通常在學術界和更廣闊的範圍內被狹義地應用,通常含有描述冷酷、無情的機械和失去人類控制等負面含義。

當今時代,我們真正有機會來設想一個歷史上從未有過的新事物——一門以人為本的工程學科。

我們拒絕為這門新興的學科命名,但如果“AI”繼續被用作是通向未來發展的指向性術語,那麼我們會逐漸意識到這一詞的真正局限性。讓我們擴大範圍、淡化炒作,真正認識到前方道路所面臨的嚴峻挑戰。

原文連結:https://medium.com/@mijordan3/artificial-intelligence-the-revolution-hasnt-happened-yet-5e1d5812e1e7

人類正在初步構建涉及機器、人類和環境的社會規模推理和決策系統(inference-and-decision-making systems)。正如早期的建築和橋樑有時會以不可預見的方式和悲慘的後果坍塌一樣,我們早期的許多社會規模推斷和決策系統已經暴露出嚴重的概念缺陷。

不幸的是,我們並不善於預測下一個正在出現的嚴重缺陷是什麼。我們缺少的是一個具有分析和設計原理的工程學科。

目前,關於這些問題的公開對話過於頻繁地使用“AI”作為智慧萬用字元(intellectual wildcard),這使得人們很難對新興技術的範圍和後果進行推理。我們需要從近期和歷史的角度更為仔細地思考一下,“AI”到底是用來指稱什麼的。

可以這樣說,如今被稱為“AI”的大多數東西,特別是在公共領域,在過去的幾十年中往往被被稱之為“機器學習”(ML)。ML是一個演算法領域,它將來自統計學、電腦科學和許多其他學科的思想融合在一起,設計了用以處理資料、做出預測並説明做出決策的演算法。就對現實世界的影響而言,ML是真實的,而這並不僅僅是針對近期而言的。事實上,早在20世紀90年代初期就有明確的端倪顯示,ML將會發展成巨大的產業關聯性。而到世紀之交,諸如亞馬遜這樣的具有前瞻性的公司已經在他們的業務中使用了ML,從而解決了欺詐行為檢測和物流鏈預測中的關鍵任務後端問題,並構建了具有創新性的面向消費者的服務,如推薦系統。隨著資料集和計算資源在接下來二十年裡的快速增長,很明顯,ML很快將不僅為亞馬遜提供支援,實際上可以為任何將決策與大規模資料綁定在一起的公司提供推動力。新的商業模式將會出現。“資料科學”這個短語開始被用來指代這種現象,反映了ML演算法專家需要與資料庫和分散式系統專家相互合作以建立具有可擴展性的、魯棒性的ML系統,並且反映了所研究出系統的更大的社會和環境範圍。

在過去幾年裡,思想和技術趨勢的這種融合被重新命名為“AI”。而這個品牌重塑還有待商榷。

從歷史上看,“人工智慧”這個詞在20世紀50年代後期被創造出來,表達了在軟體和硬體中實現具有人類水準智慧的實體的強烈願望。我們將使用“模仿人類的人工智慧(human-imitative AI)”一詞來指代這一願望,強調人工智慧實體似乎應該是我們中的一員,即使不是在實體層面上,至少在精神上如此。這主要是在學術界範疇內。雖然諸如運籌學、統計學、模式識別、資訊理論和控制理論等相關學術領域已經存在,並且常常受到人類智慧(和動物智慧)的啟發,但這些領域只能說是集中在“低水準”的信號和決策上。例如,松鼠能夠感知它所居住的森林的三維結構,並在樹枝之間跳躍的能力,對於這些領域來說是很有啟發性的。“人工智慧”旨在聚焦於一些不同的事物——人類進行“推理”和“思考”的“高水準”或“認知”能力。然而,60年後,高水準推理和思想仍然難以捉摸。目前被稱為“人工智慧”的發展主要集中在與低水準模式識別和運動控制相關的工程領域,以及統計學領域中,統計學專注於找到資料中的模式並進行有根據的預測,假設和決定的測試。

事實上,20世紀80年代早期由David Rumelhart重新發現的著名的“反向傳播”演算法,現在被視為所謂“AI革命”的核心,其實最早出現在20世紀50年代和60年代的控制理論領域中。其早期應用之一是優化阿波羅太空船登陸月球任務的推力。

雖然自20世紀60年代以來,該領域已經取得了很大的進步,但是可以說這並非來自於對模仿人類AI的追求。相反,就像阿波羅太空船的例子一樣,這些思想經常被隱藏在幕後,並且一直是研究人員聚焦于特定工程挑戰的結果。雖然對於公眾而言這些是不可見的,但是在文檔檢索、文本分類、欺詐檢測、推薦系統、個性化搜索、社交網路分析、規劃、診斷和A/B測試等領域中的研究和系統建設已經取得了重大成功。這些進步推動了穀歌、Netflix、Facebook和亞馬遜等公司的發展。

人們可以簡單地將所有這些都稱為“AI”,而且事實上人們似乎已經這樣做了。這樣的標籤可能會讓優化或統計學的研究人員感到意外,他們一覺醒來後發現自己突然被稱為“AI研究人員”。但是,除了給研究人員貼標籤之外,更大的問題是,使用這個單一的、定義不明確的縮寫詞會使人們對當前情況下知識和商業範圍的問題難以有清晰的認識。

在過去的二十年裡,人們在工業和學術界對模仿人類AI加以補充的願望已經取得了重大的進步,這通常被稱為“智力增強(Intelligence Augmentation,IA)”。在這裡,計算和資料被用於創建增強人類智力和創造力的服務。搜尋引擎可以被看作是IA的一個例子(它增強了人類記憶和事實性知識),自然語言翻譯也是如此(它增強了人類的溝通能力)。基於計算的聲音和圖像生成如同是藝術家的調色板和創造力增強劑。雖然這種服務可以令人信服地涉及到高水準的推理和思考,但目前它們並沒有這樣做,它們主要執行各種類型的字串匹配和數值運算,以捕捉人類可以利用的模式。

希望讀者能容忍本文出現的最後一個首字母縮略詞,讓我們廣泛地設想一下“智慧基礎設施(Intelligent Infrastructure, II)”規則,即能夠使人類環境更具有支持性、更有趣的和安全的計算、資料和物理實體網路。這樣的基礎設施已經開始在交通、醫學、商業和金融等領域中出現,對人類個體和社會影響巨大。這種有時出現在關於“物聯網”(Internet of Things)的對話中,但這種成就通常指的是僅僅將“事物”接入到互聯網上的問題,而不是指與這些“事物”相關的更大的挑戰——能夠分析這些資料流程以發現關於世界的事實, 並且在比僅僅是“bit”更高的抽象層次上與人類和其他“事物”進行交互。

舉個例子,回到我的個人軼事中,我們可以想像我們生活在一個“社會規模的醫療系統”(societal-scale medical system)中,它在醫生和位於人體內部和周圍的設備之間建立了資料流程和資料分析流,從而能夠在進行診斷和提供護理的過程中幫助人類智慧。該系統將包含人體細胞、DNA、血液檢查、環境,群體遺傳學和大量關於藥物和治療的科學文獻資訊。它不僅關注于單個病人和醫生,還關注所有人類之間的關係——就像當前的醫學測試允許對一組人類(或動物)進行實驗,以帶入到對其他人類的醫療中。它將以當前的銀行系統在金融和支付領域集中應對此類挑戰的方式來説明保持相關性、來源和可靠性。而且,儘管人們可以預見到這樣一個系統會出現許多問題——涉及隱私問題、責任問題、安全問題等等,但是這些問題應該被恰當地視為挑戰,而不是障礙。

我們現在面臨一個關鍵問題:現在所研究的經典模仿人類AI是專注於這些更大挑戰的最佳途徑還是唯一途徑?最近,一些最受歡迎的關於ML的成功故事實際上存在於與模仿人類AI相關的領域,比如電腦視覺、語音辨識、遊戲和機器人技術。因此,或許我們只是應該等待這些領域的進一步發展再做定論。這裡有兩點需要說明。首先,儘管人們不會從閱讀報紙中知道這一點,但是在模仿人類AI方面的成功實際上是有限的,我們距離實現模仿人類AI的願望還很遠。不幸的是,在模仿人類AI領域取得哪怕有限的進展所帶來的興奮(和恐懼)導致了行業的過度興奮和媒體的過度關注,而這在其他工程領域並不存在。

其次,並且更重要的是,這些領域的成功既不足以解決重要的IA和II問題,也不是必需的。在充分性方面,考慮一下自動駕駛汽車。要實現這樣的技術,需要解決一系列工程問題,而這些問題可能與人類所具備的能力(或人類能力不足)關係不大。整體運輸系統(一個II系統)可能更類似於目前的空中交通管制系統,而不是當前正處於鬆散耦合的、前向的、人類駕駛員注意力不集中的資料收集階段的系統。它將比當前的空中交通管制系統複雜得多,尤其是在使用大量資料和自我調整統計建模以進行細細微性決策的情況下。正是這些需要站在最前線的挑戰,以及在這樣的努力下對模仿人類AI的專注,可能會讓人分心。

至於必要性方面的論證,有時人們認為模仿人類AI願望包含了IA和II願望,因為模仿人類AI系統不僅能夠解決AI的經典問題(作為體現,例如,圖靈測試),這也將是我們解決IA和II問題的最佳選擇。這樣的論點幾乎沒有歷史先例。土木工程是通過想像一個人造的木匠或砌磚工的建造物來發展的嗎?化學工程的發展是通過設計一個人造的化學家實現的嗎?甚至更有爭議的是:如果我們的目標是建造化工廠,我們應該先創造出一個人造化學家,然後再由他來研究如何建造一個化工廠嗎?

一個相關的論點是,人類智慧是我們所知道的唯一一種智慧,並且也是應當將旨在模擬它作為研究的第一步。但是人類實際上並不是很擅長某種推理——我們有自己的過失、偏見和局限。此外,至關重要的是,我們並沒有進化到能夠執行現代II系統必須面對的那種大規模決策,也無法應對在II環境中出現的那種不確定性。人們可能說,AI系統不僅會模仿人類智慧,而且還會“糾正”它,並且還會擴展到任意大的問題上。但是我們現在正處於科幻小說的領域——雖然這種推測性的爭論在小說的背景下具有娛樂性,但它不應該成為我們在面對即將出現的關鍵IA和II問題時向前邁進的主要策略。我們需要根據自己的優點來解決IA和II問題,而不是僅僅作為模仿人類AI議程的必然結果。

不難看出,在II系統中,演算法和基礎設施挑戰並不是進行模仿人類AI研究的核心主題。II系統需要具備管理分散式知識庫的能力,這些知識庫正在迅速變化,並且可能在全球範圍內具有不連貫性。這樣的系統能夠做出及時的分散式決策以處理雲邊交互,同時也必須處理長尾效應(long-tail phenomena),即大多數資料掌握在少數人手中,而大多數人掌握很少的資料。他們必須解決跨管理和競爭界限以共用資料所存在的困難。最後,非常重要的一點是,II系統必須將激勵和定價等經濟思想納入統計和計算基礎設施領域,從而將人與人、人與有價值的貨物聯繫起來。這樣的II系統不僅可以提供服務,還可以創造市場。有些領域,如音樂、文學和新聞等,迫切需要這樣的市場出現,在這一市場中,資料分析將使生產者和消費者聯繫在一起。這一切都必須在不斷發展的社會、道德和法律規範的背景下完成。

當然,經典的模仿人類AI問題依然非常有趣。然而,目前的重點是通過收集資料、部署“深度學習”基礎設施以及模仿某些狹義的人類技能的系統演示,進行AI研究,這些方法很少涉及到新出現的解釋性原則,往往會轉移人們對經典AI中重大開放問題的注意力。這些問題包括將意義和推理納入系統以執行自然語言處理的需要,推理和表示因果關係的需要,開發計算上易於處理的不確定表示的需要,以及開發制定和追求長期目標的系統的需要。這些都是模仿人類AI中的經典目標,但在當前“AI革命”的喧囂中,人們很容易忘記這些還未解決的問題。

IA依然會非常重要,因為在可預見的未來,電腦無法像人類一樣,對現實世界的情況進行抽象的推理。我們需要利用人與電腦之間成熟的相互,來解決最緊迫的問題。我們希望電腦能夠觸發人類創造力的新水準,而不是取代人類的創造力(不管這意味著什麼)。

正是John McCarthy(目前是達特茅斯(Dartmouth)大學的教授,並且很快就會拿到麻省理工學院的任職),他創造了“AI”這個詞,這顯然是為了區別於Norbert Wiener(當時是麻省理工學院的一位老教授)的早期研究議程。Wiener創造了“控制論”來指代自己的“智慧系統願景”,這一願景與運籌學、統計學、模式識別、資訊理論和控制理論密切相關。另一方面,McCarthy強調了與邏輯的聯繫。一個有趣的反轉是,Wiener的知識體系被囊括在McCarthy的術語旗幟下,在當今時代佔據主導地位(然而,這種情況肯定只是暫時的,相比於其他領域,AI這個鐘擺的擺動幅度要大得多)。

但我們需要超越McCarthy和Wiener的特定歷史視角。

我們需要認識到當前關於AI的公眾話題(它側重於狹義的行業子集和學術子集)會使我們對AI、IA和II的完整範圍帶來的挑戰和機遇視而不見。

這個範圍不是關於實現科幻夢想或超級人類機器的噩夢,更多的是關於人類理解和塑造技術的需求,因為它在日常生活中變得更加現實和富有影響力。此外,在這一理解和塑造中,需要來自各行各業的不同聲音,而不僅僅是技術上的對話。將注意力狹隘地集中在模仿人類AI上,使人們難以聽到更多的聲音。

儘管工業界將持續推動很多方面的發展,但學術界也會繼續發揮重要作用,不僅在提供一些最具創新性的技術思想方面,而且還將把計算和統計學科的研究人員與其他學科的研究人員聚集在一起,這些研究人員的貢獻與觀點是我們迫切需要的,特別是社會科學、認知科學和人文科學界的。

另一方面,雖然人文和科學是我們前行的關鍵,但我們也不能假裝我們談論的不是一項規模和範圍都前所未有的工程嘗試,當今社會正致力於構建新的工藝品。這些人工製品應以按照要求進行工作為前提而被建造。我們不想建立一個幫助我們進行醫學治療、提出運輸建議、獲取商業機會的系統,因為我們會發現諸如此類的系統實際上根本不起什麼作用,並且這些系統犯下的錯誤會對人類的生命和幸福造成危害。在這方面,正如我強調的,對於聚焦資料和學習的領域,尚有一門工程學科還未出現。儘管這些領域看上去令人興奮,但它們還不能被看作是一門工程學科。

此外,我們應該接受一個這樣的事實:我們正目睹一個嶄新的工程學分支的誕生。“工程(engineering)”這一詞通常在學術界和更廣闊的範圍內被狹義地應用,通常含有描述冷酷、無情的機械和失去人類控制等負面含義。

當今時代,我們真正有機會來設想一個歷史上從未有過的新事物——一門以人為本的工程學科。

我們拒絕為這門新興的學科命名,但如果“AI”繼續被用作是通向未來發展的指向性術語,那麼我們會逐漸意識到這一詞的真正局限性。讓我們擴大範圍、淡化炒作,真正認識到前方道路所面臨的嚴峻挑戰。

原文連結:https://medium.com/@mijordan3/artificial-intelligence-the-revolution-hasnt-happened-yet-5e1d5812e1e7

同類文章
Next Article
喜欢就按个赞吧!!!
点击关闭提示