我聽說未來的計(jì)算機(jī)人工智能會(huì)變得比我們還要聰明得多，它們將奪走我們所有的工作和資源，而人類將會(huì)滅絕。這是真的嗎？

這是我每次談?wù)撊斯ぶ悄軙r(shí)最常碰見的問題。提問者是認(rèn)真的；他們的擔(dān)心部分源自于一些會(huì)問自己同樣問題的專家。這些人都是當(dāng)今世上中最聰明的一部分群體，比如史蒂芬·霍金、埃隆·馬斯克、馬克思?泰格馬克（譯注：Max Tegmark，MIT 物理學(xué)家，著有《平行世界，平行生命》）、薩姆·哈里斯（譯注：Sam Harris，《自由意志》一書作者、神經(jīng)科學(xué)家、哲學(xué)家）和比爾·蓋茨，而他們認(rèn)為這種情況很可能是真的。最近，在一個(gè)有關(guān)人工智能問題的討論會(huì)上，一組由九位最知名的人工智能大師組成的專家小組一致認(rèn)為，這種超人類智能是不可避免的并且離我們并不遙遠(yuǎn)，可在這里查看他們的討論：

然而，超人類人工智能接管人類的情況是有五個(gè)假設(shè)作為前提的，如果一一對(duì)其進(jìn)行檢查的話會(huì)發(fā)現(xiàn)它們并不基于任何證據(jù)。這些說法在未來可能是真的，但到目前為止還沒有證據(jù)作為依托。即將成真的超人類智能背后的這些假設(shè)是：

如果對(duì)一個(gè)超人類人工智能接管人類的預(yù)期是建立在五個(gè)沒有證據(jù)基礎(chǔ)的關(guān)鍵假設(shè)之上，那么這個(gè)想法更類似于一個(gè)宗教信仰——一個(gè)神話（myth）。在下面的段落中，我分別擴(kuò)展了對(duì)這五個(gè)反假設(shè)的證據(jù)，并舉例說明，事實(shí)上一個(gè)超人類人工智能就是一種神話。

一

關(guān)于人工智能最常見的誤解始于對(duì)自然智能的普遍誤解。這種誤解認(rèn)為智能是單一維度的。大多數(shù)技術(shù)人員往往以 Nick Bostrom 在他的書《超級(jí)智能（Superintelligence）》中所使用的方法——作為表示幅度增加的一個(gè)逐字的單維線性圖——來描繪智能。其中一端是低智能，比如某種小動(dòng)物；另一端是高智能，比如一個(gè)天才——就好像智能是一個(gè)以分貝來表示的聲音大小等級(jí)。當(dāng)然，之后就很容易進(jìn)行延伸想象，智能的響度繼續(xù)增長(zhǎng)，最終超過我們自己的高智能，成為一個(gè)超越人類的超級(jí)響亮的智能方式——一聲咆哮！——甚至可能越出圖表的范圍。

這種模型的拓?fù)浣Y(jié)構(gòu)相當(dāng)于一個(gè)梯子，因而智能的每一個(gè)梯級(jí)就是一層層地遞增。劣等動(dòng)物位于我們下面的較低層，而更高級(jí)別的智能（也即人工智能）將不可避免地超越我們而登上更高的階梯。這種情況發(fā)生的時(shí)間尺度并不重要；重要的是排名——這是智能增加的指標(biāo)。

這個(gè)模型的問題在于其本身是虛構(gòu)的，就像進(jìn)化的階梯。在達(dá)爾文之前人們假定自然世界有一架生物存在（being）階梯，其中低等動(dòng)物居于人類下面的階梯上。即使在達(dá)爾文之后，一個(gè)非常普遍的概念是進(jìn)化階梯，其中魚類進(jìn)化成爬行動(dòng)物，然后進(jìn)入哺乳動(dòng)物階段，繼而進(jìn)化為靈長(zhǎng)類動(dòng)物，最后進(jìn)入人類階段，每一次進(jìn)化都比之前更加高級(jí)（當(dāng)然也更加聰明）。所以智能的階梯與存在的階梯是平行的。但這兩種模式都提供了一個(gè)完全不科學(xué)的觀點(diǎn)。

一張更精確的物種自然進(jìn)化圖是一個(gè)向外輻射的圓盤，就像由德克薩斯大學(xué)的 David Hillis 首次設(shè)計(jì)的這張圖（上圖）那樣，它是基于 DNA 的。這個(gè)深度宗譜曼陀羅以最原始的生命形式從中間開始，然后在一段時(shí)間之后向外分支。時(shí)間向外移動(dòng)，使得居于該星球上最近期的生命物種構(gòu)成了此圈圓周的周長(zhǎng)。這幅畫著重強(qiáng)調(diào)了一個(gè)難以理解的進(jìn)化方面的基本事實(shí)：現(xiàn)世存在的每一個(gè)物種的進(jìn)化程度都是相等的。人類與蟑螂、蛤、蕨類植物、狐貍和細(xì)菌一起存在于這個(gè)外環(huán)上。其中的每一個(gè)物種都經(jīng)歷了一個(gè)跨度三十億年的成功繁殖的完整鏈條，這意味著現(xiàn)在的細(xì)菌和蟑螂與人類的進(jìn)化程度是同等高級(jí)的。并不存在階梯。

同樣，也不存在智能階梯。智能不是單一維度的。它是多種類型和認(rèn)知方式的綜合體，每個(gè)都是一個(gè)連續(xù)體。讓我們做一個(gè)非常簡(jiǎn)單的任務(wù)：測(cè)量動(dòng)物的智能。如果智能是單一維度的話，我們應(yīng)該就能將一只鸚鵡、一只海豚、一匹馬、一只松鼠、一只章魚、一只藍(lán)鯨、一只貓和一只大猩猩的智能按照正確的升序位置排列成一行。而我們目前還沒有支持該排序結(jié)果的科學(xué)證據(jù)。其中一個(gè)原因可能是：動(dòng)物智能之間沒有區(qū)別，但我們也無法證明這點(diǎn)。動(dòng)物的思考方式差異顯著。但也許它們有著同樣相關(guān)的通用智能（general intelligence）？可能是這樣，但我們沒法測(cè)量，也沒有衡量該智能的單一指標(biāo)。相反，我們針對(duì)許多不同類型的認(rèn)知類型有著許多不同的指標(biāo)。

一個(gè)更準(zhǔn)確的智能模型是要繪制出它的可能性空間（possibility space），而不是一條單一的分貝線，如上圖中由 Richard Dawkins 寫的算法所創(chuàng)造的可能形式的渲染。智能是一個(gè)組合的連續(xù)體。多個(gè)節(jié)點(diǎn)，每個(gè)節(jié)點(diǎn)都是一個(gè)連續(xù)體，創(chuàng)建高度多樣性的高維復(fù)合體。有些智能可能很復(fù)雜，有許多思維的子節(jié)點(diǎn)。其它的可能更簡(jiǎn)單，但也更加極端，處于空間的某個(gè)偏遠(yuǎn)角落。這些我們稱之為智能的復(fù)合體可以被認(rèn)為是包含多種樂器類型的交響樂。不僅在響度方面，它們?cè)谝舾摺⑿?、音色、?jié)奏等方面也有差異。我們可以把它們看作生態(tài)系統(tǒng)。從這個(gè)意義上說，思維的不同組成節(jié)點(diǎn)是相互依存并且是被共同創(chuàng)造的。

用 Marvin Minsky 的話來說，人類的心智就是心智社會(huì)（society of minds）。我們運(yùn)行在思維的生態(tài)系統(tǒng)之上。我們包含多種類型的認(rèn)知，這些認(rèn)知做著許多類型的思考：演繹、歸納、符號(hào)推理、情緒智能、空間邏輯、短期記憶和長(zhǎng)期記憶。人類內(nèi)臟之中的整個(gè)神經(jīng)系統(tǒng)也是一種類型的大腦，有其自己的認(rèn)知模式。我們并不是真的僅僅用腦子思考；而是用全身進(jìn)行思考。

各個(gè)個(gè)體與物種之間的這套認(rèn)知體系各不相同。一只松鼠能記得幾年前存放幾千粒橡子的確切位置，這是人類思維難以辦到的。所以在那一種認(rèn)知中，松鼠是超過人類的。那種超能力包含了一些與人類能力相比并不顯著的其它模式，從而會(huì)產(chǎn)生一只松鼠的思維。在動(dòng)物王國(guó)中，還有許多比人類優(yōu)越的其它認(rèn)知專長(zhǎng)，再次被包含進(jìn)不同的系統(tǒng)中。

人工智能領(lǐng)域也是如此。人造心智在某些維度上已經(jīng)超過人類。你的計(jì)算器是數(shù)學(xué)方面的天才，谷歌的記憶在某一維度上已經(jīng)超出了人類自己的記憶能力。我們正使人工智能在某些特定模式中被設(shè)計(jì)為最佳。其中的一些模式是我們?nèi)祟惥涂梢酝瓿傻模撬鼈冞€可以被設(shè)計(jì)得更好，比如概率或數(shù)學(xué)方面。其它還有一些我們?nèi)祟惛緹o法辦到的思維類型——記住六十億張網(wǎng)頁(yè)上的每一個(gè)詞，這是任何搜索引擎都擁有的技能。在未來，我們將發(fā)明一種全新的認(rèn)知模式，這種模式不存在于人類身上，也不存在于任何生物學(xué)領(lǐng)域。當(dāng)我們發(fā)明人造飛行機(jī)時(shí)，我們受到了生物飛行方式的啟發(fā)，主要就是拍動(dòng)翅膀。但是我們發(fā)明的這個(gè)飛行機(jī)——-螺旋槳固定在一個(gè)固定寬翼上——是一個(gè)新的飛行模式，它在我們的生物世界中是未知的。這是截然不同的飛行方式。同樣，我們也會(huì)發(fā)明自然界中不存在的全新的思維模式。在許多情況下，它們都會(huì)是針對(duì)具體工作的那些新而狹窄的小型具體模式）——或許某種類型的只在統(tǒng)計(jì)學(xué)和概率論中有用的推理。

在其它情況下，新的心智將會(huì)是復(fù)雜類型的認(rèn)知，我們可以用它來解決單憑人類智能所不能解決的問題。商業(yè)和科學(xué)中的一些最困難的問題可能需要一個(gè)兩步解決方案。第一步是：創(chuàng)造一種新的思維模式與人類心智一起工作。第二步：結(jié)合二者以解決問題。由于我們正在解決的是之前所無法解決的問題，因此我們想要將其稱為比我們聰明的認(rèn)知，但實(shí)際上它與我們是不同的。思維的差異是人工智能的主要好處。我認(rèn)為一個(gè)有用的人工智能模型就是把它看作是外星智能（或人造外星人）。它的異質(zhì)性將成為其主要資產(chǎn)。

同時(shí)，我們會(huì)將這些不同的認(rèn)知模式整合到更加紛繁復(fù)雜的心智社會(huì)中。其中一些復(fù)合體會(huì)比我們?nèi)祟惛訌?fù)雜，而由于它們能夠解決我們不能解決的問題，因此有些人會(huì)想稱其為超人類。但我們不會(huì)把谷歌稱作是一個(gè)超人類的人工智能，即使它的記憶能力在我們之上，因?yàn)樵诤芏嗍虑樯衔覀兛梢宰龅帽人?。這些人工智能復(fù)合體肯定會(huì)在許多方面超越我們，但沒有一個(gè)實(shí)體會(huì)擁有全盤的勝算。這類似于人類的體能。工業(yè)革命已經(jīng)持續(xù)了 200 年，而當(dāng)所有機(jī)器作為一個(gè)可以擊敗單個(gè)人的體能成就（跑步速度、舉重、精密切割等）的類別時(shí)，卻沒有一臺(tái)機(jī)器可以打敗一個(gè)普通人所做的一切事情。

即使某個(gè)人工智能中的心智社會(huì)變得更加復(fù)雜，這種復(fù)雜性在目前還很難被科學(xué)地度量。我們沒有良好的復(fù)雜性操作指標(biāo)能夠用以判斷黃瓜是否比波音 747 更復(fù)雜，或者它們的復(fù)雜性可能會(huì)有所不同。這也是我們沒有智能度方面的良好指標(biāo)的原因之一。要確定心智 A 是否比心智 B 更加復(fù)雜是一件非常困難的事情，智能度的比較同理。我們很快就會(huì)達(dá)到那個(gè)明顯的認(rèn)知上來：「智能度」不是單一維度的，而我們真正關(guān)心的是智能運(yùn)轉(zhuǎn)的許多其它方式——我們尚未發(fā)現(xiàn)的所有其它認(rèn)知節(jié)點(diǎn)。

二

有關(guān)人類智能的第二個(gè)誤解是我們對(duì)于通用智能的信念。這種反復(fù)的信念影響了人工智能研究者的一個(gè)常見的既定目標(biāo)，即創(chuàng)造一個(gè)通用人工智能（AGI）。然而，如果我們認(rèn)為智能提供了一個(gè)很大的可能性空間，那么就不會(huì)存在通用狀態(tài)。人類智能并非處于某個(gè)中心位置且周圍有其它的特殊智能繞其旋轉(zhuǎn)。相反，人類智能是一種非常特定類型的智能，已經(jīng)演變了數(shù)百萬年，使我們的物種生存在這個(gè)星球上。在所有可能的智能空間映射中，人類智能類型將被困在某個(gè)角落，就像我們的世界被困在廣闊的星系邊緣一樣。

我們當(dāng)然可以想象甚至發(fā)明出一個(gè)瑞士軍刀類型的思維。它可能在許多事情上都能表現(xiàn)得不錯(cuò)，但沒有一個(gè)會(huì)特別好。人工智能將遵循同樣的工程學(xué)準(zhǔn)則，這也是所有事物被發(fā)明和創(chuàng)造所必須遵循的準(zhǔn)則：你不能優(yōu)化每一個(gè)維度。你只能權(quán)衡。你不能讓一個(gè)通用的多功能單元去優(yōu)于那些特定的功能。一種每件事都做的大心智不能在每一件事上都做到和那些專用代理一樣好。由于我們認(rèn)為我們?nèi)祟惖男闹鞘峭ㄓ玫?，因此我們往往認(rèn)為認(rèn)知不符合工程師的權(quán)衡，那么就有可能建立一個(gè)最大限度提高所有思維模式的智能。但我對(duì)此沒看到任何證據(jù)。我們只是沒有發(fā)明足夠的心智類型來觀察整個(gè)空間而已（并且到目前為止，我們已經(jīng)傾向于把動(dòng)物的心智作為單一維度上一種幅度可變的單一類型來看待。

三

這種最大化通用思想的一部分信念來自于通用計(jì)算的概念。后者在 1950 年被正式描述為丘奇-圖靈假設(shè)（Church-Turing hypothesis），該猜想認(rèn)為，滿足一定閾值的所有計(jì)算都是等價(jià)的。因此，所有計(jì)算都擁有一個(gè)普遍的核心，無論它是發(fā)生在一臺(tái)擁有眾多快速或緩慢運(yùn)轉(zhuǎn)的部件的機(jī)器之上，或甚至于是發(fā)生在一個(gè)生物腦中，它們都遵循相同的邏輯過程。這意味著你應(yīng)該能夠在可以做通用計(jì)算的任何機(jī)器上模擬任何的計(jì)算過程（思維）。奇點(diǎn)論者對(duì)于制造硅腦來持有人類思想的期望就是依靠這一原則，他們相信我們能夠造出像人類一樣思考的人工心智，只是后者更加聰明。我們應(yīng)該對(duì)這種希望持懷疑態(tài)度，因?yàn)樗蕾囉趯?duì)丘奇-圖靈假設(shè)的誤解。

該理論的出發(fā)點(diǎn)是：「給定無限的磁盤空間（內(nèi)存）和時(shí)間，所有計(jì)算都是等價(jià)的?！箚栴}是在現(xiàn)實(shí)中，計(jì)算機(jī)并沒有無限的內(nèi)存或時(shí)間。當(dāng)它在現(xiàn)實(shí)世界中運(yùn)行時(shí)會(huì)產(chǎn)生巨大的實(shí)時(shí)差，這通常是生與死的時(shí)差。是的，如果你忽略時(shí)間，所有的思維都是等價(jià)的。是的，你可以在任何你想要的矩陣中模擬人類類型的思維，只要你忽略時(shí)間或現(xiàn)實(shí)生活中的存儲(chǔ)和記憶約束。然而如果你納入時(shí)間因素，那么你就得以一種重要的方式對(duì)該原則進(jìn)行重申：在差距很大的平臺(tái)上運(yùn)行著的兩個(gè)計(jì)算系統(tǒng)不會(huì)是實(shí)時(shí)等值的。還可以這樣說：獲得相同思維模式的唯一方法是讓計(jì)算機(jī)運(yùn)行于相同的平臺(tái)基底之上。運(yùn)行計(jì)算的物理物質(zhì)——特別是當(dāng)它變得更加復(fù)雜時(shí)——會(huì)極大地影響實(shí)時(shí)情況下能夠被實(shí)現(xiàn)得很好的認(rèn)知類型。

我將更進(jìn)一步并斷言：獲得一個(gè)極其類人的思維過程的唯一途徑，是將計(jì)算運(yùn)行在類似人體那樣的濕組織之上。這也意味著，運(yùn)行在干燥芯片之上的極其龐大而復(fù)雜的人工智能會(huì)產(chǎn)生大而復(fù)雜的非人類思想。如果能用人工生長(zhǎng)的神經(jīng)元來構(gòu)建人造濕腦，我預(yù)測(cè)它們的思想與我們的會(huì)更加相似。這樣一個(gè)潮濕大腦的好處正比于基底與人腦的相似度。創(chuàng)建濕件的代價(jià)是巨大的，而該組織與人類腦組織越接近，那在成本效益上就越不如直接制造一個(gè)人類。畢竟，制造一個(gè)人類是我們?cè)诰艂€(gè)月之內(nèi)可以做到的事情。

此外如上所述，我們是用自己的整個(gè)身體進(jìn)行思考，而不只是使用頭腦。我們有大量的數(shù)據(jù)顯示出我們的內(nèi)臟神經(jīng)系統(tǒng)如何指導(dǎo)我們的理性決策過程，并能夠預(yù)測(cè)和學(xué)習(xí)。我們?cè)蕉嗟啬M整個(gè)人體系統(tǒng)，我們就越能夠復(fù)制它。運(yùn)行在一個(gè)十分不同的身體（干燥的硅片而非潮濕的碳基）之中的智能，其思考方式也不一樣。

我不認(rèn)為這是一個(gè) bug，而是把它看做一項(xiàng)特性。正如我在第二點(diǎn)中談到的，與人類不同的思維方式是人工智能的主要資產(chǎn)。這也是為什么我認(rèn)為稱它比人類聰明是一種誤導(dǎo)的另一個(gè)原因。

四

超人類智能（superhuman intelligence ）的核心——特別是智能將自主改進(jìn)這個(gè)觀點(diǎn)——是智能不存在發(fā)展極限的根本信念。不過我沒有找到任何支撐該論斷的證據(jù)。再次，將智力誤解為評(píng)判的唯一尺度助長(zhǎng)了上述信念，不過我們也僅需要將其理解為一個(gè)信念即可。就目前科學(xué)所知，宇宙中不存在無限的物理尺度。溫度的高低不是無限的——低溫和高溫都是有限的。同理，時(shí)間、空間、速度都非無限?；蛟S數(shù)字是無限的，但是其它所有的物理屬性都是有限的。按理說人類理性自身也是有限的。于是問題就成了：智能的極限在哪里？我們傾向于相信這個(gè)極限遠(yuǎn)非我們所及，這種距離就猶如我們與一只螞蟻的差距一般。拋開一直反復(fù)出現(xiàn)的「唯一尺度」問題，我們有什么證據(jù)來證明這個(gè)極限就不是我們呢？為何我們就不能作為這個(gè)最大極值呢？亦或是這個(gè)極限距我們不遠(yuǎn)？為何我們要相信智能就是可以永遠(yuǎn)擴(kuò)展下去的呢？

一個(gè)思考這個(gè)問題更有效的方式是，將我們?nèi)祟惖闹悄芤曌靼偃f種可能智能的一員。所以，雖然每種認(rèn)知能力和計(jì)算能力都存在一個(gè)極限，但是，如果存在成百上千種，那么便會(huì)有數(shù)不清的繁多的思維存在——它們其中沒有一個(gè)在任何層面上是無限的。當(dāng)我們構(gòu)建或是遭遇這些思維的時(shí)候，我們或許會(huì)很自然地認(rèn)為它們其中一部分已經(jīng)超越了我們。在我最近初版的《必然（The Inevitable）》一書中，我勾勒出了這一部分在某種層面比我們高級(jí)的思維存在。以下是一份不完整的表單：

• 一種類似于人類心智的心智，只是回答速度更快（可以想到的最簡(jiǎn)單的人工智能心智）

• 一種非常慢的心智，主要由巨量存儲(chǔ)和記憶構(gòu)成

• 由數(shù)百萬單個(gè)較為蠢笨的心智聯(lián)合構(gòu)成的全局超級(jí)心智

• 由許多非常聰明的心智構(gòu)成的蜂巢心智（hive mind），但并不知道它/它們自己是一個(gè)蜂巢

• 一種半有機(jī)半機(jī)械（borg）的超級(jí)心智，由許多非常聰明的心智構(gòu)成，這些心智也清楚自己自己構(gòu)成了一個(gè)聯(lián)合體

• 一種被訓(xùn)練用來專用于增強(qiáng)你的個(gè)人心智的心智，但對(duì)其他人沒什么用處

• 一種能夠想象更好的心智的心智，但不能創(chuàng)造它

• 一種能夠創(chuàng)造更好的心智的心智，但對(duì)自己還不夠了解，所以無法想象它

• 一種能夠創(chuàng)造出更好的心智的心智，只能創(chuàng)造一次

• 一種能夠創(chuàng)造出更好的心智，且該心智還能繼續(xù)創(chuàng)造更好的心智的心智

當(dāng)下有些人會(huì)想將這每一種思維存在都稱為超人工智能。但是這些心智的如此這般的多樣性與差異性將會(huì)帶領(lǐng)我們找到關(guān)于智能和智慧新的概念和洞見。

第二，相信超人工智能的人們會(huì)假設(shè)智能將指數(shù)式地增長(zhǎng)（在一些未知的單一衡量標(biāo)準(zhǔn)上面）。這大約是因?yàn)樗麄円布僭O(shè)認(rèn)為智能已經(jīng)在指數(shù)式地增長(zhǎng)了。然而，目前為止，沒有證據(jù)顯示（無論你怎么測(cè)量它）智能正在如此增長(zhǎng)。我所謂的指數(shù)式增長(zhǎng)是說，人工智能在一定的時(shí)間間隔里發(fā)生冪函數(shù)式的翻倍。我根本不能找到這個(gè)說法的證據(jù)。如果沒有這樣的證據(jù)，那么為何我們還要假設(shè)它將在不久之后發(fā)生呢？唯一會(huì)呈現(xiàn)指數(shù)曲線增長(zhǎng)的只有人工智能的輸入，也即那些被用于生成智慧或智能的資源。但是輸出性能并不會(huì)按照摩爾定律增長(zhǎng)，人工智能不會(huì)每3年或10年就聰明一倍。

我詢問了很多人工智能專家以求得到人工智能性能在以指數(shù)式增加的證據(jù)，但是他們所有人都同意我們并沒有衡量智能的標(biāo)準(zhǔn)，此外，（即便在特定領(lǐng)域）智能也不是以指數(shù)式增長(zhǎng)的。當(dāng)我問到雷·庫(kù)茲韋爾，他提出的指數(shù)增長(zhǎng)這一概念，人工智能指數(shù)增長(zhǎng)趨勢(shì)的證據(jù)在哪里，他回復(fù)我說，人工智能不以指數(shù)式增長(zhǎng)，但是其發(fā)展水平（level）是在以指數(shù)式增長(zhǎng)。他說：「計(jì)算性和算法復(fù)雜度層面共同發(fā)生的指數(shù)式進(jìn)步會(huì)在整個(gè)發(fā)展過程中不斷為其添加上新的進(jìn)展層級(jí)（level）……于是我們就能夠期待去線性地添加這些層級(jí)。因?yàn)橐M(jìn)一步添加新的層級(jí)就需要更大的指數(shù)復(fù)雜度。實(shí)際上，我們的能力在不斷指數(shù)式地前進(jìn)。」我們距離可與自己一教高下的所謂新皮層（neocortex）層級(jí)并不遙遠(yuǎn)，因此，于我而言，我所預(yù)計(jì)的2029年這個(gè)節(jié)點(diǎn)（注：庫(kù)茲韋爾預(yù)計(jì)2029年為其所謂的奇點(diǎn)元年，即人工智能超越人類智能的時(shí)間）依然適用。

庫(kù)茲韋爾的意思似乎不是說人工智能的力量在指數(shù)爆炸，雖然人工智能的輸出在一定時(shí)間里僅僅會(huì)上升一個(gè)層級(jí)，但是那種創(chuàng)造這種智能的努力在指數(shù)式的爆炸。這幾乎站在了智能正在爆炸這個(gè)觀點(diǎn)的反面。未來說不準(zhǔn)，不過就現(xiàn)在而言，很顯然人工智能沒有指數(shù)式地增長(zhǎng)。

因此，當(dāng)我們?cè)O(shè)想一個(gè)智能爆炸的場(chǎng)景時(shí)，我們應(yīng)該想象它是新品種的落英繽紛，而非如注的暴雨傾盆；一個(gè)寒武紀(jì)式的生命爆發(fā)，而非核武器式的鏈?zhǔn)奖?。加速的技術(shù)帶來的結(jié)果將不太可能是超人類（super-human），而是非人類（extra-human）。它們外在于我們的經(jīng)驗(yàn)，但不一定超越我們。

五

關(guān)于超級(jí)人工智能，還有另一個(gè)未批判就被人接受的信念，它沒有任何證據(jù)支撐，這個(gè)觀點(diǎn)即：一個(gè)超級(jí)的、幾乎無限的智能可以快速解決我們那些主要的未被解決的問題。

很多擁護(hù)智能爆炸的觀點(diǎn)都期盼它也將促發(fā)進(jìn)步的爆炸。我稱此為神話般的信念，即意淫主義（thinkism）。未來進(jìn)步的水平僅由缺乏思想的力量或是智力所阻礙，這個(gè)想法是存在謬誤的。（我也或許注意到了這樣一個(gè)現(xiàn)象，那種認(rèn)為思想是可以治愈一切的靈丹妙藥的觀點(diǎn)被很多喜愛思考的人持有。）

我們以治愈癌癥或延長(zhǎng)壽命為例，這些問題不是單單靠思考就可以解決的。任何一個(gè)意淫主義者都不會(huì)發(fā)現(xiàn)細(xì)胞的衰老，或是端粒的脫落。沒有一個(gè)智能，無論它多么厲害，可以僅憑閱讀現(xiàn)今世界上所有已知的科學(xué)文獻(xiàn)，然后就對(duì)其產(chǎn)生深思。沒有一個(gè)超級(jí)人工智能可以簡(jiǎn)單地思考所有現(xiàn)今和過去的核裂變實(shí)驗(yàn)，然后就能在一天之內(nèi)想出可工作的核聚變方案。在事物工作方式的未知層面和已知層面之間還需要除思考之外的很多東西。在真實(shí)的世界中存在著無數(shù)的實(shí)驗(yàn)，它們其中的每一個(gè)都會(huì)產(chǎn)生出更多的矛盾的數(shù)據(jù)，這些數(shù)據(jù)需要進(jìn)一步的能夠形成正確的可工作的假設(shè)的實(shí)驗(yàn)來研究。僅僅是對(duì)潛在數(shù)據(jù)的思考將不會(huì)產(chǎn)生正確的數(shù)據(jù)。

思考（智力）僅僅是科學(xué)的一部分，甚至或許是一小部分。例如，我們沒有足夠恰當(dāng)?shù)臄?shù)據(jù)去接近如何解決死亡的問題。大部分活體有機(jī)體的實(shí)驗(yàn)都需要花很長(zhǎng)時(shí)間。一個(gè)細(xì)胞的緩慢新陳代謝不會(huì)加速。它們會(huì)花數(shù)年、數(shù)月或至少數(shù)天才能給出結(jié)果。如果我們想知道在亞原子層面發(fā)生了什么，那我們不能單靠思考去把握它。我們必須建造非常巨大、復(fù)雜且精妙的物理結(jié)構(gòu)才能找出結(jié)果。即便那些最聰明的物理學(xué)家比他們現(xiàn)在還要聰明1000倍，沒有粒子對(duì)撞機(jī)，他們也不會(huì)知道任何新的東西。

毫無疑問，一個(gè)超級(jí)人工智能會(huì)加速科學(xué)的進(jìn)程。我們可以在計(jì)算機(jī)上模擬原子或細(xì)胞，并且我們可以通過引入很多因素來讓它們持續(xù)加速。但是在立即獲得進(jìn)展的過程中，有兩個(gè)問題限制了模擬的可用性。首先，模擬和模型只會(huì)比它們的本體更快，因?yàn)樗鼈冞z漏了一些因素。這是一個(gè)模型或模擬的本質(zhì)。也值得注意。這些模型的測(cè)試、檢查和證明也必須花和其本體一樣長(zhǎng)的時(shí)間才可以說它們和其本體是匹配的。對(duì)自然真理的測(cè)試不能被加速。

這些模擬當(dāng)中的簡(jiǎn)化版本可以有效地篩選出最有前景的可能道路，因此，它們可以加速進(jìn)程。但是現(xiàn)實(shí)世界中沒有多余；現(xiàn)實(shí)的一切都具有某種程度的獨(dú)特性，這是現(xiàn)實(shí)的定義之一。當(dāng)模型和模擬被越來越多的細(xì)節(jié)所加強(qiáng)之后，它們會(huì)遭遇如下限制：現(xiàn)實(shí)會(huì)比一個(gè)100%對(duì)其模擬的模型來得更快。這是對(duì)現(xiàn)實(shí)的另一個(gè)定義：當(dāng)前自由所有細(xì)節(jié)和程度的最快的可能性版本。如果你能夠模擬一個(gè)細(xì)胞中所有分子以及人體里的所有細(xì)胞，那么這個(gè)模擬就不會(huì)和人體過程一樣快。無論你思考了多少東西，你任然需要花時(shí)間去做實(shí)驗(yàn)，不管是在真實(shí)系統(tǒng)中或是在模擬系統(tǒng)中。

人工智能必須在現(xiàn)實(shí)世界中發(fā)揮作用才能體現(xiàn)其價(jià)值，而這個(gè)世界也會(huì)反過來制衡其創(chuàng)新節(jié)奏。從試驗(yàn)到原型到失敗再到實(shí)踐，如果沒有這些，人工智能僅僅是一種理論而毫無實(shí)際價(jià)值。如果沒有每一分鐘、每一小時(shí)、每一天或者每一年的創(chuàng)新發(fā)現(xiàn)，也不會(huì)出現(xiàn)比人還聰明的人工智能，而人工智能的發(fā)展無疑會(huì)顯著加快其自身的進(jìn)步速度，部分原因是由于外星人般的人工智能會(huì)問出人類不會(huì)問及的問題；但是人工智能的強(qiáng)大（相比于人類）并不意味著會(huì)立即帶來進(jìn)步。解決問題所需要的遠(yuǎn)不止是智能。

單靠智能不僅解決不了癌癥和壽命延長(zhǎng)問題，應(yīng)用到智能自身也如此。奇點(diǎn)鼓吹者慣用的一個(gè)說法是，一旦你造出了一個(gè)比人類聰明的人工智能，那么它立即就會(huì)努力開發(fā)，造出一個(gè)比它自己還要聰明的人工智能，然后以此類推，直到產(chǎn)生指數(shù)爆炸，智能體幾乎會(huì)變成類似上帝一般的存在。我們沒有證據(jù)表明僅靠對(duì)智能的思考就可以創(chuàng)造出更高級(jí)的智能。這種意淫主義只是一種信念罷了。我們有很多證據(jù)表明，這項(xiàng)工作除了需要大量的智能外，還需要實(shí)驗(yàn)的支持、數(shù)據(jù)、嘗試、錯(cuò)誤和不尋常的質(zhì)疑等等一切超越智慧的東西來創(chuàng)造成功的新一代智能。

我的結(jié)論是，我的這些觀點(diǎn)可能是錯(cuò)的。我們還處在早期。我們有可能發(fā)現(xiàn)一種智能的通用標(biāo)準(zhǔn)，有可能發(fā)現(xiàn)它在任何方向上都是無限的。因?yàn)槲覀儗?duì)智能是什么的了解是如此之少（更不用說意識(shí)為何物），所以人工智能奇點(diǎn)的出現(xiàn)概率還是比0大。我認(rèn)為雖然所有的證據(jù)都顯示，這樣的場(chǎng)景非常不可能發(fā)生，但是它依然有可能發(fā)生（可能性大于零）。

所以，盡管我不同意奇點(diǎn)主義的觀點(diǎn)，但是我依然同意 OpenAI 的更大目標(biāo)，擔(dān)心超人類人工智能的聰明人們認(rèn)為我們應(yīng)該開發(fā)對(duì)人類友善的人工智能并且向其灌輸可自主復(fù)制的符合我們?nèi)祟惖膬r(jià)值觀。盡管我認(rèn)為一個(gè)超人類人工智能是一個(gè)存在于遙遠(yuǎn)未來的可能隱患（它值得我們?nèi)タ紤]），但是其可能性微乎其微，（基于我們目前擁有的證據(jù)）不應(yīng)該來指導(dǎo)我們的科學(xué)、政策和發(fā)展。一顆砸到地球上小行星會(huì)引發(fā)大災(zāi)難，這的確有可能（所以我們應(yīng)該支持B612基金會(huì)。注：這是一個(gè)致力于星球防御的非營(yíng)利性組織。）但是我們不應(yīng)該讓這種可能性去支配我們?cè)冢热缯f，氣候變化、太空旅行甚至城市規(guī)劃上作出的努力。

同樣，目前為止證據(jù)顯示人工智能很可能無法發(fā)展為超人類人工智能，但它的確會(huì)成為人類之外成百上千的會(huì)思靠的新物種；新物種與人類大有不同，它們只能從事具體工作，也不會(huì)立即成為可以秒速解決大問題的上帝。相反，將會(huì)有如星辰般豐富且有限的智能，它們?cè)诓煌某鑫覀兿胂蟮念I(lǐng)域里工作，和我們一道及時(shí)解決現(xiàn)有的問題，并發(fā)現(xiàn)新的問題。

我理解一個(gè)超人類人工智能上帝帶來的巨大吸引力，就像新的超人一般，但也正像超人，它是一個(gè)神話角色。在宇宙中的某處或許存在超人，但是這種可能性微乎其微。然而神話是有用的，一旦它們被發(fā)明出來，它們將不會(huì)消逝。關(guān)于超人的想法不會(huì)消逝，超人類人工智能奇點(diǎn)的想法，既然已經(jīng)被提出，也將不會(huì)消逝。但是我們應(yīng)該認(rèn)識(shí)到，在當(dāng)下這是一個(gè)類似宗教而非科學(xué)的概念。如果我們考察我們目前所有的關(guān)于智能、人工和自然的證據(jù)，我們只能總結(jié)說，我們關(guān)于一個(gè)超人類人工智能的猜測(cè)僅僅是：神話。

二戰(zhàn)中，島群之中的很多孤島第一次與外界發(fā)生聯(lián)系。不為所知的神一般的存在乘坐著轟轟作響的鐵鳥劃過島民頭頂?shù)奶炜?，把食物和物品空投在島上，一去不復(fù)返。島上的宗教信徒跳起舞來，祈禱神再次歸來，并空降更多的物資。即使是五十年后的今天，依然有很多島民祈禱著鐵鳥再次歸來，空投物資。超人類人工智能有可能被證明是另一種「物資崇拜」。一個(gè)世紀(jì)之后的人類也許會(huì)回首現(xiàn)在，那時(shí)的我們無時(shí)無刻不期盼著出現(xiàn)超人類人工智能，帶來超乎想象的價(jià)值。數(shù)十年來人們一直等待著超人類人工智能的出現(xiàn)，并相信它會(huì)帶著「物資」，很快到來。

然而非超人類人工智能已經(jīng)實(shí)際存在。我們?cè)噲D重新定義、限制它以在未來掌控它，但是從智能的宏觀意義上來講——其范圍涵蓋不同種類的機(jī)靈、智能、認(rèn)知、理性、學(xué)習(xí)和意識(shí)——人工智能已遍布整個(gè)地球，并會(huì)持續(xù)地傳播、深化、多樣化和強(qiáng)大化。以前從不存在像人工智能這樣可以改變?nèi)祟愂澜绲陌l(fā)明。在本世紀(jì)末，人工智能將無所不及并革新人類的一切；但是，超人類人工智能的神話——人類獲得超級(jí)能力或者淪為超級(jí)奴隸（或者兩者兼而有之）——很可能一直存在，這種可能性對(duì)人類來說是如此迷魅以至于太難舍棄。