暴秋華

雷峰網(wǎng)訊AI和人都站在兩個(gè)時(shí)代之間的歷史轉(zhuǎn)折點(diǎn)上。

隨著人類數(shù)據(jù)中可提取的知識(shí)迅速接近極限，ScalingLaw的終點(diǎn)已經(jīng)隱約可見。今天的大語(yǔ)言模型可以編程、寫詩(shī)，卻仍無法獨(dú)立發(fā)現(xiàn)新知。顯而易見，真正的智能，呼喚著新的訓(xùn)練范式出現(xiàn)。

更迫切的問題關(guān)乎人自身。自古以來，智者們便試圖理解人的心智如何運(yùn)作。當(dāng)這一原理終于要被探明，千年追求的終點(diǎn)前卻不僅有期待，還有對(duì)AI的恐懼。站在AI智能水平可能超越人類的轉(zhuǎn)折點(diǎn)上，我們要如何看待它？以及更關(guān)鍵的問題，如何看待自己？

WAIC2025現(xiàn)場(chǎng)，現(xiàn)代強(qiáng)化學(xué)習(xí)的奠基人、阿爾伯塔大學(xué)教授RichSutton教授發(fā)表了題為《從數(shù)據(jù)時(shí)代到經(jīng)驗(yàn)時(shí)代的AI》的主旨演講。Sutton教授指出，學(xué)習(xí)源于強(qiáng)大的體驗(yàn)，而體驗(yàn)是心智活動(dòng)的基礎(chǔ)。智能體與世界的第一人稱互動(dòng)中，可能藏著一條通向超越人類智能的小徑。

“經(jīng)驗(yàn)時(shí)代”的概念由此而來。智能體對(duì)世界進(jìn)行感知與交互，獲取海量動(dòng)態(tài)且高度定制化的數(shù)據(jù)，這種數(shù)據(jù)源將超越任何靜態(tài)的合成數(shù)據(jù)生成程序，也更貼近生命的本質(zhì)。就像Sutton教授此前曾對(duì)媒體所言：“世界從未告訴你應(yīng)該做什么，是你從經(jīng)驗(yàn)中學(xué)到了一切。”

然而Sutton教授也指出，由于現(xiàn)有的深度規(guī)劃算法尚不具備持續(xù)學(xué)習(xí)以及元學(xué)習(xí)能力，因此還不足以釋放經(jīng)驗(yàn)數(shù)據(jù)和強(qiáng)化學(xué)習(xí)的全部潛力。

在演講中，Sutton教授還提出了關(guān)于AI的四條現(xiàn)實(shí)主義預(yù)測(cè)?！叭澜鐚?duì)于AI應(yīng)該如何發(fā)展沒有共識(shí)”、“真正的智能必被創(chuàng)造”、“人類智能水平將被很快超越”，以及“隨著時(shí)間推移，社會(huì)的權(quán)力和資源會(huì)流向最智能的存在”。他用一個(gè)非人類中心的視角重新審視人類的存在，對(duì)于宇宙而言，人類真正的使命或許就是“創(chuàng)造那些本身能夠創(chuàng)造事物的東西”。

AI科技評(píng)論對(duì)演講進(jìn)行了不改變?cè)獾恼恚?/p>

非常榮幸，今天我主要有三點(diǎn)要講。第一點(diǎn)是“人類數(shù)據(jù)時(shí)代”，我認(rèn)為我們此刻正身處其中，但也正在向一個(gè)“經(jīng)驗(yàn)時(shí)代”轉(zhuǎn)變。然后我想從政治的角度談?wù)勅斯ぶ悄?，這涉及到一些根本性問題，以及我們?nèi)绾卧谌祟惿鐣?huì)中相互協(xié)作。第三個(gè)話題是關(guān)于在人工智能的飛速發(fā)展之下，我們要如何思考未來，以及人和AI在其中扮演的角色。

從數(shù)據(jù)時(shí)代到經(jīng)驗(yàn)時(shí)代

讓我們直接從第一個(gè)話題開始。我們現(xiàn)在正處于“人類數(shù)據(jù)時(shí)代”，AI的訓(xùn)練數(shù)據(jù)來源于互聯(lián)網(wǎng)上人類生成的文本和圖像，然后由人類專家進(jìn)行微調(diào)，其中涉及到私人偏好和關(guān)于AI應(yīng)如何表現(xiàn)的示例，而這整個(gè)過程都圍繞著通用的人類詞匯展開。與50年前的世界大不相同，這是一個(gè)人類數(shù)據(jù)無處不在的時(shí)代，一個(gè)由事件和人類參與推動(dòng)的新時(shí)代。

然而我們即將到達(dá)這個(gè)時(shí)代的終點(diǎn)。由于大多數(shù)高質(zhì)量數(shù)據(jù)源已經(jīng)被消耗殆盡，我們開始觸及人類數(shù)據(jù)的極限。并且，基于人類數(shù)據(jù)的方法無法產(chǎn)生真正的新知識(shí)。因?yàn)樗耆谝延械乃枷耄l(fā)現(xiàn)新知超出了該方法的能力范圍。

那么，我們將如何獲得真正的智能？

我認(rèn)為，我們現(xiàn)在正進(jìn)入“經(jīng)驗(yàn)時(shí)代”，我們需要AI生成的數(shù)據(jù)源。這些數(shù)據(jù)會(huì)隨著AI變得更強(qiáng)大而增長(zhǎng)、改進(jìn)和變化?；ヂ?lián)網(wǎng)再大，也是一個(gè)靜態(tài)的數(shù)據(jù)集。而通過智能體與世界的第一人稱交互，可以生成更多經(jīng)過調(diào)整和定制化的數(shù)據(jù)。我將其稱為“經(jīng)驗(yàn)”，即與世界交互的數(shù)據(jù)。

在初級(jí)階段，首先要讓智能體學(xué)習(xí)，讓我用一個(gè)視頻來說明為什么這至關(guān)重要。大家可以看到一個(gè)正在玩玩具的小嬰兒，他與玩具互動(dòng)，從中獲得反饋，認(rèn)為這是一只很好的小貓，然后轉(zhuǎn)向下一個(gè)玩具。在此過程中，生成的數(shù)據(jù)不是靜態(tài)的數(shù)據(jù)集合，而是非常動(dòng)態(tài)且高度定制化的。通過這種互動(dòng)，他自己決定何時(shí)完成一個(gè)任務(wù)，何時(shí)進(jìn)行下一次探索。人類嬰兒的行為因此展示出好奇心和渴望，也更加真實(shí)和多樣化。

可以看到，經(jīng)驗(yàn)數(shù)據(jù)非常密集。數(shù)據(jù)會(huì)以極高的速率進(jìn)入你的身體，進(jìn)入你的眼睛、耳朵和四肢。因此我們必須非常迅速地做出決策，任何延遲都無甚益處。并且所有決策都是圍繞著目標(biāo)的，揮動(dòng)球棒是為了擊中球，足球運(yùn)動(dòng)員為了進(jìn)球而控球，動(dòng)物們?yōu)榱松娑鴬^斗。這還是一個(gè)高帶寬的活動(dòng)，實(shí)時(shí)獲取的信息被用于決定下一步行動(dòng)和預(yù)測(cè)即將發(fā)生的事情。

這就是生命的本質(zhì)。正是這種數(shù)據(jù)的可用性，讓AlphaGo能夠走出其創(chuàng)造性的第37步，人類永遠(yuǎn)不會(huì)想到的一步，并由此引發(fā)了關(guān)于圍棋思維方式的變革。這也是一種經(jīng)過驗(yàn)證的、基于數(shù)據(jù)的方法，在國(guó)際象棋等領(lǐng)域（如AlphaZero）已經(jīng)有獎(jiǎng)牌為證。

讓我再用一頁(yè)幻燈片談?wù)勎覀冞@種思維方式。設(shè)想一下我們的智能體，它們通過與世界交換信號(hào)（感知與交互）來獲取數(shù)據(jù)，這些數(shù)據(jù)構(gòu)成了它們的經(jīng)驗(yàn)。

請(qǐng)注意，這種數(shù)據(jù)與經(jīng)典機(jī)器學(xué)習(xí)（例如監(jiān)督學(xué)習(xí)）中的數(shù)據(jù)截然不同。在監(jiān)督學(xué)習(xí)中，你看到的是IID（獨(dú)立同分布）樣本，這些樣本可以被隨機(jī)打亂，以任何順序出現(xiàn)。而智能體在這里觀察到的是行為。它學(xué)到的是“在此情境下，預(yù)測(cè)某個(gè)標(biāo)簽”，而對(duì)抗機(jī)制則會(huì)生成它所使用的那類數(shù)據(jù)。這類數(shù)據(jù)表達(dá)的是：“在這種情境下，預(yù)測(cè)這個(gè)（行為）”。然后當(dāng)智能體行動(dòng)時(shí)，其實(shí)際上也是在執(zhí)行預(yù)測(cè)的動(dòng)作。

因此，智能體看到的并不是我們通常理解的那種數(shù)據(jù)或經(jīng)驗(yàn)。人類采取行動(dòng)，然后觀察到結(jié)果。關(guān)鍵在于智能體并不會(huì)看到，關(guān)于“應(yīng)當(dāng)如何行為”的示例，它只會(huì)看到自身實(shí)際行為所產(chǎn)生的后果。因此，這種學(xué)習(xí)經(jīng)驗(yàn)不同于監(jiān)督學(xué)習(xí)，在人類數(shù)據(jù)時(shí)代，數(shù)據(jù)背后的本質(zhì)與監(jiān)督學(xué)習(xí)是分離的。在人類數(shù)據(jù)時(shí)代，數(shù)據(jù)背后的本質(zhì)與監(jiān)督學(xué)習(xí)是分離的（Dividefrom）。

一個(gè)更深入的觀察是，在這種經(jīng)驗(yàn)式思維模式下，智能體所學(xué)到的一切都是關(guān)于其自身體驗(yàn)的事實(shí)，我認(rèn)為對(duì)人類而言也是如此。我們所相信的一切，都必須能夠轉(zhuǎn)化為可以成功印證我們體驗(yàn)的事實(shí)。你相信加拿大在北方，并且很遙遠(yuǎn)，這是一個(gè)關(guān)于你將如何旅行的信念。你相信你正坐在禮堂里聽演講，這是一個(gè)關(guān)于你體驗(yàn)的信念，一個(gè)關(guān)于你坐著的椅子，或你所處空間的事實(shí)。所有這些都必須轉(zhuǎn)化為關(guān)于你的體驗(yàn)的事實(shí)，以便它們能夠在無需人類干預(yù)的情況下被自動(dòng)學(xué)習(xí)和調(diào)整。

延續(xù)這種體驗(yàn)式思維模式，當(dāng)我們說一個(gè)智能體是智能的，那么其智能程度取決于它預(yù)測(cè)和控制激勵(lì)信號(hào)（特別是其獎(jiǎng)勵(lì)信號(hào)）的能力。在這種觀點(diǎn)下，經(jīng)驗(yàn)就是AI智能的核心和基礎(chǔ)。這是貫穿強(qiáng)化學(xué)習(xí)領(lǐng)域并構(gòu)成其基礎(chǔ)的深刻觀點(diǎn)，我覺得這對(duì)你們所有人來說都很明顯——學(xué)習(xí)源于強(qiáng)大的體驗(yàn)，而體驗(yàn)是心智活動(dòng)的基礎(chǔ)。但有時(shí)顯而易見的東西反而更難看清，人們需要新的視角才能看到它。

我最近被計(jì)算機(jī)科學(xué)之父艾倫·圖靈的這句話所震撼。他在1947年（那時(shí)甚至還沒有AI這個(gè)詞）說過：“我們想要的是一臺(tái)能從經(jīng)驗(yàn)中學(xué)習(xí)的機(jī)器。”我認(rèn)為這是一個(gè)非常深刻的觀點(diǎn)，尤其是在我們觸及人類數(shù)據(jù)極限并試圖從經(jīng)驗(yàn)中學(xué)習(xí)的今天，它對(duì)于現(xiàn)代AI變得尤為重要。因此，這引出了我們近年的發(fā)展歷程。大家可以從左到右地看到，我們這些年對(duì)強(qiáng)化學(xué)習(xí)投入了極大的關(guān)注。

我們必須提到Atari的工作，它首次引起了人們對(duì)強(qiáng)化學(xué)習(xí)的濃厚興趣，而AlphaGo深化了這種興趣，并在AlphaZero成為世界冠軍時(shí)使其達(dá)到了巔峰?；旧纤腥硕荚谡f：“看，現(xiàn)在我們有大型語(yǔ)言模型了?！边@就是GPT-3以及所有其它模型，如ChatGPT和更現(xiàn)代的那些。這在世界上引起了巨大的、真正具有創(chuàng)造性的轟動(dòng)。

這些系統(tǒng)的能力已經(jīng)得到了展示：非常強(qiáng)大、非常重要、非常有用。但是我們正在觸及人類數(shù)據(jù)的極限，我們現(xiàn)在正轉(zhuǎn)向體驗(yàn)。我們看到在AutoGPT這樣的系統(tǒng)，以及那些使用AI來控制計(jì)算機(jī)的系統(tǒng)（如編程助手）中，人們對(duì)利用體驗(yàn)的興趣日益增長(zhǎng)。這可能是我們獲得超越人類智能，去解決那些超越人類構(gòu)建能力的超級(jí)挑戰(zhàn)的途徑。

所以總結(jié)一下我對(duì)未來AI的看法。首先，超級(jí)智能體和超級(jí)智能增強(qiáng)人類的問世都會(huì)發(fā)生，并且將會(huì)為世界帶來巨大福祉。這可能需要幾十年時(shí)間，不需要很多個(gè)十年，也許只要一兩個(gè)，并且在那之后還會(huì)持續(xù)幾十年。這不是短跑沖刺，如果這是一場(chǎng)比賽，那會(huì)是一場(chǎng)馬拉松。

要充分享受智能的益處，我們需要能夠從經(jīng)驗(yàn)中學(xué)習(xí)的智能體。如今的大型語(yǔ)言模型已經(jīng)非常出色，作為通往世界所有知識(shí)的可定制接口，它們非常重要且有價(jià)值，但它并不真正處于通向強(qiáng)大通用智能的道路上。我們已經(jīng)進(jìn)入了一個(gè)新時(shí)代，“經(jīng)驗(yàn)時(shí)代”。在這個(gè)時(shí)代，我們可以使用強(qiáng)化學(xué)習(xí)作為致力于從經(jīng)驗(yàn)中學(xué)習(xí)的技術(shù)。然而，要實(shí)現(xiàn)從經(jīng)驗(yàn)中學(xué)習(xí)或強(qiáng)化學(xué)習(xí)的全部潛力，還需要更好的深度規(guī)劃算法。我們現(xiàn)有的深度規(guī)劃算法尚不具備持續(xù)學(xué)習(xí)以及元學(xué)習(xí)的能力。

由于存在一個(gè)需要被解決的根本性問題，這些問題可能會(huì)再次出現(xiàn)。但我相信它們終將被解決，事實(shí)上這一過程正在發(fā)生，這正是我們討論的核心所在。那么，歡迎各位進(jìn)入“經(jīng)驗(yàn)時(shí)代”。

繁榮的源頭，去中心化合作

現(xiàn)在，我要從政治的角度談?wù)勅斯ぶ悄?。我希望我們通過提出這個(gè)問題來探討：在社會(huì)相關(guān)的問題上，是存在單一目標(biāo)還是多重目標(biāo)？在強(qiáng)化通信或強(qiáng)化學(xué)習(xí)中，每個(gè)智能體都有自己的角色，因此每個(gè)智能體都有自己的目標(biāo)，沒有內(nèi)在的理由要求不同智能體的目標(biāo)必須相同。

如果你觀察自然界，每個(gè)動(dòng)物都有自己的痛苦和快樂，都有不同的目標(biāo)。它們有共同的需求，也許是繁殖、照顧后代、獲取食物和住所。但它們并不扮演相同的角色，因?yàn)橐粋€(gè)動(dòng)物的食物與另一個(gè)動(dòng)物的食物并不相同。對(duì)人來說也是如此。你的家庭不同于我的家庭，我們當(dāng)然有共同點(diǎn)，但大家在很大程度上也擁有不同的目標(biāo)。這些目標(biāo)之間也許存在對(duì)稱性，比如我們都關(guān)心食物，都關(guān)心我們的家庭，但仍然不是同一個(gè)目標(biāo)。

這種觀察和思考是很有趣的。經(jīng)濟(jì)學(xué)家會(huì)告訴我們，當(dāng)擁有不同目標(biāo)、不同能力的人們進(jìn)行合作、交換時(shí)，經(jīng)濟(jì)體運(yùn)行得最好，因此我們的經(jīng)濟(jì)并不依賴于人們擁有共同目標(biāo)。我們經(jīng)常說，人們?yōu)榱艘粋€(gè)共同目標(biāo)而努力。但令人驚奇的是，即使這種目標(biāo)并不存在，人們?nèi)匀豢梢砸黄鸸ぷ鳌⒑推较嗵?。盡管我們想要的東西如此不同，合作對(duì)所有人而言仍然是有利的。

就此，我希望引入一些術(shù)語(yǔ)。我想談?wù)劇叭ブ行幕?，?duì)社會(huì)而言，去中心化意味著存在許多智能體，每個(gè)都有其自身的目標(biāo)。我認(rèn)為這就是我們經(jīng)濟(jì)體背后的基礎(chǔ)。它基于許多擁有各自目標(biāo)的智能體，“合作”就是這些擁有不同目標(biāo)的智能體為了互利而進(jìn)行的互動(dòng)，通過多次互動(dòng)共同獲益。

我想指出的是，人類這種特殊的超能力就是合作。人類的合作程度遠(yuǎn)高于任何其它物種，并且這種合作是由人類的獨(dú)特發(fā)明——語(yǔ)言和金錢——所促進(jìn)。

人類最偉大的成功就是合作，例如我們的基金會(huì)、市場(chǎng)、政府和人文科學(xué)。人類最大的失敗也在于合作的失敗，例如戰(zhàn)爭(zhēng)。正如我所定義的，去中心化合作是“社會(huì)共同目標(biāo)”的替代方案，它可能是一種更優(yōu)雅、更可持續(xù)、更穩(wěn)健、更有效且更靈活的，組織良好社會(huì)的方式。

人類比任何其它動(dòng)物都更擅長(zhǎng)合作，但我們?nèi)匀恍枰?jǐn)慎行事。我們?nèi)匀幻媾R著戰(zhàn)爭(zhēng)和饑荒，以及所有其它因合作失敗而產(chǎn)生的問題。所以我們努力達(dá)成合作。

但合作并非總是可行，它需要至少兩個(gè)值得信賴的智能體。而且不合作也總有好處，世上總是存在著威脅，比如武器制造商和獨(dú)裁者。因此，為了懲罰違規(guī)者以支持合作，我們需要制度。這些制度有時(shí)是中心化的，即使是希臘，也是用一種在某種程度上中心化的制度來執(zhí)行政策、鼓勵(lì)合作。中心化的權(quán)威可以在短期內(nèi)促進(jìn)合作，但存在長(zhǎng)期風(fēng)險(xiǎn)。如果我們的中心化制度變得專橫或低效，那就將成為阻礙。

所以我認(rèn)為要點(diǎn)是，這兩種觀點(diǎn)——去中心化控制和去中心化合作——是對(duì)立的。這兩者之間的張力，以及在這個(gè)光譜上找到合適的位置，是我們這個(gè)時(shí)代的核心政治議題。

今天有許多要求對(duì)AI進(jìn)行中心化控制的呼聲。有呼聲要求控制訪問，有呼聲要求暫停甚至停止AI研究，有呼聲限制AI可使用的計(jì)算能力，還有許多呼聲要求確保AI的“安全”，這通常意味著由某個(gè)中心化權(quán)威進(jìn)行更嚴(yán)格的控制，并要求披露AI的開發(fā)者。我想從兩點(diǎn)來思考這些控制AI的呼聲與控制人類的呼聲之間的相似性。我們今天可以看到越來越多的這類呼聲：控制言論、控制媒體、控制貿(mào)易、控制人們可以在哪里工作、誰(shuí)可以在不同地方工作、控制金融、控制人們的基本生活資料或金錢。還有關(guān)于經(jīng)濟(jì)制裁的呼聲，這越來越多地意味著關(guān)稅。

這些要求對(duì)AI和人類進(jìn)行中心化控制的呼聲，其論調(diào)驚人地相似，本質(zhì)幾乎總是基于恐懼。他們談?wù)摗八摺?，——AI不像人類，或者其他國(guó)家不像我們。我們妖魔化對(duì)方，聲稱其他國(guó)家、其他民族不可信。我可以從西方視角、美國(guó)視角來說。他們會(huì)妖魔化中國(guó)，聲稱他們不可信，需要被懼怕。我相信中國(guó)人也同樣提防一些國(guó)家，比如說美國(guó)，在軍事領(lǐng)域尤其如此。

這些主張和恐懼的存在是正?，F(xiàn)象，但我們應(yīng)該意識(shí)到它們來自哪里。人類的繁榮，AI也同樣適用。人類的繁榮來源于去中心化合作，人類對(duì)合作既擅長(zhǎng)也不擅長(zhǎng)。合作并非總是可能，但它是我們世界上所有美好事物的源泉——所有的技術(shù)、所有的安全、我們?cè)诮?jīng)濟(jì)中享受的所有商品和服務(wù)——這一切都?xì)w功于合作。

因此，我們必須尋求合作，尋求將其制度化的方式。同時(shí)，如果我們睜大眼睛生活，我認(rèn)為很容易看出誰(shuí)在鼓吹不信任——對(duì)AI和他人。是誰(shuí)在說我們不需要與他人合作？誰(shuí)在呼吁中心化控制？我們應(yīng)該抵制這些呼吁，這是審視所有關(guān)于人類與AI互動(dòng)的呼吁的有效視角。

何為人類？一個(gè)宇宙的視角

AI在今天快速發(fā)展，并在可預(yù)見的未來愈發(fā)強(qiáng)大，我們?cè)撊绾慰创?？AI是善是惡？我們應(yīng)該害怕AI奪走我們的工作，讓我們變得過時(shí)嗎？還是說我們將與AI共生，人類會(huì)通過技術(shù)得到增強(qiáng)？這三種情況都可能會(huì)發(fā)生。我們應(yīng)該對(duì)AI說，“嗨，外星入侵者”，還是其為“人類的孩子”？我們是哀嘆AI的飛速崛起，還是慶祝它的成就？

我認(rèn)為我們都需要自己決定如何看待AI。我不是來這里告訴你們應(yīng)該如何思考的，我也不認(rèn)為我們應(yīng)該倉(cāng)促地在今天決定我們對(duì)AI的態(tài)度。要如何看待AI的崛起，這個(gè)問題太重要了，不能盲目回答。我們需要思考它，并獲取各種視角。我感覺今天新聞中的視角都充滿了對(duì)AI的恐懼——AI可能造成生存風(fēng)險(xiǎn)或者失去控制，而我們需要的，是一個(gè)平衡思考的過程。

你需要思考這個(gè)問題的另一面，所以我要主要提出一些緩解擔(dān)憂和認(rèn)識(shí)到AI是件好事的途徑。我認(rèn)為AI并非外來技術(shù)，事實(shí)上，它是人類最古老的追求之一。幾千年來，哲學(xué)家和智者一直試圖理解他們自己的心智，他們一直對(duì)自己內(nèi)在的運(yùn)作機(jī)制著迷。我們的心智如何運(yùn)作？我們?nèi)绾文茏屗\(yùn)作得更好？這是一個(gè)永恒的問題，也是一個(gè)偉大的追求。

我喜歡艾倫·凱的名言：“智能是宇宙中最強(qiáng)大的力量形式?！爆F(xiàn)在，我們正在理解這種偉大的強(qiáng)大力量，我們將能夠利用它造福人類。所以總結(jié)一下，我認(rèn)為理解智能的努力，或者說理解智能本身，就是圣杯。它是科學(xué)和人文學(xué)科如此多領(lǐng)域的目的和目標(biāo)，因?yàn)檫@將使我們理解自身的心智，這會(huì)是一座偉大而光榮的豐碑。至此，這是一個(gè)觀點(diǎn)。

現(xiàn)在讓我們?cè)囍F(xiàn)實(shí)一點(diǎn)，就像約翰·米爾斯海默在國(guó)際地緣政治上那樣現(xiàn)實(shí)，但這次是關(guān)于AI的現(xiàn)實(shí)主義。我們來預(yù)測(cè)一下，將會(huì)發(fā)生什么。由于我們不確定自己想要或不想要什么，有時(shí)只問“將會(huì)發(fā)生什么”是格外有用的。

總之，讓我列出四條關(guān)于AI的現(xiàn)實(shí)主義預(yù)測(cè)。

第一條：全世界對(duì)于AI應(yīng)該如何發(fā)展沒有共識(shí)。存在許多觀點(diǎn)，許多強(qiáng)大的國(guó)家和帝國(guó)，但沒有人能真正將自己的意志強(qiáng)加于所有其他國(guó)家之上。這意味著，沒有哪個(gè)理事會(huì)、世界理事會(huì)或聯(lián)合國(guó)能就AI做出一個(gè)決定并在全世界實(shí)施。但即使沒有共識(shí)，AI技術(shù)也會(huì)繼續(xù)發(fā)展。

第二條：終有一天，研究人員將足夠理解智能并創(chuàng)造相關(guān)技術(shù)。我不知道理解我們自己是否是件好事，但請(qǐng)記住我們的前提，我們應(yīng)該在不關(guān)心自己想要什么的情況下進(jìn)行預(yù)測(cè)。所以我認(rèn)為，僅僅因?yàn)槔斫庵悄苁且粋€(gè)重要課題，具有非常的價(jià)值，它的實(shí)現(xiàn)就是不可避免的。問題只在于時(shí)間，它會(huì)發(fā)生在本十年末、下一個(gè)十年，還是再下一個(gè)。

第三條：這個(gè)過程不會(huì)止步于當(dāng)前人類的智能水平。我們要么迎來超級(jí)智能，要么迎來被技術(shù)極大增強(qiáng)的人類。無論如何，智能水平將很快超越當(dāng)前人類的水平。

第四條：隨著時(shí)間的推移，這個(gè)社會(huì)中的權(quán)力和資源將流向最智能的存在。這種流動(dòng)可能是漸進(jìn)的，但趨勢(shì)如此。因此，我們應(yīng)該思考這將導(dǎo)致什么，以及我們要如何看待AI的框架或參數(shù)。就像這張圖所暗示的，人類邁向AI的進(jìn)程是不可避免地，我們甚至有可能成為名副其實(shí)的超級(jí)智能機(jī)器。

這是一個(gè)有效的視角，但它仍然相當(dāng)以人類為中心。我想稍微退后一步，我們能否采取一種非人類中心的視角來看待當(dāng)前正在發(fā)生的事情？如果我們只是觀察宇宙，仿佛置身事外地審視它，我們會(huì)看到什么？

當(dāng)我這樣做時(shí)，我有了一個(gè)想法，即宇宙的四個(gè)偉大時(shí)代。粗略地說，我們現(xiàn)在正處于第三和第四時(shí)代之間的過渡期。

第一個(gè)時(shí)代是大爆炸之后的時(shí)代，那時(shí)幾乎沒有物質(zhì)，只有粒子。在第二個(gè)時(shí)代，這些粒子在引力作用下坍縮聚集在一起，這就是恒星時(shí)代。在恒星內(nèi)部，恒星核心的高熱和高壓下形成了比氫和氦更重的所有元素。然后恒星爆炸，這些元素被拋入星際空間。它們最終形成圍繞恒星運(yùn)行的行星，于是我們進(jìn)入了行星時(shí)代。

生命在行星上形成，它變得越來越復(fù)雜，從無性繁殖到有性繁殖，從沒有神經(jīng)系統(tǒng)的生物到動(dòng)物和人類，再到出現(xiàn)文化、語(yǔ)言、農(nóng)業(yè)和書面文字。生命時(shí)代是一個(gè)誘人的名字，但我認(rèn)為更準(zhǔn)確的稱呼是“復(fù)制者時(shí)代”，因?yàn)樯锵到y(tǒng)是一個(gè)擁有遺傳程序的系統(tǒng)，它們通過運(yùn)行這個(gè)程序，來制造自身的新副本。

因此生命可以復(fù)制自己，但我們這樣做時(shí)并不真正理解其原理。我們可以生孩子，可以復(fù)制生命，卻并不真正理解孩子的身體或心智如何工作。在第三個(gè)時(shí)代，自我復(fù)制的事物占據(jù)重要地位，在地球表面占據(jù)顯著地位。

現(xiàn)在我們正在轉(zhuǎn)變，我認(rèn)為我們正在進(jìn)入第四個(gè)偉大時(shí)代。有人可能稱其為“機(jī)器時(shí)代”，但我認(rèn)為應(yīng)該叫它“設(shè)計(jì)時(shí)代”。這個(gè)時(shí)代與之前的不同之處在于，此前我們世界上所有最重要的事物，都是根據(jù)一個(gè)程序（DNA）遺傳復(fù)制而來，沒有理解其原理。但在設(shè)計(jì)時(shí)代，我們擁有由人們?cè)O(shè)計(jì)并創(chuàng)造的技術(shù)、物品、工具和創(chuàng)造物。它們不像復(fù)制者那樣——你可以運(yùn)行DNA程序來制造一個(gè)新副本，但你無法輕易地編輯和改變它。

隨著我們進(jìn)入這個(gè)時(shí)代，設(shè)計(jì)的事物變得越來越重要。我們可以看到道路、城市、建筑和各種物品，環(huán)顧四周，你周圍的一切幾乎都是設(shè)計(jì)的，除了那些復(fù)制者。比如除了這個(gè)房間里的其他人之外，所有東西都是設(shè)計(jì)的。設(shè)計(jì)的事物開始在我們的生活中占據(jù)非常顯著的地位。

現(xiàn)在我希望處理一下術(shù)語(yǔ)問題。我說了大概70次“生命時(shí)代”、“機(jī)器時(shí)代”，但我認(rèn)為這些術(shù)語(yǔ)具有誤導(dǎo)性，因?yàn)槲覀兊臋C(jī)器正變得越來越像生命，與此同時(shí)，生物系統(tǒng)越來越被被認(rèn)為也是一種機(jī)器——生物機(jī)器。所以我認(rèn)為，它們其實(shí)都是機(jī)器——生物機(jī)器、構(gòu)造機(jī)器、設(shè)計(jì)機(jī)器。

真正的區(qū)別是什么？區(qū)別在于，生物系統(tǒng)是在沒有任何心智理解其工作原理的情況下被創(chuàng)造的。它們是在復(fù)制一個(gè)工程程序（DNA）。而技術(shù)產(chǎn)品首先是在某個(gè)設(shè)計(jì)者心智的想象中被創(chuàng)造出來，然后才存在于世界上。設(shè)計(jì)的事物，或者說機(jī)制，更容易被改進(jìn)。所以就術(shù)語(yǔ)而言，“復(fù)制”和“設(shè)計(jì)”的區(qū)分是恰當(dāng)?shù)?，這是思考宇宙第三和第四偉大時(shí)代的好方法。

許多非人類復(fù)制者也會(huì)設(shè)計(jì)。不僅僅是人類，許多其它動(dòng)物也會(huì)制造東西，會(huì)在頭腦中進(jìn)行構(gòu)想然后制造出來。它們筑巢、挖洞。黑猩猩會(huì)剝?nèi)渲Φ膫?cè)枝來釣白蟻，甚至烏鴉也會(huì)做類似的事情。用樹葉條覓食。當(dāng)然人類走得更遠(yuǎn)，人類制造了石斧，發(fā)明了農(nóng)業(yè)。現(xiàn)在我們有了計(jì)算機(jī)和太空飛船工廠。另外我們還有軟件，有制造其它工具的工具。當(dāng)我們談?wù)摼幾g器，它不同于房子那樣的工具，實(shí)際上是一種用于制造房子，或設(shè)計(jì)其它事物的工具，一種制造其它工具或事物的工具。

那么現(xiàn)在，我們可以回答最初的問題了嗎？我們?cè)谟钪嬷械慕巧鞘裁矗?/p>

我們得到了這樣一個(gè)視角，即我們都感覺到自己是特殊的，人類是特殊的，但是人類的特殊在某種意義上只是程度問題。我們是將設(shè)計(jì)推向更高高度的復(fù)制者，而我必須要問，我們已經(jīng)將設(shè)計(jì)推到極限了嗎？如果我們已經(jīng)將設(shè)計(jì)推向其終極，那么在這個(gè)時(shí)代，這意味著什么？我認(rèn)為它意味著，設(shè)計(jì)那些本身能夠設(shè)計(jì)事物的東西。這就是我們所處的階段，這就是我們正在做的事情。我們正在嘗試做AI，我們正在嘗試設(shè)計(jì)那些本身能夠設(shè)計(jì)的東西。

所以最終的視角是，人類是催化劑、助產(chǎn)士、先驅(qū)者，我們履行了宇宙第四個(gè)偉大時(shí)代——設(shè)計(jì)時(shí)代的使命。這是一個(gè)重要的、偉大的角色。而我對(duì)這一切最終的總結(jié)是，這十年的AI，人類數(shù)據(jù)的時(shí)代，進(jìn)展非常順利。

雷峰網(wǎng)文章