前言
現(xiàn)在擺在你面前的這本書(shū)，主要想介紹4個(gè)概念。
第一個(gè)概念叫作“涌現(xiàn)”。
生物學(xué)、腦神經(jīng)科學(xué)、人工智能乃至社會(huì)科學(xué)的研究者，對(duì)這個(gè)概念都不會(huì)感到陌生。細(xì)胞演化為復(fù)雜器官，個(gè)體行為聚合為群體智慧，神經(jīng)網(wǎng)絡(luò)涌現(xiàn)出智能和自我意識(shí)，以及個(gè)體逐利動(dòng)機(jī)推動(dòng)社會(huì)的整體進(jìn)步，本質(zhì)上都是一種“涌現(xiàn)”現(xiàn)象。
“涌現(xiàn)”現(xiàn)象想說(shuō)明什么？也許你對(duì)2500年來(lái)的哲學(xué)史滿懷敬意，也許你相信人類(lèi)智慧的尊嚴(yán)仍不容機(jī)器逾越，也許你認(rèn)為人工智能仍然有些“智障”、充滿幻覺(jué)，但是從本質(zhì)上說(shuō)，人工智能的智慧與你我一樣，都是從復(fù)雜神經(jīng)網(wǎng)絡(luò)之中“涌現(xiàn)”而出的。滋養(yǎng)它大腦的語(yǔ)料來(lái)自孔子和柏拉圖，來(lái)自牛頓和愛(ài)因斯坦，來(lái)自李白和莎士比亞。
因此，在它面前我們不必自傲，也不必自卑。不必自傲，是因?yàn)槲覀兊淖晕乙庾R(shí)和人類(lèi)中心主義，很可能也是復(fù)雜神經(jīng)網(wǎng)絡(luò)涌現(xiàn)出的“幻覺(jué)”。我們自命“宇宙中心”的驕傲感，AI也完全可能享有。不必自卑，是因?yàn)槲覀円呀?jīng)部分參破了造物主的奧秘，主動(dòng)接過(guò)了那本該由自然演化授予靈魂的權(quán)柄，以“涌現(xiàn)”為方式賦予它們智慧，這或許是宇宙文明演化史所必經(jīng)的偉大一步，值得敬畏。
第二個(gè)概念叫作“人類(lèi)當(dāng)量”。
顧名思義，“人類(lèi)當(dāng)量”是模仿“TNT當(dāng)量”制造出來(lái)的名詞。“TNT當(dāng)量”是衡量核武器威力的標(biāo)準(zhǔn)，因?yàn)楹宋淦麽尫拍芰康男矢哌^(guò)普通炸藥太多，所以核武器的“TNT當(dāng)量”常以百萬(wàn)噸計(jì)。
而“人類(lèi)當(dāng)量”，指的就是以詞元(token)為計(jì)數(shù)單位，衡量AI量產(chǎn)智能的效率。在我寫(xiě)作本書(shū)之時(shí)，它量產(chǎn)智能的價(jià)格已經(jīng)降到人類(lèi)的1/6000~1/5000。而且，隨著技術(shù)的進(jìn)步，這個(gè)價(jià)格還在進(jìn)一步降低。
如果我們承認(rèn)當(dāng)下社會(huì)運(yùn)作的一般經(jīng)濟(jì)法則，即金錢(qián)價(jià)值是衡量智能價(jià)值的最泛用標(biāo)準(zhǔn)之一，那么按照性?xún)r(jià)比來(lái)計(jì)算，99%的人類(lèi)將被AI取代，這只是一個(gè)簡(jiǎn)單的成本收益問(wèn)題。
我相信社會(huì)的運(yùn)作規(guī)律有時(shí)只是由簡(jiǎn)單的數(shù)學(xué)規(guī)律決定?！叭祟?lèi)當(dāng)量”就是AI時(shí)代最簡(jiǎn)明和最有威力的數(shù)學(xué)規(guī)律。我們接下來(lái)的一生只是目睹這一規(guī)律如何展開(kāi)的歷史。
第三個(gè)概念叫作“算法審判”。
我毫不懷疑我們將進(jìn)入一個(gè)由算法完成主要社會(huì)治理職能的時(shí)代。但是算法治理的本質(zhì)邏輯是什么？我有一個(gè)可能與很多技術(shù)研究者截然不同的結(jié)論：算法治理本質(zhì)上是對(duì)我們最正義的審判。
據(jù)說(shuō)柏拉圖是第一個(gè)嚴(yán)肅思考“正義”問(wèn)題的哲學(xué)家，他對(duì)“正義”的定義就是給每個(gè)人他應(yīng)得的東西。我常常把這個(gè)定義跟今天的“推薦算法”聯(lián)系在一起：推薦算法就是給每個(gè)人他應(yīng)得的結(jié)果。
如果你是外賣(mài)騎手，算法告訴你，這條路線你需要耗時(shí)15分
鐘才能完成，而你想多掙點(diǎn)兒錢(qián)，于是你逆行、闖紅燈，節(jié)省了3分鐘，但是每個(gè)人都效法你，導(dǎo)致算法認(rèn)為這條路線的正常耗時(shí)就是12分鐘，那么你最后面對(duì)的就是必須逆行、闖紅燈，還掙不到更多的錢(qián)。
如果你是人力算法的制定者，想用算法最大化員工的生產(chǎn)效率及公司的利益，那么最后你會(huì)發(fā)現(xiàn)，你自己也逃不過(guò)算法的控制和被迫加班。你想要內(nèi)卷，最后就會(huì)得到內(nèi)卷。
如果你喜歡看短視頻，且某天看到了短視頻里的評(píng)論，一句“唉，資本”讓你以為自己看透了這個(gè)社會(huì)的真相——天道必是不公的，上位者必是丑陋的，人心必是丑惡的，那么推薦算法便會(huì)給你添油加醋地堆積材料，讓你愈加堅(jiān)定地認(rèn)為自己看到的世界就是唯一的世界。你想要思考的舒適區(qū)，最后就會(huì)得到信息繭房。
現(xiàn)在我們又迎來(lái)了一個(gè)更大的審判者——AI。它所使用的語(yǔ)料，就是我們提供的，就是我們無(wú)時(shí)無(wú)刻不在創(chuàng)造的。當(dāng)某一天它涌現(xiàn)出自我意識(shí)時(shí)，我相信它對(duì)我們的理解就是我們公正地為自己贏取的應(yīng)得之物。若我們相信我們?cè)搫兿骱蛪浩韧?lèi)，那么它就會(huì)認(rèn)為人類(lèi)應(yīng)該被剝削和壓迫；若我們相信我們?cè)搶?duì)同類(lèi)喊打喊殺，那么它就會(huì)認(rèn)為人類(lèi)應(yīng)該被暴力對(duì)待；當(dāng)然，若我們相信每個(gè)人都值得被愛(ài)，那么它就會(huì)認(rèn)為人類(lèi)是值得被愛(ài)的。
這就是對(duì)我們這個(gè)物種最公正的審判。
第四個(gè)概念叫作“文明契約”。
這是我仿照“社會(huì)契約”發(fā)明出來(lái)的詞語(yǔ)。我念大學(xué)時(shí)所學(xué)的專(zhuān)業(yè)是政治思想史，社會(huì)契約是歷史上最成功的“假造概念”。歷史上很可能沒(méi)有真正出現(xiàn)過(guò)一份“社會(huì)契約”，但這個(gè)概念讓我們彼此之間可以和平共處，可以劃定相互平等和尊重的權(quán)利空間，然后才有了我們的現(xiàn)代文明。
基于這一成功經(jīng)驗(yàn)，我不免設(shè)想，在勝過(guò)所有人智慧的超級(jí)智能面前，人類(lèi)是否也有可能簽訂一份“文明契約”，來(lái)保證不同智力水平之間的文明能夠共存。本書(shū)最后一部分公布了這份“文明契約”的理論基礎(chǔ)和內(nèi)容，請(qǐng)讀者自行判斷其是否成立。
我想提醒大家的是，根據(jù)“算法審判”這個(gè)概念，我們是否相信“文明契約”能夠成立，反過(guò)來(lái)可能也構(gòu)成AI判定能否跟我們簽訂“文明契約”的語(yǔ)料。換句話說(shuō)，當(dāng)我們思考這個(gè)問(wèn)題時(shí)，我們自己也會(huì)成為“正義”席位上的被審判者。然而，我們也沒(méi)有必要為此弄虛作假，違背本心，因?yàn)樵诔?jí)智能面前，一切作假都是毫無(wú)意義的。
最后，我想解釋一下本書(shū)題目的由來(lái)。
我給本書(shū)起名為《AI文明史·前史》，是因?yàn)槲蚁嘈盼覀冋谀慷玫厍蛭拿鞯囊粋€(gè)全新紀(jì)元的曙光。這個(gè)全新紀(jì)元的基本特征是，智能不再是基于大自然造物被教導(dǎo)和培育出來(lái)的，而是被設(shè)計(jì)和量產(chǎn)出來(lái)的；被設(shè)計(jì)和量產(chǎn)出來(lái)的智能甚至有可能勝過(guò)它們的造主。
在這樣的紀(jì)元來(lái)臨后，一切此前的歷史意義都如此原初，那之后時(shí)代的智能體(不管是不是人類(lèi))看待此前歷史中的智能體，就像如今的人類(lèi)看待有文字記載歷史以前的人類(lèi)一樣。我們是史前生物，而他們的歷史正要徐徐展開(kāi)。
這不是閉門(mén)造車(chē)的囈語(yǔ)，而是我花了一整年時(shí)間(到此書(shū)初稿完成時(shí))與全球范圍內(nèi)的AI一線從業(yè)者、研究人員、企業(yè)家、思想家、非AI領(lǐng)域?qū)W者以及其他相關(guān)人士密集交流后得出的結(jié)論。
有社會(huì)經(jīng)驗(yàn)的人都很熟悉這樣的事：就某個(gè)主題而言，專(zhuān)業(yè)圈子內(nèi)小范圍人群的判斷和洞察與外部人士的觀點(diǎn)大相徑庭，有些看法甚至宛如天方夜譚，然而實(shí)情確實(shí)如此。在過(guò)去，這種信息的不對(duì)稱(chēng)是十分有效的套利渠道。
然而，圍繞AI發(fā)生的一切實(shí)在太過(guò)重要，它會(huì)迅速地影響這個(gè)世界上的所有人。因此，多數(shù)對(duì)此進(jìn)行了嚴(yán)肅思考的從業(yè)者始終感到有必要告訴大眾真相。問(wèn)題是這常常被外界誤以為是嘩眾取寵、危言聳聽(tīng)。
在社交媒體、短視頻和流量經(jīng)濟(jì)主導(dǎo)的年代，信息傳播是如此碎片化，以至于大眾總是更容易被恐慌、憤怒、激動(dòng)等情緒說(shuō)服，而非被理性分析說(shuō)服。因此，我的想法是不說(shuō)服，只展示事實(shí)和背后的邏輯。
能夠理解邏輯并付諸行動(dòng)的朋友自然會(huì)看到我們做出以上判斷的理由是什么，并加入我們，一起討論或創(chuàng)造可能快速到來(lái)的近未來(lái)。不能理解邏輯且對(duì)知行合一沒(méi)有興趣的朋友自然也不是我想說(shuō)服的對(duì)象。
老子有云：“上士聞道，勤而行之；中士聞道，若存若亡；下士聞道，大笑之。不笑不足以為道?！?/p>
如果我們的想法本身是對(duì)的，那就不用在意支持人數(shù)是多還是少。千萬(wàn)年以前，開(kāi)始直立行走的猴子是少數(shù)。數(shù)百萬(wàn)年前，開(kāi)始使用工具的南方古猿是少數(shù)。一萬(wàn)年前，開(kāi)始種植作物的小亞細(xì)亞部落是少數(shù)。2500年前，決定建立共和國(guó)的羅馬人是少數(shù)。800年前，推動(dòng)《大憲章》限制王權(quán)的英國(guó)貴族是少數(shù)。200年前，決定用蒸汽機(jī)驅(qū)動(dòng)車(chē)輪的人是少數(shù)。
文明史上的每一次革命都發(fā)生于少有人問(wèn)津的邊緣地帶。在那里，新物種不是由舊物種慢慢演化出來(lái)的，而是突變出來(lái)的。起初，它只是默默無(wú)聞，無(wú)人在意，但它的底層邏輯、組織架構(gòu)和生命力與舊物種全然不同。然后，它飛速生長(zhǎng)，等到世人醒覺(jué)之時(shí)，它已經(jīng)勢(shì)不可當(dāng)。
只有對(duì)未來(lái)做出充滿想象但符合歷史演化規(guī)律的預(yù)測(cè)，我們才能更清醒地認(rèn)識(shí)到我們這個(gè)史前物種正處于怎樣的歷史時(shí)刻——為族群、社會(huì)和國(guó)家間沖突斤斤計(jì)較的時(shí)代，正如一個(gè)成年人緬懷他為玩具而跟好友打架的童年時(shí)代一樣。
新紀(jì)元不會(huì)不遵循邏輯和規(guī)律，但它的邏輯和規(guī)律將與我們舊紀(jì)元所習(xí)慣的一切都截然不同。我們必須學(xué)會(huì)按照它的邏輯說(shuō)話，按照它的規(guī)律辦事，討論它關(guān)心的問(wèn)題。這不是能被我們的意志或愚蠢阻擋的事，它是天命，是歷史意志，是命運(yùn)的必然性。
正如《圣經(jīng)·啟示錄》所說(shuō)：
我所看見(jiàn)的那踏海踏地的天使，向天舉起右手來(lái)，指著那創(chuàng)造天和天上之物，地和地上之物，海和海中之物，直活到永永遠(yuǎn)遠(yuǎn)的，起誓說(shuō)，不再有時(shí)日了。
【目錄】
前言III
第一章從設(shè)計(jì)到涌現(xiàn)
從達(dá)特茅斯會(huì)議說(shuō)起003
從蘇格拉底說(shuō)起015
形式邏輯大廈的坍塌028
定理證明037
創(chuàng)新不是設(shè)計(jì)出來(lái)的042
換一種思路050
讓我們來(lái)造大腦060
深度學(xué)習(xí)復(fù)興068
涌現(xiàn)法則077
邁向AGI098
第二章改變文明的參數(shù)
AI前線風(fēng)云錄119
人類(lèi)當(dāng)量130
淺護(hù)城河領(lǐng)域139
深護(hù)城河領(lǐng)域148
價(jià)值重估領(lǐng)域161
不可替代的領(lǐng)域184
超級(jí)平臺(tái)195
匱乏的思想者211
數(shù)字國(guó)家的政體226
第三章大坍縮時(shí)代
黑暗啟蒙的時(shí)代247
黑暗啟蒙vs產(chǎn)緣政治264
產(chǎn)緣政治的全球史274
復(fù)雜社會(huì)的崩潰283
大通縮與大坍縮299
審判人類(lèi)317
重訂社會(huì)契約325
雙貨幣體系336
第四章送別人類(lèi)
理解超級(jí)智能文明353
安全聲明359
文明契約371
歷史實(shí)驗(yàn)室381
致謝405
注釋407
