「搭子文化」是現(xiàn)代友誼的進(jìn)化嗎？如果這樣看待，那它解決了什么社交痛點(diǎn)？
馮德萊恩：15%稅率是歐委會(huì)能夠達(dá)成的最佳結(jié)果
關(guān)于AI，存在著兩個(gè)世界。一個(gè)是“未來(lái)時(shí)態(tài)”的世界，或者說(shuō)想象中的世界。人們樂(lè)于沉浸在對(duì)終極技術(shù)的幻想里。另一個(gè)世界處于“進(jìn)行時(shí)”。在舊金山、北京、倫敦，人工智能產(chǎn)業(yè)每日都在上演更新。
兩個(gè)世界相互交織，但它們不是一一對(duì)應(yīng)的兩個(gè)集合，對(duì)未來(lái)的想象前進(jìn)一步，現(xiàn)實(shí)有可能會(huì)撤退，也可能會(huì)加速。
在這兩個(gè)世界中，有一個(gè)重要的人物，就是尼克·博斯特羅姆（NickBostrom）。他曾是牛津大學(xué)“人類未來(lái)研究所”的創(chuàng)辦者與所長(zhǎng)，是目前論文被引用數(shù)量最多的哲學(xué)學(xué)者之一。
尼克·博斯特羅姆
博斯特羅姆關(guān)心人的存在性風(fēng)險(xiǎn)、數(shù)字心智的道德地位等議題。有人認(rèn)為，其作品奠定了當(dāng)代人類未來(lái)議題的基礎(chǔ)性框架。他本人也提及，當(dāng)下人們?cè)谔接懳磥?lái)時(shí)經(jīng)常使用的概念，最初均出自他的筆下。
在南風(fēng)窗的采訪中，他拒絕將自己形容為任何主義者，但他種下的思想種子還是長(zhǎng)成了宗教般的信仰，從英國(guó)小鎮(zhèn)牛津飛到美國(guó)硅谷上空，并在那里引起了巨大的風(fēng)暴。
對(duì)齊
“世界正在加速，超級(jí)智能的誕生很可能已為期不遠(yuǎn)，我想說(shuō)，我們已經(jīng)正式進(jìn)入了‘早就跟你說(shuō)過(guò)的’時(shí)代，而大多數(shù)人仍然忙于其他事情。”
2025年6月，博斯特羅姆更新了他的個(gè)人主頁(yè)。和往常一樣，他認(rèn)為超級(jí)人工智能的到來(lái)是既定但令人擔(dān)憂的事，可惜世人總是被各種各樣的“瑣事”占據(jù)，而對(duì)人類的存在性風(fēng)險(xiǎn)視而不見。
博斯特羅姆在大多數(shù)照片中神情嚴(yán)肅，他有一張長(zhǎng)臉，腦頂?shù)念^發(fā)幾乎掉光了，因此看起來(lái)有一個(gè)明亮又寬敞的額頭——古老的中國(guó)人將之視作聰慧的象征。而在他眼里，人類確實(shí)“渾渾噩噩”，時(shí)常與螻蟻無(wú)異，忙著建造蟻穴，卻對(duì)自己為什么要這么做、最終是否值得這么做幾乎毫無(wú)概念。
就像電影《不要抬頭》中萊昂納多飾演的那位天文學(xué)教授，博斯特羅姆研究、思考、著書，想要提醒人類一場(chǎng)威脅我們生死存亡的危機(jī)近在眼前。在許多方面，超級(jí)AI和一顆注定要撞上地球的小行星沒有什么區(qū)別——我們不知道它距離我們具體有多遠(yuǎn)，但是它已經(jīng)在來(lái)的路上了。
《超級(jí)智能》應(yīng)該是最能反映博斯特羅姆核心關(guān)切的著作，他認(rèn)為，AI的進(jìn)步可能會(huì)帶來(lái)超級(jí)智能的出現(xiàn)，這是一個(gè)巨大的機(jī)會(huì)，同時(shí)也是存在性風(fēng)險(xiǎn)的來(lái)源。
什么是存在性風(fēng)險(xiǎn)？博斯特羅姆把它定義為“一種可能導(dǎo)致自地球起源的智能生命被消滅，或其潛能被永久性、劇烈削弱的不良結(jié)果”。顧名思義，它是一種危及人類本身存在的風(fēng)險(xiǎn)，受到迫害的可能是生命本身，也可能是人類存在的價(jià)值。
博斯特羅姆對(duì)AI風(fēng)險(xiǎn)的興趣始于上個(gè)世紀(jì)，直到《超級(jí)智能》發(fā)表的2014年，它依舊不是一個(gè)大眾話題，很容易被視作“腦洞大開”的科幻作品。
但顯然博斯特羅姆是嚴(yán)肅的，即便沒有讀過(guò)《超級(jí)智能》的人，或許都對(duì)他的這句話并不陌生：“在智能爆發(fā)的前景之下，我們?nèi)祟惥拖衲弥◤椡娴暮⒆?。玩具的威力和我們的行為的成熟度是如此不匹配……盡管我們把炸彈放到耳邊能夠聽到微弱的滴答聲……”
《未來(lái)之地：超級(jí)智能時(shí)代人類的目的和意義》
好在博斯特羅姆不是那種提出問(wèn)題然后徒留人煩擾的哲學(xué)家，他致力于提出問(wèn)題并解決問(wèn)題。他的學(xué)術(shù)背景十分復(fù)雜，涵蓋了物理學(xué)、計(jì)算神經(jīng)科學(xué)與哲學(xué)。在早期的博斯特羅姆身上，能看到這樣一種意志：為了解決人類面臨的威脅，他在這條由自己開辟的荊棘路上盡己所能地走得更遠(yuǎn)，以便更多有能力者可以便捷地加入。
博斯特羅姆主張從長(zhǎng)遠(yuǎn)的角度對(duì)AI進(jìn)行風(fēng)險(xiǎn)控制，比起限制AI的發(fā)展，不如提前控制AI的目標(biāo)，在發(fā)展AI的過(guò)程中將人類的價(jià)值觀載入，保證它的目的與人類目的一致。后來(lái)，人們把這個(gè)做法叫作“對(duì)齊”（alignment）。
硅谷
對(duì)齊是一項(xiàng)難度極高的工作，它的復(fù)雜不僅體現(xiàn)在技術(shù)上，還有哲學(xué)層面。比如，人們?cè)趺窗褍r(jià)值用語(yǔ)言或編程的方式告知AI？如何保證人的表達(dá)不被誤解或過(guò)度擴(kuò)展？
甚至，在對(duì)齊這件事上，人類可能只有一次機(jī)會(huì)，一旦AI越過(guò)“奇點(diǎn)”，一切就無(wú)法重來(lái)。博斯特羅姆寫道，“一旦不友好的超級(jí)智能出現(xiàn)，它就會(huì)阻止我們將其替換或者改變其偏好設(shè)置”，這樣一來(lái)，“我們的命運(yùn)就因此被鎖定了”。
博斯特羅姆認(rèn)為，比起其他全球性事務(wù)，解決存在性風(fēng)險(xiǎn)在道德上具有優(yōu)先級(jí)別。他的思想很快引起了人們的關(guān)注，尤其是美國(guó)硅谷的一批精英人士。在《超級(jí)智能》一書的推介名單中，有舉世聞名的前世界首富比爾·蓋茨、正當(dāng)紅的科技明星埃隆·馬斯克，還有一位當(dāng)時(shí)并不十分知名的硅谷投資人，叫作山姆·奧特曼。
山姆·奧特曼
《超級(jí)智能》出版后的第二年，也就是2015年，奧特曼、馬斯克聯(lián)合其他人成立了一家名為OpenAI的小公司。誕生之初，它是一家非營(yíng)利性公司，其創(chuàng)始人相信，沒有經(jīng)濟(jì)義務(wù)的約束，他們可以更專注于讓AI對(duì)人類產(chǎn)生積極影響，“以最有可能造福全人類的方式推動(dòng)數(shù)字智能的發(fā)展”。
馬斯克與奧特曼曾提及，他們成立OpenAI，部分是出于對(duì)“通用人工智能安全及其可能帶來(lái)的存在性風(fēng)險(xiǎn)”的擔(dān)憂。
為了阻止人類受到傷害，必須先把善良的AI制造出來(lái)——這一幕在人類歷史上并不陌生，二戰(zhàn)期間為了對(duì)抗軸心國(guó)，奧本海默懷著沉重但“不得不”的心情制造了原子彈。
某種程度上可以說(shuō)，有關(guān)AI風(fēng)險(xiǎn)的思想，間接加速了AI的發(fā)展。無(wú)論博斯特羅姆是否愿意看到這一幕，但事態(tài)就是這樣朝著不可預(yù)料的方向發(fā)展了。
河水不會(huì)停止流動(dòng)，思想與現(xiàn)實(shí)兩個(gè)世界像兩條并行的線，綿延向前。
最開始成立的那幾年，OpenAI只是一家靠理念與愿景刷存在感的公司，當(dāng)時(shí)AI界的明星公司是谷歌旗下的DeepMind。2016年，DeepMind發(fā)布阿爾法狗并打敗韓國(guó)圍棋棋手李世石，在被視作“智力成就象征”的最強(qiáng)圍棋場(chǎng)上，人類首次黯然失色。2018年，馬斯克提出掌權(quán)OpenAI但未果，隨即離開，由于缺乏資金，OpenAI轉(zhuǎn)變?yōu)橐患矣邢抻荆⒔邮芰宋④浀耐顿Y；同年，OpenAI開始嘗試使用大語(yǔ)言模型。
與此同時(shí)，在博斯特羅姆創(chuàng)立的人類未來(lái)研究所，走出越來(lái)越多受硅谷追捧的哲學(xué)紅人。他們帶去了長(zhǎng)期主義、有效利他主義的思潮，盡管側(cè)重各有不同，但他們的思考方式與博斯特羅姆一脈相承：要把有限的資源放在最能對(duì)全人類產(chǎn)生效益的地方。
這些紅人著書立說(shuō)，發(fā)起公益項(xiàng)目，頻繁接受媒體采訪，悅納企業(yè)家慷慨解囊。其中有代表性的人物就是威廉·麥卡斯基爾。
在他身上，人們能看到眼下硅谷最青睞的“公共知識(shí)分子”是什么樣的：年輕帥氣、名校出身、才華橫溢并關(guān)心全人類的命運(yùn)，有一副菩薩心腸——就像《時(shí)代》雜志所述：“威廉·麥卡斯基爾站在一家雜貨店的貨架前，為該買哪種早餐麥片而苦惱。如果他堅(jiān)持一年改買更便宜的品牌，是否就能省下足夠的錢去挽救一個(gè)人的生命？”
有效利他主義主張多做善事，它屬于功利主義思維，在功利的框架下，盡可能多做善事意味著要先賺更多錢，然后再把它們捐掉。比起去貧困地區(qū)當(dāng)一名醫(yī)生，大學(xué)畢業(yè)生更應(yīng)該從事金融或咨詢行業(yè)，因?yàn)檫@樣可以擁有更多收入、幫更多的人。
這只是有效利他主義的一個(gè)方面，有效利他主義是一種廣泛的道德哲學(xué)。在AI發(fā)展上，有效利他主義者主張安全優(yōu)先，因?yàn)槊ё灿锌赡軙?huì)摧毀人類。
天花板
不難想象，有效利他主義對(duì)硅谷富豪們有著天然的吸引力，他們賺取巨額財(cái)富的動(dòng)機(jī)被賦予了正當(dāng)性，并且獲得了超越絕大多數(shù)人的價(jià)值。不過(guò)在AI公司內(nèi)部，有效利他主義悄然引發(fā)了一場(chǎng)分裂。
2023年11月，當(dāng)時(shí)已名聲大噪的OpenAI發(fā)生了一場(chǎng)令全世界議論紛紛的“宮斗”——CEO奧特曼突然被董事會(huì)罷免，又在幾日后回歸。
OpenAI董事會(huì)將罷免奧特曼的原因歸結(jié)為“缺乏坦誠(chéng)”。但外界普遍認(rèn)為這只是一個(gè)幌子，背后更可能的原因，是董事會(huì)內(nèi)部在安全與速度、非營(yíng)利與商業(yè)等發(fā)展路線上出現(xiàn)了分歧。
部分人將這次權(quán)力斗爭(zhēng)的矛頭指向了有效利他主義。在罷免奧特曼一事上投了贊成票的董事會(huì)成員海倫·托納與塔莎·麥考利，都與有效利他主義組織有過(guò)密切關(guān)系；另一位投了贊成票的董事，也就是OpenAI首席科學(xué)家伊利亞·蘇茨凱弗，雖然不以有效利他主義者的身份被廣泛認(rèn)知，但他旗幟鮮明地主張應(yīng)當(dāng)采取更加謹(jǐn)慎的方式發(fā)展AI。
奧特曼曾對(duì)《超級(jí)智能》一書表達(dá)過(guò)高度贊許，他認(rèn)同AI風(fēng)險(xiǎn)值得警惕，但并非所有人都把應(yīng)對(duì)存在性風(fēng)險(xiǎn)視作頭號(hào)任務(wù)。在一家現(xiàn)代化的公司實(shí)體里，他從各方面看起來(lái)都更像一個(gè)理智、可靠的“正常人”，在OpenAI的艱難時(shí)刻轉(zhuǎn)變思路，用部分盈利模式換取企業(yè)生存，保留希望的火種。
事態(tài)在短短幾天內(nèi)發(fā)酵，當(dāng)時(shí)OpenAI共有約770名員工，超過(guò)700人聯(lián)名寫信聲援奧特曼。不久后，奧特曼重新回歸OpenAI擔(dān)任CEO，并組建了幾乎全新的董事會(huì)。
思想到底能在物質(zhì)世界中起到什么樣的作用？它是引領(lǐng)了現(xiàn)實(shí)，還是最終只能屈服于現(xiàn)實(shí)？《華爾街日?qǐng)?bào)》評(píng)價(jià)：“OpenAI的動(dòng)蕩顯示了這一哲學(xué)的影響力，而山姆·奧特曼的強(qiáng)勢(shì)回歸則揭示了哲學(xué)影響力的天花板?！?/p>
似是為了回應(yīng)公眾對(duì)AI安全的擔(dān)憂，OpenAI在當(dāng)時(shí)宣布，未來(lái)四年內(nèi)將投入20%的算力資源用于一個(gè)名為“超級(jí)對(duì)齊”的項(xiàng)目，蘇茨凱弗擔(dān)任該項(xiàng)目的領(lǐng)導(dǎo)者。然而，2024年5月，“超級(jí)項(xiàng)目”的兩位負(fù)責(zé)人相繼離開OpenAI，“超級(jí)對(duì)齊”就此解散。
宮斗事件后，有效利他主義的勢(shì)頭迅速傾頹。同一時(shí)期，硅谷發(fā)生的另一件事加速了這個(gè)趨勢(shì)，有效利他主義運(yùn)動(dòng)最大的資助人之一、加密貨幣企業(yè)家薩姆·班克曼-弗里德（SamBankman-Fried）因欺詐罪被定罪，身敗名裂。人們恍然發(fā)現(xiàn)，這些滿口慈善的硅谷明星，有可能只是一群沽名釣譽(yù)之輩。
薩姆·班克曼-弗里德
另一頭，有效利他主義思想的重要陣地——博斯特羅姆創(chuàng)建的人類未來(lái)研究所，于2024年4月宣布關(guān)閉。
博斯特羅姆告訴南風(fēng)窗，如果沒有他，AI的發(fā)展依舊會(huì)走上今日的軌跡。對(duì)于過(guò)去發(fā)生的種種，他沒有感到失望，反而認(rèn)為眼下AI行業(yè)的關(guān)鍵領(lǐng)袖人物對(duì)AI安全有著極為深度的思考?！拔覀兓蛟S算是幸運(yùn)的，”他說(shuō)，“我猜測(cè)如果把人類歷史倒回幾十年前重演100次，這些關(guān)鍵位置上的人可能遠(yuǎn)沒有現(xiàn)在這般清醒?！?/p>
或許，他的部分使命已經(jīng)完成。無(wú)論是AI安全研究、存在性風(fēng)險(xiǎn)，還是有效利他主義，都已經(jīng)得到廣泛傳播，思想的種子已經(jīng)播下。如今，人們每次關(guān)于AI的重大行動(dòng)都繞不過(guò)這樣的詰問(wèn)：如何保證AI不威脅人類的生存？
博斯特羅姆開始轉(zhuǎn)向思考其他問(wèn)題。他認(rèn)為，人們已經(jīng)充分認(rèn)識(shí)到了AI的危險(xiǎn)，卻對(duì)它的反面知之甚淺——假如AI完全如人們預(yù)料般那樣友好、善良，解決了地球上現(xiàn)存的所有問(wèn)題，那會(huì)發(fā)生什么？
未必不是又一次全人類的滅燈時(shí)刻。
重新思考美好人生的定義
南風(fēng)窗：你撰寫《超級(jí)智能》時(shí)，多數(shù)人尚未意識(shí)到AI可能對(duì)人類文明構(gòu)成的生存威脅。你的思想具有超前性。這種對(duì)生存風(fēng)險(xiǎn)的擔(dān)憂是何時(shí)以及為何形成的？
博斯特羅姆：這要追溯到很久以前。1990年，17歲的我開始在當(dāng)?shù)貓D書館提交館際互借申請(qǐng)，索取關(guān)于神經(jīng)網(wǎng)絡(luò)的書籍或論文。那時(shí)我身邊沒有任何人對(duì)這個(gè)話題感興趣。到了90年代后半段，才有少數(shù)人開始在互聯(lián)網(wǎng)郵件上討論相關(guān)內(nèi)容。我在2008年左右著手創(chuàng)作《超級(jí)智能》，但即便該書在2014年出版時(shí)，這些議題仍屬邊緣，多數(shù)人視其為科幻或空想。但在我看來(lái)，AI終將成功是顯而易見的，這將是人類需要實(shí)現(xiàn)的最后一項(xiàng)發(fā)明，其潛在收益與風(fēng)險(xiǎn)都極為巨大。我寫這本書是為了讓人們更清晰地思考這些問(wèn)題，希望能推動(dòng)可擴(kuò)展的AI對(duì)齊方法研究，為最終到來(lái)的機(jī)器智能時(shí)代做好準(zhǔn)備。
南風(fēng)窗：能否闡述你所說(shuō)的“深度烏托邦”？從《超級(jí)智能》到《深度烏托邦》，是否意味著你對(duì)人類未來(lái)變得更樂(lè)觀？
博斯特羅姆：《超級(jí)智能》主要分析可能出錯(cuò)的情況，而《深度烏托邦》則探討一切順利時(shí)的景象。但這種焦點(diǎn)差異并不反映我樂(lè)觀程度的變化。就像硬幣的兩面：第一本書描述正面，第二本描述反面——而我們?nèi)圆恢烙矌艑⑷绾温涞?。最初我聚焦風(fēng)險(xiǎn)是因?yàn)楫?dāng)時(shí)這方面被嚴(yán)重忽視。這些年來(lái)，人們的認(rèn)知已發(fā)生重大轉(zhuǎn)變，現(xiàn)在有數(shù)百人從事AI安全與對(duì)齊研究，包括許多頂尖AI實(shí)驗(yàn)室。但關(guān)于人類處境積極發(fā)展的討論在我看來(lái)非常膚淺，因此我嘗試描繪這種可能性。我認(rèn)為這將引向一個(gè)與當(dāng)前人類狀態(tài)根本不同的“深度烏托邦”，屆時(shí)我們需要徹底重新思考美好人生的定義。
南風(fēng)窗：在《深度烏托邦》中，你構(gòu)想了一個(gè)技術(shù)已解決重大挑戰(zhàn)的“已解決世界”。你認(rèn)為這樣的未來(lái)能實(shí)現(xiàn)社會(huì)階層間的公平嗎？
博斯特羅姆：《深度烏托邦》并非預(yù)測(cè)性著作，也基本不涉及政治或社會(huì)組織問(wèn)題——當(dāng)然這些很重要。本書更關(guān)注的是：當(dāng)有朝一日我們成功消除當(dāng)前制約人類存在的諸多現(xiàn)實(shí)（及生物）限制時(shí)，哪些價(jià)值觀能讓人類或后人類生活充滿意義。當(dāng)AI和機(jī)器人能完美替代人類完成所有工作，人類將面臨經(jīng)濟(jì)冗余。但更重要的是，絕大多數(shù)工具性努力（不僅是經(jīng)濟(jì)動(dòng)機(jī)驅(qū)動(dòng)的）也將失去意義，我稱之為“深度冗余”狀態(tài)。此外在技術(shù)成熟階段，人類生物屬性和思維將完全可塑。當(dāng)更廣闊的存在模式空間開啟時(shí)，我們?cè)撊绾沃厮茏陨淼纳硇臓顟B(tài)？
南風(fēng)窗：在你的預(yù)測(cè)中，未來(lái)哪些價(jià)值維度會(huì)變得更加重要，哪些會(huì)逐漸弱化？
博斯特羅姆：當(dāng)前，許多人的自我價(jià)值感建立在通過(guò)技能和工作做出積極貢獻(xiàn)的能力上——無(wú)論是對(duì)自身、家庭還是整個(gè)社會(huì)。但在一個(gè)“已解決的世界”里，我們可能不再有這樣的貢獻(xiàn)機(jī)會(huì)：因?yàn)樽顕?yán)重的問(wèn)題早已被解決，而剩余問(wèn)題也將由AI更高效地處理。因此，“實(shí)用性”的價(jià)值焦點(diǎn)將逐漸消退。取而代之的可能是對(duì)游戲、審美體驗(yàn)、精神追求、崇拜或冥想、愛與友誼、對(duì)人與思想及傳統(tǒng)的尊崇、精致品味的培養(yǎng)、選擇性自我約束、儀式、文化參與和共同創(chuàng)造，以及純粹感官享受的重視。
首圖來(lái)源于豆包AI，關(guān)鍵詞：人工智能
言情小說(shuō)《隱婚蜜愛:偏執(zhí)老公寵上癮》為什么大家看了都忍不住點(diǎn)贊...
《隱婚蜜愛:偏執(zhí)老公寵上癮》極品寵文,身心干凈,歡迎跳坑!
致3本青春文:《隱婚蜜愛:偏執(zhí)老公寵上癮》全程虐心、意難平
