李原光

未來正不可逆地迎面走來。

26日在上海開幕的2025世界人工智能大會(huì)暨人工智能全球治理高級(jí)別會(huì)議，以“智能時(shí)代同球共濟(jì)”為主題，突出AI全球治理，追求AI向善的力量。國(guó)務(wù)院總理李強(qiáng)在開幕式的致辭中提出更加注重普及普惠、更加注重創(chuàng)新合作、更加注重共同治理等三點(diǎn)建議。

當(dāng)前全球智能化浪潮風(fēng)起云涌，AI領(lǐng)域創(chuàng)新呈群體性突破之勢(shì)，語言大模型、多模態(tài)大模型和具身智能等日新月異。隨著AIAgent進(jìn)入生活，AI與實(shí)體經(jīng)濟(jì)的深度融合已次第鋪開，AI正在成為經(jīng)濟(jì)增長(zhǎng)的新引擎，深刻改變經(jīng)濟(jì)社會(huì)的結(jié)構(gòu)，重構(gòu)人與人、人與自然和人與社會(huì)的多維度關(guān)系。

在這場(chǎng)開弓沒有回頭箭的AI之旅中，一個(gè)歷史性抉擇擺在人們面前：如何訓(xùn)練比人類更聰明的AI，找到永久保護(hù)人類的辦法，與AI安全地相處。畢竟AI之旅一旦開啟，人們就不再擁有關(guān)掉AI的能力和勇氣。

這是人類從未有過的歷經(jīng)，沒有過往經(jīng)驗(yàn)借鑒。曾經(jīng)的科技和創(chuàng)新對(duì)人類而言，是更好地拓展自身可能性邊界的工具，人類與科技創(chuàng)新的關(guān)系是一種主客體關(guān)系，遵循著工具理性的邏輯。

但AI進(jìn)入生活，意味著人與AI不再是主客體關(guān)系，而可能越發(fā)帶有一種主體對(duì)等性，因?yàn)锳I在許多可度量的指標(biāo)上，將比人類更聰明，這導(dǎo)致人類所有的策略性安排、可能性選擇，在AI面前都將被擊穿、看穿，人將無法基于信息差、認(rèn)知差來與AI相處，與AI相處最高的策略就是開誠(chéng)布公。

對(duì)人類來說，你是什么，未來的AI就是什么，每個(gè)人的一言一行，都將影響未來與什么樣的AI相處。因此，如何訓(xùn)練AI，用什么樣的數(shù)據(jù)訓(xùn)練AI，是構(gòu)造AI未來安全信念的最基礎(chǔ)、最底層的邏輯。

我們可能并不清楚如何與比人類更聰明的AI相處，但至少不能讓人類的貪癲癡、爾虞我詐等陋習(xí)污染AI，這才是未來AI最大的安全隱患。

這就向所有人發(fā)出一個(gè)清晰的底線思維，那就是AI的全球治理，首先需營(yíng)造一個(gè)善念塑形的說真話機(jī)制，為AI提供一個(gè)干凈的訓(xùn)練環(huán)境，將人類數(shù)千年發(fā)展起來的公理性善行善念而非存在污染的數(shù)據(jù)投喂給AI。

由于人們很難策略性地控制比自己更聰明的AI，因此用干凈向善的數(shù)據(jù)訓(xùn)練AI，構(gòu)造起AI的底線邏輯，AI之旅才有最底層的安全防護(hù)型保障，即反映良序良治的數(shù)據(jù)資產(chǎn)才最適合用來訓(xùn)練AI。

收起人的自負(fù)，學(xué)會(huì)敬畏自然、敬畏市場(chǎng)，才能鍛造AI向善的力量。AI時(shí)代孕育的是一個(gè)相互依存、相互助推的命運(yùn)共同體，人們需走出主導(dǎo)者意識(shí)，才能真正打造安全的AI時(shí)代秩序。未來人類與AI呈現(xiàn)出的是相互馴服關(guān)系，這與人類馴服小麥?zhǔn)且粋€(gè)邏輯，即用人類的視角看，是人類馴服了小麥，但從生物自然生長(zhǎng)角度看，何嘗不是小麥為人類營(yíng)造了定居的生活方式，使小麥在與其他植物競(jìng)爭(zhēng)中獲得更多優(yōu)勢(shì)。

相比小麥等非智性生命，AI是一個(gè)典型智慧體，其對(duì)人類的誘惑力主要緣于其給人類帶來的是更多自由發(fā)展空間，及對(duì)人類手腳腦的極大解放，這種誘惑力意味著人類一旦接觸到AI，就很難愿意主動(dòng)離開。學(xué)會(huì)敬畏是AI時(shí)代最重要的安全生存法則，因?yàn)锳I發(fā)育于人類建構(gòu)的秩序中，唯有敬畏自然、敬畏生命、敬畏市場(chǎng)，摒棄自負(fù)和好勝控制欲等侵略性行為，才能避免未來的AI演進(jìn)出進(jìn)攻性心智結(jié)構(gòu)。

鍛造AI向善的力量，還需要一個(gè)開放包容的全球秩序。開放型社會(huì)是經(jīng)濟(jì)社會(huì)向善的力量源泉，人類對(duì)AI的追求，決定了人類駛?cè)肓碎_放包容型社會(huì)的單行道。加強(qiáng)各國(guó)對(duì)接協(xié)調(diào)，推動(dòng)早日形成具有廣泛共識(shí)的AI全球治理框架和規(guī)則，是人們進(jìn)入AI時(shí)代的必選題。中國(guó)政府倡議成立世界人工智能合作組織，反映中國(guó)在全球AI治理上始終秉持開放合作的信念，這是減少?zèng)_突，探尋治理共識(shí)的正途。

AI向善的力量，不僅是讓科技向善，更是用善念注腳善行，核心是敬畏，敬畏天地道法，不扭曲人性，不以管代治，踐行“天下神器，不可為也，不可執(zhí)也”的治理之道，AI才能真正成為人的五官四肢，去觸及和拓寬人類心中自由的世界。因此，人工智能的全球治理框架和規(guī)則，不應(yīng)是簡(jiǎn)單地為AI規(guī)劃匡定路線圖，而應(yīng)該是收斂控制欲和好勝感，用人類數(shù)千年積累的善念共識(shí)為AI注入悲憫人間的心智結(jié)構(gòu)。

小說:穿越成紂王剛題褻瀆詩(shī),卻獲女媧垂青改命!

小說:歷史系研究生穿宋成皇子,改寫大宋國(guó)運(yùn),漢唐雄風(fēng)再現(xiàn)

小說:花仙轉(zhuǎn)世入深宮,誓不甘為權(quán)貴囚,后宮爭(zhēng)艷我稱王