7月26日，在2025世界人工智能大會暨人工智能全球治理高級別會議主論壇上，香港科技大學(xué)校董會主席、美國國家工程院外籍院士、英國皇家工程院外籍院士沈向洋與美國火箭初創(chuàng)公司RelativitySpaceCEO、前GoogleCEO埃里克·施密特進(jìn)行了一場“爐邊對話”，探討了中美兩國在人工智能大模型上的發(fā)展差異與合作可能。

埃里克·施密特首先比較了中美兩國的人工智能大模型，認(rèn)為其中一個明顯的區(qū)別就是：中國主要的領(lǐng)先的模型都是開源的，甚至開放權(quán)重的，但美國領(lǐng)先的模型大部分都是閉源的，也不開放權(quán)重。在兩種模式中，施密特更支持開源，認(rèn)為其好處是每個人可以分享軟件，各方可以合作。但他也不避諱其中的風(fēng)險，即如果被有心之人或國家利用，負(fù)面影響可能會加速擴(kuò)散。

對此，施密特認(rèn)為需要在過程中設(shè)置“護(hù)欄”，即在大模型的訓(xùn)練中，與人類的價值觀進(jìn)行對齊：“因為AI非常強(qiáng)大，在接下來的三年左右，系統(tǒng)會自己進(jìn)行學(xué)習(xí)，自我改進(jìn)。在這一個點上我們要非常小心，要理解他們到底學(xué)什么，他們可以學(xué)好的事情，也可能學(xué)習(xí)不好的事情?！?/p>

從防范風(fēng)險的角度來看，施密特認(rèn)為最重要的是推動中美兩國之間的合作，因為彼此共同的利益在于，要讓世界穩(wěn)定和平，確保人類能夠控制住這些工具。“我們現(xiàn)在不知道紅線在哪里，我覺得重要的是中國、美國和其他國家要達(dá)成一致?！?/p>

施密特表示，對待人工智能發(fā)展，自己是一個樂觀主義者。他認(rèn)為，在接下來的兩年中，會涌現(xiàn)一批智能體，可以通過語言記憶來完成任務(wù)，即人類發(fā)出語言指令，智能體記住指令，然后采取行動。這將對每個企業(yè)、每個政府的工作流產(chǎn)生巨大的影響?！跋乱徊降闹攸c就是研究更多深度的推理與更多先進(jìn)的算法。相信未來5年，我們會在社會上看到很多很好的變化?！?/p>

原標(biāo)題：《該防止AI學(xué)壞了，前GoogleCEO埃里克·施密特：中美合作，設(shè)置護(hù)欄》

欄目主編：吳衛(wèi)群

來源：作者：解放日報葉宇