7月26日，在2025世界人工智能大會暨人工智能全球治理高級別會議主論壇上，香港科技大學校董會主席、美國國家工程院外籍院士、英國皇家工程院外籍院士沈向洋與美國火箭初創(chuàng)公司RelativitySpaceCEO、前GoogleCEO埃里克·施密特進行了一場“爐邊對話”，探討了中美兩國在人工智能大模型上的發(fā)展差異與合作可能。
埃里克·施密特首先比較了中美兩國的人工智能大模型，認為其中一個明顯的區(qū)別就是：中國主要的領(lǐng)先的模型都是開源的，甚至開放權(quán)重的，但美國領(lǐng)先的模型大部分都是閉源的，也不開放權(quán)重。在兩種模式中，施密特更支持開源，認為其好處是每個人可以分享軟件，各方可以合作。但他也不避諱其中的風險，即如果被有心之人或國家利用，負面影響可能會加速擴散。
對此，施密特認為需要在過程中設(shè)置“護欄”，即在大模型的訓練中，與人類的價值觀進行對齊：“因為AI非常強大，在接下來的三年左右，系統(tǒng)會自己進行學習，自我改進。在這一個點上我們要非常小心，要理解他們到底學什么，他們可以學好的事情，也可能學習不好的事情?！?/p>
從防范風險的角度來看，施密特認為最重要的是推動中美兩國之間的合作，因為彼此共同的利益在于，要讓世界穩(wěn)定和平，確保人類能夠控制住這些工具?！拔覀儸F(xiàn)在不知道紅線在哪里，我覺得重要的是中國、美國和其他國家要達成一致?！?/p>
施密特表示，對待人工智能發(fā)展，自己是一個樂觀主義者。他認為，在接下來的兩年中，會涌現(xiàn)一批智能體，可以通過語言記憶來完成任務，即人類發(fā)出語言指令，智能體記住指令，然后采取行動。這將對每個企業(yè)、每個政府的工作流產(chǎn)生巨大的影響?！跋乱徊降闹攸c就是研究更多深度的推理與更多先進的算法。相信未來5年，我們會在社會上看到很多很好的變化?！?/p>
原標題：《該防止AI學壞了，前GoogleCEO埃里克·施密特：中美合作，設(shè)置護欄》
欄目主編：吳衛(wèi)群
來源：作者：解放日報葉宇
