7月26日,在2025世界人工智能大會(huì)暨人工智能全球治理高級(jí)別會(huì)議主論壇上,香港科技大學(xué)校董會(huì)主席、美國(guó)國(guó)家工程院外籍院士、英國(guó)皇家工程院外籍院士沈向洋與美國(guó)火箭初創(chuàng)公司RelativitySpaceCEO、前GoogleCEO埃里克·施密特進(jìn)行了一場(chǎng)“爐邊對(duì)話”,探討了中美兩國(guó)在人工智能大模型上的發(fā)展差異與合作可能。
埃里克·施密特首先比較了中美兩國(guó)的人工智能大模型,認(rèn)為其中一個(gè)明顯的區(qū)別就是:中國(guó)主要的領(lǐng)先的模型都是開源的,甚至開放權(quán)重的,但美國(guó)領(lǐng)先的模型大部分都是閉源的,也不開放權(quán)重。在兩種模式中,施密特更支持開源,認(rèn)為其好處是每個(gè)人可以分享軟件,各方可以合作。但他也不避諱其中的風(fēng)險(xiǎn),即如果被有心之人或國(guó)家利用,負(fù)面影響可能會(huì)加速擴(kuò)散。
對(duì)此,施密特認(rèn)為需要在過程中設(shè)置“護(hù)欄”,即在大模型的訓(xùn)練中,與人類的價(jià)值觀進(jìn)行對(duì)齊:“因?yàn)锳I非常強(qiáng)大,在接下來的三年左右,系統(tǒng)會(huì)自己進(jìn)行學(xué)習(xí),自我改進(jìn)。在這一個(gè)點(diǎn)上我們要非常小心,要理解他們到底學(xué)什么,他們可以學(xué)好的事情,也可能學(xué)習(xí)不好的事情。”
從防范風(fēng)險(xiǎn)的角度來看,施密特認(rèn)為最重要的是推動(dòng)中美兩國(guó)之間的合作,因?yàn)楸舜斯餐睦嬖谟冢屖澜绶€(wěn)定和平,確保人類能夠控制住這些工具?!拔覀儸F(xiàn)在不知道紅線在哪里,我覺得重要的是中國(guó)、美國(guó)和其他國(guó)家要達(dá)成一致?!?/p>
施密特表示,對(duì)待人工智能發(fā)展,自己是一個(gè)樂觀主義者。他認(rèn)為,在接下來的兩年中,會(huì)涌現(xiàn)一批智能體,可以通過語言記憶來完成任務(wù),即人類發(fā)出語言指令,智能體記住指令,然后采取行動(dòng)。這將對(duì)每個(gè)企業(yè)、每個(gè)政府的工作流產(chǎn)生巨大的影響?!跋乱徊降闹攸c(diǎn)就是研究更多深度的推理與更多先進(jìn)的算法。相信未來5年,我們會(huì)在社會(huì)上看到很多很好的變化?!?/p>
原標(biāo)題:《該防止AI學(xué)壞了,前GoogleCEO埃里克·施密特:中美合作,設(shè)置護(hù)欄》
欄目主編:吳衛(wèi)群
來源:作者:解放日?qǐng)?bào)葉宇
星辰變:第一季多少集,主要講哪些內(nèi)容?
《星辰變》第一季完美收官,秦德渡劫成功,秦羽戰(zhàn)死了???影視動(dòng)漫咖
星辰變第一季:秦羽遺言與星辰大海的征程
免責(zé)聲明:本文內(nèi)容由開放的智能模型自動(dòng)生成,僅供參考。