在 這 場 法 考 中 我 允 許 你 先 笑 一 會(huì) ?。?/a>
7月26日，在2025世界人工智能大會(huì)暨人工智能全球治理高級(jí)別會(huì)議主論壇上，香港科技大學(xué)校董會(huì)主席、美國國家工程院外籍院士、英國皇家工程院外籍院士沈向洋與美國火箭初創(chuàng)公司RelativitySpaceCEO、前GoogleCEO埃里克·施密特進(jìn)行了一場“爐邊對(duì)話”，探討了中美兩國在人工智能大模型上的發(fā)展差異與合作可能。
埃里克·施密特首先比較了中美兩國的人工智能大模型，認(rèn)為其中一個(gè)明顯的區(qū)別就是：中國主要的領(lǐng)先的模型都是開源的，甚至開放權(quán)重的，但美國領(lǐng)先的模型大部分都是閉源的，也不開放權(quán)重。在兩種模式中，施密特更支持開源，認(rèn)為其好處是每個(gè)人可以分享軟件，各方可以合作。但他也不避諱其中的風(fēng)險(xiǎn)，即如果被有心之人或國家利用，負(fù)面影響可能會(huì)加速擴(kuò)散。
對(duì)此，施密特認(rèn)為需要在過程中設(shè)置“護(hù)欄”，即在大模型的訓(xùn)練中，與人類的價(jià)值觀進(jìn)行對(duì)齊：“因?yàn)锳I非常強(qiáng)大，在接下來的三年左右，系統(tǒng)會(huì)自己進(jìn)行學(xué)習(xí)，自我改進(jìn)。在這一個(gè)點(diǎn)上我們要非常小心，要理解他們到底學(xué)什么，他們可以學(xué)好的事情，也可能學(xué)習(xí)不好的事情?！?/p>
從防范風(fēng)險(xiǎn)的角度來看，施密特認(rèn)為最重要的是推動(dòng)中美兩國之間的合作，因?yàn)楸舜斯餐睦嬖谟?，要讓世界穩(wěn)定和平，確保人類能夠控制住這些工具?！拔覀儸F(xiàn)在不知道紅線在哪里，我覺得重要的是中國、美國和其他國家要達(dá)成一致。”
施密特表示，對(duì)待人工智能發(fā)展，自己是一個(gè)樂觀主義者。他認(rèn)為，在接下來的兩年中，會(huì)涌現(xiàn)一批智能體，可以通過語言記憶來完成任務(wù)，即人類發(fā)出語言指令，智能體記住指令，然后采取行動(dòng)。這將對(duì)每個(gè)企業(yè)、每個(gè)政府的工作流產(chǎn)生巨大的影響?！跋乱徊降闹攸c(diǎn)就是研究更多深度的推理與更多先進(jìn)的算法。相信未來5年，我們會(huì)在社會(huì)上看到很多很好的變化?！?/p>
原標(biāo)題：《該防止AI學(xué)壞了，前GoogleCEO埃里克·施密特：中美合作，設(shè)置護(hù)欄》
欄目主編：吳衛(wèi)群
來源：作者：解放日?qǐng)?bào)葉宇
雙重身份超級(jí)戰(zhàn)神葉昊,化身都市最強(qiáng)兵王,桃花運(yùn)不斷
都市:他是雇傭兵世界的王者,他是令各國元首頭疼的兵王!
《都市最強(qiáng)兵王》,封神之作還是徒有虛名?進(jìn)來看看就知道了
