如果人工智能（AI）變得比人更聰明，如何保證AI系統(tǒng)受人類(lèi)掌控且符合人類(lèi)價(jià)值觀？

在7月26日舉行的2025世界人工智能大會(huì)暨人工智能全球治理高級(jí)別會(huì)議（WAIC）上，圖靈獎(jiǎng)得主、中國(guó)科學(xué)院院士姚期智接受第一財(cái)經(jīng)記者獨(dú)家專(zhuān)訪時(shí)談到了全球人工智能的治理問(wèn)題。

他說(shuō)，大家感覺(jué)到AGI（通用人工智能）的時(shí)代來(lái)臨得比想象中更快，隨之就會(huì)出現(xiàn)很多商業(yè)應(yīng)用，在此背景下AI的安全性就更為重要，因?yàn)橄啾葌鹘y(tǒng)的算法設(shè)計(jì)，AI的安全性沒(méi)有理論上的保證。還有一點(diǎn)就是近年來(lái)AI專(zhuān)家們認(rèn)為AGI到來(lái)以后可能比人還聰明，人類(lèi)就很難控制它。

“AI安全治理是長(zhǎng)期系統(tǒng)性的工作，同時(shí)也是理論性的工作，而中國(guó)近幾年跟國(guó)際接軌很頻繁，比如我們今天舉行的大會(huì)?！币ζ谥钦f(shuō)。

就在WAIC開(kāi)幕前的7月22日至25日，在AI安全國(guó)際論壇及第四屆AI安全國(guó)際對(duì)話中，包括諾貝爾獎(jiǎng)和圖靈獎(jiǎng)得主杰弗里·辛頓(GeoffreyHinton)教授，姚期智、加州大學(xué)伯克利分校計(jì)算機(jī)科學(xué)教授斯圖爾特·羅素(StuartRussell)等全球頂尖人工智能科學(xué)家齊聚上海，就未來(lái)人工智能系統(tǒng)可能超越人類(lèi)智能水平帶來(lái)的失控風(fēng)險(xiǎn)，進(jìn)行了深入的交流與研討，并簽署了上海共識(shí)。

本次會(huì)議促成了《AI安全國(guó)際對(duì)話上海共識(shí)》(簡(jiǎn)稱(chēng)“上海共識(shí)”)，首次呼吁全球各國(guó)政府及研究人員“確保高級(jí)人工智能系統(tǒng)的對(duì)齊與人類(lèi)控制，保障人類(lèi)福祉”。共識(shí)指出，人工智能正迅速逼近并可能超越人類(lèi)智能水平。然而，依據(jù)現(xiàn)有的系統(tǒng)欺瞞人類(lèi)開(kāi)發(fā)者的證據(jù)推測(cè)，具有超過(guò)人類(lèi)智慧的人工智能系統(tǒng)可能在未來(lái)脫離人類(lèi)控制或被不法分子利用，帶來(lái)災(zāi)難性風(fēng)險(xiǎn)。因此，全球研究者必須聯(lián)合起來(lái)，確保人工智能系統(tǒng)受人類(lèi)掌控且符合人類(lèi)價(jià)值觀。

共識(shí)認(rèn)為，全球主要國(guó)家和地區(qū)必須對(duì)接協(xié)調(diào)，采取可信的安全舉措，在能共同推進(jìn)的領(lǐng)域協(xié)同發(fā)力，在必要時(shí)自主行動(dòng)。需要在國(guó)際層面逐步建立互信機(jī)制，并加大對(duì)人工智能安全科學(xué)研究的投入。為了保障在不久的將來(lái)所有人類(lèi)都能更好地生存，上海共識(shí)呼吁國(guó)際社會(huì)：要求前沿人工智能開(kāi)發(fā)者提供安全保障；通過(guò)加強(qiáng)國(guó)際協(xié)調(diào)，共同確立并恪守可驗(yàn)證的全球性行為紅線；投資基于設(shè)計(jì)的安全人工智能研究。

姚期智告訴記者，將來(lái)人工智能帶來(lái)的巨大改變會(huì)達(dá)到什么程度，現(xiàn)在沒(méi)有人會(huì)知道，原則上如果把治理做得好，全球人民都可以擁有很好的生活。他認(rèn)為，在人工智能安全治理方面，上海有著天時(shí)地利人和的條件，上海的城市稟賦吸引海外的專(zhuān)家在此匯聚，未來(lái)在全球人工智能治理方面上海也將會(huì)是世界上最重要的中心之一。

姚期智在26日WAIC上主持圓桌討論

作為一位教育工作者，姚期智創(chuàng)建的清華大學(xué)“姚班”，培養(yǎng)了諸多計(jì)算機(jī)科學(xué)創(chuàng)新人才。面對(duì)快速發(fā)展的AGI，年輕學(xué)子應(yīng)該加強(qiáng)哪些方面的能力？

他告訴記者，年輕人要把基礎(chǔ)學(xué)業(yè)掌握好，比如數(shù)學(xué)、物理、計(jì)算機(jī)等?！皩?lái)的世界變化得很快，科技如何發(fā)展，什么樣的工作會(huì)存在，最后還是要靠這些基本的積累。因?yàn)楝F(xiàn)在流行的職業(yè)、流行的一種工作過(guò)兩年可能就不見(jiàn)了，誰(shuí)能夠不斷地自主學(xué)習(xí)，能夠適應(yīng)世界的改變是唯一的安全保障?！?/p>

閃婚厚愛(ài):禁錮你的心跳 免費(fèi)漫畫(huà)「下拉觀看」-第25話 你成功勾引...

閃婚厚愛(ài)：禁錮你的心跳她，裴初九，為救弟弟，她不但忍辱負(fù)重，還被陷害惹怒了墨氏總裁！出獄后，她立志在娛樂(lè)圈出人頭地，不再受人欺負(fù)，不料那個(gè)嫌棄她的墨總裁卻對(duì)她糾纏不休，還威脅她要和他結(jié)婚？婚后更是是什么_——。愛(ài)她成癮，寵她成災(zāi)？?她怒，“你這個(gè)騙子！”他挑眉，“再撒嬌就懲罰你！”【獨(dú)家/每周日更新/責(zé)編：菓子】 生活如此多驕！今天的你是活潑呢、安靜呢、還是暴躁呢！無(wú)論如何，搞笑漫畫(huà)來(lái)一發(fā)，出其不意的笑點(diǎn)讓你眼前一亮，笑到腹痛忘記煩惱事！所以，今天小編要給大家介紹搞笑漫畫(huà)：要逃離學(xué)校禁錮的大叔學(xué)生石頭在學(xué)校將校服弄臟了，于是就叫石爸給自己送一套新的校服過(guò)來(lái)。怎么知道，石爸在來(lái)的時(shí)候，不小心也被油漆等會(huì)說(shuō)|_。

...厚愛(ài):禁錮你的心跳漫畫(huà)(凜月寒(原著))免費(fèi)閱讀觀看-69中文網(wǎng)漫畫(huà)

閃婚厚愛(ài)：禁錮你的心跳漫畫(huà)_閃婚厚愛(ài)：禁錮你的心跳漫畫(huà)(凜月寒(原著))免費(fèi)閱讀觀看-69中文網(wǎng)漫畫(huà)閃婚厚愛(ài)：禁錮你的心跳她，裴初九，為救弟弟，她不但忍辱負(fù)重，還被陷害惹怒了墨氏總裁！出獄后，她立志在娛樂(lè)圈出人頭地，不再受人欺負(fù)，不料那個(gè)嫌棄她的墨總裁卻對(duì)她糾纏不休，還威脅她要和他結(jié)婚？婚后更是有幫助請(qǐng)點(diǎn)贊。愛(ài)她有幫助請(qǐng)點(diǎn)贊|-。