如果人工智能（AI）變得比人更聰明，如何保證AI系統(tǒng)受人類掌控且符合人類價值觀？
在7月26日舉行的2025世界人工智能大會暨人工智能全球治理高級別會議（WAIC）上，圖靈獎得主、中國科學(xué)院院士姚期智接受第一財經(jīng)記者獨家專訪時談到了全球人工智能的治理問題。
他說，大家感覺到AGI（通用人工智能）的時代來臨得比想象中更快，隨之就會出現(xiàn)很多商業(yè)應(yīng)用，在此背景下AI的安全性就更為重要，因為相比傳統(tǒng)的算法設(shè)計，AI的安全性沒有理論上的保證。還有一點就是近年來AI專家們認(rèn)為AGI到來以后可能比人還聰明，人類就很難控制它。
“AI安全治理是長期系統(tǒng)性的工作，同時也是理論性的工作，而中國近幾年跟國際接軌很頻繁，比如我們今天舉行的大會?！币ζ谥钦f。
就在WAIC開幕前的7月22日至25日，在AI安全國際論壇及第四屆AI安全國際對話中，包括諾貝爾獎和圖靈獎得主杰弗里·辛頓(GeoffreyHinton)教授，姚期智、加州大學(xué)伯克利分校計算機(jī)科學(xué)教授斯圖爾特·羅素(StuartRussell)等全球頂尖人工智能科學(xué)家齊聚上海，就未來人工智能系統(tǒng)可能超越人類智能水平帶來的失控風(fēng)險，進(jìn)行了深入的交流與研討，并簽署了上海共識。
本次會議促成了《AI安全國際對話上海共識》(簡稱“上海共識”)，首次呼吁全球各國政府及研究人員“確保高級人工智能系統(tǒng)的對齊與人類控制，保障人類福祉”。共識指出，人工智能正迅速逼近并可能超越人類智能水平。然而，依據(jù)現(xiàn)有的系統(tǒng)欺瞞人類開發(fā)者的證據(jù)推測，具有超過人類智慧的人工智能系統(tǒng)可能在未來脫離人類控制或被不法分子利用，帶來災(zāi)難性風(fēng)險。因此，全球研究者必須聯(lián)合起來，確保人工智能系統(tǒng)受人類掌控且符合人類價值觀。
共識認(rèn)為，全球主要國家和地區(qū)必須對接協(xié)調(diào)，采取可信的安全舉措，在能共同推進(jìn)的領(lǐng)域協(xié)同發(fā)力，在必要時自主行動。需要在國際層面逐步建立互信機(jī)制，并加大對人工智能安全科學(xué)研究的投入。為了保障在不久的將來所有人類都能更好地生存，上海共識呼吁國際社會：要求前沿人工智能開發(fā)者提供安全保障；通過加強(qiáng)國際協(xié)調(diào)，共同確立并恪守可驗證的全球性行為紅線；投資基于設(shè)計的安全人工智能研究。
姚期智告訴記者，將來人工智能帶來的巨大改變會達(dá)到什么程度，現(xiàn)在沒有人會知道，原則上如果把治理做得好，全球人民都可以擁有很好的生活。他認(rèn)為，在人工智能安全治理方面，上海有著天時地利人和的條件，上海的城市稟賦吸引海外的專家在此匯聚，未來在全球人工智能治理方面上海也將會是世界上最重要的中心之一。
姚期智在26日WAIC上主持圓桌討論
作為一位教育工作者，姚期智創(chuàng)建的清華大學(xué)“姚班”，培養(yǎng)了諸多計算機(jī)科學(xué)創(chuàng)新人才。面對快速發(fā)展的AGI，年輕學(xué)子應(yīng)該加強(qiáng)哪些方面的能力？
他告訴記者，年輕人要把基礎(chǔ)學(xué)業(yè)掌握好，比如數(shù)學(xué)、物理、計算機(jī)等?！皩淼氖澜缱兓煤芸?，科技如何發(fā)展，什么樣的工作會存在，最后還是要靠這些基本的積累。因為現(xiàn)在流行的職業(yè)、流行的一種工作過兩年可能就不見了，誰能夠不斷地自主學(xué)習(xí)，能夠適應(yīng)世界的改變是唯一的安全保障?！?/p>
《金剛川》:框架,填充和升華,是家國與戰(zhàn)爭的剖析?？梁良公子影評
那裂縫，就是人性里的血肉模糊，混沌粘稠——。錢鐘書那句話我們都讀過：婚姻就像一座圍城，城里的人想出逃，城外人想沖進(jìn)來。《圍城》但許多人不知道，這句話還有前一句。更直接戳破當(dāng)中的殘酷——“結(jié)婚仿佛金漆的鳥籠，籠子外面的鳥想住進(jìn)去，籠內(nèi)的鳥想飛出來；所以結(jié)而離，離而結(jié)，沒有了局?！薄斗蚱奘澜纭纷钣袔椭堻c贊——-。
你見過哪些絕妙的翻譯?
茅盾、巴金、老舍、冰心、曹禺、丁玲、艾青、端木蕻良、蕭乾、錢鐘書、沈從文、俞平伯、汪曾祺、吳祖光……這些名字，每一個單獨拉出來，都是響當(dāng)當(dāng)；合在一起，幾乎占據(jù)了半部現(xiàn)當(dāng)代文學(xué)史-。近日，香港作家潘耀明新作《這情感仍會在你心中流動》由作家出版社出版，書中記錄了他與上述多位文化名人的交往故事。潘耀明等我繼續(xù)說_-。
說一說正確的讀書方式
在《無問西東》的片尾，有一段別具匠心的“七分鐘讀懂中國風(fēng)骨”彩蛋，堪稱影片的點睛之筆。這段彩蛋不僅記錄了影片中悄然出現(xiàn)、為人熟知的歷史名人與國學(xué)大師，如梅貽琦、梁啟超、聞一多、朱自清、錢鐘書等，更在片尾字幕中一一介紹了他們的卓越貢獻(xiàn)|。這些歷史人物的精神風(fēng)貌和貢獻(xiàn)令人感動，彰顯了清華精神的傳承。家庭有幫助請點贊——-。
延伸閱讀：與 AGI時代比想象中來得快安全治理是一個：長、期工作 的相關(guān)文章
如何評價女演員高葉?
00后男生老了 VS 女生老了
李小冉回懟網(wǎng)友：我就是情商好低
下一代的高鐵，將會是什么樣子？
評論區(qū)攝影大賽直擊人心篇來了，本期作品都非常優(yōu)秀歡迎投稿好的作品會讓更多人看到
中方敦促烏方立即糾正錯誤
我抓住了MC里最可愛的生物?。?/a>
地球OL外掛使用說明
堪比家具城的成龍
十年積蓄毀于洪水，但他們樂觀面對失去，我們?yōu)樗麄冎饻嘏謭怨痰男录摇?/a>
