時(shí)刻新聞
示巧蘭
如果人工智能（AI）變得比人更聰明，如何保證AI系統(tǒng)受人類掌控且符合人類價(jià)值觀？
在7月26日舉行的2025世界人工智能大會(huì)暨人工智能全球治理高級(jí)別會(huì)議（WAIC）上，圖靈獎(jiǎng)得主、中國科學(xué)院院士姚期智接受第一財(cái)經(jīng)記者獨(dú)家專訪時(shí)談到了全球人工智能的治理問題。
他說，大家感覺到AGI（通用人工智能）的時(shí)代來臨得比想象中更快，隨之就會(huì)出現(xiàn)很多商業(yè)應(yīng)用，在此背景下AI的安全性就更為重要，因?yàn)橄啾葌鹘y(tǒng)的算法設(shè)計(jì)，AI的安全性沒有理論上的保證。還有一點(diǎn)就是近年來AI專家們認(rèn)為AGI到來以后可能比人還聰明，人類就很難控制它。
“AI安全治理是長期系統(tǒng)性的工作，同時(shí)也是理論性的工作，而中國近幾年跟國際接軌很頻繁，比如我們今天舉行的大會(huì)?！币ζ谥钦f。
就在WAIC開幕前的7月22日至25日，在AI安全國際論壇及第四屆AI安全國際對(duì)話中，包括諾貝爾獎(jiǎng)和圖靈獎(jiǎng)得主杰弗里·辛頓(GeoffreyHinton)教授，姚期智、加州大學(xué)伯克利分校計(jì)算機(jī)科學(xué)教授斯圖爾特·羅素(StuartRussell)等全球頂尖人工智能科學(xué)家齊聚上海，就未來人工智能系統(tǒng)可能超越人類智能水平帶來的失控風(fēng)險(xiǎn)，進(jìn)行了深入的交流與研討，并簽署了上海共識(shí)。
本次會(huì)議促成了《AI安全國際對(duì)話上海共識(shí)》(簡稱“上海共識(shí)”)，首次呼吁全球各國政府及研究人員“確保高級(jí)人工智能系統(tǒng)的對(duì)齊與人類控制，保障人類福祉”。共識(shí)指出，人工智能正迅速逼近并可能超越人類智能水平。然而，依據(jù)現(xiàn)有的系統(tǒng)欺瞞人類開發(fā)者的證據(jù)推測(cè)，具有超過人類智慧的人工智能系統(tǒng)可能在未來脫離人類控制或被不法分子利用，帶來災(zāi)難性風(fēng)險(xiǎn)。因此，全球研究者必須聯(lián)合起來，確保人工智能系統(tǒng)受人類掌控且符合人類價(jià)值觀。
共識(shí)認(rèn)為，全球主要國家和地區(qū)必須對(duì)接協(xié)調(diào)，采取可信的安全舉措，在能共同推進(jìn)的領(lǐng)域協(xié)同發(fā)力，在必要時(shí)自主行動(dòng)。需要在國際層面逐步建立互信機(jī)制，并加大對(duì)人工智能安全科學(xué)研究的投入。為了保障在不久的將來所有人類都能更好地生存，上海共識(shí)呼吁國際社會(huì)：要求前沿人工智能開發(fā)者提供安全保障；通過加強(qiáng)國際協(xié)調(diào)，共同確立并恪守可驗(yàn)證的全球性行為紅線；投資基于設(shè)計(jì)的安全人工智能研究。
姚期智告訴記者，將來人工智能帶來的巨大改變會(huì)達(dá)到什么程度，現(xiàn)在沒有人會(huì)知道，原則上如果把治理做得好，全球人民都可以擁有很好的生活。他認(rèn)為，在人工智能安全治理方面，上海有著天時(shí)地利人和的條件，上海的城市稟賦吸引海外的專家在此匯聚，未來在全球人工智能治理方面上海也將會(huì)是世界上最重要的中心之一。
姚期智在26日WAIC上主持圓桌討論
作為一位教育工作者，姚期智創(chuàng)建的清華大學(xué)“姚班”，培養(yǎng)了諸多計(jì)算機(jī)科學(xué)創(chuàng)新人才。面對(duì)快速發(fā)展的AGI，年輕學(xué)子應(yīng)該加強(qiáng)哪些方面的能力？
他告訴記者，年輕人要把基礎(chǔ)學(xué)業(yè)掌握好，比如數(shù)學(xué)、物理、計(jì)算機(jī)等。“將來的世界變化得很快，科技如何發(fā)展，什么樣的工作會(huì)存在，最后還是要靠這些基本的積累。因?yàn)楝F(xiàn)在流行的職業(yè)、流行的一種工作過兩年可能就不見了，誰能夠不斷地自主學(xué)習(xí)，能夠適應(yīng)世界的改變是唯一的安全保障?！?/p>
別忽略,那藏在書包里的玫瑰丨上書房?？北京青年周刊
青馬文化是《藏在書包里的玫瑰》的出品方，編輯沙來以細(xì)膩的筆觸對(duì)20個(gè)訪談主人公之一吉穎的故事進(jìn)行了剖析和解讀，我把她的文字加進(jìn)來，便于大家先睹為快-——。01 在接受采訪的人當(dāng)中，有一個(gè)叫做吉穎的女孩||。她是那種漂亮到讓人無法忽視的女孩，認(rèn)為她生來該過著眾星捧月的生活，但她卻有著極其痛苦而漫長的心路歷說完了|。
藏在書包里的“玫瑰”,處理不好就會(huì)扎人
安娜·莫羅·林白讀了后，對(duì)圣埃克蘇佩里要說的意思心領(lǐng)神會(huì)：“他寫的時(shí)候帶著病體，悲哀孤獨(dú)。他要走向犧牲、戰(zhàn)爭與死亡，深信在那里找到答案，但是答案并不在那里————?！?別具慧眼的還有另一個(gè)領(lǐng)域的一位藝術(shù)家_——?！缎⊥踝印吩诿绹苑ㄕZ與英語兩個(gè)版本同時(shí)出版后一個(gè)月，以《公民凱思》而名揚(yáng)全球的電影導(dǎo)演奧遜·后面會(huì)介紹_|。
軍中玫瑰永不凋零——憶新四軍老虎團(tuán)文化教員崔華
然而這時(shí)候，雙美麗已經(jīng)成功砍好了價(jià)，一個(gè)車夫答應(yīng)了兩塊的出價(jià)。兩個(gè)人合力把那包肥白的面粉先扔上車，面粉袋泰然占去了一個(gè)人的位置，母女倆只好擠成一團(tuán)。車窗玻璃外面掛著厚厚的霜花，車?yán)锏共焕?，沒想到三輪車?yán)锞尤贿€生著一只袖珍型的蜂窩煤爐，還有一支細(xì)細(xì)的煙囪從車頂上捅出去冒著煙。雙美麗使勁搓著有幫助請(qǐng)點(diǎn)贊_。
來源：紅網(wǎng)
作者：謝欣潔
編輯：張貞依
本文為紅辣椒評(píng)論 原創(chuàng)文章，僅系作者個(gè)人觀點(diǎn)，不代表紅網(wǎng)立場(chǎng)。轉(zhuǎn)載請(qǐng)附原文出處鏈接和本聲明。