7月26日,2025世界人工智能大會(huì)(WAIC)在上海正式開(kāi)幕。大會(huì)迎來(lái)了“AI教父”級(jí)別的重量級(jí)演講嘉賓--諾貝爾獎(jiǎng)和圖靈獎(jiǎng)得主杰弗里·辛頓(GeoffreyHinton)。
這是辛頓首次訪問(wèn)中國(guó)并進(jìn)行演講。77歲的辛頓長(zhǎng)期受腰椎間盤(pán)疾病的困擾,身體欠佳的他幾乎無(wú)法坐飛機(jī)。谷歌團(tuán)隊(duì)曾為邀請(qǐng)他去英國(guó)考察DeepMind團(tuán)隊(duì)特地包下私人飛機(jī),并改造了座椅。
辛頓還在WAIC開(kāi)幕前一天參加了第四屆人工智能國(guó)際安全對(duì)話(InternationalDialoguesonAlSafety,IDAIS),并與20余名人工智能行業(yè)專家聯(lián)名簽署發(fā)布了《AI安全國(guó)際對(duì)話上海共識(shí)》。
在最新的演講中,他談及“數(shù)字智能是否會(huì)取代生物智能”的問(wèn)題,并討論了AI可能帶來(lái)的挑戰(zhàn)與潛在的應(yīng)對(duì)方法。辛頓此前已多次在公開(kāi)信和演講中指出,當(dāng)前AI系統(tǒng)已經(jīng)具備自主學(xué)習(xí)和演化的潛能。
辛頓指出,在過(guò)去60多年里,AI發(fā)展存在兩種不同的范式和路徑--以符號(hào)型的邏輯性范式以及以生物為基礎(chǔ)的范式。1985年,辛頓做了一個(gè)小模型,嘗試結(jié)合這兩種理論,以解釋人們?nèi)绾卫斫庠~匯。
“我認(rèn)為,如今的大語(yǔ)言模型就是我當(dāng)年微型語(yǔ)言模型的衍生?!彼硎荆八鼈兪褂酶嘣~作為輸入,采用更多層的神經(jīng)元結(jié)構(gòu),由于需要處理大量模糊數(shù)字,學(xué)習(xí)特征之間也建立了更復(fù)雜的交互模式。但和我做的小模型一樣,大語(yǔ)言模型理解語(yǔ)言的方式與人類相似--基本邏輯是將語(yǔ)言轉(zhuǎn)化為特征,再以完美的方式整合這些特征。因此大語(yǔ)言模型和人類理解語(yǔ)言的方式相同,也會(huì)產(chǎn)生'幻覺(jué)'?!?/p>
在談及生物智能時(shí),辛頓表示,幾乎所有專家都認(rèn)為,人類會(huì)創(chuàng)造出比人類更智能的Al?!叭祟惲?xí)慣了作為最智能的生物,很難想象AI超越人類的場(chǎng)景?!彼f(shuō)道,“我們創(chuàng)造的AI智能體已能幫我們完成任務(wù),未來(lái)還會(huì)為了生存和完成目標(biāo)而尋求更多控制權(quán)?!?/p>
在WAIC上,辛頓再次拿出他的經(jīng)典比喻,他表示:“人類就像撫養(yǎng)幼小的虎崽,除非你能非常確定它長(zhǎng)大后不會(huì)傷害你,否則你就應(yīng)該擔(dān)心?!?/p>
辛頓認(rèn)為,這種努力應(yīng)該是全球性的。但他坦言,各國(guó)不會(huì)在防御AI的危險(xiǎn)用途上進(jìn)行合作,他寄希望于國(guó)際社會(huì)在“預(yù)防AI統(tǒng)治世界”這一問(wèn)題上達(dá)成一致,防止AI從人類手中奪走控制權(quán)。
“人類應(yīng)當(dāng)建立AI安全機(jī)構(gòu)的國(guó)際社群,研究訓(xùn)練AI向善的技巧。這就好比‘教導(dǎo)孩子成為一個(gè)好人’與‘讓他們變得更聰明’是兩碼事?!彼硎?。
辛頓提議,各國(guó)可在本國(guó)主權(quán)范圍內(nèi)研究并分享成果(在允許的范圍內(nèi)),全球或AI領(lǐng)導(dǎo)國(guó)家應(yīng)思考建立相關(guān)網(wǎng)絡(luò),研究如何訓(xùn)練聰明的AI輔助人類而非消滅或統(tǒng)治人類。“這將是人類長(zhǎng)期面臨的重要問(wèn)題?!彼f(shuō)道。
辛頓從80年代開(kāi)始就戰(zhàn)斗在人工智能的最前線,被視為深度學(xué)習(xí)領(lǐng)域的教父級(jí)人物。2012年,辛頓團(tuán)隊(duì)開(kāi)發(fā)的算法AlexNet,采用了一種名叫卷積神經(jīng)網(wǎng)絡(luò)(ConvolutionalNeuralNetworks,簡(jiǎn)稱CNN)的算法——這是人工智能領(lǐng)域是個(gè)極其高頻的詞匯,也是機(jī)器學(xué)習(xí)的一個(gè)重要分支。
辛頓是極少數(shù)很早就意識(shí)到GPU對(duì)深度學(xué)習(xí)巨大價(jià)值的人。相比谷歌貓用了16000顆CPU,AlexNet只用了4顆英偉達(dá)GPU,學(xué)術(shù)界和產(chǎn)業(yè)界徹底轟動(dòng),AlexNet的論文也成為計(jì)算機(jī)科學(xué)史上最有影響力的論文之一。
近年來(lái),辛頓的研究重心逐漸轉(zhuǎn)向AI安全問(wèn)題。他認(rèn)為AI的發(fā)展速度已經(jīng)遠(yuǎn)超預(yù)期,其潛力和風(fēng)險(xiǎn)都不容忽視。2023年,辛頓離開(kāi)谷歌公司后,他更加頻繁地公開(kāi)發(fā)聲,表達(dá)對(duì)通用人工智能(AGI)未來(lái)影響的擔(dān)憂。
他此前曾估計(jì),AI接管并摧毀人類文明的概率在10%至20%之間,并呼吁科技公司和政府投入更多資源進(jìn)行AI安全研究。他建議,至少將三分之一的計(jì)算資源用于研究如何確保AI系統(tǒng)不會(huì)偏離人類意圖。他還批評(píng)一些大型科技公司為追求商業(yè)利益而游說(shuō)放松監(jiān)管,認(rèn)為這是一種極其危險(xiǎn)的趨勢(shì)。
架空歷史文:一覺(jué)夢(mèng)醒千年,怒發(fā)沖冠拔刀奮起,鐵軍鋒刃斬?cái)城?
《貞觀極品公子》:讓網(wǎng)友徹夜不眠的小說(shuō),到底長(zhǎng)什么樣子?
《貞觀極品公子》,憑什么成為高分作品?
免責(zé)聲明:本文內(nèi)容由開(kāi)放的智能模型自動(dòng)生成,僅供參考。