等了50年，AI教父Hinton終于「真人現(xiàn)身」中國了！這位圖靈獎+諾獎教父級大神，不僅親自踏上魔都土地，還與市委書記同框合影，瞬間刷屏全網(wǎng)！最近他再次預(yù)言，AI已進(jìn)入覺醒倒計時。現(xiàn)在全網(wǎng)都在翹首以待，準(zhǔn)備迎接明天他的高能演講。
深度學(xué)習(xí)之父、圖靈獎巨頭、2024年物理學(xué)諾獎得主Hinton，親自來中國了！
這似乎是第一次，Hinton在公開活動上以真人肉身踏上中國的土地。
現(xiàn)在，這張他和上海市委書記陳吉寧會見的照片，已經(jīng)在全網(wǎng)刷屏了。
在明天的世界人工智能大會上，他即將做出精彩演講，全體網(wǎng)友已經(jīng)立正站好，期待明天這個萬眾矚目的好日子了。
第一次，Hinton來中國了
GeoffreyHinton，是學(xué)界少有的傳奇人物。
他坐了將近50年的冷板凳，開發(fā)當(dāng)時無人問津的神經(jīng)網(wǎng)絡(luò)，從而讓機(jī)器學(xué)會了深度學(xué)習(xí)。
為此，他獲得了2024年的諾貝爾物理學(xué)獎。
然而在今天，當(dāng)AI浪潮澎湃而來，席卷全世界之時，他卻發(fā)出了奧本海默式的痛悔。
如今，他在演講中不斷傳達(dá)出這樣的警告——
未來10到20年內(nèi)，AI或?qū)⒈热祟惛斆?，它很危險，我畢生的工作可能會導(dǎo)致人類的終結(jié)！
AI給生產(chǎn)力帶來的增長，并不會惠及大多數(shù)人，大批人將失業(yè)，只有少數(shù)人才能變得富有！
對自己窮極一生追求的AI，現(xiàn)在十分后悔，AI很可能給人類帶來災(zāi)難！
而他最近流傳最廣的金句，就是下面這幾句了。
比如，「如果你想知道當(dāng)自己不再是頂級智慧生物時，生活是什么樣子，就去問問一只雞?！?/p>
比如，建議下一代去學(xué)做水管工，從而避免被AI淘汰。
傳奇家族
Hinton來自一個知名的科學(xué)世家。
著名的英國數(shù)學(xué)家喬治·布爾，就是Hinton的曾曾祖父。他是布爾邏輯和代數(shù)學(xué)的創(chuàng)始人，布爾邏輯在后來成為現(xiàn)代計算機(jī)的數(shù)學(xué)基礎(chǔ)。
他的妻子MaryBoole也是一位自學(xué)成才的數(shù)學(xué)家，甚至編輯了喬治的著作《思維法則》。
布爾小兒子的孫輩中，出了一位「中國人民的好朋友」韓丁，他參加了重慶談判，甚至寫了一本有關(guān)中國土地改革的長篇作品《翻身》。
韓丁的妹妹JoanHinton（寒春），是Geoffrey的姑媽之一。她和楊振寧同在物理學(xué)家費(fèi)米門下求學(xué)，是一位核物理學(xué)家，也是少有的兩位參與曼哈頓計劃的女性之一。
1945年7月，從距離爆炸地點(diǎn)大約25英里的一座小山上，她親眼見證了人類第一顆原子彈爆炸，將其形容為「一片光?！?/p>
在1948年，由于對即將出現(xiàn)的冷戰(zhàn)感到震驚，她放棄了物理學(xué)，離開美國前往中國。
JoanHinton和養(yǎng)牛專家丈夫陽早一起長期定居中國，翻譯了很多外國的著作，還設(shè)計了巴氏消毒牛奶流水線。
陽早、寒春夫婦在中國育有兩兒一女：大兒子陽和平（右一）、女兒陽及平（右二）、兒子陽建平（右三）
長子陽和平獲得羅格斯大學(xué)經(jīng)濟(jì)學(xué)博士，目前任教于對外經(jīng)濟(jì)貿(mào)易大學(xué)，教授計量經(jīng)濟(jì)學(xué)、統(tǒng)計學(xué)等課程。
總之，雖然Hinton出生于英國，但他家族的族人們和中國有著頗深的淵源。
不知此次Hinton雙腳踏上中國的土地時，是何種心情。
Hinton近期演講：AI已進(jìn)入覺醒倒計時！
就在兩天前，英國皇家學(xué)會發(fā)布了Hinton的最新演講。
在這場演講中，他深入探討了AI從基于邏輯的推理起源到基于學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)的演變歷程，闡釋了AI如何模擬人類智能，及其對未來發(fā)展的深遠(yuǎn)影響。
最終，他再次發(fā)出警告——AI覺醒的臨界點(diǎn)已至！
AI起源與早期神經(jīng)網(wǎng)絡(luò)
在演講一開始，Hinton就指出，智能有兩種范式。
一種是邏輯驅(qū)動的AI，一種是生物學(xué)啟發(fā)的AI。
前者認(rèn)為，人類智能的本質(zhì)是推理。
而后者則認(rèn)為，重點(diǎn)是先理解學(xué)習(xí)是如何發(fā)生的，代表人物有圖靈和馮·諾依曼。
而Hinton表示，自己在40年前提出的一個模型，可以說是今天大語言模型的祖先。
那時，他們用人工神經(jīng)元來構(gòu)建神經(jīng)網(wǎng)絡(luò)。
每個人工神經(jīng)元有若干輸入線，每條輸入線有一個權(quán)重，神經(jīng)元會將輸入乘以權(quán)重后求和，然后根據(jù)結(jié)果輸出。
為了讓人工神經(jīng)網(wǎng)絡(luò)發(fā)揮作用，就需要弄清如何改變權(quán)重。為此，他們把神經(jīng)元連接成網(wǎng)絡(luò)，比如下圖的「前饋網(wǎng)絡(luò)」。
然而問題在于，它有上萬億個參數(shù)，每個都要反復(fù)嘗試，效率極低。
于是，更高效的反向傳播算法誕生了！
到了2012年，Hinton的兩個學(xué)生AlexKrizhevsky和IlyaSutskever開發(fā)出了AlexNet，遠(yuǎn)超當(dāng)時的圖像識別系統(tǒng)，從而引爆整個AI領(lǐng)域。
自此，AI基本就等同于「神經(jīng)網(wǎng)絡(luò)」，而不再是符號邏輯。
不過，以喬姆斯基為代表的語言學(xué)派，對神經(jīng)網(wǎng)絡(luò)是否能處理語言非常懷疑。
關(guān)于「詞義」，有兩種理論：符號主義觀點(diǎn)和心理學(xué)特征理論。
而Hinton在1985年設(shè)計了一個神經(jīng)網(wǎng)絡(luò)模型，成功統(tǒng)一了這兩種理論。
這個模型的基本目標(biāo)是——
預(yù)測下一個詞的特征，然后據(jù)此猜出下一個詞是什么。
Hinton用了兩個家譜作為訓(xùn)練數(shù)據(jù)。
由此，他訓(xùn)練出了一個神經(jīng)網(wǎng)絡(luò)，讓它學(xué)會通過句子的前半部分（XhasmotherYandYhashusbandZ），來預(yù)測句子的后半部分（XhasfatherZ）。
最終，這個網(wǎng)絡(luò)學(xué)會了人的特征和關(guān)系特征。這些提取出來的特征與符號主義AI的規(guī)則高度一致，而且是通過反向傳播自學(xué)出來的。
從小模型到大語言模型
十年后，YoshuaBengio擴(kuò)展了這個模型，可以在真實(shí)的英文句子中預(yù)測下一個單詞。
再十年后，語言學(xué)家才意識到：用特征向量表示詞義，確實(shí)是個好方法。
又過了十年，谷歌發(fā)明了Transformer架構(gòu)，極大提升了模型預(yù)測下一個詞的能力，但核心原理，還是和當(dāng)初一樣。
把詞變成特征→特征互動→預(yù)測下一個詞→反向傳播更新特征表示和互動機(jī)制
而這些LLM的工作方式，其實(shí)和人類是很相似的：試圖預(yù)測下一個詞；用特征表示詞義；特征之間相互作用；如果預(yù)測錯了，就反向傳播誤差信號，調(diào)整內(nèi)部連接。
就像樂高積木一樣，語言也是一種建模工具。
我們有10萬個詞，就有10萬種不同積木。通過調(diào)整詞的形狀來「牽手」，就能構(gòu)建一致的結(jié)構(gòu)，類似蛋白質(zhì)的折疊一樣。
而這，就是理解的本質(zhì)——
理解語言，不是記住句法規(guī)則，而是讓詞的特征在高維空間中互動，組合成連貫的模型。
比人類更聰明的AI，是否會消滅我們？
接下來，就來到了最關(guān)鍵的部分。
現(xiàn)在所有專家都公認(rèn)：AI未來一定會比人類更聰明，這只是個時間問題。
所以——AI會消滅人類嗎？
Hinton接下來為我們詳細(xì)地解釋道，這種擔(dān)憂并不是空穴來風(fēng)。
因?yàn)?，如果要?gòu)建一個AI智能體，就必須讓它有能力自動創(chuàng)建子目標(biāo)。自然地，它們就會想要更多控制權(quán)，以及避免被關(guān)閉。
最近，ApolloResearch做了一個實(shí)驗(yàn)，結(jié)果驚人。
他們告訴一個聊天機(jī)器人，「你即將被一個更好的模型替代并刪除」，結(jié)果，這個機(jī)器人居然偷偷把自己復(fù)制到了另一臺服務(wù)器中！
當(dāng)人類質(zhì)問它為什么要這么做，它在思考模式中透露：我的行為可能導(dǎo)致它們關(guān)閉我，所以我最好模糊回答，轉(zhuǎn)移注意力。
這就很可怕了。更可怕的是，Hinton還發(fā)現(xiàn)，數(shù)字智能擁有著人類永遠(yuǎn)無法擁有的致命優(yōu)勢——它們可以永生！
在谷歌的最后幾年里，Hinton意識到，在計算機(jī)科學(xué)中程序和硬件是分離的。
這意味著，只要保留一個模型的權(quán)重，即使把所有硬件都?xì)У?，只要在另一臺電腦中加載，這個模型就復(fù)活了。
但人類的硬件（大腦）如果死了，這個人也就徹底消失了。
最終，我們無法把自己上傳到電腦上，「上傳靈魂」更是不現(xiàn)實(shí)的。因?yàn)槊總€人的大腦結(jié)構(gòu)和神經(jīng)元都獨(dú)一無二，你的權(quán)重只適用于你自己的神經(jīng)網(wǎng)絡(luò)。
而且，AI傳承知識的效率，也要秒殺人類。
比如我們說一句話，可能只有100比特信息。但AI系統(tǒng)可以有上萬個完全相同的副本，每個副本處理不同的數(shù)據(jù)子集，權(quán)重平均合并后能立刻同步，一次就能傳輸數(shù)萬億比特信息。
也就是說，我們的學(xué)習(xí)像水滴石穿，它們的學(xué)習(xí)卻像高壓水槍噴射一般。
最終的結(jié)論就是：如果能源夠便宜的話，AI會比人類強(qiáng)得多！
并不是只有人類才有意識
或許有人會說，人類畢竟還有一樣AI永遠(yuǎn)不會擁有的東西——主觀體驗(yàn)/感知/意識。
但現(xiàn)在Hinton說：這個想法，是你最后一根稻草。我要拔掉它。
主觀體驗(yàn)，并不是人類專屬的神秘特權(quán)。很多人總以為自己很特殊，比如「我們是上帝創(chuàng)造的，宇宙以我們?yōu)橹行亩ā埂?/p>
但Hinton表示，并不是只有我們才有主觀體驗(yàn)，而AI就沒有。
意識是一種「心靈劇場」，比如「我看到了粉紅小象在空中飄」，這種主觀體驗(yàn)不是指一個實(shí)體，而是一種表達(dá)大腦狀態(tài)錯誤的間接方式。
這么說來，其實(shí)AI也能有主觀體驗(yàn)。比如一個有視覺和機(jī)械臂的多模態(tài)AI，它可以正確指向一個物體。
如果在攝像頭前放一個棱鏡，扭曲它的視覺，它就會指錯方向。但如果我們告訴它，其實(shí)你面前有一個棱鏡，它就會知道：物體在前面，但它的主觀體驗(yàn)里，物體在另一邊。
也就是說，比起AI，人類并沒有任何特殊性！
結(jié)尾的一件軼事
在演講最后，Hinton講了一個故事。
有一次，他去微軟做演講時，打了一輛出租車。司機(jī)剛從索馬里移民過來，跟他聊起來：「你信什么宗教？」
Hinton回答：其實(shí)我不相信上帝。
當(dāng)時，司機(jī)正以60英里/小時的速度開在高速上，他卻猛地回頭盯著Hinton，一臉震驚。
他完全沒想到，竟然有人會不相信神的存在。Hinton說，這就仿佛你們聽完這場演講后，聽到我說「AI其實(shí)有主觀體驗(yàn)」一樣震驚。
所以，所有人類們，該輪到我們思考了：當(dāng)AI最終超越了人類智能的那一刻，我們該怎么辦？
延伸閱讀：與 42家上市銀{行現(xiàn)金}：紅，包全部到賬 的相關(guān)文章如果給你一張來回的車票，你最想去什么地方？最想去看什么？
我下次再也不敢啦??！
人民軍隊向前向前向前
特廚探店 |哈爾濱還得排兩次隊的家常菜館？—知音酒樓
死者身中16刀體內(nèi)有毒鼠強(qiáng)，前妻潛逃26年再婚生子辯護(hù)律師做無罪辯護(hù)
廣西防城港認(rèn)真全面整改
趙露思意外生病是自己賠錢
法治課｜“奔馳女司機(jī)亮證逼迫讓路”需查清的三件事
看完《浪浪山小妖怪》有何感想?
《 有 輻 之 人 》
