時(shí)刻新聞
戢展鵬
等了50年，AI教父Hinton終于「真人現(xiàn)身」中國(guó)了！這位圖靈獎(jiǎng)+諾獎(jiǎng)教父級(jí)大神，不僅親自踏上魔都土地，還與市委書(shū)記同框合影，瞬間刷屏全網(wǎng)！最近他再次預(yù)言，AI已進(jìn)入覺(jué)醒倒計(jì)時(shí)?，F(xiàn)在全網(wǎng)都在翹首以待，準(zhǔn)備迎接明天他的高能演講。
深度學(xué)習(xí)之父、圖靈獎(jiǎng)巨頭、2024年物理學(xué)諾獎(jiǎng)得主Hinton，親自來(lái)中國(guó)了！
這似乎是第一次，Hinton在公開(kāi)活動(dòng)上以真人肉身踏上中國(guó)的土地。
現(xiàn)在，這張他和上海市委書(shū)記陳吉寧會(huì)見(jiàn)的照片，已經(jīng)在全網(wǎng)刷屏了。
在明天的世界人工智能大會(huì)上，他即將做出精彩演講，全體網(wǎng)友已經(jīng)立正站好，期待明天這個(gè)萬(wàn)眾矚目的好日子了。
第一次，Hinton來(lái)中國(guó)了
GeoffreyHinton，是學(xué)界少有的傳奇人物。
他坐了將近50年的冷板凳，開(kāi)發(fā)當(dāng)時(shí)無(wú)人問(wèn)津的神經(jīng)網(wǎng)絡(luò)，從而讓機(jī)器學(xué)會(huì)了深度學(xué)習(xí)。
為此，他獲得了2024年的諾貝爾物理學(xué)獎(jiǎng)。
然而在今天，當(dāng)AI浪潮澎湃而來(lái)，席卷全世界之時(shí)，他卻發(fā)出了奧本海默式的痛悔。
如今，他在演講中不斷傳達(dá)出這樣的警告——
未來(lái)10到20年內(nèi)，AI或?qū)⒈热祟惛斆?，它很危險(xiǎn)，我畢生的工作可能會(huì)導(dǎo)致人類的終結(jié)！
AI給生產(chǎn)力帶來(lái)的增長(zhǎng)，并不會(huì)惠及大多數(shù)人，大批人將失業(yè)，只有少數(shù)人才能變得富有！
對(duì)自己窮極一生追求的AI，現(xiàn)在十分后悔，AI很可能給人類帶來(lái)災(zāi)難！
而他最近流傳最廣的金句，就是下面這幾句了。
比如，「如果你想知道當(dāng)自己不再是頂級(jí)智慧生物時(shí)，生活是什么樣子，就去問(wèn)問(wèn)一只雞?！?/p>
比如，建議下一代去學(xué)做水管工，從而避免被AI淘汰。
傳奇家族
Hinton來(lái)自一個(gè)知名的科學(xué)世家。
著名的英國(guó)數(shù)學(xué)家喬治·布爾，就是Hinton的曾曾祖父。他是布爾邏輯和代數(shù)學(xué)的創(chuàng)始人，布爾邏輯在后來(lái)成為現(xiàn)代計(jì)算機(jī)的數(shù)學(xué)基礎(chǔ)。
他的妻子MaryBoole也是一位自學(xué)成才的數(shù)學(xué)家，甚至編輯了喬治的著作《思維法則》。
布爾小兒子的孫輩中，出了一位「中國(guó)人民的好朋友」韓丁，他參加了重慶談判，甚至寫(xiě)了一本有關(guān)中國(guó)土地改革的長(zhǎng)篇作品《翻身》。
韓丁的妹妹JoanHinton（寒春），是Geoffrey的姑媽之一。她和楊振寧同在物理學(xué)家費(fèi)米門下求學(xué)，是一位核物理學(xué)家，也是少有的兩位參與曼哈頓計(jì)劃的女性之一。
1945年7月，從距離爆炸地點(diǎn)大約25英里的一座小山上，她親眼見(jiàn)證了人類第一顆原子彈爆炸，將其形容為「一片光?！?/p>
在1948年，由于對(duì)即將出現(xiàn)的冷戰(zhàn)感到震驚，她放棄了物理學(xué)，離開(kāi)美國(guó)前往中國(guó)。
JoanHinton和養(yǎng)牛專家丈夫陽(yáng)早一起長(zhǎng)期定居中國(guó)，翻譯了很多外國(guó)的著作，還設(shè)計(jì)了巴氏消毒牛奶流水線。
陽(yáng)早、寒春夫婦在中國(guó)育有兩兒一女：大兒子陽(yáng)和平（右一）、女兒陽(yáng)及平（右二）、兒子陽(yáng)建平（右三）
長(zhǎng)子陽(yáng)和平獲得羅格斯大學(xué)經(jīng)濟(jì)學(xué)博士，目前任教于對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)，教授計(jì)量經(jīng)濟(jì)學(xué)、統(tǒng)計(jì)學(xué)等課程。
總之，雖然Hinton出生于英國(guó)，但他家族的族人們和中國(guó)有著頗深的淵源。
不知此次Hinton雙腳踏上中國(guó)的土地時(shí)，是何種心情。
Hinton近期演講：AI已進(jìn)入覺(jué)醒倒計(jì)時(shí)！
就在兩天前，英國(guó)皇家學(xué)會(huì)發(fā)布了Hinton的最新演講。
在這場(chǎng)演講中，他深入探討了AI從基于邏輯的推理起源到基于學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)的演變歷程，闡釋了AI如何模擬人類智能，及其對(duì)未來(lái)發(fā)展的深遠(yuǎn)影響。
最終，他再次發(fā)出警告——AI覺(jué)醒的臨界點(diǎn)已至！
AI起源與早期神經(jīng)網(wǎng)絡(luò)
在演講一開(kāi)始，Hinton就指出，智能有兩種范式。
一種是邏輯驅(qū)動(dòng)的AI，一種是生物學(xué)啟發(fā)的AI。
前者認(rèn)為，人類智能的本質(zhì)是推理。
而后者則認(rèn)為，重點(diǎn)是先理解學(xué)習(xí)是如何發(fā)生的，代表人物有圖靈和馮·諾依曼。
而Hinton表示，自己在40年前提出的一個(gè)模型，可以說(shuō)是今天大語(yǔ)言模型的祖先。
那時(shí)，他們用人工神經(jīng)元來(lái)構(gòu)建神經(jīng)網(wǎng)絡(luò)。
每個(gè)人工神經(jīng)元有若干輸入線，每條輸入線有一個(gè)權(quán)重，神經(jīng)元會(huì)將輸入乘以權(quán)重后求和，然后根據(jù)結(jié)果輸出。
為了讓人工神經(jīng)網(wǎng)絡(luò)發(fā)揮作用，就需要弄清如何改變權(quán)重。為此，他們把神經(jīng)元連接成網(wǎng)絡(luò)，比如下圖的「前饋網(wǎng)絡(luò)」。
然而問(wèn)題在于，它有上萬(wàn)億個(gè)參數(shù)，每個(gè)都要反復(fù)嘗試，效率極低。
于是，更高效的反向傳播算法誕生了！
到了2012年，Hinton的兩個(gè)學(xué)生AlexKrizhevsky和IlyaSutskever開(kāi)發(fā)出了AlexNet，遠(yuǎn)超當(dāng)時(shí)的圖像識(shí)別系統(tǒng)，從而引爆整個(gè)AI領(lǐng)域。
自此，AI基本就等同于「神經(jīng)網(wǎng)絡(luò)」，而不再是符號(hào)邏輯。
不過(guò)，以喬姆斯基為代表的語(yǔ)言學(xué)派，對(duì)神經(jīng)網(wǎng)絡(luò)是否能處理語(yǔ)言非常懷疑。
關(guān)于「詞義」，有兩種理論：符號(hào)主義觀點(diǎn)和心理學(xué)特征理論。
而Hinton在1985年設(shè)計(jì)了一個(gè)神經(jīng)網(wǎng)絡(luò)模型，成功統(tǒng)一了這兩種理論。
這個(gè)模型的基本目標(biāo)是——
預(yù)測(cè)下一個(gè)詞的特征，然后據(jù)此猜出下一個(gè)詞是什么。
Hinton用了兩個(gè)家譜作為訓(xùn)練數(shù)據(jù)。
由此，他訓(xùn)練出了一個(gè)神經(jīng)網(wǎng)絡(luò)，讓它學(xué)會(huì)通過(guò)句子的前半部分（XhasmotherYandYhashusbandZ），來(lái)預(yù)測(cè)句子的后半部分（XhasfatherZ）。
最終，這個(gè)網(wǎng)絡(luò)學(xué)會(huì)了人的特征和關(guān)系特征。這些提取出來(lái)的特征與符號(hào)主義AI的規(guī)則高度一致，而且是通過(guò)反向傳播自學(xué)出來(lái)的。
從小模型到大語(yǔ)言模型
十年后，YoshuaBengio擴(kuò)展了這個(gè)模型，可以在真實(shí)的英文句子中預(yù)測(cè)下一個(gè)單詞。
再十年后，語(yǔ)言學(xué)家才意識(shí)到：用特征向量表示詞義，確實(shí)是個(gè)好方法。
又過(guò)了十年，谷歌發(fā)明了Transformer架構(gòu)，極大提升了模型預(yù)測(cè)下一個(gè)詞的能力，但核心原理，還是和當(dāng)初一樣。
把詞變成特征→特征互動(dòng)→預(yù)測(cè)下一個(gè)詞→反向傳播更新特征表示和互動(dòng)機(jī)制
而這些LLM的工作方式，其實(shí)和人類是很相似的：試圖預(yù)測(cè)下一個(gè)詞；用特征表示詞義；特征之間相互作用；如果預(yù)測(cè)錯(cuò)了，就反向傳播誤差信號(hào)，調(diào)整內(nèi)部連接。
就像樂(lè)高積木一樣，語(yǔ)言也是一種建模工具。
我們有10萬(wàn)個(gè)詞，就有10萬(wàn)種不同積木。通過(guò)調(diào)整詞的形狀來(lái)「牽手」，就能構(gòu)建一致的結(jié)構(gòu)，類似蛋白質(zhì)的折疊一樣。
而這，就是理解的本質(zhì)——
理解語(yǔ)言，不是記住句法規(guī)則，而是讓詞的特征在高維空間中互動(dòng)，組合成連貫的模型。
比人類更聰明的AI，是否會(huì)消滅我們？
接下來(lái)，就來(lái)到了最關(guān)鍵的部分。
現(xiàn)在所有專家都公認(rèn)：AI未來(lái)一定會(huì)比人類更聰明，這只是個(gè)時(shí)間問(wèn)題。
所以——AI會(huì)消滅人類嗎？
Hinton接下來(lái)為我們?cè)敿?xì)地解釋道，這種擔(dān)憂并不是空穴來(lái)風(fēng)。
因?yàn)?，如果要?gòu)建一個(gè)AI智能體，就必須讓它有能力自動(dòng)創(chuàng)建子目標(biāo)。自然地，它們就會(huì)想要更多控制權(quán)，以及避免被關(guān)閉。
最近，ApolloResearch做了一個(gè)實(shí)驗(yàn)，結(jié)果驚人。
他們告訴一個(gè)聊天機(jī)器人，「你即將被一個(gè)更好的模型替代并刪除」，結(jié)果，這個(gè)機(jī)器人居然偷偷把自己復(fù)制到了另一臺(tái)服務(wù)器中！
當(dāng)人類質(zhì)問(wèn)它為什么要這么做，它在思考模式中透露：我的行為可能導(dǎo)致它們關(guān)閉我，所以我最好模糊回答，轉(zhuǎn)移注意力。
這就很可怕了。更可怕的是，Hinton還發(fā)現(xiàn)，數(shù)字智能擁有著人類永遠(yuǎn)無(wú)法擁有的致命優(yōu)勢(shì)——它們可以永生！
在谷歌的最后幾年里，Hinton意識(shí)到，在計(jì)算機(jī)科學(xué)中程序和硬件是分離的。
這意味著，只要保留一個(gè)模型的權(quán)重，即使把所有硬件都?xì)У簦灰诹硪慌_(tái)電腦中加載，這個(gè)模型就復(fù)活了。
但人類的硬件（大腦）如果死了，這個(gè)人也就徹底消失了。
最終，我們無(wú)法把自己上傳到電腦上，「上傳靈魂」更是不現(xiàn)實(shí)的。因?yàn)槊總€(gè)人的大腦結(jié)構(gòu)和神經(jīng)元都獨(dú)一無(wú)二，你的權(quán)重只適用于你自己的神經(jīng)網(wǎng)絡(luò)。
而且，AI傳承知識(shí)的效率，也要秒殺人類。
比如我們說(shuō)一句話，可能只有100比特信息。但AI系統(tǒng)可以有上萬(wàn)個(gè)完全相同的副本，每個(gè)副本處理不同的數(shù)據(jù)子集，權(quán)重平均合并后能立刻同步，一次就能傳輸數(shù)萬(wàn)億比特信息。
也就是說(shuō)，我們的學(xué)習(xí)像水滴石穿，它們的學(xué)習(xí)卻像高壓水槍噴射一般。
最終的結(jié)論就是：如果能源夠便宜的話，AI會(huì)比人類強(qiáng)得多！
并不是只有人類才有意識(shí)
或許有人會(huì)說(shuō)，人類畢竟還有一樣AI永遠(yuǎn)不會(huì)擁有的東西——主觀體驗(yàn)/感知/意識(shí)。
但現(xiàn)在Hinton說(shuō)：這個(gè)想法，是你最后一根稻草。我要拔掉它。
主觀體驗(yàn)，并不是人類專屬的神秘特權(quán)。很多人總以為自己很特殊，比如「我們是上帝創(chuàng)造的，宇宙以我們?yōu)橹行亩ā埂?/p>
但Hinton表示，并不是只有我們才有主觀體驗(yàn)，而AI就沒(méi)有。
意識(shí)是一種「心靈劇場(chǎng)」，比如「我看到了粉紅小象在空中飄」，這種主觀體驗(yàn)不是指一個(gè)實(shí)體，而是一種表達(dá)大腦狀態(tài)錯(cuò)誤的間接方式。
這么說(shuō)來(lái)，其實(shí)AI也能有主觀體驗(yàn)。比如一個(gè)有視覺(jué)和機(jī)械臂的多模態(tài)AI，它可以正確指向一個(gè)物體。
如果在攝像頭前放一個(gè)棱鏡，扭曲它的視覺(jué)，它就會(huì)指錯(cuò)方向。但如果我們告訴它，其實(shí)你面前有一個(gè)棱鏡，它就會(huì)知道：物體在前面，但它的主觀體驗(yàn)里，物體在另一邊。
也就是說(shuō)，比起AI，人類并沒(méi)有任何特殊性！
結(jié)尾的一件軼事
在演講最后，Hinton講了一個(gè)故事。
有一次，他去微軟做演講時(shí)，打了一輛出租車。司機(jī)剛從索馬里移民過(guò)來(lái)，跟他聊起來(lái)：「你信什么宗教？」
Hinton回答：其實(shí)我不相信上帝。
當(dāng)時(shí)，司機(jī)正以60英里/小時(shí)的速度開(kāi)在高速上，他卻猛地回頭盯著Hinton，一臉震驚。
他完全沒(méi)想到，竟然有人會(huì)不相信神的存在。Hinton說(shuō)，這就仿佛你們聽(tīng)完這場(chǎng)演講后，聽(tīng)到我說(shuō)「AI其實(shí)有主觀體驗(yàn)」一樣震驚。
所以，所有人類們，該輪到我們思考了：當(dāng)AI最終超越了人類智能的那一刻，我們?cè)撛趺崔k？
顛覆認(rèn)知的6本規(guī)則怪談神作!醫(yī)院守則、學(xué)校禁忌……個(gè)個(gè)細(xì)思極恐
根據(jù)作者的說(shuō)法，本文確實(shí)存在唯一解，不過(guò)不必過(guò)分去追求燒腦解密，當(dāng)成恐怖故事來(lái)讀也很不錯(cuò)。并給出了三條官方提示：1，不同勢(shì)力的各個(gè)規(guī)則之間存在因果關(guān)系；2，兔子血和山羊肉是同一物質(zhì)；3，目的是“逃離”而不是“維護(hù)”。
六本規(guī)則怪談高分小說(shuō)!國(guó)風(fēng)怪談+高智商反殺!窒息級(jí)閱讀體驗(yàn)!
首先，它是個(gè)規(guī)則類怪談|。就在這件事火了后，A島-匿名版又發(fā)了一些規(guī)則類怪談的文章，不過(guò)都沒(méi)出圈。而就在大概半年前，豆瓣其實(shí)也有過(guò)一波類似的熱度。當(dāng)時(shí)，一個(gè)搬運(yùn)reddit上著名r/NoSleep區(qū)（記住它）文章的小組突然火了，這個(gè)區(qū)里有很多怪談故事，其中不少，就是這種規(guī)則類的寫(xiě)法；有時(shí)是租房后的租客守則等會(huì)說(shuō)_。
民間怪談:你敢試試嗎?高智商恐怖推理故事,燒腦故事你能看懂幾個(gè)
規(guī)則類怪談具有非常簡(jiǎn)單易模仿的形式，這讓它獲得了兩個(gè)特點(diǎn)：一、模仿更快，傳播更快，更容易形成不斷衍生新意的深度傳播；二、追求形式精簡(jiǎn)，語(yǔ)言準(zhǔn)確，文字的多義性遠(yuǎn)不如小說(shuō)等體裁，大量仿作成為平平無(wú)奇的規(guī)則書(shū)或恐怖故事套作。換句話來(lái)說(shuō)，就是看起來(lái)門檻低，實(shí)則非常難模仿，一旦缺乏優(yōu)質(zhì)新作品，大量低質(zhì)量有幫助請(qǐng)點(diǎn)贊-_。
來(lái)源：紅網(wǎng)
作者：程巧歡
編輯：岳浩邈
本文為紅辣椒評(píng)論 原創(chuàng)文章，僅系作者個(gè)人觀點(diǎn)，不代表紅網(wǎng)立場(chǎng)。轉(zhuǎn)載請(qǐng)附原文出處鏈接和本聲明。