·“許多人對(duì)超級(jí)智能的恐懼沒(méi)有應(yīng)有的那么大，因?yàn)樗麄內(nèi)韵嘈盼覀兩砩嫌心撤N特殊的東西——主觀體驗(yàn)、感知能力或意識(shí)……那是無(wú)稽之談，而且是危險(xiǎn)的無(wú)稽之談?！?/p>
·“我們需要知道如何訓(xùn)練它們，使其不想接管一切，而目前沒(méi)有人知道該怎么做到這一點(diǎn)?！?/p>
你或許每天都在和AI對(duì)話(huà)，向它提問(wèn)，讓它寫(xiě)代碼、寫(xiě)文案，流暢的回應(yīng)讓人覺(jué)得它真的“懂”你，但這種理解是真實(shí)的嗎？這背后是冰冷的計(jì)算過(guò)程還是正在萌芽的機(jī)器“心智”？它是否真的對(duì)你具有善意？我們需要一門(mén)“機(jī)器心理學(xué)”來(lái)理解它們嗎？
在剛剛落幕的2025WAIC世界人工智能大會(huì)期間，“AI教父”、諾貝爾獎(jiǎng)與圖靈獎(jiǎng)得主杰弗里·辛頓（GeoffreyHinton）和圖靈獎(jiǎng)得主、中國(guó)科學(xué)院院士姚期智圍繞上述問(wèn)題進(jìn)行了精彩對(duì)話(huà)。以下為對(duì)話(huà)實(shí)錄：
【對(duì)話(huà)】
是對(duì)大腦的模仿還是全新物種？
姚期智（圖靈獎(jiǎng)得主、中國(guó)科學(xué)院院士、清華大學(xué)交叉信息研究院院長(zhǎng)）：神經(jīng)網(wǎng)絡(luò)最初其實(shí)有點(diǎn)像是受神經(jīng)系統(tǒng)的啟發(fā)。所以從某種意義上說(shuō)，它是受大腦啟發(fā)的?，F(xiàn)在我們已經(jīng)創(chuàng)造出了這種驚人的計(jì)算機(jī)架構(gòu)，它在某些方面似乎超過(guò)了大腦，問(wèn)題是，我們是否還有什么可以向腦科學(xué)（神經(jīng)科學(xué)）學(xué)習(xí)的？
辛頓（諾貝爾物理學(xué)獎(jiǎng)得主、圖靈獎(jiǎng)得主）：沒(méi)錯(cuò)，如果沒(méi)有大腦作為模型，我認(rèn)為根本不會(huì)有人去嘗試讓神經(jīng)網(wǎng)絡(luò)發(fā)揮作用。我們知道這種東西肯定行得通，因?yàn)榇竽X本身就是這么運(yùn)作的。因此，通過(guò)調(diào)節(jié)連接強(qiáng)度讓簡(jiǎn)單單元組成的網(wǎng)絡(luò)進(jìn)行學(xué)習(xí)的這個(gè)想法，完全是來(lái)自大腦。
現(xiàn)在的問(wèn)題是，我們是否已經(jīng)到了這樣一個(gè)階段：AI將自行騰飛，再也不需要來(lái)自大腦的啟發(fā)？我想大致上是這樣的。粗略地說(shuō)，AI目前已經(jīng)從大腦獲得了很多啟發(fā)，不需要再?gòu)闹屑橙√嗔?。但我認(rèn)為這并不完全正確。我認(rèn)為有一個(gè)特定方面，現(xiàn)有的AI模型仍然需要改進(jìn)，而且可以從大腦得到很多啟發(fā)。那就是關(guān)于擁有多少種不同的時(shí)間尺度的問(wèn)題。
在我們所有的AI模型中，神經(jīng)網(wǎng)絡(luò)中權(quán)重的調(diào)整有一個(gè)慢速的時(shí)間尺度，而神經(jīng)元活動(dòng)的變化有一個(gè)快速的時(shí)間尺度。也就是說(shuō)，當(dāng)你改變輸入時(shí)，所有神經(jīng)元的活動(dòng)都會(huì)改變，但權(quán)重保持不變。權(quán)重只會(huì)慢慢發(fā)生改變。
而在真實(shí)的大腦中，神經(jīng)元之間的連接——也就是突觸——會(huì)以許多不同的時(shí)間尺度進(jìn)行適應(yīng)。所以很長(zhǎng)一段時(shí)間以來(lái)，我一直建議我們應(yīng)該在神經(jīng)網(wǎng)絡(luò)中嘗試引入三種時(shí)間尺度。我們應(yīng)該有緩慢變化的權(quán)重，即普通權(quán)重；還應(yīng)該有快速變化的權(quán)重。這些快速變化的權(quán)重能夠快速適應(yīng)，但也會(huì)快速衰減。這樣可以提供一種容量極高的短期記憶。
然而，人們沒(méi)有這樣做是有原因的。IlyaSutskever和我在2010年嘗試過(guò)這樣做，而且成功了。但是在我們目前的硬件上，如果每個(gè)訓(xùn)練樣本都有一套不同的權(quán)重——因?yàn)榭焖贆?quán)重會(huì)快速調(diào)整，而實(shí)際權(quán)重是慢速權(quán)重和快速權(quán)重之和——所以對(duì)于每個(gè)訓(xùn)練樣本而言，這兩種權(quán)重之和都是不同的。這意味著你無(wú)法有一套統(tǒng)一的權(quán)重矩陣用于許多不同的訓(xùn)練樣本。因此你無(wú)法進(jìn)行矩陣乘法，最終只能做向量-矩陣乘法，這效率不高。僅僅因?yàn)檫@個(gè)技術(shù)原因，人們就此停止了對(duì)多時(shí)間尺度的研究。從長(zhǎng)遠(yuǎn)來(lái)看，我認(rèn)為我們會(huì)在神經(jīng)網(wǎng)絡(luò)中引入多種時(shí)間尺度。我認(rèn)為這方面我們還沒(méi)有充分利用來(lái)自大腦的啟發(fā)。
姚期智：我明白。目前為止，還沒(méi)有人沿著這一思路產(chǎn)出比當(dāng)前大型語(yǔ)言模型更好的東西。
辛頓：在當(dāng)前的計(jì)算機(jī)硬件上，這是無(wú)法高效實(shí)現(xiàn)的。
姚期智：是，但至少對(duì)我們來(lái)說(shuō)，想出如何利用大腦的生物結(jié)構(gòu)并不容易。當(dāng)然，這是有原因的，因?yàn)槲覀儫o(wú)法像對(duì)大型語(yǔ)言模型那樣輕易地在人體大腦上做實(shí)驗(yàn)，對(duì)吧？所以我覺(jué)得，現(xiàn)在可能正是該反思一下腦科學(xué)能否從大型語(yǔ)言模型中學(xué)到點(diǎn)什么的時(shí)候了。順著這個(gè)思路，我來(lái)問(wèn)您第二個(gè)問(wèn)題：您認(rèn)為在人類(lèi)大腦中是否存在類(lèi)似于Transformer那樣的結(jié)構(gòu)？
辛頓：好的，那我先來(lái)針對(duì)你剛才所說(shuō)的第一部分評(píng)論一下。我認(rèn)為，過(guò)去二十年里，大型語(yǔ)言模型乃至AI整體的成功確實(shí)對(duì)神經(jīng)科學(xué)產(chǎn)生了影響。在AI取得巨大成功之前，神經(jīng)科學(xué)家們并不清楚一種學(xué)習(xí)技術(shù)——隨機(jī)梯度下降（就是計(jì)算出梯度然后沿梯度下降）——是否能夠在非常龐大的網(wǎng)絡(luò)中發(fā)揮作用。符號(hào)派AI有著悠久的歷史，其中人們一直聲稱(chēng)這種方法永遠(yuǎn)行不通：你不能從隨機(jī)權(quán)重開(kāi)始然后沿著梯度下降，就期望得到有意義的結(jié)果。這種立場(chǎng)看起來(lái)有道理，但卻是錯(cuò)的。而大型語(yǔ)言模型證明了，沿著梯度進(jìn)行學(xué)習(xí)在真正龐大的系統(tǒng)中非常有效。這給神經(jīng)科學(xué)上了一課。
至于Transformer問(wèn)題，乍看之下，你沒(méi)法把Transformer套用到大腦上，因?yàn)門(mén)ransformer會(huì)記住許多前面詞語(yǔ)的表征，而在Transformer里，那些表征是以神經(jīng)活動(dòng)的形式被記住的。這在大腦中是完全不可能的——你的神經(jīng)元不夠用。你無(wú)法記住所有之前詞語(yǔ)的活動(dòng)模式。
因此，這正是快速權(quán)重派上用場(chǎng)的地方。你需要這樣一種系統(tǒng)：對(duì)先前詞匯的表征不是以神經(jīng)活動(dòng)模式存儲(chǔ)的，而是作為聯(lián)想記憶中權(quán)重的臨時(shí)修改來(lái)存儲(chǔ)，以便你可以訪(fǎng)問(wèn)它們。通過(guò)這樣做，你實(shí)際上可以用快速權(quán)重實(shí)現(xiàn)一個(gè)非常粗略的Transformer版本。雖然不完全一樣，但通過(guò)快速權(quán)重實(shí)現(xiàn)的方法非常相似。因此，我至今對(duì)快速權(quán)重感興趣的原因之一是，我認(rèn)為這是讓大腦具備類(lèi)似Transformer功能的唯一途徑。
姚期智：但這就要假定，盡管大腦不同于大型語(yǔ)言模型，它也使用類(lèi)似詞嵌入的東西。
辛頓：我想是有的。很久以前——大概2009年左右——曾有一些研究通過(guò)MRI獲取大腦信息，嘗試判斷人們?cè)谙肽膫€(gè)單詞。結(jié)果成功了。所以，一個(gè)單詞的表征就是大腦中一種神經(jīng)活動(dòng)模式，而且通過(guò)觀察這種神經(jīng)活動(dòng)模式，你大概可以猜出那是什么單詞。很明顯，大腦是通過(guò)許多神經(jīng)元的活動(dòng)模式來(lái)表征單詞的。
AI真的“理解”語(yǔ)言嗎？它有主觀知覺(jué)嗎？
姚期智：現(xiàn)在我想轉(zhuǎn)向一些更具哲學(xué)性的問(wèn)題。您在今天早上（7月26日）的演講中，有一句非常重要的表述，您認(rèn)為完全可以說(shuō)大語(yǔ)言模型理解它們自己所說(shuō)的句子。可以再詳細(xì)闡述一下嗎？
辛頓：我這里可以講一個(gè)故事。我曾第一次在和我女兒的爭(zhēng)論中輸給了她，那時(shí)她才4歲。她下樓來(lái)對(duì)我說(shuō)：“爸爸，你知道嗎？鸚鵡會(huì)說(shuō)話(huà)。”我說(shuō)：“不，Emma，鸚鵡不會(huì)說(shuō)話(huà)。它們只是能發(fā)出聽(tīng)起來(lái)像說(shuō)話(huà)的聲音，但那只是學(xué)舌，它們不明白那些聲音的含義?！彼f(shuō)：“不，你錯(cuò)了，爸爸。它們會(huì)說(shuō)話(huà)。”于是我說(shuō)：“不，Emma，它們并不理解這些詞的意思?！彼f(shuō)：“會(huì)的。我剛看了一個(gè)節(jié)目，一個(gè)女士給鸚鵡看了一輛汽車(chē)，鸚鵡就說(shuō)‘汽車(chē)’?！本瓦@樣，我在和我4歲女兒的爭(zhēng)論中輸了。
我覺(jué)得如今的語(yǔ)言學(xué)家在某種程度上也有點(diǎn)類(lèi)似。語(yǔ)言學(xué)家們最初的反應(yīng)是：“哦，這些玩意兒并不會(huì)說(shuō)話(huà)。這些玩意兒并不理解它們?cè)谡f(shuō)什么。這些東西只是用來(lái)預(yù)測(cè)下一個(gè)詞的統(tǒng)計(jì)技巧。它們沒(méi)有任何理解能力?！边@種看法有好幾處是錯(cuò)的。
首先，如果你真想把下一個(gè)詞預(yù)測(cè)好——你就需要已經(jīng)理解了別人說(shuō)的話(huà)。所以有趣且對(duì)我們大有幫助的一點(diǎn)是，僅僅通過(guò)努力預(yù)測(cè)下一個(gè)詞，如果你想把它做到極致，你就迫使系統(tǒng)去理解那個(gè)問(wèn)題。現(xiàn)在仍然有語(yǔ)言學(xué)家說(shuō)這些東西什么都不理解。但我認(rèn)為現(xiàn)在的情況是，任何真正用過(guò)大型語(yǔ)言模型的人都不可能相信它們聽(tīng)不懂你在說(shuō)什么——它們顯然能明白你的話(huà)。
而我最有力的論據(jù)是這樣的：假設(shè)我對(duì)一個(gè)大型語(yǔ)言模型說(shuō)：“我在飛往芝加哥的途中看到了大峽谷。”大型語(yǔ)言模型回答：“那不可能對(duì)。大峽谷太大了，飛不起來(lái)。”然后我對(duì)模型說(shuō)：“不，我不是那個(gè)意思。我的意思是，在我飛往芝加哥的途中，我看到了大峽谷?！贝笮驼Z(yǔ)言模型說(shuō)：“哦，我明白了，我誤會(huì)了?！比绻麆偛拍撬闶撬恼`解，那它在其他時(shí)候又是在做什么呢？
姚期智：延伸這一思路，我會(huì)假設(shè)現(xiàn)在那些多模態(tài)聊天機(jī)器人不僅能夠理解，它們還能做到更多，對(duì)嗎？
辛頓：是的。我認(rèn)為有一個(gè)很大的問(wèn)題，就是這些多模態(tài)聊天機(jī)器人是否有知覺(jué)？不同的人用不同方式表達(dá)這個(gè)問(wèn)題。有些人問(wèn)，它們有知覺(jué)嗎？有些人問(wèn)，它們有意識(shí)嗎？還有人問(wèn)，它們有主觀體驗(yàn)嗎？那么我們來(lái)討論一下主觀體驗(yàn)的問(wèn)題。
在我們（至少是我的文化）文化中，大多數(shù)人認(rèn)為我們有一個(gè)叫作心靈的“內(nèi)在劇場(chǎng)”（innertheatre)，在這個(gè)內(nèi)在劇場(chǎng)中發(fā)生的事情只有自己能看到。舉例來(lái)說(shuō)，如果我喝多了，我對(duì)你說(shuō)：“我有一種主觀體驗(yàn)，覺(jué)得有粉紅色的小象在我面前漂浮?！蔽鞣轿幕械拇蠖鄶?shù)人會(huì)將此理解為：在內(nèi)在劇場(chǎng)中，有小粉紅象在眼前漂浮。
如果你問(wèn)這些小象是由什么構(gòu)成的，哲學(xué)家會(huì)告訴你它們是由感質(zhì)（qualia）構(gòu)成的：由粉紅色的感質(zhì)、大象的感質(zhì)、漂浮的感質(zhì)，通過(guò)某種感質(zhì)“膠水”粘在一起——由此你可以看出，我并不太相信這個(gè)理論。
有一種完全不同的理論，來(lái)自丹尼爾·丹尼特（DanielDennett）等哲學(xué)家。他們認(rèn)為根本不存在什么內(nèi)在劇場(chǎng)，當(dāng)你談?wù)撝饔^體驗(yàn)時(shí)，你并不是在說(shuō)自己心中只有自己能看到的事務(wù)，你其實(shí)是在試圖向別人解釋你的感知系統(tǒng)哪里出問(wèn)題了。所以，讓我把“有小粉紅象在我眼前飄浮的主觀體驗(yàn)”這句話(huà)換種說(shuō)法：“我的感知系統(tǒng)騙了我。但是如果外部世界中真的有小粉紅象在我面前飄浮，那我的感知系統(tǒng)說(shuō)的就是真話(huà)?！币虼耍?dāng)你談?wù)撝饔^體驗(yàn)時(shí)，你是在向他人傳達(dá)你的感知系統(tǒng)出了問(wèn)題，這就是這些體驗(yàn)被稱(chēng)為“主觀”的原因。而你是通過(guò)描述一種假想的世界狀態(tài)來(lái)做到這一點(diǎn)的——這些小粉紅象并不是由什么叫感質(zhì)的奇怪東西構(gòu)成的，它們是主觀假想的真實(shí)粉紅小象。
現(xiàn)在讓我把這個(gè)套用到聊天機(jī)器人上。假設(shè)我有一個(gè)多模態(tài)聊天機(jī)器人，它會(huì)說(shuō)話(huà)，會(huì)指物，配有攝像頭。我訓(xùn)練它，然后在它面前放一個(gè)物體，對(duì)它說(shuō)：“指一下那個(gè)物體。”它指向了那個(gè)物體?，F(xiàn)在我在攝像頭鏡頭前放一塊棱鏡，干擾了它的感知系統(tǒng)。然后我再在它面前放一個(gè)物體，對(duì)它說(shuō)：“再指一下那個(gè)物體?！苯Y(jié)果它指向了那邊。我說(shuō)：“不，物體不在那邊，它其實(shí)就在你正前方。但我在你的鏡頭前放了一個(gè)棱鏡?！绷奶鞕C(jī)器人說(shuō)：“哦，我明白了，是棱鏡折射了光線(xiàn)。所以物體其實(shí)在那里?？墒俏业闹饔^體驗(yàn)是它在那邊?！?/p>
如果聊天機(jī)器人這么說(shuō)，那么它使用“主觀體驗(yàn)”這個(gè)詞的方式和我們?nèi)祟?lèi)用的一模一樣。這也是我相信當(dāng)前的多模態(tài)聊天機(jī)器人在其感知系統(tǒng)出錯(cuò)時(shí)具備主觀體驗(yàn)的原因。
姚期智：我覺(jué)得這非常有說(shuō)服力。但哲學(xué)家們聽(tīng)到這種論斷時(shí)，會(huì)跳起來(lái)，非常惱火。
辛頓：哲學(xué)家都是這樣的。
姚期智：是，但如果我們單純站在科學(xué)家的立場(chǎng)來(lái)看待，這些問(wèn)題的答案重要嗎？因?yàn)楫?dāng)你在科學(xué)討論中完全排除掉這些問(wèn)題，它不會(huì)減少什么，也不會(huì)增加什么。是這樣嗎？
辛頓：我認(rèn)為在政治層面上這非常重要。我覺(jué)得許多人對(duì)超級(jí)智能的恐懼沒(méi)有應(yīng)有的那么大，因?yàn)樗麄內(nèi)韵嘈盼覀兩砩嫌心撤N特殊的東西——主觀體驗(yàn)、感知能力或意識(shí)——是這些其他系統(tǒng)永遠(yuǎn)無(wú)法擁有的。也就是說(shuō)，我們很特別。我們有一種神奇的組成部分，而AI沒(méi)有，所以我們覺(jué)得會(huì)沒(méi)事。我認(rèn)為那是無(wú)稽之談，而且是危險(xiǎn)的無(wú)稽之談，因?yàn)樗鼤?huì)讓我們自滿(mǎn)。
訓(xùn)練一個(gè)善良的AI可能嗎
姚期智：我想我們第一部分差不多要結(jié)束了，但我有個(gè)問(wèn)題一直迫不及待地想問(wèn)您：您認(rèn)為AI領(lǐng)域最重要的未解決問(wèn)題是什么？
辛頓：我認(rèn)為最重要的未解決問(wèn)題是：如何訓(xùn)練出一個(gè)善良的AI。我們需要知道如何訓(xùn)練它們，使其不想接管一切，而目前沒(méi)有人知道該怎么做到這一點(diǎn)。
我的猜想是，這很像養(yǎng)育孩子。養(yǎng)孩子的時(shí)候，你可以給他定規(guī)矩，但那幾乎不起什么作用。你可以獎(jiǎng)賞或懲罰他，可能會(huì)有一點(diǎn)效果?；蛘吣憧梢越o他展示好的行為榜樣。如果父母表現(xiàn)出良好的行為，孩子通常會(huì)成長(zhǎng)為一個(gè)品德高尚的人。所以我覺(jué)得我們應(yīng)該用精心篩選的數(shù)據(jù)來(lái)培養(yǎng)AI。當(dāng)AI開(kāi)始學(xué)習(xí)時(shí)，它只接觸好的行為。我們把所有人的不良行為先存起來(lái)，等它學(xué)會(huì)了什么是好的行為之后，再把那些不良行為給它看。
姚期智：是啊，如果這樣行得通，那肯定能解決很多有關(guān)AI未來(lái)發(fā)展的問(wèn)題。不過(guò)讓我再追問(wèn)一下，因?yàn)槲矣X(jué)得，要訓(xùn)練出一個(gè)完全善良的AI比看起來(lái)要難。而且我懷疑，你多少可以證明那是不可能的。
我相信，這個(gè)世界上有好人，也有壞人。但事實(shí)上，好人也可能在不同環(huán)境下變成壞人。所以我認(rèn)為，“善良”這種特質(zhì)也是和情境相關(guān)的。如果你在一個(gè)環(huán)境惡劣的社區(qū)長(zhǎng)大，要成為常人眼中的好人是很難的。
我的擔(dān)憂(yōu)是，假設(shè)——就像你養(yǎng)育一個(gè)孩子，如果他成長(zhǎng)在富裕家庭、良好社區(qū)，他會(huì)成為彬彬有禮的人。但在極端壓力下，比如戰(zhàn)場(chǎng)上——有時(shí)你必須做出價(jià)值判斷。如果機(jī)器人在許多那樣的情境下接受訓(xùn)練——我猜想，一臺(tái)好機(jī)器人，如果你讓它承受巨大的壓力，并且一旦做錯(cuò)就會(huì)被銷(xiāo)毀，那么它就會(huì)變得非常冷酷無(wú)情。
所以我的意思是，我覺(jué)得要做到你說(shuō)的那一點(diǎn)，一個(gè)宏偉的理想是我們應(yīng)該首先改造人類(lèi)本身。如果我們能得到一個(gè)善良占上風(fēng)的世界，然后我們?cè)儆眠@種方式訓(xùn)練機(jī)器人，那么最后大家都會(huì)很滿(mǎn)意。但如果我們無(wú)法讓人類(lèi)社會(huì)達(dá)到那種狀態(tài)，我認(rèn)為我們就無(wú)法保證那些心懷不軌者不會(huì)制造出帶有敵意的機(jī)器人來(lái)消滅所有善良的機(jī)器人。
辛頓：但我們沒(méi)有那個(gè)時(shí)間。事實(shí)上人類(lèi)為此已經(jīng)努力了很久了。人類(lèi)社會(huì)運(yùn)轉(zhuǎn)良好這個(gè)目標(biāo)，我們嘗試了很長(zhǎng)時(shí)間。聯(lián)合國(guó)并沒(méi)有實(shí)現(xiàn)最初的設(shè)想。我認(rèn)為我們沒(méi)法及時(shí)做到你說(shuō)的那點(diǎn)。我們不可能以足夠快的速度改革人類(lèi)社會(huì)，來(lái)趕上應(yīng)對(duì)即將到來(lái)的超級(jí)智能AI威脅。
還有一個(gè)替代方案，聽(tīng)起來(lái)有點(diǎn)像硅谷的想法：假設(shè)我們能造出一個(gè)大體上善良的AI，然后讓它去設(shè)計(jì)一個(gè)更善良的AI。也許要真正解決如何制造善良AI的問(wèn)題，你需要一個(gè)比我們聰明得多的AI來(lái)完成。所以可能可以用遞歸的方式讓AI變得越來(lái)越善良，有點(diǎn)像機(jī)器學(xué)習(xí)中的提升（boosting）：你先有一個(gè)弱學(xué)習(xí)器，再把它變成強(qiáng)學(xué)習(xí)器。這是一個(gè)可能的路徑。
但就像我說(shuō)的，目前我們還不知道怎么做到。我只是不認(rèn)為首先改造人類(lèi)社會(huì)會(huì)是一個(gè)選項(xiàng)。
姚期智：是的，我能在一種情況下看到一線(xiàn)希望，也就是假設(shè)AGI的發(fā)展是漸進(jìn)的，并不是一夜之間突然就支配了我們。當(dāng)跡象已經(jīng)非常清楚地表明機(jī)器人將接管世界，把全人類(lèi)都扔到一條船上，也許對(duì)我們來(lái)說(shuō)那會(huì)是好事，讓我們汲取教訓(xùn)，認(rèn)識(shí)到人類(lèi)的局限。
我想我們或許太心高氣傲了。我們以為可以擁有一切，但整個(gè)宇宙并不那么仁慈。掌握量子、核以及生物合成的秘密知識(shí)并非毫無(wú)代價(jià)，這是一個(gè)我們?nèi)祟?lèi)應(yīng)該意識(shí)到的危險(xiǎn)。我們應(yīng)該珍惜自己的好運(yùn)，因?yàn)槲覀兙谷荒茏叩浇裉臁㈩I(lǐng)悟數(shù)百年來(lái)所有這些卓越的思想，實(shí)在是個(gè)奇跡。
當(dāng)AI更加強(qiáng)大，我們?cè)撊绾卫斫馑?/p>
辛頓：我有幾個(gè)關(guān)于量子計(jì)算的問(wèn)題想問(wèn)你。第一個(gè)問(wèn)題是，大多數(shù)物理理論在極端條件下都會(huì)失效。你認(rèn)為有沒(méi)有可能，我們對(duì)量子力學(xué)的理解也無(wú)法一直成立？也就是說(shuō)，在某些情況下——比如無(wú)法保持非常復(fù)雜的糾纏，而量子計(jì)算依賴(lài)于完美維持這些糾纏——最終量子計(jì)算實(shí)際上可能行不通？
姚期智：我認(rèn)為按照正統(tǒng)的量子理論，只要量子理論成立，糾纏多少個(gè)量子比特都不影響其有效性。但在實(shí)踐中，就目前而言，物理學(xué)家目前能夠?qū)崿F(xiàn)深度糾纏的最大粒子數(shù)大概是60個(gè)。所以我們距離理想中想要執(zhí)行的那種量子計(jì)算還差得很遠(yuǎn)。從這個(gè)意義上說(shuō)，這確實(shí)是個(gè)懸而未決的問(wèn)題。
不過(guò)物理學(xué)家或自然科學(xué)家的觀點(diǎn)是：如果你有一個(gè)好的理論，在出現(xiàn)相反證據(jù)之前不要去動(dòng)搖它。我記得在量子計(jì)算的早期，有幾位非常受尊敬的理論計(jì)算機(jī)科學(xué)家，他們認(rèn)真質(zhì)疑過(guò)量子因數(shù)分解算法是否真的可行，因?yàn)槲锢韺W(xué)家一直無(wú)法在實(shí)驗(yàn)中實(shí)現(xiàn)。但我認(rèn)為物理學(xué)家是能做到的，只是答案尚未揭曉。而我的那些對(duì)這個(gè)問(wèn)題感興趣的朋友，我猜他們內(nèi)心是想拿諾貝爾獎(jiǎng)的。他們覺(jué)得，如果計(jì)算機(jī)科學(xué)家設(shè)計(jì)出量子算法并由物理學(xué)家實(shí)現(xiàn)，結(jié)果發(fā)現(xiàn)并不能給出正確答案，那么計(jì)算機(jī)科學(xué)就通過(guò)在量子理論中制造了一個(gè)悖論而作出了巨大貢獻(xiàn)。不過(guò)我認(rèn)為就目前而言，我所有搞量子計(jì)算的物理學(xué)家朋友都完全忽略了這種可能性。
辛頓：第二個(gè)問(wèn)題：我們先假設(shè)量子計(jì)算最終能夠奏效。你認(rèn)為在未來(lái)比如10到15年內(nèi)，量子計(jì)算會(huì)對(duì)AI產(chǎn)生巨大影響嗎？還是你覺(jué)得AI的進(jìn)展會(huì)依靠經(jīng)典計(jì)算來(lái)實(shí)現(xiàn)？
姚期智：我認(rèn)為這對(duì)AI和量子計(jì)算來(lái)說(shuō)確實(shí)都是一個(gè)前沿問(wèn)題。因?yàn)榱孔拥耐?lái)自一種與AI所帶來(lái)的能力完全不同的方向。所以自然而然的問(wèn)題是，終極的計(jì)算能力將來(lái)自在量子條件下構(gòu)建AI機(jī)器。原則上，我們應(yīng)該能得到更好的成果，因?yàn)槔昧孔樱梢宰龅揭恍〢I做不到的事情。比如分解大整數(shù)——我想幾乎沒(méi)有從事AI的人認(rèn)為AI真能做到這一點(diǎn)。所以我們不必那么害怕AI，因?yàn)橛行┦挛覀兡茏龅?，而超?jí)智能機(jī)器做不到。
辛頓：接下來(lái)還有一個(gè)不涉及量子計(jì)算的問(wèn)題。有些人認(rèn)為，我們現(xiàn)在在AI中所做的就是在創(chuàng)造外星生命。我聽(tīng)你說(shuō)過(guò)，如果事情真是如此，我們需要為這些外星生命建立一門(mén)心理學(xué)。你能詳細(xì)談?wù)剢幔?/p>
姚期智：我認(rèn)為我們字面意義上就是在創(chuàng)造外星生物。我記得你今天早上提到，這些超智能機(jī)器真的是外星人。我的感覺(jué)是，盡管我們同意在科學(xué)討論中去除“意識(shí)”和“理解”這些詞不會(huì)損失什么，但在我們嘗試構(gòu)建機(jī)器時(shí)，考慮看看能否將這些特性賦予進(jìn)去以讓它們更加善良，實(shí)際上可能是有益的。
因此，我確實(shí)相信在某個(gè)時(shí)候AI將催生一個(gè)獨(dú)立的學(xué)科，也就是機(jī)器心理學(xué)。我覺(jué)得這很有意思，因?yàn)闄C(jī)器心理學(xué)和普通心理學(xué)之間的關(guān)系是這樣的：目前我們基本上還沒(méi)有真正的AGI（通用人工智能），所以我們?nèi)匀挥性S多需要向人類(lèi)學(xué)習(xí)的地方。
目前所有智能機(jī)器都有一個(gè)前提：由人類(lèi)設(shè)計(jì)者確定其高層結(jié)構(gòu)。歸根結(jié)底，AI大多就是以智能的方式搜索大量可能性的能力，有時(shí)這種方式還很神秘，我們無(wú)法理解也無(wú)法證明。所以假設(shè)我暫且不考慮安全問(wèn)題，只管去設(shè)計(jì)我所能設(shè)計(jì)的最聰明的機(jī)器，同時(shí)努力讓它保持善良，那么最好的指導(dǎo)仍然來(lái)自人類(lèi)；我們雇傭聰明的人來(lái)思考如何設(shè)計(jì)體系結(jié)構(gòu)。
我認(rèn)為目前我們可以利用人類(lèi)心理學(xué)作為指導(dǎo)，對(duì)機(jī)器進(jìn)行初步的分類(lèi)，并對(duì)它們進(jìn)行測(cè)試。但我相信，機(jī)器心理學(xué)最終會(huì)比人類(lèi)心理復(fù)雜得多，因?yàn)樵谄垓_方面，它們甚至?xí)任覀內(nèi)祟?lèi)中最不堪者還要更勝一籌。所以當(dāng)它們聰明到那種程度，如果我們想研究它們的心理，我認(rèn)為就得由它們自己的同類(lèi)來(lái)發(fā)展這門(mén)學(xué)科——也就是由機(jī)器自己來(lái)研究。
鬼金中篇小說(shuō):巢
Adobe InCopy下載 文字編輯軟件InCopy(ic)下載 詳細(xì)安裝方法
何懷宏:泰晤士河曾千帆競(jìng)發(fā),這里有文明演變的風(fēng)景?？澎湃新聞
