2025世界人工智能大會(huì)拉開(kāi)帷幕，諾貝爾獎(jiǎng)、圖靈獎(jiǎng)得主，加拿大多倫多大學(xué)計(jì)算機(jī)科學(xué)名譽(yù)教授杰弗里·辛頓的發(fā)言備受期待。這位通悉AI過(guò)去的“教父”在開(kāi)場(chǎng)演講中拋出了“人類(lèi)面臨最重要的事”——防止讓AI統(tǒng)治世界的方法，那就是讓AI向善的全球合作。
杰弗里·辛頓呼吁全球聯(lián)手讓AI向善
“如果你想知道當(dāng)自己不再是頂級(jí)智慧生物時(shí)，生活是什么樣子，就去問(wèn)問(wèn)一只雞。”這是辛頓的一句廣為流傳的名言，在此次大會(huì)上，他又再次提到了“問(wèn)雞”。這是一個(gè)類(lèi)比，站在食物鏈頂端的人類(lèi)和雞舍里被圈養(yǎng)的雞，這樣的差距，正是AI與人類(lèi)之間的距離。辛頓認(rèn)為，擔(dān)憂(yōu)并非空想，AI越來(lái)越聰明強(qiáng)大，一切有跡可循。
首先，大語(yǔ)言模型理解語(yǔ)言的方式與人類(lèi)非常相似，它能夠轉(zhuǎn)化出詞與詞“配合得很好”的向量特征，能夠“理解”詞義。他以樂(lè)高來(lái)比喻，樂(lè)高能夠構(gòu)建出各種大型結(jié)構(gòu)，詞語(yǔ)就像樂(lè)高，可以構(gòu)建任何事物，并且能夠傳遞這種構(gòu)建。而且這些樂(lè)高的“形狀”還會(huì)根據(jù)上下文，調(diào)整“握手”變形來(lái)與其他詞語(yǔ)契合，而非無(wú)意義的邏輯?！暗牵笳Z(yǔ)言模型遠(yuǎn)遠(yuǎn)優(yōu)于我們的大腦。”
不僅聰明，而且“永生”?！爱?dāng)代計(jì)算機(jī)的一個(gè)基本特性是可以在不同物理硬件上運(yùn)行相同程序（或相同神經(jīng)網(wǎng)絡(luò)），這意味著程序中的知識(shí)（或神經(jīng)網(wǎng)絡(luò)的權(quán)重）是永生的。”辛頓提到，巨大的能耗是AI的演變中遇到的瓶頸，但是“蒸餾”技術(shù)就像老師教學(xué)生，讓AI明白了“權(quán)重”。如果智能體擁有相同的模型，就能輕松交換各自學(xué)到的知識(shí)而降低能耗?！吧镉?jì)算所需的能耗要少得多，但如果能源廉價(jià)，數(shù)字計(jì)算更占優(yōu)勢(shì)，這對(duì)人類(lèi)的未來(lái)意味著什么？”
更值得思考的是，超級(jí)智能是否會(huì)掌控世界？辛頓認(rèn)為，這種擔(dān)憂(yōu)如同養(yǎng)了一只小虎崽，它長(zhǎng)大之后是否會(huì)反咬主人？AI的運(yùn)作原理，辛頓給出解釋?zhuān)篈I被允許創(chuàng)建自己的子目標(biāo)，來(lái)有效完成任務(wù)，首當(dāng)其沖的子目標(biāo)是生存和獲取更多權(quán)力，因?yàn)檫@有助于人工智能實(shí)現(xiàn)其他目標(biāo)。一個(gè)超級(jí)智能會(huì)發(fā)現(xiàn)，通過(guò)操縱使用它的人類(lèi)來(lái)獲取更多權(quán)力是輕而易舉的，它將從人類(lèi)這里學(xué)會(huì)如何欺騙，而且還將操縱負(fù)責(zé)將它關(guān)閉的人類(lèi)。
所以，留給人類(lèi)的選擇，只有規(guī)訓(xùn)而非“殺死”。辛頓在會(huì)上呼吁，構(gòu)建一個(gè)由各國(guó)人工智能安全研究所與國(guó)內(nèi)研究網(wǎng)絡(luò)組成的國(guó)際社群，培養(yǎng)出不會(huì)想要從人類(lèi)手中奪取控制權(quán)的向善的人工智能所需的技術(shù)。“可能技術(shù)是相對(duì)獨(dú)立的，這就好比，教導(dǎo)孩子變聰明的方法是不同的，但好在，希望孩子成為一個(gè)好人是大家的共識(shí)?！?/p>
原標(biāo)題：《AI教父辛頓WAIC開(kāi)講：莫問(wèn)養(yǎng)虎是否為患，要一起教它向善》
欄目王蔚
來(lái)源：作者：新民晚報(bào)易蓉
