蓋子琳

2025世界人工智能大會拉開帷幕，諾貝爾獎、圖靈獎得主，加拿大多倫多大學(xué)計算機(jī)科學(xué)名譽(yù)教授杰弗里·辛頓的發(fā)言備受期待。這位通悉AI過去的“教父”在開場演講中拋出了“人類面臨最重要的事”——防止讓AI統(tǒng)治世界的方法，那就是讓AI向善的全球合作。

杰弗里·辛頓呼吁全球聯(lián)手讓AI向善

“如果你想知道當(dāng)自己不再是頂級智慧生物時，生活是什么樣子，就去問問一只雞?！边@是辛頓的一句廣為流傳的名言，在此次大會上，他又再次提到了“問雞”。這是一個類比，站在食物鏈頂端的人類和雞舍里被圈養(yǎng)的雞，這樣的差距，正是AI與人類之間的距離。辛頓認(rèn)為，擔(dān)憂并非空想，AI越來越聰明強(qiáng)大，一切有跡可循。

首先，大語言模型理解語言的方式與人類非常相似，它能夠轉(zhuǎn)化出詞與詞“配合得很好”的向量特征，能夠“理解”詞義。他以樂高來比喻，樂高能夠構(gòu)建出各種大型結(jié)構(gòu)，詞語就像樂高，可以構(gòu)建任何事物，并且能夠傳遞這種構(gòu)建。而且這些樂高的“形狀”還會根據(jù)上下文，調(diào)整“握手”變形來與其他詞語契合，而非無意義的邏輯?！暗牵笳Z言模型遠(yuǎn)遠(yuǎn)優(yōu)于我們的大腦?！?/p>

不僅聰明，而且“永生”?！爱?dāng)代計算機(jī)的一個基本特性是可以在不同物理硬件上運(yùn)行相同程序（或相同神經(jīng)網(wǎng)絡(luò)），這意味著程序中的知識（或神經(jīng)網(wǎng)絡(luò)的權(quán)重）是永生的。”辛頓提到，巨大的能耗是AI的演變中遇到的瓶頸，但是“蒸餾”技術(shù)就像老師教學(xué)生，讓AI明白了“權(quán)重”。如果智能體擁有相同的模型，就能輕松交換各自學(xué)到的知識而降低能耗?！吧镉嬎闼璧哪芎囊俚枚?，但如果能源廉價，數(shù)字計算更占優(yōu)勢，這對人類的未來意味著什么？”

更值得思考的是，超級智能是否會掌控世界？辛頓認(rèn)為，這種擔(dān)憂如同養(yǎng)了一只小虎崽，它長大之后是否會反咬主人？AI的運(yùn)作原理，辛頓給出解釋：AI被允許創(chuàng)建自己的子目標(biāo)，來有效完成任務(wù)，首當(dāng)其沖的子目標(biāo)是生存和獲取更多權(quán)力，因?yàn)檫@有助于人工智能實(shí)現(xiàn)其他目標(biāo)。一個超級智能會發(fā)現(xiàn)，通過操縱使用它的人類來獲取更多權(quán)力是輕而易舉的，它將從人類這里學(xué)會如何欺騙，而且還將操縱負(fù)責(zé)將它關(guān)閉的人類。

所以，留給人類的選擇，只有規(guī)訓(xùn)而非“殺死”。辛頓在會上呼吁，構(gòu)建一個由各國人工智能安全研究所與國內(nèi)研究網(wǎng)絡(luò)組成的國際社群，培養(yǎng)出不會想要從人類手中奪取控制權(quán)的向善的人工智能所需的技術(shù)。“可能技術(shù)是相對獨(dú)立的，這就好比，教導(dǎo)孩子變聰明的方法是不同的，但好在，希望孩子成為一個好人是大家的共識。”

原標(biāo)題：《AI教父辛頓WAIC開講：莫問養(yǎng)虎是否為患，要一起教它向善》

欄目王蔚

來源：作者：新民晚報易蓉