如何評價廈門乒超聯(lián)賽樊振東 3:0 戰(zhàn)勝松島輝空?
2025世界人工智能大會拉開帷幕，諾貝爾獎、圖靈獎得主，加拿大多倫多大學(xué)計算機(jī)科學(xué)名譽(yù)教授杰弗里·辛頓的發(fā)言備受期待。這位通悉AI過去的“教父”在開場演講中拋出了“人類面臨最重要的事”——防止讓AI統(tǒng)治世界的方法，那就是讓AI向善的全球合作。
杰弗里·辛頓呼吁全球聯(lián)手讓AI向善
“如果你想知道當(dāng)自己不再是頂級智慧生物時，生活是什么樣子，就去問問一只雞?！边@是辛頓的一句廣為流傳的名言，在此次大會上，他又再次提到了“問雞”。這是一個類比，站在食物鏈頂端的人類和雞舍里被圈養(yǎng)的雞，這樣的差距，正是AI與人類之間的距離。辛頓認(rèn)為，擔(dān)憂并非空想，AI越來越聰明強(qiáng)大，一切有跡可循。
首先，大語言模型理解語言的方式與人類非常相似，它能夠轉(zhuǎn)化出詞與詞“配合得很好”的向量特征，能夠“理解”詞義。他以樂高來比喻，樂高能夠構(gòu)建出各種大型結(jié)構(gòu)，詞語就像樂高，可以構(gòu)建任何事物，并且能夠傳遞這種構(gòu)建。而且這些樂高的“形狀”還會根據(jù)上下文，調(diào)整“握手”變形來與其他詞語契合，而非無意義的邏輯?！暗?，大語言模型遠(yuǎn)遠(yuǎn)優(yōu)于我們的大腦。”
不僅聰明，而且“永生”?！爱?dāng)代計算機(jī)的一個基本特性是可以在不同物理硬件上運(yùn)行相同程序（或相同神經(jīng)網(wǎng)絡(luò)），這意味著程序中的知識（或神經(jīng)網(wǎng)絡(luò)的權(quán)重）是永生的?！毙令D提到，巨大的能耗是AI的演變中遇到的瓶頸，但是“蒸餾”技術(shù)就像老師教學(xué)生，讓AI明白了“權(quán)重”。如果智能體擁有相同的模型，就能輕松交換各自學(xué)到的知識而降低能耗?！吧镉嬎闼璧哪芎囊俚枚?，但如果能源廉價，數(shù)字計算更占優(yōu)勢，這對人類的未來意味著什么？”
更值得思考的是，超級智能是否會掌控世界？辛頓認(rèn)為，這種擔(dān)憂如同養(yǎng)了一只小虎崽，它長大之后是否會反咬主人？AI的運(yùn)作原理，辛頓給出解釋：AI被允許創(chuàng)建自己的子目標(biāo)，來有效完成任務(wù)，首當(dāng)其沖的子目標(biāo)是生存和獲取更多權(quán)力，因為這有助于人工智能實現(xiàn)其他目標(biāo)。一個超級智能會發(fā)現(xiàn)，通過操縱使用它的人類來獲取更多權(quán)力是輕而易舉的，它將從人類這里學(xué)會如何欺騙，而且還將操縱負(fù)責(zé)將它關(guān)閉的人類。
所以，留給人類的選擇，只有規(guī)訓(xùn)而非“殺死”。辛頓在會上呼吁，構(gòu)建一個由各國人工智能安全研究所與國內(nèi)研究網(wǎng)絡(luò)組成的國際社群，培養(yǎng)出不會想要從人類手中奪取控制權(quán)的向善的人工智能所需的技術(shù)?！翱赡芗夹g(shù)是相對獨立的，這就好比，教導(dǎo)孩子變聰明的方法是不同的，但好在，希望孩子成為一個好人是大家的共識?！?/p>
原標(biāo)題：《AI教父辛頓WAIC開講：莫問養(yǎng)虎是否為患，要一起教它向善》
欄目王蔚
來源：作者：新民晚報易蓉
小說:殘忍、無情、不屈——最強(qiáng)狂兵!
爽點十足的《最強(qiáng)狂兵》,最熱血澎湃的場面,狂刷百遍看不膩!
《最強(qiáng)狂兵》都市生活+熱血爽文+逆襲復(fù)仇
