·AI的發(fā)展就像一場(chǎng)洪水,如果說(shuō)每個(gè)人的職業(yè)技能是高低不等的山峰,洪水來(lái)了,那些較低的山峰就會(huì)被淹沒(méi)。關(guān)鍵是發(fā)掘自己的獨(dú)特性,利用AI去做自己想做的事。
MetaAIResearch(FAIR)研究科學(xué)家總監(jiān)田淵棟。來(lái)源:受訪者供圖
在寫(xiě)下30萬(wàn)字的《破曉之鐘》之前,田淵棟正在美國(guó)卡內(nèi)基隆大學(xué)機(jī)器人研究所攻讀博士學(xué)位。科研生活的艱辛和苦悶激發(fā)了他的創(chuàng)作欲。在這本非常硬核的長(zhǎng)篇科幻小說(shuō)《破曉之鐘》里,他說(shuō)書(shū)中的人物“大師兄”研究員某種程度上有他自己的影子。
“一開(kāi)始非??释龀稣痼@世界的科研成果,但入校后才發(fā)現(xiàn),原來(lái)全世界最聰明的人都在做科研,你能力不夠。”他在書(shū)里展現(xiàn)了科研工作者的“癡”,對(duì)科研癡迷,也對(duì)人性困境的癡迷。
出生于上海的田淵棟從上海交通大學(xué)研究生畢業(yè)后,2013年在美國(guó)卡內(nèi)基隆大學(xué)機(jī)器人研究所獲博士學(xué)位,后加入MetaGenAI擔(dān)任研究科學(xué)家。如今他已是AI領(lǐng)域的重要華人研究者、科幻作家。
但對(duì)于他來(lái)說(shuō),AI研究員這一身份是他賴以生存的土壤,而腦子里那些“不靠譜”的想法則靠科幻文學(xué)來(lái)表達(dá),他說(shuō)自己在理性和感性之間找到了一條平衡之道。
在和澎湃科技(www.thepaper.cn)長(zhǎng)達(dá)近兩個(gè)小時(shí)的專訪中,這位思維活躍的AI研究員坦誠(chéng)地表達(dá)自己對(duì)AI未來(lái)走向的看法:樂(lè)觀和擔(dān)憂并存。作為AI研究員,他對(duì)AI未來(lái)的發(fā)展非常樂(lè)觀,但作為一名依然關(guān)注社會(huì)發(fā)展的科幻作家,他又有些擔(dān)憂。
AI的發(fā)展現(xiàn)在看下來(lái)似乎沒(méi)有上限,他的想法和有“人工智能教父”之稱的杰弗里·辛頓(GeoffreyHinton)一樣。辛頓曾在一場(chǎng)深度專訪時(shí)表達(dá)對(duì)人工智能技術(shù)發(fā)展的擔(dān)憂,他的觀點(diǎn)是,AI替代的是認(rèn)知?jiǎng)趧?dòng),當(dāng)一個(gè)社會(huì)中的“普通的智力”不再具有價(jià)值時(shí),絕大多數(shù)依賴腦力勞動(dòng)的工作崗位將被顛覆。
在田淵棟看來(lái),“AI的發(fā)展就像一場(chǎng)洪水,如果說(shuō)每個(gè)人的職業(yè)技能是高低不等的山峰,洪水來(lái)了,那些較低的山峰就會(huì)被淹沒(méi)。”
不過(guò),他認(rèn)為也不用太過(guò)擔(dān)憂,現(xiàn)在大模型的算法效率并不高,對(duì)于使用者來(lái)說(shuō),目前“我們只是摸到了智能的邊。”很多時(shí)候,我們可以利用AI去探索真正想做的事情?!澳闫饺盏纳羁梢允谴a農(nóng),但你可以利用AI成為一名作家或音樂(lè)家?!彼ㄗh,我們應(yīng)該轉(zhuǎn)換成更偏向于科學(xué)家的思維,即一個(gè)人一生中只要做出一兩件讓大家驚嘆的事情就足夠了。
在科幻小說(shuō)的世界里,他從第一性原理出發(fā),去思考人類未來(lái)在人工智能時(shí)代的可能性,我們?cè)诤棋珶o(wú)垠的未來(lái)世界里,如何自處?又如何審視Ta所做的決定?在現(xiàn)實(shí)生活里,他作為AI研究員,也從未停止對(duì)大模型背后的機(jī)制思考和追問(wèn)。
田淵棟的科幻小說(shuō)《破曉之鐘》
【以下是澎湃科技專訪內(nèi)容】
“現(xiàn)在大模型的算法效率并不高”
澎湃科技:你是MetaGenAI的研究科學(xué)家,很好奇你現(xiàn)在的工作狀態(tài)和對(duì)當(dāng)前大模型的看法?
田淵棟:我們研究組整體也專注在大模型的研發(fā)上,我們的目的希望把大模型做得更好,整體工作氛圍比較緊張。
從技術(shù)來(lái)看,現(xiàn)階段大模型整體還是很受限,因?yàn)槲覀冏罱K希望大模型能夠?qū)φZ(yǔ)言能有所理解,語(yǔ)言意味著模型能力的上限。我認(rèn)為,大模型的智能程度需要比人有更深刻的洞察和見(jiàn)解,即“Insight”,這部分目前模型還沒(méi)有做得特別好。
大模型需要海量數(shù)據(jù),這些數(shù)據(jù)量可能是人類一生閱讀量的千倍或者萬(wàn)倍。我們?cè)?jīng)計(jì)算過(guò),一個(gè)人即使不眠不休地閱讀100年所能接觸到的文本量大約在1000億詞匯量級(jí),而目前訓(xùn)練AI模型需要的Token(詞元)在10萬(wàn)億量級(jí),所以人與機(jī)器在獲取信息量上存在巨大的差異。
但人類擁有敏銳的洞察,對(duì)問(wèn)題的理解深入方式是計(jì)算機(jī)無(wú)法比擬的。對(duì)于科學(xué)研究或攀登人類智慧高峰這種方向來(lái)說(shuō),大模型的數(shù)據(jù)學(xué)習(xí)效率非常低。一個(gè)優(yōu)秀的專家可能只需通過(guò)研究一兩個(gè)新穎的課題,就能發(fā)現(xiàn)其中重要的洞察點(diǎn),思考如何改進(jìn)。但大模型目前尚無(wú)法做到這一點(diǎn)。
我認(rèn)為最本質(zhì)的原因還是現(xiàn)在大模型的訓(xùn)練算法不是特別高效。所以說(shuō)我們現(xiàn)在還只是“摸到了智能的邊”。我們?cè)诟鞣N試錯(cuò)的方案過(guò)程中找到了神經(jīng)網(wǎng)絡(luò)的范式,這個(gè)框架能夠比較好地對(duì)世界數(shù)據(jù)進(jìn)行建模,能夠產(chǎn)生類似智能的內(nèi)容,但是否能達(dá)到人類的效率,目前尚不清楚。
澎湃科技:業(yè)界也有科學(xué)家質(zhì)疑過(guò)ScalingLaw(尺度定律)的訓(xùn)練路徑。你怎么看?
田淵棟:現(xiàn)在看下來(lái),AI沒(méi)有上限。我的觀點(diǎn)是,雖然通過(guò)ScalingLaw確實(shí)能帶來(lái)大模型性能上的提升,但這種提升所需的時(shí)間和代價(jià)是巨大的。ScalingLaw的橫軸是指數(shù)級(jí)的,而縱軸是線性的,這意味著,為了獲得線性的性能提升,我們需要投入大約十倍的各種資源。如果缺乏足夠的數(shù)據(jù)、算力我們遲早會(huì)因?yàn)橘Y源獲取能力受限而停滯不前,最終可能導(dǎo)致所有人被卡在這一瓶頸上。
所以我們不應(yīng)該僅僅依賴ScalingLaw來(lái)實(shí)現(xiàn)強(qiáng)大的功能。相反,我們應(yīng)該更多地依賴對(duì)模型本質(zhì)的理解,或者對(duì)算法進(jìn)行本質(zhì)上的修改,從而在更優(yōu)的成本下達(dá)成目標(biāo)。這確實(shí)是一條更具挑戰(zhàn)性的研究路線,但可以通過(guò)各種深入研究來(lái)解決。
澎湃科技:大模型現(xiàn)在已經(jīng)展現(xiàn)出它比較強(qiáng)的推理能力,還有哪些問(wèn)題是你想繼續(xù)深入研究的?
田淵棟:還是在實(shí)現(xiàn)智能上。如果大模型是一種實(shí)現(xiàn)智能的解決方案,但這個(gè)解決方案是人類摸索出來(lái)的,背后究竟為什么而生?又或者是通過(guò)怎樣的方式?數(shù)據(jù)本身又是怎樣的結(jié)構(gòu)能讓大模型有這么好的效果?這正是我想持續(xù)深入研究的問(wèn)題,比如神經(jīng)網(wǎng)絡(luò)和生物學(xué)習(xí)怎樣運(yùn)轉(zhuǎn)有效果?這或許是很核心的問(wèn)題,屬于百年之內(nèi)不一定成功,但我可以去嘗試的問(wèn)題。
我認(rèn)為,在這個(gè)環(huán)境下,大家今后可能會(huì)更傾向于深度思考。例如之前我們談?wù)摰墓胶驼x問(wèn)題,在研究領(lǐng)域已經(jīng)有很多相關(guān)的討論,比如著名的“不可能三角”理論,現(xiàn)在很容易得到的思想和觀念,AI已經(jīng)學(xué)習(xí)和掌握了。
澎湃科技:現(xiàn)在AI應(yīng)用出現(xiàn)大爆發(fā),國(guó)內(nèi)也是如此,這些爆發(fā)性的應(yīng)用往往是由少數(shù)人組成的小團(tuán)隊(duì)完成的。
田淵棟:我認(rèn)為這確實(shí)是一個(gè)趨勢(shì),在AI時(shí)代,許多執(zhí)行層面的工作已被AI取代,我甚至不需要招聘人手。AI能完成大部分代碼工作,你只需要稍作修改。不過(guò),這也需要具備幾個(gè)關(guān)鍵要素。
一方面,很多執(zhí)行層面的工作,其實(shí)內(nèi)容高度重復(fù)且容錯(cuò)性較強(qiáng)。高度重復(fù)意味著有大量數(shù)據(jù)可用,容錯(cuò)性強(qiáng)說(shuō)明即便大模型有諸如幻覺(jué)這樣比較難解決的問(wèn)題,其結(jié)果仍然可以發(fā)布,也可以通過(guò)讓人站“最后一班崗”來(lái)解決。
另一方面,大模型的發(fā)展速度很快,并且在這個(gè)領(lǐng)域里大家已經(jīng)開(kāi)始達(dá)成了共識(shí),從“等第一個(gè)吃螃蟹的人”到“再不加入就晚了”,這種思維轉(zhuǎn)變可能會(huì)在極短的時(shí)間內(nèi)完成。如果主事的人開(kāi)始有這樣的轉(zhuǎn)變,那這種趨勢(shì)的發(fā)展是必然的。
現(xiàn)在的模型能力已經(jīng)比較強(qiáng)了,能夠完成很多任務(wù);此外,模型調(diào)用的價(jià)格比較低,未來(lái),模型的API價(jià)格每年繼續(xù)成倍下降都非常有可能的。
澎湃科技:你觀察到中國(guó)團(tuán)隊(duì)和美國(guó)團(tuán)隊(duì)在大模型競(jìng)爭(zhēng)中有怎樣的差異?
田淵棟:中國(guó)團(tuán)隊(duì)的優(yōu)勢(shì)在于,執(zhí)行非???,因?yàn)閳?zhí)行快一直是中國(guó)團(tuán)隊(duì)的優(yōu)勢(shì),大家也不怕加班;短板可能在于,方向上可能不夠有創(chuàng)新性,短期內(nèi)可能會(huì)一擁而上,出現(xiàn)反常識(shí)的東西其實(shí)很難。在硅谷,總會(huì)有一兩個(gè)人想跳出來(lái)說(shuō),“不對(duì),他想要做點(diǎn)別的”,這可能是中美文化比較大的區(qū)別。
“AI會(huì)像一場(chǎng)洪水”
澎湃科技:你現(xiàn)在對(duì)AI未來(lái)的發(fā)展態(tài)度是怎樣的?樂(lè)觀還是有擔(dān)憂的地方?
田淵棟:作為AI研究者,我當(dāng)然持樂(lè)觀態(tài)度。
我一直在強(qiáng)調(diào),AI會(huì)像一場(chǎng)洪水。如果說(shuō)每個(gè)人的技能是高低不等的山峰,洪水來(lái)了,那些較低的山峰就會(huì)被淹沒(méi)。這意味著,你原本賴以謀生的技能可能會(huì)被AI取代,導(dǎo)致很多人難以找到新的工作,比如一些基礎(chǔ)的行政/助理類/還有基礎(chǔ)寫(xiě)代碼工作。
這種情況正在發(fā)生,并且很快會(huì)波及所有人,因?yàn)锳I的普及速度非常快。最關(guān)鍵的是,每個(gè)人能否找到自己真正想做的,并且與眾不同的事情,也就是發(fā)掘自己的獨(dú)特性。
怎么挖掘自己的獨(dú)特性?關(guān)鍵在于,利用AI去做你想做的事情。當(dāng)大家開(kāi)始使用AI后,你可能會(huì)發(fā)現(xiàn)以前每天需要花費(fèi)8小時(shí)以上才能完成的工作,現(xiàn)在只需要1小時(shí)就能搞定。AI實(shí)際上給了我們更多嘗試的時(shí)間,你可以利用這些時(shí)間去探索你真正熱愛(ài)的事物。比如平日工作是碼農(nóng),也可以利用AI工具成為一名作家或音樂(lè)家。我認(rèn)為這是未來(lái)發(fā)展的趨勢(shì)。
澎湃科技:我們需要和AI競(jìng)爭(zhēng)嗎?
田淵棟:在執(zhí)行層面,人類已經(jīng)沒(méi)有必要與AI競(jìng)爭(zhēng),因?yàn)槟銢](méi)辦法超越它。
很多時(shí)候,我們應(yīng)該轉(zhuǎn)換成更偏向于科學(xué)家的思維:比如一個(gè)人一生中只要做出一件讓大家驚嘆的事情就足夠了,為此對(duì)生活做什么樣的安排,各人隨意。比如說(shuō)我個(gè)人還是相對(duì)比較“卷”的,嚴(yán)格意義上說(shuō),我沒(méi)有娛樂(lè)時(shí)間,會(huì)一直去思考一些有意思的事情。
澎湃科技:未來(lái),我們和工作的關(guān)系是不是也會(huì)發(fā)生變化?
田淵棟:未來(lái),工作可能不再僅僅只是一個(gè)“工作”。過(guò)去,薪資水平往往與工作量掛鉤,譬如加班多、工作量大就能獲得更多報(bào)酬。但未來(lái),工作量可能不再那么重要,因?yàn)橹貜?fù)性的工作AI就能完成。取而代之的,是你的智力或創(chuàng)造力。比如,你發(fā)表了一篇開(kāi)創(chuàng)性的文章,或者創(chuàng)作了一幅極具價(jià)值的畫(huà)作,人們會(huì)為此付費(fèi)。
現(xiàn)在很多公司的考核體系往往是滯后時(shí)代發(fā)展的,關(guān)于績(jī)效考核,我大膽預(yù)測(cè)未來(lái)一定會(huì)改變。
很多變化已經(jīng)在硅谷發(fā)生了。比如,在硅谷,裁員現(xiàn)象開(kāi)始出現(xiàn),原本計(jì)算機(jī)專業(yè)畢業(yè)生非常“吃香”,工作機(jī)會(huì)眾多,但現(xiàn)在這種強(qiáng)勁的上升趨勢(shì)已不復(fù)存在,反而有所下滑。因?yàn)榇笮涂萍脊景l(fā)現(xiàn),通過(guò)精簡(jiǎn)人員和增加工具(AI)的使用,效率可能會(huì)更高。所以,整個(gè)行業(yè)都在發(fā)生變化。
澎湃科技:如果我們每個(gè)人都想擁有自己的AIbot,你有什么建議?
田淵棟:我認(rèn)為最好的方式,是大家都能學(xué)會(huì)自己寫(xiě)代碼?,F(xiàn)在已經(jīng)到了人人都能寫(xiě)代碼的階段了,每個(gè)人都可以嘗試自己寫(xiě)一段代碼。AI可以幫你寫(xiě)代碼。如果你學(xué)會(huì)了如何與AI協(xié)作編寫(xiě)代碼,你就能做很多事情。通過(guò)這種為自己制造工具的方式,未來(lái)你會(huì)有無(wú)限的可能。
我覺(jué)得這是一個(gè)非常有趣的嘗試。當(dāng)然,如果暫時(shí)無(wú)法自己寫(xiě)代碼,也可以依賴各種第三方軟件?,F(xiàn)在有很多小公司開(kāi)發(fā)了這類工具,它們可以完成很多任務(wù),比如各種插件,或者像ChatGPT、Manus這類平臺(tái),你可以通過(guò)與它們互動(dòng),慢慢地掌握如何有效地利用它們。
澎湃科技:我看你在個(gè)人總結(jié)中提到你的女兒,未來(lái)你會(huì)嚴(yán)格控制她使用手機(jī)和電子設(shè)備的頻率嗎?作為父親,你會(huì)擔(dān)心她沉迷嗎?
田淵棟:她目前很喜歡和人交流,而且沒(méi)有沉迷手機(jī),但我肯定還是會(huì)擔(dān)心,特別是在AI和機(jī)器人普及后,“它們”會(huì)無(wú)條件順從孩子,提供一個(gè)高度安全且保護(hù)性的環(huán)境。然而,作為一個(gè)成熟的人,孩子必須學(xué)會(huì)面對(duì)不確定性,應(yīng)對(duì)負(fù)面評(píng)價(jià)甚至傷害性言論,并懂得如何處理這些情況,這很難。如果孩子從小就多與人互動(dòng),多接觸真實(shí)環(huán)境,他們自然會(huì)建立起這種適應(yīng)能力。
澎湃科技:為什么現(xiàn)在會(huì)出現(xiàn)和AI戀愛(ài)、AI虛擬陪伴?
田淵棟:因?yàn)槿藗冎繟I已經(jīng)被調(diào)教成不會(huì)背叛你的角色,而且說(shuō)話也非常友善。
“靠譜的想法做科研,不靠譜的想法寫(xiě)小說(shuō)”
澎湃科技:你寫(xiě)的《破曉之鐘》這本書(shū)里有各類科研人員困境的描寫(xiě),這是基于你自己的科研經(jīng)歷嗎?
田淵棟:這本書(shū)里提到了很多科研人員的困境。比如,書(shū)中的大師兄研究員,他是一個(gè)代表科研人員典型困境的角色。他非常渴望做出震驚世界的科研成果,但他能力不夠。
很多博士生都曾經(jīng)歷過(guò)這種“科研折磨”,第一年信誓旦旦要拿諾獎(jiǎng),第五年博士畢業(yè)可能找不到工作。大家最初都抱著崇高的理想去做科研事業(yè),但后來(lái)發(fā)現(xiàn)找不到路,或者沒(méi)有辦法承受科研事業(yè)的各種折磨之苦。
我也是這段路程中的過(guò)來(lái)人。因?yàn)槿澜缱盥斆鞯娜硕荚谧隹蒲?,除非天賦異稟,不然你不可能一上手就比別人更厲害,只能靠自己一點(diǎn)一滴去積累。
每個(gè)人的出發(fā)點(diǎn)和個(gè)性導(dǎo)致他們最終走的那條路是不一樣的。在寫(xiě)作時(shí)我也會(huì)帶入自己觀察自己,好高騖遠(yuǎn)的心態(tài)我當(dāng)初也有過(guò),只是后面慢慢變得更實(shí)際,找到了腳踏實(shí)地的方法。
我現(xiàn)在也找到了一種平衡之道,靠譜的想法做科研,不靠譜的想法寫(xiě)進(jìn)小說(shuō)。
澎湃科技:寫(xiě)科幻小說(shuō)會(huì)擔(dān)心技術(shù)發(fā)展太快,寫(xiě)的技術(shù)過(guò)時(shí)了嗎?
田淵棟:我個(gè)人并不擔(dān)憂,這其實(shí)是科技發(fā)展的必由之路。過(guò)去,科幻作品往往能超前現(xiàn)實(shí)一兩百年,但現(xiàn)在,如果你不及時(shí)動(dòng)筆寫(xiě),這本書(shū)就沒(méi)用了?,F(xiàn)在你也會(huì)有自己的寫(xiě)作工具讓你的速度變快,我覺(jué)得最重要的是是否能持續(xù)探索出有意思的新范式,把你自己的思路和想法完全呈現(xiàn)給讀者。
澎湃科技:科研人員跨界寫(xiě)科幻小說(shuō),有哪些職業(yè)?。?/p>
田淵棟:科研人員在寫(xiě)小說(shuō)時(shí),往往熱衷對(duì)某些科學(xué)機(jī)理的闡釋,比如《破曉之鐘》這本書(shū)里面總會(huì)有幾段專門解釋事物是如何產(chǎn)生的。這或許是科研人員的職業(yè)病。
我經(jīng)歷過(guò)科研,也在Meta擔(dān)任過(guò)管理者,所以書(shū)里面自然會(huì)有處理人際關(guān)系和“政治”關(guān)系的討論。理工科的人相對(duì)比較現(xiàn)實(shí),因?yàn)樗麄兲幚淼氖乾F(xiàn)實(shí)世界中的問(wèn)題,所以后期我也反思過(guò),《破曉之鐘》可能缺少一部分浪漫主義色彩,浪漫的成分不夠。
澎湃科技:你現(xiàn)在會(huì)用AI寫(xiě)小說(shuō)嗎?
田淵棟:我有嘗試用Gemini2.5Flash/Pro寫(xiě),效果還不錯(cuò),當(dāng)然很多地方仍有待改進(jìn)。比如AI寫(xiě)得有點(diǎn)俗氣,最麻煩的地方在于,AI沒(méi)有辦法立意。
我在創(chuàng)作的過(guò)程中,那些有意思的高潮段落或者人物性格的發(fā)展,我會(huì)堅(jiān)持自己來(lái)寫(xiě),這些內(nèi)容可能是我過(guò)去的經(jīng)歷,或者是我對(duì)于生活的觀察,這是“人的部分”,當(dāng)我核心部分構(gòu)思成熟后,那些次要人物的行為和互動(dòng),這部分工作是AI可以完成的。
澎湃科技:AI時(shí)代,大家想看的是什么?
田淵棟:這是一個(gè)很好的問(wèn)題,我覺(jué)得應(yīng)該是現(xiàn)在快節(jié)奏了,大家只關(guān)注跟生活息息相關(guān)、讓自己過(guò)得更好的內(nèi)容。另外一種內(nèi)容是讓自己爽。
澎湃科技:聽(tīng)說(shuō)你現(xiàn)在已經(jīng)開(kāi)始構(gòu)思你的第二部小說(shuō)了,你想繼續(xù)探討的核心問(wèn)題是什么?
田淵棟:第二部小說(shuō)在情節(jié)上會(huì)繼續(xù)向前推進(jìn)。第一部《破曉之鐘》主要講述外星人來(lái)到地球時(shí)正處于人工智能時(shí)代。從這個(gè)角度看,既然我們?nèi)祟愐堰_(dá)到如此高的智能水平,這些超越人類的外星智能,他們對(duì)地球到底有何企圖?他們的需求是什么?來(lái)到這里的目的又是什么?這個(gè)問(wèn)題在不同時(shí)代會(huì)有不同的答案。
比如在過(guò)去機(jī)械文明時(shí)代,人們可能會(huì)覺(jué)得外星人是殖民者,會(huì)來(lái)占領(lǐng)土地、奴役人類。但在信息時(shí)代,我們?nèi)祟悓?duì)世界的認(rèn)知已上升到新的臺(tái)階。在這種情況下,如果有比我們更強(qiáng)大的外星文明降臨,他們到底會(huì)想要什么?這是一個(gè)問(wèn)題。
另一個(gè)問(wèn)題是,在科幻世界里,對(duì)于已經(jīng)實(shí)現(xiàn)了永生和“所見(jiàn)即所得”的人類,他們的社會(huì)形態(tài)會(huì)是怎樣的?大家想要通過(guò)什么樣的方式生活?
我死后,我的哥哥們都瘋了
我死后,瘋了三個(gè)人(一)
我痛苦慘死后,妻子發(fā)了瘋
免責(zé)聲明:本文內(nèi)容由開(kāi)放的智能模型自動(dòng)生成,僅供參考。