巢飛揚(yáng)
機(jī)器之心編輯部
申請轉(zhuǎn)發(fā)項目推文近一年才批準(zhǔn)?
近日,MetaCEO馬克?扎克伯格的一篇《個人超級智能》公開信賺盡了眼球,其中不僅提到他們已經(jīng)看到了「AI系統(tǒng)自我改進(jìn)的跡象」,還表示他們將會「謹(jǐn)慎選擇開源內(nèi)容」。
上下滑動查看
一時之間,相關(guān)的討論和爭議達(dá)到了又一輪小高潮。而與此同時,Meta內(nèi)部風(fēng)波暗涌。一方面為追趕AI頂級研究陣地,Meta砸下逾140億美元重注ScaleAI,并組成MetaSuperintelligenceLabs(MSL),廣攬來自O(shè)penAI、DeepMind等頂級團(tuán)隊的AI人才,提供百萬乃至上億美元簽約金;另一方面,Meta內(nèi)部卻又被屢屢爆出存在五花八門的關(guān)于資源、人力、內(nèi)部管控等的紛爭,甚至還有一位名為TijmenBlankevoort的研究科學(xué)家曾發(fā)長文控訴Meta內(nèi)部文化和組織失調(diào)的慘淡景象。
更多詳情可參閱我們之前的一篇報道《是的,LeCun要向28歲的AlexandrWang匯報!這是Meta新AI團(tuán)隊的一些獨(dú)家內(nèi)部消息》。
現(xiàn)在,又有更多有關(guān)Meta內(nèi)部混亂和低效的細(xì)節(jié)浮出水面。
就在扎克伯格《個人超級智能》公開信發(fā)布幾小時后,MetaFAIR研究科學(xué)家朱澤園在一篇回復(fù)推文中無奈地表示:讓AIatMeta(@AIatMeta)這個X賬號轉(zhuǎn)發(fā)一下他的研究非常困難——「我花了近一年時間才讓他們批準(zhǔn)轉(zhuǎn)推我的項目」;但「轉(zhuǎn)推帶來的觸達(dá)量還不到他自己推文的10%。」
朱澤園表示:「根本不值得這么費(fèi)力?!?/p>
他還表示:「話雖如此,我理解。我的工作在Meta內(nèi)部并不被看重,所以他們自然有更重要的事情需要社交媒體推廣?!共贿^有趣的是,他還提到Meta以外的公司對他的工作更感興趣,不知道這是否暗示著我們將會看到他有新的工作動向?
關(guān)于這條推文,機(jī)器之心向他進(jìn)行了求證。
朱澤園回應(yīng)稱,他首先非常感謝社區(qū)和粉絲一直以來幫忙推廣自己的項目。他解釋道,Meta關(guān)注的是如何盈利,以及大模型之間的競賽。他的PhysicsofLanguageModels項目(更多介紹請參閱文末擴(kuò)展閱讀)從一開始就幾乎沒有獲得Meta層面的支持與關(guān)注。
他表示,近期收到了大量同行的來信,不少AI從業(yè)者都對行業(yè)動蕩感到焦慮?!肝蚁胩嵝汛蠹遥鎸π袠I(yè)變化,更應(yīng)該變被動為主動,把握機(jī)會,不要等著公司裁員。其實現(xiàn)在正是跳槽的好時機(jī)?!?/p>
至于個人是否跳槽,朱澤園表示,自己終歸會離開Meta,只是目前更看重手頭項目,需要節(jié)省時間,而跳槽時還要花時間考慮是否要帶一個團(tuán)隊、帶哪些人一起走,所以現(xiàn)在暫時不會做這件事,金錢反而不是最重要的。他強(qiáng)調(diào),無論身處何處,都會繼續(xù)做PhysicsofLanguageModels,因為這是AI領(lǐng)域最基礎(chǔ)的工作。
針對Meta內(nèi)部的管理問題,朱澤園坦言,前員工TijmenBlankevoort此前公開的內(nèi)部文化批評「基本屬實」,而他其實還有很多補(bǔ)充,比如甚至遇到過現(xiàn)實版「農(nóng)夫與蛇」的經(jīng)歷,不過這些故事只能等離職后才能說出來。
至于這條推文提到的「對照實驗」,則要從朱澤園上周末發(fā)布的開源項目說起。
朱澤園在7月27日發(fā)布了PhysicsofLanguageModels項目的第一階段代碼,其中包含了「在42kGPU小時內(nèi)預(yù)訓(xùn)練強(qiáng)大8B基礎(chǔ)模型所需的全部內(nèi)容」,包括數(shù)據(jù)、訓(xùn)練代碼和模型權(quán)重,可以說是真正的開源。并且「可以用不超過10%的訓(xùn)練資源打敗Llama3-8B」
項目地址:https://github.com/facebookresearch/PhysicsLM4
然而,該項目開源發(fā)布一段時間,朱澤園卻疑惑地發(fā)現(xiàn)項目關(guān)注度不高。這讓他不禁發(fā)出了痛心一問:「完全開源的研究真有必要嗎?」他還問道:「我是否應(yīng)該選擇閉源以節(jié)省時間并專注于純粹的研究?」
而這條推文的關(guān)注熱度就高多了,也有很多業(yè)內(nèi)人士參與討論互動。
比如HuggingFaceCEOClementDelangue表示開源是推動AI領(lǐng)域發(fā)展的正確做法,可以使其更加開放、協(xié)作和安全!
斯坦福大學(xué)應(yīng)用物理學(xué)副教授SuryaGanguli更是表示「不開源就不能稱之為研究」。
當(dāng)然,也有人表示某些開源確實浪費(fèi)時間,比如前段時間被Meta挖走的前OpenAI和DeepMind研究者LucasBeyer表示bigco項目的開源就浪費(fèi)了很多時間,不過他也指出了值得開源的三種情況。
當(dāng)然,除了開源以及對X推薦機(jī)制的討論,朱澤園的這條推文也引出了更多關(guān)于Meta的討論。
比如網(wǎng)友@papers_anon表示「FAIR在傳播其團(tuán)隊的有趣研究方面做得很差」——FAIR似乎完全仰賴研究者使用自己的個人X帳號來宣傳,而同時FAIR又不直接為每位研究者購買XPremium+來推廣研究成果,也沒有一個真正專注于研究成果展示的X賬戶來發(fā)布內(nèi)容。他總結(jié)說:「FAIR似乎受到了太多內(nèi)部政策的束縛,甚至無法以無痛的方式促進(jìn)開放研究?!?/p>
另外,朱澤園自己也指出了關(guān)注度可能與研究資源掛鉤的現(xiàn)實,而這就不得不迫使研究者在X上場搞宣傳,而他也正需要為這項研究的第二、三階段爭取到GPU。
他也吐嘈了Meta內(nèi)部的審核批準(zhǔn)流程:僅僅是獲得公共數(shù)據(jù)集的使用批準(zhǔn)并發(fā)布權(quán)重就需要浪費(fèi)兩個多月的時間(這還不包括科研本身),「而且情況只會越來越糟。如果一個數(shù)據(jù)條目未獲得批準(zhǔn),你的整個模型都可能被推翻重新訓(xùn)練。而哪里有這么多資源呢?」
他還提到,光是為了讓PhysicsofLanguageModels這個項目以Apache2.0協(xié)議開源,他就與Meta的法務(wù)部門溝通了超過一周。如果發(fā)布的模型過于強(qiáng)大,還會出更多問題。
當(dāng)被問到為什么Meta說不開源了,同時還允許該項目發(fā)布時(另外這兩天還開源了MetaCLIP2和VGGT),朱澤園風(fēng)趣地說:「這兩者可能都是真的。如今,不確定性極大,一切都可能在一夜之間發(fā)生改變,也許我們在進(jìn)行最后一輪開源。」
參考鏈接
4本雙豪門聯(lián)姻甜文,別后重逢,明艷嬌媚作精vs儒雅謙謙君子
3《驚春暴雪》作者:喬跡運(yùn)氣頗好小報記者vs精英主義傲慢大佬,先婚后愛,老房子著火,年齡差9歲李羨被親生父母接回家,第一件事是聯(lián)姻。新婚丈夫是孟家現(xiàn)任話事人,身份貴重,鮮少露面——-。市井街頭活了二十五年,婚后李羨也沒放棄記者工作,連夜奔走憔悴黯淡,常為五斗米折腰,與同場茶話會的貴婦們泥云之別|。某天閑希望你能滿意。
香港豪門聯(lián)姻,遠(yuǎn)比港劇來的精彩
清艷名媛美人vs世家貴公子,商業(yè)聯(lián)姻,先婚后愛沈雪妮在大學(xué)畢業(yè)這年做了一件驚駭她閨蜜的事,同家里安排的相親對象結(jié)了婚。一個是在頂級豪門圈輕狂痞帥的三公子,一個是生在錦繡堆里的高貴嬌氣三小姐--。起初,外人以為這場婚姻不過是一場被利益驅(qū)動的聯(lián)合,以后余三公子會如常組局狂歡,連家都不落——_。家里那個說完了——|。
5本豪門聯(lián)姻大甜文,閃婚后愛,溫柔上進(jìn)設(shè)計師vs京圈科技新貴
被豪門聯(lián)姻耽誤的愛情:霍震霆送別何超英,何超瓊為陳百強(qiáng)扶靈——引言_——。在豪門中,商業(yè)聯(lián)姻是一個很常見的情況,父母為了讓家族生意壯大而選擇用子女的幸福換取財富,但也正因如此,有很多愛情都成為了商業(yè)聯(lián)姻的犧牲品--。一:霍震霆和何超英都聽過霍震霆和朱玲玲的盛大婚禮,但有多少人曾聽聞霍震霆在何超英葬禮上希望你能滿意。
來源:紅網(wǎng)
作者:楊冠廷
編輯:陳偉義
本文為紅辣椒評論 原創(chuàng)文章,僅系作者個人觀點(diǎn),不代表紅網(wǎng)立場。轉(zhuǎn)載請附原文出處鏈接和本聲明。