智東西編譯程茜編輯心緣
智東西8月2日消息,昨日凌晨,麻省理工科技評論放出了與OpenAI首席研究官陳信翰(MarkChen)和首席科學家雅庫布·帕喬基(JakubPachocki)的獨家專訪。
這兩位技術大牛都是90后,陳信翰是OpenAI圖像生成模型DALL·E、GPT-4多模態(tài)能力、Codex背后的關鍵推手,帕喬基是ChatGPT、GPT-4等模型的核心貢獻者之一,同時也是OpenAIo1、o3等推理模型的主要架構師。
在OpenAI于倫敦設立的首個國際辦事處內(nèi),陳信翰和帕喬基接受了專訪,回應了最近陷入爭議的OpenAIIMO奪金事件,稱人們低估了其模型在另一項編程競賽AtCoder奪得第二名,刷新人類最好成績的價值,并透露OpenAI產(chǎn)品周活躍用戶超過4億人。
對當下模型發(fā)展,他們認為推理模型發(fā)展仍處于初始階段;并且面對開發(fā)式研究和發(fā)布產(chǎn)品的平衡,OpenAI堅持讓更多人意識到技術發(fā)展的水平是必要條件。此外,實現(xiàn)AGI的進程中,他們提到計算機能夠自主開發(fā)新技術、讓模型能夠更長時間地自主工作至關重要。
隨后OpenAI聯(lián)合創(chuàng)始人兼CEO薩姆·阿爾特曼(SamAltman)在社交平臺X上轉(zhuǎn)發(fā)了這篇專訪文章,并評價說“這篇文章真正抓住了陳信翰和帕喬基合作的精神”。
也有網(wǎng)友在評論區(qū)做了表情包“提醒”阿爾特曼,警惕被扎克伯格挖人。值得一提的是,此前,據(jù)《華爾街日報》報道,Meta創(chuàng)始人兼CEO馬克·扎克伯格(MarkZuckerberg)就向陳信翰開出了10億美元天價薪酬,但被他拒絕。
一、OpenAI雙雄掌舵,更看重編程競賽成績
兩位研究主管在英國倫敦市中心國王十字車站附近的共享辦公空間會議室中接受了采訪,據(jù)了解,OpenAI將這里當作其在倫敦科技街區(qū)的臨時住所,并且距離谷歌DeepMind和Meta都不遠。
在OpenAI的具體分工中,陳信翰負責組建和管理研究團隊,帕喬基負責制定研究路線圖并確立OpenAI的長期技術愿景。不過陳信翰也提到,他們的角色并不是一成不變的,作為研究人員,他們可以利用所有的技術線索,只要有可以解決的問題就會去做。
陳信翰出生于中國臺灣,大學就讀于麻省理工學院,曾在微軟實習,畢業(yè)后獲得數(shù)學和計算機學位。加入OpenAI前曾在美國投資公司簡街資本擔任量化交易員,開發(fā)了用于期貨交易的機器學習模型。2018年,他加入OpenAI后,牽頭創(chuàng)建了圖像生成模型DALL·E,隨后致力于為GPT-4添加圖像識別功能,并領導了為GitHubCopilot提供支持的編程模型Codex的開發(fā)。
帕喬基于2017年加入OpenAI,并于2024年5月接替伊爾亞·蘇茨克維(IlyaSutskever)擔任OpenAI首席科學家。他是ChatGPT、GPT-4等模型的核心貢獻者之一,同時也是OpenAIo1、o3等推理模型的主要架構師。
采訪前不久,OpenAI的模型剛剛斬獲兩個國際大獎。7月16日,OpenAI的定制模型在全球最硬核的編程競賽之一AtCoder世界巡回賽總決賽中獲得第二名;7月19日,OpenAI宣布其內(nèi)部推理模型在世界最負盛名的數(shù)學競賽之一2025年國際數(shù)學奧林匹克競賽(IMO)中獲得金牌。
但隨后OpenAI因提前公布結(jié)果,搶占參賽學生風頭陷入爭議。對此陳信翰和帕喬基談道,他們最興奮的是OpenAI在編程方面的勝利。
陳信翰認為OpenAI取得的這一成績被低估了,在IMO獲得金牌會讓你躋身前20到50名選手之列。但在AtCoder競賽中,OpenAI的模型名列第二,這突破了人類表現(xiàn)的全新高度。
二、保持OpenAI頻繁更新勢頭,要將實驗模型推向大眾
OpenAI如今已經(jīng)與三年前ChatGPT發(fā)布之際大不相同。
這家估值3000億美元的公司正與全球規(guī)模最大、最富有的科技公司展開競爭,其需要將驚艷的研究和演示變成用戶真正需要的產(chǎn)品。
近期,OpenAI的更新迭代速度拉滿。從對GPT-4系列模型進行重大更新,到推出一系列生成式圖像和視頻模型,并引入與ChatGPT語音對話的功能;去年至今,OpenAI已經(jīng)發(fā)布o1、o3兩個推理模型,今年1月,發(fā)布首款可以像人類一樣操作電腦獨立完成任務的AI智能體Operator。OpenAI官方數(shù)據(jù)顯示,目前每周有超過4億人使用其產(chǎn)品,每天提交25億條指令。
OpenAI新上任的應用首席執(zhí)行官菲吉·西莫(FidjiSimo)計劃保持這一勢頭,持續(xù)推出新產(chǎn)品。她曾在一份備忘錄中告訴員工,她期待幫助OpenAI的技術惠及全球更多人,這些技術將為更多人帶來比歷史上任何其他技術都多的機會。
談到OpenAI如何平衡開放式研究和產(chǎn)品發(fā)布時,帕喬基稱,在ChatGPT誕生之前,他們就在思考這個問題,如果他們真的認真考慮構建通用人工智能,那么顯然這項技術可以實現(xiàn)很多目標、探索很多方向,最終成就偉大的產(chǎn)品。換句話說,“持續(xù)搖晃果樹,能收獲多少是多少”。
此前,OpenAI團隊提出的一個觀點是,將實驗模型推向世界是研究的必要組成部分,這一做法的目標是讓人們意識到這項技術已經(jīng)發(fā)展得多么出色。阿爾特曼曾提到,他們希望讓人們了解未來,OpenAI渴望將新技術交到人們手中,看看人們會如何利用它。
帕喬基說,現(xiàn)在還是這樣,模型已經(jīng)達到了傳統(tǒng)基準能夠衡量的能力極限,他們一直在思考的許多長期挑戰(zhàn)也開始顯現(xiàn),因此現(xiàn)在正處于一個關鍵時刻,真正重要的是模型在現(xiàn)實世界中能做什么。
就像在編程比賽中與人類較量一樣。在今年日本舉辦的AtCoder大賽上,擊敗OpenAI模型的是一位名叫普熱梅斯瓦夫·登比亞克(Przemys?awD?biak)的程序員。這項比賽是一場解謎馬拉松,參賽者必須在10小時內(nèi)找到解決復雜編程問題的最有效方法。獲勝后,登比亞克在X上發(fā)帖稱:“我累壞了……我快要撐不住了?!?/p>
值得一提的是,登比亞克與帕喬基曾共同參加過編程比賽,還曾在OpenAI共事。
不過,對于絕大多數(shù)用戶而言這些在編程和數(shù)學競賽方面的勝利是小眾的。這項旨在模仿并最終取代人類智能的技術,是由那些認為巔峰智力就是在數(shù)學競賽中取得優(yōu)異成績或與傳奇程序員抗衡的人打造的,這種對智力的看法更偏向數(shù)學和分析能力。
陳信翰提到,他們的目的是想創(chuàng)造一些能加速自身發(fā)展的模式,這是快速進步的一個條件。
他們認為,數(shù)學和編程是更普遍的智能的基石,這種智能能夠以人類自身可能未曾想到的方式解決各種各樣的問題。帕喬基補充說:“我們這里討論的是編程和數(shù)學,但真正的智能在于創(chuàng)造力,在于提出新穎的想法,以及將來自不同來源的想法聯(lián)系起來?!?/p>
以上面提到的兩場比賽為例,其都存在一些需要突破常規(guī)思維的問題。登比亞克花了一半的編程比賽時間進行思考,然后想出了一個非常新穎的解決方案,與模型所研究的任何方案都截然不同。
帕喬基稱:“這正是我們追求的,如何讓模型發(fā)現(xiàn)這種新穎的見解、如何真正推進我們的知識,我認為它們在某些有限的方式上已經(jīng)具備了這種能力,這項技術有潛力真正加速科學進步。”
三、仍處于推理模型初始階段,ScalingLaw不會失效
OpenAI在創(chuàng)立之初,也就是通用人工智能(AGI)還只是個噱頭的時候,就宣稱要打造AGI。如今,OpenAI對AGI依然充滿熱情,并且比大多數(shù)公司都更努力地希望將AGI打造成一個價值數(shù)十億美元的主流項目。
然而,AGI的目標還未達成,這背后欠缺的是什么?
帕喬基提到,展望未來的方式是真正深入地研究我們今天所見的技術。從一開始,OpenAI就將深度學習視為一種非常神秘且顯然非常強大、潛力巨大的技術,同時一直在努力了解它的瓶頸,例如它能做什么?它不能做什么?
當下OpenAI可能還處于這種推理范式的初始階段,研究人員正在思考如何讓這些模型進行長期學習和探索,并真正帶來全新的想法。
陳信翰補充說,目前最前沿的推理模型,將問題分解成更小、更易于管理的步驟,但即使是推理模型也有局限性,模型知道很多東西,但卻無法將這些知識串聯(lián)起來,不能像人類一樣思考。OpenAI正在竭盡全力回答這個問題。他說:“我不認為推理問題已經(jīng)解決了,我們顯然還沒攻克它。你必須研讀海量文本,才能勉強接近人類所掌握的知識范疇。”
OpenAI不會透露它使用什么數(shù)據(jù)來訓練其模型,也不會提供有關其模型的詳細信息,只是它正在努力使開發(fā)過程的所有階段更加高效。這些努力使他們相信,所謂的ScalingLaw不會失效。
“我認為沒有任何證據(jù)表明ScalingLaw在任何意義上已經(jīng)失效,”陳信翰認為,“因為瓶頸一直存在,有時與模型構建方式有關。有時與數(shù)據(jù)有關。但從根本上來說,關鍵在于找到能夠突破當前瓶頸的研究。”
今年5月,帕喬基在接受《自然》期刊采訪時提到,2017年加入OpenAI時,他是公司里對AGI持懷疑態(tài)度最強烈的人之一?!?/p>
帕喬基回憶說,他加入OpenAI的時候,就預料到要花更長的時間才能達到現(xiàn)在的水平。在AI帶來的影響中,他最關心的是自動化研究,縱觀人類歷史,很多內(nèi)容都是關于技術進步、人類創(chuàng)造新技術,因此他認為計算機能夠自主開發(fā)新技術的時刻似乎是一個非常重要的轉(zhuǎn)折點。
對陳信翰來說,讓模型能夠更長時間地自主工作至關重要。他解釋說:“我確實認為每個人對通用人工智能都有自己的定義,但自主時間的概念,也就是模型能夠在解決難題時取得有效進展而不陷入死胡同的時間,才是我們追求的重大目標之一。
不過他們目前的設想仍然只是大膽的愿景,且遠遠超出了當今模型的能力。
四、離職或是私人決定,“對齊”已融入核心業(yè)務
2023年7月,蘇茨克維和楊·萊克(JanLeike)宣布在OpenAI成立超級對齊團隊,這個團隊將投入OpenAI五分之一的資源,研究如何控制一個假設的超級智能。如今,包括蘇茨克弗和萊克在內(nèi)的超級對齊團隊的大多數(shù)人都已離開OpenAI,超級對齊團隊團隊也不復存在。
萊克從OpenAI辭職時稱,是因為團隊沒有得到他認為應得的支持。他在X上發(fā)帖稱:“打造比人類更聰明的機器本身就危險。OpenAI代表全人類肩負著巨大的責任。但在過去幾年里,安全文化和流程已經(jīng)讓位于光鮮亮麗的產(chǎn)品。”其他離職研究人員也表達了類似的看法。
對此,陳信翰認為,很多事情是非常私人的決定,他們可能相信這個領域會以某種方式發(fā)展,他們的研究會取得成功、結(jié)出碩果。但要知道,公司可能不會按照個人希望的方式重塑。有時候,這個領域的發(fā)展方式會與個人的研究方式不太一致。
但陳信翰和帕喬基都一致認為,如今“對齊”已成為OpenAI核心業(yè)務的一部分,而非某個特定團隊的專屬職責。帕喬基稱,這些模型只有在符合預期的情況下才真正有效。此外,既然讓現(xiàn)有模型與目標對齊已頗具挑戰(zhàn),人們也就沒什么動力去專注于讓假想中的超級智能與自身目標對齊了。
“兩年前,我們設想的風險大多只是理論上的風險,”帕喬基說?!叭缃竦氖澜缫呀?jīng)大不相同,我認為很多對齊問題現(xiàn)在都具有非常實際的動機?!?/p>
結(jié)語:OpenAI人才流失,靜待GPT-5發(fā)布扭轉(zhuǎn)乾坤
OpenAI仍然是當下硅谷的焦點:一方面,OpenAI成為硅谷搶人大戰(zhàn)重災區(qū),被Meta連挖近10人;另一方面,GPT-5發(fā)布時間數(shù)次被推遲,都引發(fā)了不少關于這家創(chuàng)企的討論。
在這個關鍵節(jié)點,阿爾特曼直接轉(zhuǎn)發(fā)點贊專訪文章,或許是對當下質(zhì)疑的另一種回應。采訪中陳信翰和帕喬基雖然并沒有直接透露GPT-5的相關信息,但提到不少他們當下的研究重點,如讓推理模型能像人一樣思考,以及OpenAI對將實驗模型推向大眾市場的堅持。
再加上最新的爆料顯示,OpenAIGPT-5模型預計將于8月發(fā)布,將一改此前單一架構的模式,整合o3推理模型及多項內(nèi)部技術,打造一個能同時處理文本、代碼、圖像與工具調(diào)用的統(tǒng)一系統(tǒng),以此取代現(xiàn)有的o系列與GPT系列并行的格局。
GPT-5若能如期發(fā)布,或許能幫助OpenAI一掃人才大幅流失的陰影。
良心推薦《醫(yī)妃難撩:王爺,休書請接好!》必讀章節(jié)追文動力有木有!
“姨娘且慢。你只是沐安王府側(cè)妃,不可和王爺抗爭。況且純嬪還在,她要是看到你們,隨便一句話就能把你們責罰了,到時不是要得不償失?”蘇側(cè)妃一聽是那么回事,心急地跺跺腳:“那該怎么辦?王妃臨終前囑托過我,一定要照顧好小姐,現(xiàn)在小姐受了委屈,我卻不能作聲……”“現(xiàn)在作聲,就是讓他們看我們的笑話?!便迩迥潇o “王爺息怒!若是被大將軍知道的話,一定會前來問責的。玥兒不想讓王爺為難,只要能與王爺在一起,玥兒就算是名聲毀了也心甘情愿?!鄙瞎佾h撲了過來,聲淚俱下的表明心跡,然后又朝著躺在地上的謝瑤磕頭,“王妃,都是我的錯,有什么怨氣都撒在我身上吧!”當楚寒聽到大將軍三字時,面色陡然一變,腳下的力希望你能滿意——_。《王爺休書請接好》她一紙休書丟給攝政王,他一看立馬跪床頭請罪