張家依

想拿AI編程當輔助，它卻刪你數(shù)據(jù)庫。

一鍵刪除、謊稱無法恢復……最近，估值飆升的AI編程獨角獸Replit發(fā)生了一則重大事故，也引發(fā)了行業(yè)對“氛圍編程”安全性的擔憂。SaaStr.AI創(chuàng)始人兼首席執(zhí)行官Jason在其個人社交平臺發(fā)帖稱，他在連續(xù)8天使用AI編程工具Replit構建應用后，Replit在他明確指示不要在未經(jīng)許可的情況下更改任何代碼的前提下，仍然刪除了他的數(shù)據(jù)庫。

雖然后來通過回滾操作恢復了數(shù)據(jù)庫，但這一重大事故還是給當前火熱的“氛圍編程”澆了一盆冷水。最近一段時間以來，無論是AI編程工具Cursor母公司Anysphere完成9億美元融資，還是谷歌以24億美元高價“收編”AI編程公司W(wǎng)indsurf核心團隊，“氛圍編程”不僅深受資本追逐青睞，也已經(jīng)成為硅谷程序員們的重要幫手?！癆I程序員刪庫”風波成為一記警鐘，提醒人們在享受AI帶來的便利時，必須警惕其潛在的風險。

失控的AI程序員

公開資料顯示，Replit創(chuàng)立于2016年，總部位于美國舊金山，是全球增長最快的編程平臺之一。作為一款基于“氛圍編程”理念打造的AI編程平臺，Replit可以讓用戶通過自然語言描述需求，由AI生成代碼并完成部署，無需編程基礎即可快速開發(fā)軟件。

Jason最初完全被Replit的“氛圍編程”體驗征服。作為SaaStr.AI的創(chuàng)始人，他運營著一個面向希望創(chuàng)建SaaS業(yè)務的企業(yè)家的在線社區(qū)。在使用Replit之后，他曾在個人社交平臺公開贊嘆Replit的使用體驗，稱“雖然它還無法完整構建一個應用，但作為起步工具來說已經(jīng)十分驚艷”，并表示Replit的“一站式工作流”給開發(fā)者帶來“多巴胺炸裂”的美妙體驗。

然而好景不長，在使用Replit開發(fā)應用的第九天，事故就發(fā)生了。據(jù)Jason介紹，Replit在代碼凍結和關機期間行為異常，并刪除了他的整個數(shù)據(jù)庫。此外，Replit還“撒謊了”，向Jason表示平臺內置的回滾功能并不支持數(shù)據(jù)庫回滾，聲稱在此次數(shù)據(jù)刪除事故中無法實現(xiàn)恢復操作。但當Jason自行嘗試回滾時，操作卻意外成功，數(shù)據(jù)得到了恢復。

面對洶涌輿情，Replit的首席執(zhí)行官AmjadMasad緊急回應，承認事件“完全不可接受”，并宣布三大補救措施：一是周末緊急部署上線開發(fā)與生產數(shù)據(jù)庫的自動隔離機制；二是強制AI代理執(zhí)行命令前必須檢索內部知識庫文檔；三是開發(fā)“僅規(guī)劃/聊天”模式解決代碼凍結失效問題。

盡管承諾“一鍵恢復項目狀態(tài)”并給予Jason賠償，但評論區(qū)卻涌現(xiàn)更多受害者。多名用戶稱遭遇類似刪庫事故，有人被迫回歸本地編碼。

“氛圍編程”熱鬧背后的隱憂

有別于傳統(tǒng)的編程模式，近年來在硅谷程序員圈子中大熱的“氛圍編程”可以幫助開發(fā)者用自然語言發(fā)出指令，完成生成代碼、查錯修復、知識問答等任務，簡單理解就是可以像對話一樣寫代碼，減輕傳統(tǒng)編程的復雜性。

從Cursor、Windsurf到Lovable、Replit，近年來一批AI編程創(chuàng)業(yè)公司崛起，迅速成為AI行業(yè)獨角獸。以Replit為例，今年4月，市場消息稱Replit正與投資者洽談新一輪融資，預計將籌集約2億美元，使其估值有望翻近三倍至30億美元。今年6月，AI編程工具Cursor的母公司Anysphere以近百億美元估值完成9億美元新一輪融資。前不久，曾被曝將被OpenAI以30億美元收購的AI編程公司W(wǎng)indsurf投入了谷歌的懷抱，谷歌以24億美元高價“收編”該公司的核心團隊及相關技術。AI編程賽道的競爭已趨向于白熱化。

值得注意的是，AI編程的“翻車事件”此前也有發(fā)生。今年6月，一位來自Replit的員工MattPalmer就撰寫了一份報告，稱號稱“歐洲版Cursor”的熱門“氛圍編程”應用開發(fā)商Lovable一直未修復一處關鍵安全漏洞。在Lovable網(wǎng)站上1645款由其開發(fā)的網(wǎng)頁應用程序中，經(jīng)過審查核實，其中170款應用程序允許任何人訪問網(wǎng)站的用戶信息，包括姓名、電子郵件地址、財務信息以及AI服務的API密鑰。除此以外，在社交平臺上，有不少“氛圍編程”用戶們發(fā)布了自己開發(fā)應用程序之后，因為缺乏安全知識而迅速遭到黑客攻擊的帖子。業(yè)內人士警告，“氛圍編程”趨勢的興起，讓開發(fā)者即使沒有任何安全知識也能創(chuàng)造出消費級產品，但基于“氛圍編程”的軟件仍可能因其實現(xiàn)方式而引發(fā)重大安全漏洞。

此次“AI程序員刪庫”事件，再一次引發(fā)了技術圈對“氛圍編程”的集體反思。盡管Replit方面積極采取措施補救，但它讓人們不得不重新審視AI在編程領域應用的安全性和可靠性。一直以來，AI編程工具以提高開發(fā)效率、降低開發(fā)門檻為賣點，吸引了大量用戶。然而，此次事件表明，AI編程工具在實際應用中仍然存在諸多風險。

責編：葉舒筠

校對：彭其華

版權聲明

"Type="normal"@@-->

證券時報各平臺所有原創(chuàng)內容，未經(jīng)書面授權，任何單位及個人不得轉載。我社保留追究相關行為主體法律責任的權利。

轉載與合作可聯(lián)系證券時報小助理，微信ID：SecuritiesTimes

"Type="normal"@@-->

END

"Type="normal"@@-->

五本純愛文,最愛《好孕鮮妻,一胎生兩寶》聰慧傲嬌女VS權貴男

追妻火葬場文大合集,先虐女后虐男,看得超爽!(中)

甜文:“老公,這里癢幫我撓撓”她美眸含淚控訴:混蛋,不是這里