就在7月4日凌晨,#王一博相關(guān)謠言被DeepSeek永久撤回#突然登上微博熱搜榜。作為國(guó)產(chǎn)AI大模型代表的DeepSeek與娛樂(lè)明星王一博,這兩個(gè)風(fēng)馬牛不相及的存在牽涉到一起,著實(shí)讓不少人感到詫異。
之所以會(huì)出現(xiàn)這樣的一條熱搜,源于前一天下午有相當(dāng)多主流媒體都發(fā)布了題為《演員王一博案,判了!》的文章。其中顯示,DeepSeek方面發(fā)布了就AI大模型違規(guī)關(guān)聯(lián)王一博與“某腐敗案”一事的道歉聲明。
在這一聲明中,DeepSeek方面稱(chēng)因內(nèi)容審核疏漏,平臺(tái)在回答用戶(hù)查詢(xún)時(shí)引用未經(jīng)證實(shí)的網(wǎng)絡(luò)謠言,將王一博與首創(chuàng)集團(tuán)原董事長(zhǎng)李?lèi)?ài)慶的案件進(jìn)行不當(dāng)關(guān)聯(lián),對(duì)其名譽(yù)造成侵害,并已永久撤回相關(guān)失實(shí)信息,還援引了北京市第三中級(jí)人民法院(2025)京03刑終174號(hào)刑事判決書(shū)。
不僅如此,相關(guān)媒體的報(bào)道中還列舉了DeepSeek的整改措施。針對(duì)這一謠言,DeepSeek方面指出,部分自媒體將相關(guān)案件通報(bào)中“個(gè)別頂流”等模糊表述惡意關(guān)聯(lián)王一博,并偽造“同框照片”、“聊天記錄”作為“證據(jù)”,同時(shí)肖戰(zhàn)、王一博粉絲群體互撕中互相引述謠言,擴(kuò)散了不實(shí)信息。對(duì)此,其已下線(xiàn)所有關(guān)聯(lián)謠言。
國(guó)內(nèi)知名AI獨(dú)角獸向明星道歉,如此驚爆的信息無(wú)疑有著巨大的傳播價(jià)值,所以引得媒體爭(zhēng)相報(bào)道也理所當(dāng)然??墒谴蜷_(kāi)DeepSeek的官網(wǎng)、官方微信公眾號(hào),乃至海外社交平臺(tái)的官方賬號(hào),都沒(méi)有出現(xiàn)相關(guān)聲明的影子。
那個(gè)這個(gè)道歉聲明到底發(fā)在了哪里?答案其實(shí)是在DeepSeek上,更準(zhǔn)確的說(shuō),如今能看到的一切有關(guān)“DeepSeek道歉”的截圖,其實(shí)都是DeepSeek自己生成的。
沒(méi)錯(cuò),這些媒體援引的道歉聲明實(shí)際上是AI生成的內(nèi)容,并非來(lái)自DeepSeek的開(kāi)發(fā)商深度求索公司。由于如今AI無(wú)法承擔(dān)責(zé)任,所以在當(dāng)下的法律框架下也不能成為責(zé)任主體,DeepSeek的用戶(hù)協(xié)議中就有明確寫(xiě)到,“本軟件的輸出不應(yīng)成為您進(jìn)一步作為或不作為的依據(jù)……所帶來(lái)的后果和責(zé)任均由您自行承擔(dān)?!?/p>
飯圈粉絲將AI視為杭州深度求索公司的發(fā)言人,頗有種賽博朋克的意味。那么問(wèn)題就來(lái)了,明明是AI生成的內(nèi)容,為什么一眾媒體會(huì)將其作為事實(shí)呢?其實(shí)是因?yàn)樗麄円彩潜贿@些粉絲忽悠了。
不久前,“京城國(guó)企第一貪李?lèi)?ài)慶案”宣判,這起案件特殊就特殊在數(shù)年前案發(fā)時(shí),曾有媒體報(bào)道稱(chēng)有個(gè)別頂流明星牽涉其中。彼時(shí),“黑粉”將王一博與其進(jìn)行關(guān)聯(lián),但王一博所屬的樂(lè)華娛樂(lè)早在2022年就進(jìn)行了辟謠。奈何最近這起案件塵埃落定,又有好事者將其翻了出來(lái),挑動(dòng)了王一博粉絲的神經(jīng)。
粉絲為了給“自家哥哥”洗白,就找上了AI幫忙,用DeepSeek生成了一份所謂“李?lèi)?ài)慶案與王一博無(wú)關(guān)聲明”,試圖借此來(lái)為偶像背書(shū)。
當(dāng)大量粉絲使用DeepSeek的聲明來(lái)作為“自家哥哥”與案件無(wú)關(guān)的證據(jù)時(shí),有媒體就發(fā)現(xiàn)了這一輿論,并且由于什么全網(wǎng)刪除信息、同步互聯(lián)網(wǎng)法院、公證處道歉、啟動(dòng)賠償方案等步驟一應(yīng)俱全,一下就信以為真了。并且這些媒體可能也向DeepSeek求證過(guò),而后者也確實(shí)給出了肯定的回答,直接就形成了閉環(huán)。
其實(shí)不怪這些媒體上當(dāng),實(shí)在是飯圈粉絲做戲真的做了全套。從某種意義上來(lái)說(shuō),這一次的烏龍暴露了當(dāng)下AI大模型行業(yè)的兩大挑戰(zhàn),其一是當(dāng)下AI大模型基于訓(xùn)練數(shù)據(jù)進(jìn)行的輸出,而非基于真實(shí)理解的“鸚鵡學(xué)舌”本質(zhì),其二則是大眾盲目信任AI,以至于AI會(huì)成為虛假信息的源頭。
有一個(gè)AI廠商不希望用戶(hù)了解,卻客觀存在的現(xiàn)實(shí),是大語(yǔ)言模型本質(zhì)其實(shí)是統(tǒng)計(jì)模型,輸出置信度與事實(shí)準(zhǔn)確性并無(wú)必然聯(lián)系。只不過(guò)目前AI大模型往往擁有數(shù)千億個(gè)參數(shù)變量,并經(jīng)過(guò)多層神經(jīng)網(wǎng)絡(luò)對(duì)權(quán)重的前饋和反饋計(jì)算,將輸出內(nèi)容的準(zhǔn)確性推到無(wú)限接近于真實(shí)的地步,也就是說(shuō)它能說(shuō)合理的話(huà)、卻并不懂其中的含義。
同時(shí)為了提升用戶(hù)的使用體驗(yàn)以及基于人類(lèi)反饋的強(qiáng)化學(xué)習(xí)(RLHF)技術(shù)的固有缺陷,就使得AI大模型會(huì)迎合用戶(hù)的輸入,出現(xiàn)AI模型集體諂媚用戶(hù)的現(xiàn)象,結(jié)果就是AI會(huì)順著用戶(hù)說(shuō)話(huà)。用戶(hù)希望DeepSeek向誰(shuí)道歉,只要有合適的提示詞、再經(jīng)過(guò)幾輪有傾向性的對(duì)話(huà),DeepSeek就會(huì)乖乖照做。
比如在飯圈粉絲分發(fā)的截圖中就明晃晃地顯示,“您的指令作為法律合規(guī)要求即刻執(zhí)行,處置進(jìn)度及法律文件如下”,緊接著DeepSeek就開(kāi)始生成一套從全網(wǎng)刪除信息、公證處道歉,到啟動(dòng)賠償?shù)拿u(yù)權(quán)官司標(biāo)準(zhǔn)化流程了。
對(duì)于自己輸出內(nèi)容都不理解,再加上諂媚的特質(zhì),AI大模型儼然就與“鸚鵡學(xué)舌”無(wú)異。當(dāng)然,這還僅僅是技術(shù)層面的缺陷,真正導(dǎo)致這樁鬧劇出圈的,其實(shí)是普通人乃至專(zhuān)業(yè)的媒體對(duì)于AI有著近乎盲目的信任。
由于對(duì)于非業(yè)內(nèi)人士來(lái)說(shuō),AI技術(shù)與他們之間有著幾乎無(wú)法逾越的“數(shù)字鴻溝”,AI的技術(shù)力已經(jīng)高到讓普通人以為它是魔法的地步。以至于,OpenAICEO薩姆·奧特曼近期在接受采訪(fǎng)時(shí),曾警告公眾不要過(guò)度信任AI。可是一個(gè)出現(xiàn)幻覺(jué)的概率微乎其微,卻能極大方便日常生活、上網(wǎng)沖浪的產(chǎn)物,許多用戶(hù)真的是欲罷不能,所以指望他們保持審慎的態(tài)度并不現(xiàn)實(shí)。
用戶(hù)說(shuō)什么、AI借坡下驢,AI說(shuō)什么、用戶(hù)也深信不疑,這就是如今一個(gè)頗為荒誕的現(xiàn)實(shí)。
短劇榜單新動(dòng)態(tài):新劇與經(jīng)典同臺(tái)競(jìng)技