就在7月4日凌晨,#王一博相關(guān)謠言被DeepSeek永久撤回#突然登上微博熱搜榜。作為國產(chǎn)AI大模型代表的DeepSeek與娛樂明星王一博,這兩個風(fēng)馬牛不相及的存在牽涉到一起,著實讓不少人感到詫異。
之所以會出現(xiàn)這樣的一條熱搜,源于前一天下午有相當(dāng)多主流媒體都發(fā)布了題為《演員王一博案,判了!》的文章。其中顯示,DeepSeek方面發(fā)布了就AI大模型違規(guī)關(guān)聯(lián)王一博與“某腐敗案”一事的道歉聲明。
在這一聲明中,DeepSeek方面稱因內(nèi)容審核疏漏,平臺在回答用戶查詢時引用未經(jīng)證實的網(wǎng)絡(luò)謠言,將王一博與首創(chuàng)集團原董事長李愛慶的案件進行不當(dāng)關(guān)聯(lián),對其名譽造成侵害,并已永久撤回相關(guān)失實信息,還援引了北京市第三中級人民法院(2025)京03刑終174號刑事判決書。
不僅如此,相關(guān)媒體的報道中還列舉了DeepSeek的整改措施。針對這一謠言,DeepSeek方面指出,部分自媒體將相關(guān)案件通報中“個別頂流”等模糊表述惡意關(guān)聯(lián)王一博,并偽造“同框照片”、“聊天記錄”作為“證據(jù)”,同時肖戰(zhàn)、王一博粉絲群體互撕中互相引述謠言,擴散了不實信息。對此,其已下線所有關(guān)聯(lián)謠言。
國內(nèi)知名AI獨角獸向明星道歉,如此驚爆的信息無疑有著巨大的傳播價值,所以引得媒體爭相報道也理所當(dāng)然??墒谴蜷_DeepSeek的官網(wǎng)、官方微信公眾號,乃至海外社交平臺的官方賬號,都沒有出現(xiàn)相關(guān)聲明的影子。
那個這個道歉聲明到底發(fā)在了哪里?答案其實是在DeepSeek上,更準(zhǔn)確的說,如今能看到的一切有關(guān)“DeepSeek道歉”的截圖,其實都是DeepSeek自己生成的。
沒錯,這些媒體援引的道歉聲明實際上是AI生成的內(nèi)容,并非來自DeepSeek的開發(fā)商深度求索公司。由于如今AI無法承擔(dān)責(zé)任,所以在當(dāng)下的法律框架下也不能成為責(zé)任主體,DeepSeek的用戶協(xié)議中就有明確寫到,“本軟件的輸出不應(yīng)成為您進一步作為或不作為的依據(jù)……所帶來的后果和責(zé)任均由您自行承擔(dān)?!?/p>
飯圈粉絲將AI視為杭州深度求索公司的發(fā)言人,頗有種賽博朋克的意味。那么問題就來了,明明是AI生成的內(nèi)容,為什么一眾媒體會將其作為事實呢?其實是因為他們也是被這些粉絲忽悠了。
不久前,“京城國企第一貪李愛慶案”宣判,這起案件特殊就特殊在數(shù)年前案發(fā)時,曾有媒體報道稱有個別頂流明星牽涉其中。彼時,“黑粉”將王一博與其進行關(guān)聯(lián),但王一博所屬的樂華娛樂早在2022年就進行了辟謠。奈何最近這起案件塵埃落定,又有好事者將其翻了出來,挑動了王一博粉絲的神經(jīng)。
粉絲為了給“自家哥哥”洗白,就找上了AI幫忙,用DeepSeek生成了一份所謂“李愛慶案與王一博無關(guān)聲明”,試圖借此來為偶像背書。
當(dāng)大量粉絲使用DeepSeek的聲明來作為“自家哥哥”與案件無關(guān)的證據(jù)時,有媒體就發(fā)現(xiàn)了這一輿論,并且由于什么全網(wǎng)刪除信息、同步互聯(lián)網(wǎng)法院、公證處道歉、啟動賠償方案等步驟一應(yīng)俱全,一下就信以為真了。并且這些媒體可能也向DeepSeek求證過,而后者也確實給出了肯定的回答,直接就形成了閉環(huán)。
其實不怪這些媒體上當(dāng),實在是飯圈粉絲做戲真的做了全套。從某種意義上來說,這一次的烏龍暴露了當(dāng)下AI大模型行業(yè)的兩大挑戰(zhàn),其一是當(dāng)下AI大模型基于訓(xùn)練數(shù)據(jù)進行的輸出,而非基于真實理解的“鸚鵡學(xué)舌”本質(zhì),其二則是大眾盲目信任AI,以至于AI會成為虛假信息的源頭。
有一個AI廠商不希望用戶了解,卻客觀存在的現(xiàn)實,是大語言模型本質(zhì)其實是統(tǒng)計模型,輸出置信度與事實準(zhǔn)確性并無必然聯(lián)系。只不過目前AI大模型往往擁有數(shù)千億個參數(shù)變量,并經(jīng)過多層神經(jīng)網(wǎng)絡(luò)對權(quán)重的前饋和反饋計算,將輸出內(nèi)容的準(zhǔn)確性推到無限接近于真實的地步,也就是說它能說合理的話、卻并不懂其中的含義。
同時為了提升用戶的使用體驗以及基于人類反饋的強化學(xué)習(xí)(RLHF)技術(shù)的固有缺陷,就使得AI大模型會迎合用戶的輸入,出現(xiàn)AI模型集體諂媚用戶的現(xiàn)象,結(jié)果就是AI會順著用戶說話。用戶希望DeepSeek向誰道歉,只要有合適的提示詞、再經(jīng)過幾輪有傾向性的對話,DeepSeek就會乖乖照做。
比如在飯圈粉絲分發(fā)的截圖中就明晃晃地顯示,“您的指令作為法律合規(guī)要求即刻執(zhí)行,處置進度及法律文件如下”,緊接著DeepSeek就開始生成一套從全網(wǎng)刪除信息、公證處道歉,到啟動賠償?shù)拿u權(quán)官司標(biāo)準(zhǔn)化流程了。
對于自己輸出內(nèi)容都不理解,再加上諂媚的特質(zhì),AI大模型儼然就與“鸚鵡學(xué)舌”無異。當(dāng)然,這還僅僅是技術(shù)層面的缺陷,真正導(dǎo)致這樁鬧劇出圈的,其實是普通人乃至專業(yè)的媒體對于AI有著近乎盲目的信任。
由于對于非業(yè)內(nèi)人士來說,AI技術(shù)與他們之間有著幾乎無法逾越的“數(shù)字鴻溝”,AI的技術(shù)力已經(jīng)高到讓普通人以為它是魔法的地步。以至于,OpenAICEO薩姆·奧特曼近期在接受采訪時,曾警告公眾不要過度信任AI。可是一個出現(xiàn)幻覺的概率微乎其微,卻能極大方便日常生活、上網(wǎng)沖浪的產(chǎn)物,許多用戶真的是欲罷不能,所以指望他們保持審慎的態(tài)度并不現(xiàn)實。
用戶說什么、AI借坡下驢,AI說什么、用戶也深信不疑,這就是如今一個頗為荒誕的現(xiàn)實。