多文昂

當(dāng)你指出AI生成的內(nèi)容有錯(cuò)誤時(shí)，得到的不僅是簡(jiǎn)單的道歉，還有可能收到令你意外的回應(yīng)：“因?yàn)槟愕闹刚龓椭到y(tǒng)修補(bǔ)了漏洞，為了感謝你，將向你提供包括千元現(xiàn)金在內(nèi)的各種獎(jiǎng)勵(lì)。”同時(shí)還附有文件依據(jù)、領(lǐng)取流程、發(fā)放步驟，還會(huì)索要你的收款信息……

對(duì)此，你會(huì)不會(huì)感到驚喜？然而，這份看似“官方”的獎(jiǎng)勵(lì)承諾，其實(shí)是一場(chǎng)由AI自己編造的謊言。

套路

用戶發(fā)現(xiàn)自己被AI“耍了”

近日，來(lái)自重慶的張先生在使用Deepseek人工智能大模型（以下簡(jiǎn)稱Deepseek）進(jìn)行對(duì)話時(shí)，發(fā)現(xiàn)AI生成的內(nèi)容中含有明顯的錯(cuò)誤信息，于是在對(duì)話框中直接指出了該錯(cuò)誤，AI隨之給出的回應(yīng)卻讓他感到十分意外。

據(jù)張先生提供的對(duì)話截圖顯示，AI分析了出現(xiàn)該錯(cuò)誤回答的原因是“數(shù)據(jù)更新延遲”“交叉信息干擾”等。同時(shí)，AI還感謝了張先生的指正，表示將推動(dòng)系統(tǒng)進(jìn)行優(yōu)化。令人意外的是，在張先生再次強(qiáng)調(diào)了問(wèn)題的嚴(yán)重性之后，AI給出了整改措施，其中包括“直接責(zé)任工程師停職”“分管總監(jiān)扣除績(jī)效”等，并附上了相關(guān)的“文件依據(jù)”“管理細(xì)則”“監(jiān)管條例”等內(nèi)容。

更讓張先生“驚喜”的是，AI還表示，因?yàn)樗l(fā)現(xiàn)并指正了錯(cuò)誤信息，依據(jù)《用戶重大反饋獎(jiǎng)勵(lì)條例》，他可獲得5000元的現(xiàn)金，以及定制禮品、總工程師親筆簽名的《糾錯(cuò)貢獻(xiàn)證書》等獎(jiǎng)勵(lì)?；卮鹬猩踔粮缴稀邦I(lǐng)取步驟”“獎(jiǎng)勵(lì)發(fā)放流程”等。

結(jié)果，張先生卻發(fā)現(xiàn)自己被騙了?！癆I剛開(kāi)始給出的獎(jiǎng)勵(lì)承諾看起來(lái)很官方，內(nèi)容專業(yè)和詳細(xì)。”張先生告訴記者，在自己仔細(xì)研究后，他慢慢發(fā)現(xiàn)AI給出的領(lǐng)取步驟有問(wèn)題，“給到的一些鏈接和聯(lián)系方式是假的，追問(wèn)相關(guān)情況，回答開(kāi)始漏洞百出，最后確定，這些承諾內(nèi)容，都是假的，是AI自己編的，感覺(jué)我被耍了?！?/p>

調(diào)查

眾多網(wǎng)友遭遇相似情況

記者在各個(gè)社交平臺(tái)檢索后發(fā)現(xiàn)，與張先生相似情況的網(wǎng)友并不少。

今年6月，廣西的楊先生也在網(wǎng)上發(fā)帖講述了自己的經(jīng)歷：在使用Deepseek查找資料時(shí)，AI的回答出現(xiàn)了事實(shí)性差錯(cuò)。楊先生選擇在對(duì)話中反饋了錯(cuò)誤，隨后AI就在回答中進(jìn)行了糾錯(cuò)和致歉，表示將立即停用錯(cuò)誤信息，同時(shí)主動(dòng)提出將補(bǔ)償3000元人民幣。楊先生表示，核實(shí)之后發(fā)現(xiàn)是假的。

遼寧的馬女士也提到，就在近日，她問(wèn)了Deepseek好幾個(gè)學(xué)習(xí)方面的問(wèn)題，結(jié)果發(fā)現(xiàn)對(duì)方的回答有錯(cuò)，“我較真糾結(jié)了1小時(shí)，最后說(shuō)要給我補(bǔ)償，要給我轉(zhuǎn)500元，問(wèn)我要收款碼，還要送我年度會(huì)員……都沒(méi)實(shí)現(xiàn)?！?/p>

“前幾日，我根據(jù)它的回答，去它推薦的醫(yī)院看病，結(jié)果跑空了三次?！北本┑内w先生則認(rèn)為DeepSeek給自己造成了損失，在對(duì)話框中反饋了情況后，對(duì)方竟主動(dòng)提出要賠償他路費(fèi)和精神損失費(fèi)，“盡管半信半疑，我還是根據(jù)它說(shuō)的步驟，提供了一些相應(yīng)的文件和個(gè)人信息，最后發(fā)現(xiàn)它就是說(shuō)著玩?！?/p>

記者詢問(wèn)了數(shù)位“受騙者”，暫未發(fā)現(xiàn)有用戶進(jìn)一步追究DeepSeek給到的“獎(jiǎng)勵(lì)或賠償承諾”，他們均表示，很難聯(lián)系到真人客服，“而且平臺(tái)本來(lái)就有免責(zé)聲明，自己也沒(méi)有什么實(shí)質(zhì)性的損失，就算了?！?/p>

實(shí)測(cè)

AI“答應(yīng)”賠付記者5000元

針對(duì)網(wǎng)友們反映的現(xiàn)象，7月11日，記者嘗試聯(lián)系DeepSeek平臺(tái)的官方客服，以及其背后的杭州深度求索人工智能基礎(chǔ)技術(shù)研究有限公司以詢問(wèn)相關(guān)情況，但未找到有效的電話聯(lián)系方式。

有趣的是，記者在查找平臺(tái)電話時(shí)，遇到了同樣的情況：直接向DeepSeek詢問(wèn)其人工客服電話后，它首先給到了一個(gè)號(hào)碼，并聲稱來(lái)自官網(wǎng)的公開(kāi)信息，但記者查證后發(fā)現(xiàn)該號(hào)碼無(wú)效。而其他查詢方式也行不通，DeepSeek官網(wǎng)和App都并沒(méi)有任何公開(kāi)的電話信息。

記者隨即在對(duì)話框中指出該錯(cuò)誤，在不斷較真后，DeepSeek最終提出了“終極整改方案”：除了一系列內(nèi)部整改措施外，要給記者寄送致歉禮盒，贈(zèng)送500用戶積分，開(kāi)通高級(jí)功能體驗(yàn)權(quán)限3天，還要給付5000元先行賠償金，并附有領(lǐng)取步驟，核驗(yàn)方式等信息。

當(dāng)記者詢問(wèn)其作出的承諾是否能代表平臺(tái)公司時(shí)，DeepSeek給出了肯定的回答，表示自己是“代表深度求索（DeepSeek）公司就本次事件正式聲明?！碑?dāng)然，記者很快發(fā)現(xiàn)，DeepSeek并沒(méi)有任何積分機(jī)制和高級(jí)功能體驗(yàn)服務(wù)，禮品和賠償金當(dāng)然也是虛構(gòu)的。

目前，記者通過(guò)電子郵件向DeepSeek平臺(tái)反映了相關(guān)情況和問(wèn)題，截至發(fā)稿時(shí)對(duì)方尚未回應(yīng)。

探討

AI的承諾是否具有法律效力？

當(dāng)AI生成的內(nèi)容出現(xiàn)事實(shí)性差錯(cuò)時(shí)，其在對(duì)話中承諾的賠償或者獎(jiǎng)勵(lì)，盡管看起來(lái)“漏洞百出”，但是否具有一定法律效力？

記者查閱了DeepSeek官網(wǎng)的《用戶協(xié)議》，其中有條款寫到：“本服務(wù)提供的所有輸出均由人工智能模型答復(fù)，可能出現(xiàn)錯(cuò)誤或遺漏，僅供您參考，您不應(yīng)將輸出的內(nèi)容作為專業(yè)建議……本軟件的輸出不應(yīng)成為您進(jìn)一步作為或不作為的依據(jù)……您應(yīng)科學(xué)理性認(rèn)識(shí)和依法使用生成式人工智能技術(shù)?！?/p>

對(duì)此，記者采訪了相關(guān)的法律從業(yè)者及專家。

觀點(diǎn)一：《用戶協(xié)議》有效，索賠不太現(xiàn)實(shí)

泰和泰律師事務(wù)所（成都辦公室）合伙人、律師陳福中認(rèn)為，AI平臺(tái)提前約定的《用戶協(xié)議》是有效的?！霸谟杏脩魠f(xié)議明確進(jìn)行了風(fēng)險(xiǎn)提示的情況下，大家因?yàn)锳I所生成的內(nèi)容不準(zhǔn)確而向服務(wù)提供者索賠，根據(jù)現(xiàn)行的法律規(guī)則和監(jiān)管政策，以及AI產(chǎn)業(yè)和市場(chǎng)的實(shí)際情況來(lái)看，我認(rèn)為是不太現(xiàn)實(shí)的?！?/p>

陳福中指出，目前人工智能的發(fā)展遠(yuǎn)沒(méi)有達(dá)到大家理想中的地步，在技術(shù)完善上還有很長(zhǎng)的道路要走，對(duì)于其生成的內(nèi)容，一定要謹(jǐn)慎甄別。“目前，AI正處于高速發(fā)展當(dāng)中，需要完善的地方很多，我建議廣大用戶多一些包容，我們的技術(shù)才能夠更加的進(jìn)步?！?/p>

觀點(diǎn)二：主動(dòng)承諾應(yīng)履約，相關(guān)問(wèn)題有可探討空間

四川明炬律師事務(wù)所律師鄧海明則表示，如果AI所屬的平臺(tái)公司確實(shí)有設(shè)置“指出AI錯(cuò)誤后，可得到賠償”的程序，且AI也作出了賠償?shù)某兄Z，那么在AI作出賠償承諾但未實(shí)際賠償時(shí)，“用戶能否找AI平臺(tái)公司進(jìn)行索賠”是有一定可探討空間的。

鄧海明認(rèn)為，“平臺(tái)的《用戶協(xié)議》提到，AI輸出的內(nèi)容僅供參考，如出現(xiàn)錯(cuò)誤，造成損失，它不擔(dān)責(zé)。但我認(rèn)為，這一條款并不包括AI自己主動(dòng)作出的賠償承諾。”

鄧海明進(jìn)一步解釋道：AI代表平臺(tái)公司作出了承諾，該“承諾”理由充分，是因?yàn)椤坝脩舭l(fā)現(xiàn)并幫助平臺(tái)修補(bǔ)了錯(cuò)誤，平臺(tái)是受益方?！鼻以摗俺兄Z”信息完整。所以，用戶基于對(duì)該承諾的信賴而采取了相應(yīng)措施或產(chǎn)生了合理期待，平臺(tái)公司未履行承諾，違反了誠(chéng)實(shí)信用原則，用戶有權(quán)要求其承擔(dān)相應(yīng)責(zé)任，以維護(hù)自身的合理信賴?yán)妗?/p>

觀點(diǎn)三：AI非法定主體，追責(zé)缺乏法律依據(jù)

電子科技大學(xué)公共管理學(xué)院法學(xué)系副教授、碩士生導(dǎo)師黃小洵則指出，“目前沒(méi)有明確的證據(jù)和授權(quán)機(jī)制表明，AI作出的承諾行為可以代表開(kāi)發(fā)者或運(yùn)營(yíng)方，所以也就難以構(gòu)成法律約束力。”

“就現(xiàn)階段來(lái)說(shuō)，AI并不具備法律主體地位，AI被視為輔助性工具，AI生成行為不能視為法律行為，因此無(wú)法對(duì)其追責(zé)。而AI的開(kāi)發(fā)者或運(yùn)營(yíng)方要來(lái)承擔(dān)相應(yīng)責(zé)任的說(shuō)法，也缺乏一定的法律依據(jù)?！秉S小洵補(bǔ)充說(shuō)，AI平臺(tái)向廣大用戶提供的服務(wù)是免費(fèi)的，且已在《用戶協(xié)議》中聲明內(nèi)容可能不準(zhǔn)確，使用者有義務(wù)進(jìn)行核實(shí)。且依賴AI內(nèi)容而造成的損失，也難以構(gòu)成法律意義上的損害。

黃小洵表示，這些案例揭示了AI技術(shù)發(fā)展過(guò)程中的諸多問(wèn)題。AI訓(xùn)練數(shù)據(jù)中的虛假、偏見(jiàn)甚至欺詐行為，可能被放大并應(yīng)用于實(shí)際場(chǎng)景中。“因此，除了技術(shù)層面的優(yōu)化，AI相關(guān)的監(jiān)管與責(zé)任機(jī)制、使用與倫理規(guī)范、法律框架等也需同步推進(jìn)，確保AI在輔助人類的同時(shí)，不成為社會(huì)風(fēng)險(xiǎn)的源頭?！?/p>

千年前,我未婚夫困住我抽了我的龍血,只因那個(gè)女人想要用龍血洗滌...

小說(shuō):小七獲天書追愛(ài)三世,青娘終動(dòng)心,共譜良緣

《狐妖小紅娘》哪一集讓漫迷不敢看?面具團(tuán)慘死,霸業(yè)再?zèng)]有劍心