時(shí)刻新聞
劉瑩睿
IT之家7月10日消息，一項(xiàng)最新發(fā)現(xiàn)指出，人工智能工具ChatGPT在商業(yè)推薦中可能引用了不可靠的信息來(lái)源，包括被黑客攻擊的網(wǎng)站和已被重新利用的過(guò)期域名。
據(jù)IT之家了解，該發(fā)現(xiàn)由SEO專家、Digitaloft公司董事總經(jīng)理詹姆斯?布羅克班克（JamesBrockbank）通過(guò)個(gè)人測(cè)試得出，并非基于正式研究。他在測(cè)試中發(fā)現(xiàn)，ChatGPT在推薦公司或服務(wù)時(shí)，有時(shí)會(huì)引用被篡改或誤導(dǎo)性的內(nèi)容。這些內(nèi)容往往來(lái)自被黑客入侵的高權(quán)重網(wǎng)站，或是已被重新注冊(cè)并用于發(fā)布無(wú)關(guān)信息的過(guò)期域名。由于這些域名本身具有較高的“權(quán)威性”，ChatGPT在生成回答時(shí)仍將其視為可信來(lái)源。
布羅克班克指出，這種現(xiàn)象主要涉及兩類問(wèn)題：一是被黑客攻擊的網(wǎng)站，攻擊者在這些網(wǎng)站上植入與原本內(nèi)容無(wú)關(guān)的信息；二是過(guò)期域名的再利用，一些機(jī)構(gòu)或個(gè)人購(gòu)買這些域名后，發(fā)布與其原主題無(wú)關(guān)的內(nèi)容，以借助其原有的搜索引擎權(quán)重誤導(dǎo)AI系統(tǒng)。
“重建一個(gè)域名，僅僅是為了讓語(yǔ)言模型引用它？這就是操控。”布羅克班克在接受采訪時(shí)表示。他強(qiáng)調(diào)，雖然通過(guò)合法媒體投放和精心策劃的內(nèi)容可以提升在AI推薦中的曝光度，但利用被黑或過(guò)期域名則明顯越過(guò)了道德底線。
這一發(fā)現(xiàn)對(duì)企業(yè)和用戶均具有重要影響。對(duì)于企業(yè)而言，AI推薦已成為品牌曝光的重要渠道，但如果推薦內(nèi)容來(lái)源不可靠，可能誤導(dǎo)消費(fèi)者，甚至損害品牌聲譽(yù)。對(duì)于用戶來(lái)說(shuō)，盲目信任AI推薦可能帶來(lái)信息誤判的風(fēng)險(xiǎn)。
布羅克班克呼吁，AI開發(fā)者應(yīng)加強(qiáng)對(duì)操控內(nèi)容的識(shí)別與過(guò)濾機(jī)制，提升系統(tǒng)的信息篩選能力。在此之前，他建議用戶在使用ChatGPT等AI工具時(shí)，應(yīng)對(duì)其推薦的信息來(lái)源進(jìn)行核實(shí)，而非全盤接受。
“我們還沒(méi)有到可以完全信任ChatGPT推薦而不加驗(yàn)證的階段。”布羅克班克提醒道。
周末新書推薦:《聽時(shí)太太撒個(gè)嬌》新晉影后重生,被大佬保駕護(hù)航
周末新書推薦：《聽時(shí)太太撒個(gè)嬌》新晉影后重生，被大佬保駕護(hù)航《我的女友晚上才是人》他們的世界怎么就只有無(wú)窮的黑夜和雨天……超甜超寵《在你心上迫降》矜貴清冷的胸外醫(yī)生vs救助飛行隊(duì)中隊(duì)長(zhǎng)
百看不膩的年度好書《聽時(shí)太太撒個(gè)嬌》,越看越喜歡!
2.《美人嬌嫵/二嫁帝王》作者：小舟遙遙文案：太傅之女李嫵，出身顯赫，才貌雙全，又與太子青梅竹馬，定下婚約。順風(fēng)順?biāo)娜松?，卻在太子被廢那年急轉(zhuǎn)而下_。為求自保，她果斷改嫁他人。新夫君溫柔體貼，倆人婚后蜜里調(diào)油，琴瑟和鳴_——。誰(shuí)料太子一朝復(fù)起，龍袍加身。昔日溫潤(rùn)如玉的太子，轉(zhuǎn)眼成了狠辣無(wú)情的帝王。
推薦!12本男主瘋批病嬌文
大膽熱戀：在他懷里撒個(gè)嬌跟周啟政離婚后，我瞬間變回了父母眼里的賠錢貨。吃了三天閑飯，嫂子就開始打雞罵狗——。搬到廉租房的第二天晚上，我在樓下看到了熟悉的車|-。周啟政穿黑色大衣靠在車上抽煙，我只當(dāng)沒(méi)看見他，低頭往前走-。「緋緋-。」他掐了煙，聲音淡淡：「我只是出差了一個(gè)月，回來(lái)就成了二婚，你是不說(shuō)完了_。
來(lái)源：紅網(wǎng)
作者：容思
編輯：堅(jiān)涵山
本文為紅辣椒評(píng)論 原創(chuàng)文章，僅系作者個(gè)人觀點(diǎn)，不代表紅網(wǎng)立場(chǎng)。轉(zhuǎn)載請(qǐng)附原文出處鏈接和本聲明。