過平藍

IT之家7月28日消息，微軟人工智能公益項目（MicrosoftAIforGood）發(fā)布的一篇論文概述了一項實驗，該實驗有超過1.25萬名全球參與者，進行了28.7萬次圖像評估，結果顯示人類辨別AI生成圖像與真實圖像的整體成功率僅為62%，這表明人類在識破這些虛假圖像方面的能力僅略高于隨機猜測，面臨著較大的挑戰(zhàn)。

研究發(fā)現(xiàn)，在各類圖像中，參與者最容易識別出虛假的人像圖像，但面對自然景觀和城市街景等非人物圖像，辨別成功率大幅下降至59%-61%。這凸顯了人類在區(qū)分AI圖像時的困難，尤其是那些沒有明顯人工痕跡或風格線索的圖像。

據(jù)IT之家了解，實驗采用“真實或虛假”問答游戲的形式，參與者需判斷所見圖像是否由AI生成。為確保測試貼近現(xiàn)實場景，研究團隊刻意避免挑選極具迷惑性的“極端案例”，而是選取了人們在日常網(wǎng)絡瀏覽中可能真實遇到的圖像樣本。研究同時強調，隨著AI技術持續(xù)進步，未來模型生成的圖像將更加逼真，辨別難度將進一步加大。

基于研究結果，微軟呼吁加強技術透明度，推動廣泛采用圖像水印和可靠的AI內容檢測工具，以降低AI生成內容引發(fā)虛假信息傳播的風險。此前，微軟已發(fā)起公眾教育活動，旨在提升社會對AI偽造信息威脅的認知。

研究團隊還測試了微軟自研的AI檢測工具，該系統(tǒng)在各類圖像上的識別準確率均超過95%，遠高于人類表現(xiàn)。盡管如此，研究人員仍強調，即便是先進的機器檢測手段也并非萬無一失。

值得注意的是，即便圖像帶有可見水印，惡意使用者仍可通過簡單的裁剪或圖像處理工具輕易將其去除或掩蓋，從而繞過視覺警示機制。這使得僅依賴水印的防護策略顯得尤為不足。

為何人類在識別人臉類AI圖像時更具優(yōu)勢？研究人員認為，這可能源于人類天生對面部特征的高度敏感性，更容易察覺AI生成人像中的細微異常，如不對稱的眼睛、不自然的皮膚紋理或光線錯誤。有趣的是，研究還發(fā)現(xiàn)，早期的生成對抗網(wǎng)絡（GANs）和圖像修復（inpainting）技術反而更具欺騙性。這些技術生成的圖像往往呈現(xiàn)“業(yè)余攝影”風格，而非Midjourney或DALL-E3等主流模型常見的精致、高飽和度的“影棚風”，因而更易被誤認為真實拍攝。

其中，圖像修復技術尤其值得警惕——其允許將真實照片中的局部區(qū)域替換為AI生成內容。微軟指出，這種“局部偽造”手段極具隱蔽性，極難被普通用戶識別，為虛假信息和深度偽造（deepfake）攻擊提供了新的溫床，可能被用于制造誤導性新聞或政治宣傳。

這項研究再次敲響警鐘：面對日益逼真的AI生成內容，人類的直覺判斷已不足以應對?？萍计髽I(yè)必須加快開發(fā)更強大的檢測技術和內容溯源機制，構建多層次的防御體系，以遏制AI偽造內容在社會層面的惡意傳播。

網(wǎng)絡小說排行榜解讀:經(jīng)典作品不容錯過的精彩世界