IT之家7月28日消息,微軟人工智能公益項目(MicrosoftAIforGood)發(fā)布的一篇論文概述了一項實驗,該實驗有超過1.25萬名全球參與者,進行了28.7萬次圖像評估,結(jié)果顯示人類辨別AI生成圖像與真實圖像的整體成功率僅為62%,這表明人類在識破這些虛假圖像方面的能力僅略高于隨機猜測,面臨著較大的挑戰(zhàn)。
研究發(fā)現(xiàn),在各類圖像中,參與者最容易識別出虛假的人像圖像,但面對自然景觀和城市街景等非人物圖像,辨別成功率大幅下降至59%-61%。這凸顯了人類在區(qū)分AI圖像時的困難,尤其是那些沒有明顯人工痕跡或風格線索的圖像。
據(jù)IT之家了解,實驗采用“真實或虛假”問答游戲的形式,參與者需判斷所見圖像是否由AI生成。為確保測試貼近現(xiàn)實場景,研究團隊刻意避免挑選極具迷惑性的“極端案例”,而是選取了人們在日常網(wǎng)絡瀏覽中可能真實遇到的圖像樣本。研究同時強調(diào),隨著AI技術持續(xù)進步,未來模型生成的圖像將更加逼真,辨別難度將進一步加大。
基于研究結(jié)果,微軟呼吁加強技術透明度,推動廣泛采用圖像水印和可靠的AI內(nèi)容檢測工具,以降低AI生成內(nèi)容引發(fā)虛假信息傳播的風險。此前,微軟已發(fā)起公眾教育活動,旨在提升社會對AI偽造信息威脅的認知。
研究團隊還測試了微軟自研的AI檢測工具,該系統(tǒng)在各類圖像上的識別準確率均超過95%,遠高于人類表現(xiàn)。盡管如此,研究人員仍強調(diào),即便是先進的機器檢測手段也并非萬無一失。
值得注意的是,即便圖像帶有可見水印,惡意使用者仍可通過簡單的裁剪或圖像處理工具輕易將其去除或掩蓋,從而繞過視覺警示機制。這使得僅依賴水印的防護策略顯得尤為不足。
為何人類在識別人臉類AI圖像時更具優(yōu)勢?研究人員認為,這可能源于人類天生對面部特征的高度敏感性,更容易察覺AI生成人像中的細微異常,如不對稱的眼睛、不自然的皮膚紋理或光線錯誤。有趣的是,研究還發(fā)現(xiàn),早期的生成對抗網(wǎng)絡(GANs)和圖像修復(inpainting)技術反而更具欺騙性。這些技術生成的圖像往往呈現(xiàn)“業(yè)余攝影”風格,而非Midjourney或DALL-E3等主流模型常見的精致、高飽和度的“影棚風”,因而更易被誤認為真實拍攝。
其中,圖像修復技術尤其值得警惕——其允許將真實照片中的局部區(qū)域替換為AI生成內(nèi)容。微軟指出,這種“局部偽造”手段極具隱蔽性,極難被普通用戶識別,為虛假信息和深度偽造(deepfake)攻擊提供了新的溫床,可能被用于制造誤導性新聞或政治宣傳。
這項研究再次敲響警鐘:面對日益逼真的AI生成內(nèi)容,人類的直覺判斷已不足以應對??萍计髽I(yè)必須加快開發(fā)更強大的檢測技術和內(nèi)容溯源機制,構(gòu)建多層次的防御體系,以遏制AI偽造內(nèi)容在社會層面的惡意傳播。
小說:穿越成智爺覺醒波導,系統(tǒng)加持,終成神奇寶貝大師!
他本來是一名普通的大學生,卻沒想在一次意外中不幸喪生,等他再次睜開眼睛,卻發(fā)現(xiàn)自己竟然成了剛剛出生的嬰兒,而且還來到神奇寶貝的世界。甚至還成為了這個世界的主角——小智!說實在的,他對動畫中的小智有諸多不滿,因此他決定要改變這一切,不但努力鍛煉身體,還勤奮學習各種精靈的知識。然而悲催的是,這個小鎮(zhèn)子實在是沒 神奇寶貝世界,智爺覺醒波導之力,命運系統(tǒng)助他成大師傳奇!今日推薦:《神奇寶貝之智爺傳奇》作者:泗玖。點擊文末超鏈接開始觀看吧~第381章人皮面具百變怪小智和瑟蕾娜、莉拉約定好,到時候在卡吉鎮(zhèn)碰頭,自己則是和三人組準備前往秘密基地_-。不過,一行人特意繞了個遠路,用喵喵的話說,這是為了營造出一種誤打到此結(jié)束了?————。3本好看的寵物精靈小說,每個身份都是不同的精靈組合,太有趣了