IT之家7月28日消息,微軟人工智能公益項目(MicrosoftAIforGood)發(fā)布的一篇論文概述了一項實驗,該實驗有超過1.25萬名全球參與者,進行了28.7萬次圖像評估,結(jié)果顯示人類辨別AI生成圖像與真實圖像的整體成功率僅為62%,這表明人類在識破這些虛假圖像方面的能力僅略高于隨機猜測,面臨著較大的挑戰(zhàn)。
研究發(fā)現(xiàn),在各類圖像中,參與者最容易識別出虛假的人像圖像,但面對自然景觀和城市街景等非人物圖像,辨別成功率大幅下降至59%-61%。這凸顯了人類在區(qū)分AI圖像時的困難,尤其是那些沒有明顯人工痕跡或風格線索的圖像。
據(jù)IT之家了解,實驗采用“真實或虛假”問答游戲的形式,參與者需判斷所見圖像是否由AI生成。為確保測試貼近現(xiàn)實場景,研究團隊刻意避免挑選極具迷惑性的“極端案例”,而是選取了人們在日常網(wǎng)絡瀏覽中可能真實遇到的圖像樣本。研究同時強調(diào),隨著AI技術(shù)持續(xù)進步,未來模型生成的圖像將更加逼真,辨別難度將進一步加大。
基于研究結(jié)果,微軟呼吁加強技術(shù)透明度,推動廣泛采用圖像水印和可靠的AI內(nèi)容檢測工具,以降低AI生成內(nèi)容引發(fā)虛假信息傳播的風險。此前,微軟已發(fā)起公眾教育活動,旨在提升社會對AI偽造信息威脅的認知。
研究團隊還測試了微軟自研的AI檢測工具,該系統(tǒng)在各類圖像上的識別準確率均超過95%,遠高于人類表現(xiàn)。盡管如此,研究人員仍強調(diào),即便是先進的機器檢測手段也并非萬無一失。
值得注意的是,即便圖像帶有可見水印,惡意使用者仍可通過簡單的裁剪或圖像處理工具輕易將其去除或掩蓋,從而繞過視覺警示機制。這使得僅依賴水印的防護策略顯得尤為不足。
為何人類在識別人臉類AI圖像時更具優(yōu)勢?研究人員認為,這可能源于人類天生對面部特征的高度敏感性,更容易察覺AI生成人像中的細微異常,如不對稱的眼睛、不自然的皮膚紋理或光線錯誤。有趣的是,研究還發(fā)現(xiàn),早期的生成對抗網(wǎng)絡(GANs)和圖像修復(inpainting)技術(shù)反而更具欺騙性。這些技術(shù)生成的圖像往往呈現(xiàn)“業(yè)余攝影”風格,而非Midjourney或DALL-E3等主流模型常見的精致、高飽和度的“影棚風”,因而更易被誤認為真實拍攝。
其中,圖像修復技術(shù)尤其值得警惕——其允許將真實照片中的局部區(qū)域替換為AI生成內(nèi)容。微軟指出,這種“局部偽造”手段極具隱蔽性,極難被普通用戶識別,為虛假信息和深度偽造(deepfake)攻擊提供了新的溫床,可能被用于制造誤導性新聞或政治宣傳。
這項研究再次敲響警鐘:面對日益逼真的AI生成內(nèi)容,人類的直覺判斷已不足以應對??萍计髽I(yè)必須加快開發(fā)更強大的檢測技術(shù)和內(nèi)容溯源機制,構(gòu)建多層次的防御體系,以遏制AI偽造內(nèi)容在社會層面的惡意傳播。
小說:游船遇暴雨闖死亡海域,惡魔島求生,特種兵帶眾人破局!
《荒島30天》作者:早安夏天001旅程之始這是一片迷人的碧海藍天——。一艘游船緩慢地在大海上行駛,海風夾雜著咸濕的氣息撲面而來,海浪不停地拍打著船底,眼前是被游船快速行駛濺起的層層白霧,熾熱的陽光映在上面,隱約還能看到一道小小的彩虹,整片大海被陽光照耀得波光粼粼。此時,一個男人正靜靜地站在船頭甲板上。他身姿挺立, “歡迎進入最真實的大型荒島求生節(jié)目,現(xiàn)在大家可以摘下自己的眼罩了|?!北还ぷ魅藛T帶下船,裴東來聽到提示,摘下眼罩看了一下周圍_。映入眼簾的首先是一片沙灘,高大的棕櫚樹,茂密的植被,這就是自己要生存三十天的小島了。再回頭,裴東來有些愣住,除了工作人員,他看到了未來三十天的同伴__。兩男兩女,兩男不認有幫助請點贊||。小說:傭兵之王荒島求生,攜美女蘿莉,登頂人生巔峰