P1-7你明明擁有可以復(fù)制萬物的能力,卻依然過著狗都不如的生活
在當(dāng)今時代，虛假圖片的逼真程度與日俱增，各種虛虛實(shí)實(shí)的內(nèi)容，讓人不禁懷疑，“眼見為實(shí)”這句話，恐怕將要成為歷史。
但幸好，在大部分情況下，是否能分辨圖片是不是出自AI之手，并不會對我們的生活產(chǎn)生實(shí)質(zhì)性的影響。網(wǎng)絡(luò)上的絕大部分圖片，我們都是一看了之。
然而這幾天網(wǎng)上熱傳的一組圖顯示，一些人已經(jīng)開始用AI圖騙錢套利。有不少店家在社交媒體上表示，自己遇到了使用AI圖片進(jìn)行“僅退款”的顧客。這些顧客利用豆包等AI生成了商品存在瑕疵的偽證圖片，在屢次被識破后依然硬生生拖到人工審核通道索取退款，給店家、平臺平添了不少煩惱。
（圖源：微博）
這段視頻被發(fā)到社交平臺后，引發(fā)了大量電商從業(yè)者討論。當(dāng)AIGC進(jìn)軍“僅退款”領(lǐng)域，是否會模糊規(guī)則的邊界？技術(shù)與規(guī)則之間，如何找到平衡？
從PS到AI
近日，博主@蔡寶寶分享了一條視頻。
某店家售出的一瓶“鞋邊去黑劑”，被顧客要求“僅退款”，出于擔(dān)心買家是假報質(zhì)量問題，店主表示需要消費(fèi)者上傳商品銷毀視頻，然后再進(jìn)行退款，這也是很常見的操作了。
接下來發(fā)生的事情，就讓人有些哭笑不得了，消費(fèi)者提供的視頻顯示，她明明在用右手拿著產(chǎn)品放進(jìn)垃圾桶，這時突然出現(xiàn)第二只右手，兩只右手一起把商品丟進(jìn)了垃圾桶。
（圖源：bilibili）
當(dāng)然了，這只是整段視頻之中最明顯的漏洞。
仔細(xì)看的話，你還能從這段視頻里看到背景隨著消費(fèi)者的行動悄然改變、過于平滑規(guī)整的視頻運(yùn)鏡，以及一個明明是斜著扔進(jìn)去，卻豎著瓶身待在垃圾桶里的“鞋邊去黑劑”。
“整個視頻濃濃的AI味?！钡曛鞅硎?。
這段視頻在電商圈內(nèi)引發(fā)了廣泛關(guān)注，從業(yè)者紛紛回復(fù)，曬出自己店鋪遇到的類似經(jīng)歷。
有的店主反映，自己曾經(jīng)遇到過為同一杯子申請退款，但兩次出示的破損照片位置完全不符的情況；還有店主表示遇到過全新衣物呈現(xiàn)出非正常使用導(dǎo)致的人為撕裂，甚至連水果上的霉斑都有明顯的偽造跡象。
（圖源：bilibili）
在“無理由退貨”下線后，曾經(jīng)熱衷于濫用退款規(guī)則的部分消費(fèi)者，似乎找到了新的方向。
“你們看，右下角直接寫著豆包AI生成?！绷硪晃坏曛髟谏蟼鞯囊曨l里如是說，有趣的是，在他指出對面使用AI圖片后，對面居然撤回，然后把水印截掉重新發(fā)了過來，讓他也很無語。
問題來了，用AI來P圖的門檻究竟有多低？
小雷這邊以一張香蕉的照片為例，要求“香蕉發(fā)霉，出現(xiàn)斑點(diǎn)，其他不變”，分別發(fā)給豆包、騰訊元寶等大模型，不到數(shù)秒便生成了較真實(shí)的圖片，可以說是幾乎沒有門檻。
（圖源：雷科技）
kAIGC出現(xiàn)之前，我們的身邊就曾發(fā)生過類似的假圖“僅退款”事件。
只是在當(dāng)時，由于手段相對復(fù)雜，大部分騙子還需要掌握一定的圖片編輯能力，這要求他們熟練運(yùn)用Photoshop等專業(yè)軟件，通過圖層、蒙版、仿制圖章等工具進(jìn)行精細(xì)操作，甚至要偽造EXIF信息。
這種技術(shù)門檻足以將大部分潛在的作惡者擋在門外，使得欺詐行為的規(guī)模和頻率都受到極大限制，無法形成產(chǎn)業(yè)化的黑色鏈條。
而現(xiàn)在，有了AI的加持，整套流程被簡化為“上傳圖片-提出需求-下載圖片”。
當(dāng)這件事情沒了門檻，電商平臺真就和黑暗森林差不了多少了。
AI內(nèi)容以假亂真
事實(shí)上，自AIGC這個概念誕生開始，圍繞著它的爭議就沒停下來過。
最初，大家關(guān)心的主要是版權(quán)爭議，因?yàn)榇竽Ｐ捅举|(zhì)上是收集和消化海量互聯(lián)網(wǎng)數(shù)據(jù)進(jìn)行訓(xùn)練的產(chǎn)物。這些數(shù)據(jù)集中包含了無數(shù)受版權(quán)保護(hù)的文本、圖像與代碼，因此，AIGC的生成物是否構(gòu)成對原作品的“衍生作品”，其版權(quán)應(yīng)歸屬于模型開發(fā)者、使用者還是數(shù)據(jù)源的原始創(chuàng)作者，至今仍在法律層面存在巨大爭議。
比如說，今年開年以來很火的“吉卜力化”。
（圖源：X）
再看看下圖，這是一張模仿了畫師“累”畫風(fēng)的著作。
（圖源：QQ）
模型通過學(xué)習(xí)數(shù)百萬張圖片生成的畫作，其像素級數(shù)據(jù)與任何單一原圖都不同，但在風(fēng)格、構(gòu)圖和元素上卻存在明顯的繼承關(guān)系。這種模糊性直接挑戰(zhàn)了現(xiàn)有知識產(chǎn)權(quán)法律體系中對于“創(chuàng)作”和“復(fù)制”的根本定義。
最諷刺的是，上面這張圖片克隆的原作者“累”還曾發(fā)表過對AIGC支持的言論。
（圖源：微博）
隨著相關(guān)技術(shù)的逐漸成熟，越來越多的AIGC內(nèi)容流入到傳媒行業(yè)。
今年年初，西藏定日縣發(fā)生6.8級地震，許多網(wǎng)友在社交平臺上為災(zāi)民祈福，但是，在一些社交平臺上，冒出了很多AI偽造的圖片，比如這個：
（圖源：小紅書）
這種有經(jīng)驗(yàn)者一眼就能分辨的圖片，照樣可以獲得好幾萬的轉(zhuǎn)評贊。
這樣的案例屢見不鮮，2024年10月，佛羅里達(dá)州奧蘭多的迪士尼世界因颶風(fēng)風(fēng)暴登陸前出現(xiàn)的龍卷風(fēng)而關(guān)閉。與此同時，有關(guān)于迪士尼被海水淹了的新聞也在X上瘋傳，引來不少國外網(wǎng)友的關(guān)注。
（圖源：X）
作為一名新聞從業(yè)者，我自認(rèn)為擁有對信息真?zhèn)位镜谋鎰e力，但隨著技術(shù)的廣泛應(yīng)用，就連我也時常為真假難辨的信息所惑。
至于普通人，他們就更難辨別了。
而如今，AI視頻的成熟，更是讓部分貪圖蠅頭小利的人找到了新的落腳點(diǎn)。
從去年火遍全網(wǎng)的AI雷軍，再到被瘋狂換臉的靳東、布拉德皮特湯姆克魯斯，相同的騙局在國內(nèi)同步展開，讓人們誤以為自己一直和大明星保持聯(lián)系這個招數(shù)可謂是屢試不爽。
（圖源：抖音）
讓不少名人明星深受其擾的同時，Deepfake也成為了AI造假的現(xiàn)象級案件。
如何鑒別AI圖？
說實(shí)話，看到AI以假亂真的能力，小雷我確實(shí)挺擔(dān)心的。
但是比起擔(dān)心，我認(rèn)為現(xiàn)在更重要的是掌握幾個目前還相對適用的辨別思路，即便面對一張高水平的AI生成圖，想單憑肉眼100%斷定真?zhèn)畏浅＠щy，但至少能保證你不至于完全束手無策。
第一種方法，是追溯圖源。
當(dāng)我們刷社交媒體的時候，如果看到某些圖片特別棒，我希望大家可以先借助谷歌的圖片搜索能力檢索一下圖源，現(xiàn)在大部分AI內(nèi)容制作者都會注明圖片是否通過AI生成，這也是在社交媒體這種信息二次流通的領(lǐng)域最好的鑒別方法。
第二種方法，是觀察圖片。
你可以找找圖片中細(xì)微的破綻，來判斷圖片的真實(shí)性，例如人物的手指、關(guān)節(jié)、牙齒、眼神等方面是否存在不自然感，影是否統(tǒng)一、自然？有沒有出現(xiàn)不合常理的反射或陰影？
（圖源：雷科技，豆包生成）
還記得幾年前AI技術(shù)剛飛速發(fā)展的時候，有不少人視AI技術(shù)如洪水猛獸，覺得應(yīng)該將AI扼殺在搖籃里。
在小雷看來，這種想法還是有失偏頗的，新事物的誕生往往都要經(jīng)歷一番曲折的發(fā)展，才能夠逐漸為世人所接受。
AI也是如此，人類要做的就是引導(dǎo)AI健康發(fā)展，讓AI真正為我們所用。而不是在技術(shù)泛濫的時代里，還要用AI給人類添堵。
像AI換臉詐騙、AI圖片謀取不當(dāng)收益等行為肯定是要制止的，除了嚴(yán)厲打擊之外，還需要一套全面、完整的行業(yè)標(biāo)準(zhǔn)，將AI技術(shù)關(guān)進(jìn)籠子里，這樣才能讓AI更好為人類服務(wù)！
不出名評價很高三本仙俠小說,劇情豐富多彩,老書蟲都直呼太好看
與京圈佛子離婚,我默默離開,6年后再見時我手牽萌娃他卻哭紅眼
我和師傅被男主封了靈脈,活埋荒山,還斷了我們的輪回路
