論文第一作者唐靈，張拳石老師課題組的博二學生。

今天要聊的是個硬核技術——如何給神經(jīng)網(wǎng)絡刻上抹不掉的"身份證"?，F(xiàn)在大模型抄襲糾紛不斷，這事兒特別應景。

所謂神經(jīng)網(wǎng)絡指紋技術，是指使用神經(jīng)網(wǎng)絡內(nèi)部如同人類指紋一樣的特異性信息作為身份標識，用于判斷模型的所有權和來源。傳統(tǒng)方法都在玩"貼標簽"：往模型里塞各種人造指紋。但問題是，模型微調(diào)（fine-tuning）就像給整容——參數(shù)一動，"整張臉"就變了，指紋自然就糊了。

面對神經(jīng)網(wǎng)絡微調(diào)訓練的威脅，現(xiàn)有方案都在修修補補，而我們上升到理論層面重新思考：神經(jīng)網(wǎng)絡是否先天存在某種對微調(diào)魯棒的特征？如果存在，并將該固有特征作為網(wǎng)絡指紋，那么無論對模型參數(shù)如何微調(diào)，該指紋就能始終保持不變。在這一視角下，前人的探索較為有限，沒有從理論上證明出神經(jīng)網(wǎng)絡內(nèi)部對微調(diào)天然魯棒的特征。

論文地址：https://arxiv.org/pdf/2505.01007論文標題：TowardstheResistanceofNeuralNetworkWatermarkingtoFine-tuning

方法介紹

這里我們發(fā)現(xiàn)了一個顛覆性事實：卷積核的某些頻率成分根本不怕微調(diào)。就像給聲波做DNA檢測，我們把模型參數(shù)轉換到頻率域，找到了那些"焊死"在頻譜上的特征點——我們拓展了離散傅里葉變換，從而定義了神經(jīng)網(wǎng)絡一個卷積核所對應的頻譜，并進一步證明：當輸入特征僅包含低頻成分時，卷積核的某些特定頻率成分在微調(diào)過程中能夠保持穩(wěn)定。

實驗

最后，我們開展了一系列實驗，以評估所提出神經(jīng)網(wǎng)絡指紋方法對微調(diào)操作的魯棒性。實驗結果表明，相較于現(xiàn)有主流的模型指紋與模型溯源方法，在所有數(shù)據(jù)集和微調(diào)使用的學習率設置下，我們的方法在模型溯源任務中均取得了最優(yōu)表現(xiàn)，尤其在高學習率條件下展現(xiàn)出顯著優(yōu)勢。

良心推薦《毒女狂妃,這個王爺太妻奴》優(yōu)質(zhì)片段 常年霸榜各類好書...

“涼音，這些日子發(fā)生的事為父便不同你計較了，既然你已是離王的人了，便更要學會安分守己，要懂得感恩，學會報答，日后去了離王府，也莫要忘了丞相府的恩情||?！睕鲆粑⑽⒌褪祝瑓s是冷冷一笑，“女兒明白?！边@個于丞相，還真是老奸巨猾，他明明就知曉這三年來她都過著怎樣的生活，也知曉這些日子于若悠對自己的陷害，可他卻只字不有幫助請點贊|。 這個側妃，她只聽過是回圖拉國了，所以到現(xiàn)在也還沒有見到，現(xiàn)在她剛回來就過來拜訪自己，只怕并沒有什么好事，畢竟她是公主的身份，如今只能夠給人做妾，心中豈能好過？隨著一陣十分濃重的香氣，側妃緩緩的從殿門而入。流煙清不禁皺了皺眉，心想，這樣濃重的香氣，看來這個側妃也是一個重口味的人，這和明空等會說|。

精品巨作《惡女狂妃,雙面王爺太兇猛》,感覺有被吸引到!

精品巨作《惡女狂妃，雙面王爺太兇猛》，感覺有被吸引到！第八章你說，她算什么隨著柳池的跑遠，周大娘不由更加為難了，“小兮，你這是干嘛？那屋子我早不要了，你才剛得罪林府，這會又得罪了她，你，唉……”她長長一嘆，后又匆匆忙忙的追了出去。原地的琉兮心下煩躁，她是真真懶得廢話，正煩著，又見有幫助請點贊|。
3.《嫡女狂妃：極品寶貝無賴娘》作者：馬悅悅簡介：戰(zhàn)王獨寵文，新婚夜，她一臉戒備的看著戴著冰冷黃金面具的老王爺：“王爺，我成親過！”“那好，有經(jīng)驗了?！薄拔覒言羞^？”“基本功能都在，本王放心。”“我有個孩子|?！薄罢?，省下本王|-?！蹦撑鋈挥蟹N對牛彈琴的悲憤。精彩內(nèi)容：她微微的仰起頭到此結束了？|。