眭婉清
本文第一作者是徐婷,是香港中文大學(xué)博士生,主要研究興趣是大模型的后訓(xùn)練;通訊作者分別是黃志超和程善伯,來自字節(jié)跳動Seed團(tuán)隊。
你是否經(jīng)歷過這樣的場景:觀看一場激動人心的全球發(fā)布會,AI字幕卻總是慢半拍,等你看到翻譯,臺上的梗已經(jīng)冷掉了。
或者,在跨國視頻會議上,機(jī)器翻譯的質(zhì)量時好時壞,前言不搭后語,讓人啼笑皆非。
這就是同聲傳譯(SimultaneousMachineTranslation,SiMT)領(lǐng)域一直以來的核心技術(shù)挑戰(zhàn):“質(zhì)量-延遲”權(quán)衡問題(Quality-LatencyTrade-off)。
現(xiàn)在,這些問題迎來了新的解決方案。來自香港中文大學(xué)、字節(jié)跳動Seed和斯坦福大學(xué)的研究團(tuán)隊聯(lián)手提出了一種面向同聲傳譯的序貫策略優(yōu)化框架(SequentialPolicyOptimizationforSimultaneousMachineTranslation,SeqPO-SiMT)。
該方法將同傳任務(wù)巧妙地建模為序貫決策過程,通過優(yōu)化完整的決策序列,顯著提升了翻譯質(zhì)量,同時有效控制了延遲,其性能直逼、甚至在某些方面超越了同等大小的離線翻譯模型。
論文標(biāo)題:SeqPO-SiMT:SequentialPolicyOptimizationforSimultaneousMachineTranslation
研究背景
同聲傳譯的核心在于機(jī)器需要動態(tài)地決定“繼續(xù)聽”(READ)還是“開始說”(WRITE)。這個決策直接影響最終的翻譯效果。例如,當(dāng)模型接收到英文單詞“bark”時,它面臨一個困境:如果立即翻譯,可能會譯為“狗叫”,但若后文出現(xiàn)“ofthetree”,則正確翻譯應(yīng)為“樹皮”。
傳統(tǒng)的同傳方法,它每一步?jīng)Q策(是繼續(xù)聽,還是開始翻譯)都是孤立的。它可能會因為眼前的“小利”(比如翻譯出一個詞)而犧牲掉全局的“大利”(整個句子的流暢度和準(zhǔn)確性)。
核心方法
針對這一難點,該論文提出了SeqPO-SiMT框架。其核心思想是將同聲傳譯任務(wù)建模為一個序貫決策問題,綜合評估整個翻譯流程的翻譯質(zhì)量和延遲,并對整個決策序貫進(jìn)行端到端的優(yōu)化。
該方法的主要特點是:它不再孤立地評估每一步?jīng)Q策的好壞,而是將一整句話的翻譯過程(即一個完整的決策序貫)視為一個整體,更符合人類對同傳的評估過程。
其中,λ是一個超參數(shù),用于權(quán)衡質(zhì)量與延遲的重要性。
實驗結(jié)果與分析
為了驗證方法的有效性,研究者們在多個公開的英漢互譯測試集上進(jìn)行了實驗,并與多種現(xiàn)有的同傳模型進(jìn)行了對比。實驗結(jié)果顯示:在低延遲水平下,SeqPO-SiMT框架生成的譯文質(zhì)量相較于基線模型有明顯提升。
本文將SeqPO-SiMT的實時同傳結(jié)果與多個高性能模型的離線翻譯結(jié)果進(jìn)行對比。結(jié)果顯示,SeqPO-SiMT的翻譯質(zhì)量不僅優(yōu)于監(jiān)督微調(diào)(SFT)的離線模型及LLaMA-3-8B,其表現(xiàn)甚至能媲美乃至超越Qwen-2.5-7B的離線翻譯水平。這表明該方法在70億參數(shù)(7B)規(guī)模上實現(xiàn)了業(yè)界頂尖(SoTA)的性能。
總結(jié)與討論
總的來說,SeqPO-SiMT這項工作的主要貢獻(xiàn)在于,為解決同聲傳譯中的質(zhì)量-延遲權(quán)衡問題提供了一個新的視角。它強(qiáng)調(diào)了對決策“序貫”進(jìn)行整體優(yōu)化的重要性。該研究提出的方法,對于需要進(jìn)行實時、連續(xù)決策的自然語言處理任務(wù)具有一定的參考意義,并為未來開發(fā)更高效、更智能的同聲傳譯系統(tǒng)提供了有價值的探索。
盛世三部曲終章《盛世醫(yī)妃》,看神醫(yī)女如何與面癱男禍亂天下
《盛世醫(yī)妃》作者:鳳輕第1章天降圣旨南宮墨臨死前最后一個念頭是:如果再給我一次機(jī)會,一照面我就掐死那個白癡!如果南宮墨真的就這么死了,這毫無疑問將是她不算長但是絕對精彩的人生里最后一個愿望|。俗稱——遺愿!但是南宮墨又睜開眼睛了,并且……一點都不痛!難道那個白癡根本就沒有引燃炸藥,她只是說完了。
良心之作《盛世醫(yī)妃》,劇情緊湊,節(jié)奏明快,一次讀過癮!
第四章不敢違抗看著三姨娘離開,綠兒終于知道害怕,一臉灰白的坐到地上。抬眼看向一副病弱模樣的李念瓷,她怎么覺得醒來后的三小姐就像是變了一個人?“你們還愣著干什么,綠兒不懂規(guī)矩編排主子,掌嘴二十,再拉出去打十大板-。青兒你出去看著,我有些累了|?!薄笆?,小姐-_?!鼻鄡涸捴须[隱帶著激動,如果剛才有幫助請點贊_|。
盛世三部曲之《盛世醫(yī)妃》:冷臉面癱男和穿越神醫(yī)女的故事
1.《盛世醫(yī)妃》作者:鳳輕短書評:幸運(yùn)的人有相同的幸運(yùn),倒霉的人卻各有各的倒霉_|。他是生父不詳?shù)墓硌凼雷?,她是生而克母的國公千金|-。他被全京城的人畏懼嫌棄,她被父兄所棄隱居鄉(xiāng)野。——既然我們都這么倒霉,不如相約一起禍害世間吧?南宮墨,名震亞洲的“千面妖女”,一時走背運(yùn)被個菜鳥引爆炸藥,死得后面會介紹——。
來源:紅網(wǎng)
作者:扈寅
編輯:宜新瑤
本文為紅辣椒評論 原創(chuàng)文章,僅系作者個人觀點,不代表紅網(wǎng)立場。轉(zhuǎn)載請附原文出處鏈接和本聲明。