蓬香馨
本文第一作者是徐婷,是香港中文大學(xué)博士生,主要研究興趣是大模型的后訓(xùn)練;通訊作者分別是黃志超和程善伯,來自字節(jié)跳動(dòng)Seed團(tuán)隊(duì)。
你是否經(jīng)歷過這樣的場景:觀看一場激動(dòng)人心的全球發(fā)布會(huì),AI字幕卻總是慢半拍,等你看到翻譯,臺(tái)上的梗已經(jīng)冷掉了。
或者,在跨國視頻會(huì)議上,機(jī)器翻譯的質(zhì)量時(shí)好時(shí)壞,前言不搭后語,讓人啼笑皆非。
這就是同聲傳譯(SimultaneousMachineTranslation,SiMT)領(lǐng)域一直以來的核心技術(shù)挑戰(zhàn):“質(zhì)量-延遲”權(quán)衡問題(Quality-LatencyTrade-off)。
現(xiàn)在,這些問題迎來了新的解決方案。來自香港中文大學(xué)、字節(jié)跳動(dòng)Seed和斯坦福大學(xué)的研究團(tuán)隊(duì)聯(lián)手提出了一種面向同聲傳譯的序貫策略優(yōu)化框架(SequentialPolicyOptimizationforSimultaneousMachineTranslation,SeqPO-SiMT)。
該方法將同傳任務(wù)巧妙地建模為序貫決策過程,通過優(yōu)化完整的決策序列,顯著提升了翻譯質(zhì)量,同時(shí)有效控制了延遲,其性能直逼、甚至在某些方面超越了同等大小的離線翻譯模型。
論文標(biāo)題:SeqPO-SiMT:SequentialPolicyOptimizationforSimultaneousMachineTranslation
研究背景
同聲傳譯的核心在于機(jī)器需要?jiǎng)討B(tài)地決定“繼續(xù)聽”(READ)還是“開始說”(WRITE)。這個(gè)決策直接影響最終的翻譯效果。例如,當(dāng)模型接收到英文單詞“bark”時(shí),它面臨一個(gè)困境:如果立即翻譯,可能會(huì)譯為“狗叫”,但若后文出現(xiàn)“ofthetree”,則正確翻譯應(yīng)為“樹皮”。
傳統(tǒng)的同傳方法,它每一步?jīng)Q策(是繼續(xù)聽,還是開始翻譯)都是孤立的。它可能會(huì)因?yàn)檠矍暗摹靶±保ū热绶g出一個(gè)詞)而犧牲掉全局的“大利”(整個(gè)句子的流暢度和準(zhǔn)確性)。
核心方法
針對(duì)這一難點(diǎn),該論文提出了SeqPO-SiMT框架。其核心思想是將同聲傳譯任務(wù)建模為一個(gè)序貫決策問題,綜合評(píng)估整個(gè)翻譯流程的翻譯質(zhì)量和延遲,并對(duì)整個(gè)決策序貫進(jìn)行端到端的優(yōu)化。
該方法的主要特點(diǎn)是:它不再孤立地評(píng)估每一步?jīng)Q策的好壞,而是將一整句話的翻譯過程(即一個(gè)完整的決策序貫)視為一個(gè)整體,更符合人類對(duì)同傳的評(píng)估過程。
其中,λ是一個(gè)超參數(shù),用于權(quán)衡質(zhì)量與延遲的重要性。
實(shí)驗(yàn)結(jié)果與分析
為了驗(yàn)證方法的有效性,研究者們?cè)诙鄠€(gè)公開的英漢互譯測試集上進(jìn)行了實(shí)驗(yàn),并與多種現(xiàn)有的同傳模型進(jìn)行了對(duì)比。實(shí)驗(yàn)結(jié)果顯示:在低延遲水平下,SeqPO-SiMT框架生成的譯文質(zhì)量相較于基線模型有明顯提升。
本文將SeqPO-SiMT的實(shí)時(shí)同傳結(jié)果與多個(gè)高性能模型的離線翻譯結(jié)果進(jìn)行對(duì)比。結(jié)果顯示,SeqPO-SiMT的翻譯質(zhì)量不僅優(yōu)于監(jiān)督微調(diào)(SFT)的離線模型及LLaMA-3-8B,其表現(xiàn)甚至能媲美乃至超越Qwen-2.5-7B的離線翻譯水平。這表明該方法在70億參數(shù)(7B)規(guī)模上實(shí)現(xiàn)了業(yè)界頂尖(SoTA)的性能。
總結(jié)與討論
總的來說,SeqPO-SiMT這項(xiàng)工作的主要貢獻(xiàn)在于,為解決同聲傳譯中的質(zhì)量-延遲權(quán)衡問題提供了一個(gè)新的視角。它強(qiáng)調(diào)了對(duì)決策“序貫”進(jìn)行整體優(yōu)化的重要性。該研究提出的方法,對(duì)于需要進(jìn)行實(shí)時(shí)、連續(xù)決策的自然語言處理任務(wù)具有一定的參考意義,并為未來開發(fā)更高效、更智能的同聲傳譯系統(tǒng)提供了有價(jià)值的探索。
純愛小說推薦:《BE狂魔求生系統(tǒng)(快穿)》,稚楚,雙暗戀
《BE狂魔求生系統(tǒng)》作者:稚楚簡介:其琛是個(gè)熱衷BE的耽美小說家——_。意外的猝死讓他進(jìn)入到一個(gè)奇怪的求生系統(tǒng)中,要想活著回到現(xiàn)實(shí),必須進(jìn)入到自己的小說和主角戀愛,改變?cè)薪Y(jié)局,感情線越甜,存活幾率越高。許其?。簽槭裁催@些攻略對(duì)象都好像我暗戀的那個(gè)人?系統(tǒng)提示:攻略對(duì)象拒絕回答并回?fù)袅艘粋€(gè)親親~許其?。?.
「快穿」《be狂魔求生系統(tǒng)》超級(jí)怕狗x惡犬本體——求求你別過來!
廣播?。築E狂魔求生系統(tǒng)主役:張福正&倒霉死勒制作:貓耳,七尚文化,藝海佳音錄制,株木瑯瑪工作室制作原著:稚楚更至第一季:15集這部劇是個(gè)快穿攻略劇,劇里有多個(gè)劇情場景,還有景向羊仔協(xié)役,目前更新至第一季_——。聽這部劇需要果斷,就像主角一樣開啟下一次感情時(shí)可以把第一段放的干干凈凈,不然就會(huì)很等會(huì)說。
強(qiáng)烈安利寵溺快穿文《BE狂魔求生系統(tǒng)》:你是我遲到10年的初戀
兩人的雙向暗戀卻因?yàn)檎l都不敢踏出那一步,讓這份愛情遲來了10年——|。直此之后這位BE狂魔作者成為了寫HE小甜文的代表人物。青春就是這樣的,暗戀、遺憾,破鏡重圓很難難得只能出現(xiàn)在小說里,雖說我個(gè)人是不太喜歡破鏡重圓的(畢竟太現(xiàn)實(shí))但小說里還是會(huì)為這種等待感動(dòng),這種一生只為一人的等待的橋段實(shí)難可得。
來源:紅網(wǎng)
作者:榮美君
編輯:鐘蓉瑄
本文為紅辣椒評(píng)論 原創(chuàng)文章,僅系作者個(gè)人觀點(diǎn),不代表紅網(wǎng)立場。轉(zhuǎn)載請(qǐng)附原文出處鏈接和本聲明。