日前,環球網科技記者從微軟亞洲研究院官網了解到,其研究團隊對外宣布,最新研發的機器翻譯系統在通用新聞報道測試集newstest2017的中-英測試集上,達到了可與人工翻譯媲美的水平。
據稱,這是首個在新聞報道的翻譯質量和准確率上可以比肩人工翻譯的翻譯系統。
該系統模型包含了由微軟亞洲研究院研發的對偶學習、推敲網絡、聯合訓練和一致性規范技術。機器翻譯是自然語言處理領域最具挑戰性的研究任務之一。
微軟技術院士,負責微軟語音、自然語言和機器翻譯工作的黃學東稱,“這是對自然語言處理領域最具挑戰性任務的一項重大突破。在機器翻譯方面達到與人類相同的水平是所有人的夢想,我們沒有想到這麼快就能實現。”
據悉, newstest2017新聞報道測試集由產業界和學術界的合作伙伴共同開發,並於去年秋天在WMT17大會上發布。為了確保翻譯結果准確且達到人類的翻譯水平,微軟研究團隊邀請了雙語語言顧問將微軟的翻譯結果與兩個獨立的人工翻譯結果進行了比較評估。
雖然此次突破意義非凡,但研究人員也提醒大家,這並不代表人類已經完全解決了機器翻譯的問題,隻能說明我們離終極目標又更近了一步。微軟亞洲研究院副院長、自然語言計算組負責人周明表示,在WMT17測試集上的翻譯結果達到人類水平很鼓舞人心,但仍有很多挑戰需要我們解決,比如在實時的新聞報道上測試系統等。
附該系統包含的四大技術——
對偶學習(Dual Learning):
對偶學習的發現是由於現實中有意義、有實用價值的人工智能任務往往會成對出現,兩個任務可以互相反饋,從而訓練出更好的深度學習模型。例如,在翻譯領域,我們關心從英文翻譯到中文,也同樣關心從中文翻譯回英文;在語音領域,我們既關心語音識別的問題,也關心語音合成的問題;在圖像領域,圖像識別與圖像生成也是成對出現。此外,在對話引擎、搜索引擎等場景中都有對偶任務。
一方面,由於存在特殊的對偶結構,兩個任務可以互相提供反饋信息,而這些反饋信息可以用來訓練深度學習模型。也就是說,即便沒有人為標注的數據,有了對偶結構也可以做深度學習。另一方面,兩個對偶任務可以互相充當對方的環境,這樣就不必與真實的環境做交互,兩個對偶任務之間的交互就可以產生有效的反饋信號。因此,充分地利用對偶結構,就有望解決深度學習和增強學習的瓶頸,如“訓練數據從哪裡來、與環境的交互怎麼持續進行”等問題。
推敲網絡(Deliberation Networks):
“推敲”二字可以認為是來源於人類閱讀、寫文章以及做其他任務時候的一種行為方式,即任務完成之后,並不當即終止,而是會反復推敲。微軟亞洲研究院機器學習組將這個過程沿用到了機器學習中。推敲網絡具有兩段解碼器,其中第一階段解碼器用於解碼生成原始序列,第二階段解碼器通過推敲的過程打磨和潤色原始語句。后者了解全局信息,在機器翻譯中看,它可以基於第一階段生成的語句,產生更好的翻譯結果。
聯合訓練(Joint Training):
這個方法可以認為是從源語言到目標語言翻譯(Source to Target)的學習與從目標語言到源語言翻譯(Target to Source)的學習的結合。中英翻譯和英中翻譯都使用初始並行數據來訓練,在每次訓練的迭代過程中,中英翻譯系統將中文句子翻譯成英文句子,從而獲得新的句對,而該句對又可以反過來補充到英中翻譯系統的數據集中。同理,這個過程也可以反向進行。這樣雙向融合不僅使得兩個系統的訓練數據集大大增加,而且准確率也大幅提高。
一致性規范(Agreement Regularization):
翻譯結果可以從左到右按順序產生,也可以從右到左進行生成。該規范對從左到右和從右到左的翻譯結果進行約束。如果這兩個過程生成的翻譯結果一樣,一般而言比結果不一樣的翻譯更加可信。這個約束,應用於神經機器翻譯訓練過程中,以鼓勵系統基於這兩個相反的過程生成一致的翻譯結果。(記者 林迪)