字节跳动研发“并行翻译”技术 将翻译速度提升数十倍

时间:2021-07-16 16:48:18       来源:网易科技
7 月 16 日消息,在 WMT2021 国际机器翻译大赛上,字节跳动火山翻译团队以“并行翻译”系统参赛,获得德语到英语方向机器翻译比赛自动评估第一名。“并行翻译”在国际大赛首次亮相,就成功击败了从左向右逐词翻译的“自回归模型”技术,打破后者在机器翻译领域的绝对统治地位。

据悉,WMT2021 是由国际计算语言学协会 ACL 举办的世界顶级机器翻译比赛,德英语向是该赛事竞争最激烈的大语种项目之一。

火山翻译团队负责人介绍说,“自回归模型”更接近人类阅读习惯,逐词按顺序生成翻译,每一个输出的词都依赖于之前的词,当输出文本较长或者模型比较复杂时,机器翻译的速度很慢;“并行翻译”则是由机器同步输出所有的词,可以充分利用并行计算,将翻译速度提高数十倍。句子越长,速度提升越明显。

“并行翻译”的技术难点是如何组成连贯语句。对此,火山翻译团队采用了一项创新的渐进学习方式,由简单到复杂、由片段到整句训练“并行翻译”模型。在保持极高翻译速度的同时,“并行翻译”的质量显著提升。

火山翻译团队负责人坦言,在训练数据量小的场景下,“并行翻译”的质量相比传统技术处于劣势。但是当训练数据规模变大后,“并行翻译”会逐渐缩小差距,甚至反超传统技术。目前“并行翻译”技术已应用在火山翻译产品中,用以支持字节跳动的部分业务。

在去年的 WMT2020 比赛中,火山翻译获得中英、德英、德法等 5 个语向翻译冠军,今年以全新技术夺魁更是一次重要的突破。据介绍,火山翻译已支持 50 多个语种、近 3000 个语向的翻译,不仅应用在飞书、今日头条等字节跳动旗下产品,也通过火山引擎向企业客户提供技术服务。

 

新闻热点
奇闻趣事
频道推荐