Meta（原FaceBook）人工智能研究院最新论文——新一代机器翻译系统

论文名：No Language Left Behind: Scaling Human-Centered Machine Translation

发布时间：2022年7月

论文地址：https://scontent-sjc3-1.xx.fbcdn.net/v/t39.8562-6/292295068_402295381932691_8903854229220968087_n.pdf

代码地址：https://github.com/facebookresearch/fairseq/tree/nllb

原文摘要：在消除全球范围内的语言障碍这一目标的驱动下，机器翻译已经巩固了自己作为当今人工智能研究的一个关键焦点。然而，这些努力都是围绕着一小部分语言进行的，而把绝大多数低资源的语言抛在了后面。要打破200种语言的障碍，同时确保安全、高质量的结果，并将道德因素牢记于心，这需要什么呢？在 "不落下任何一种语言 "中，我们接受了这一挑战，首先通过对母语人士的探索性访谈，将低资源语言翻译支持的需求情境化。然后，我们创建了数据集和模型，旨在缩小低资源语言和高资源语言之间的性能差距。更具体地说，我们开发了一个基于稀疏门控专家混合物的条件计算模型，该模型是在使用为低资源语言量身定做的新颖有效的数据挖掘技术获得的数据上进行训练的。我们提出了多种架构和训练方面的改进，以便在对数千项任务进行训练时抵制过度拟合。关键是，我们使用人类翻译的基准，Flores-200，评估了超过40,000个不同翻译方向的性能，并将人类评估与涵盖Flores-200中所有语言的新型毒性基准相结合，以评估翻译安全性。我们的模型相对于以前的最先进技术实现了44%的BLEU改进，为实现通用翻译系统奠定了重要基础。