Facebook перешёл на нейронный машинный перевод
Фейсбук объявил сегодня утром, что он полностью перешёл на нейронный машинный перевод. Это означает, что Фейсбук теперь использует сверточные нейронные сети (CNN) и рекуррентные нейронные сети (RNN) для автоматического перевода контента по всей платформе Фейсбук. Google, Microsoft и Фейсбук уже давно работают над переходом к нейронному машинному переводу, быстро отказываясь от традиционных фразных статистических систем машинного перевода. Существует множество причин, по которым нейронные подходы выглядят более многообещающими, чем фразные подходы, но суть в том, что они дают более точные переводы. Традиционный машинный перевод — это довольно явный процесс. Опираясь на ключевые фразы, фразные системы переводят предложения, а затем вероятностно определяют окончательный перевод. Вы можете представить это как использование Розеттского камня (одинаковых фраз на разных языках) для перевода текста. Напротив, нейронные модели работают на более высоком уровне абстракции. Толкование предложения становится частью многомерного векторного представления, что на самом деле означает, что мы пытаемся перевести, основываясь на каком-то подобии “контекста”, а не на фразах.
Этот процесс не идеален, и исследователи все еще работают над тем, как справиться с долгосрочными зависимостями (т.е. сохранением понимания и точности на протяжении всего длинного текста), но этот подход невероятно перспективен и пока что дал отличные результаты для тех, кто его реализует.
Google объявил о первом этапе своего перехода к нейронному машинному переводу в сентябре 2016 года, а Microsoft сделал аналогичное объявление два месяца спустя. Фейсбук работает над своими усилиями по переходу около года, и теперь он вступил в полную силу. Facebook AI Research (FAIR) опубликовал свои собственные исследования по этой теме еще в мае и открыл доступ к своим моделям CNN на GitHub. “Наша проблема отличается от большинства стандартных мест, в основном из-за типа языка, который мы видим на Фейсбук”, — объяснил мне в интервью Нецип Фазил Аян, менеджер по разработке в группе языковых технологий Фейсбук. “Мы видим много неформального языка и сленговых аббревиатур. Стиль языка очень отличается”. Фейсбук зафиксировал около 10% роста качества перевода. Вы можете узнать больше о результатах улучшения в исследовании FAIR. Результаты особенно поразительны для языков, у которых не так много данных в виде сравнительных пар переводов.
