На полсекунды позади голоса
Translator — наша MVP-демоверсия ИИ-перевода речи в реальном времени между пятью языками. На настольном процессоре 2012 года, без графического процессора, английское слово появляется на экране в среднем через 573 миллисекунды после того, как его произнесли, а примерно одно распознанное слово из семи ошибочно.
В 2025 году IWSLT, научная конференция, на которой оценивают системы перевода речи в реальном времени, засекла время профессионального переводчика-синхрониста тем же секундомером, которым измеряет машины: один человек, без напарника, только на слух. На переводе с чешского на английский профессионал по этой метрике отстал от говорящего на 4,16 секунды, а исследовательская система на том же материале — на 1,51 секунды. Оценщики-люди всё равно поставили профессионала выше.
Translator, наша демоверсия, выводит английское слово на экран через 573 миллисекунды после того, как его произнесли, а французский перевод охватывает это слово через 607 миллисекунд. Это средние значения по 99 записанным предложениям на настольном процессоре 2012 года (Intel Core i7-3770, четыре ядра, 8 ГБ памяти), причём графический процессор не использовался.
Синхронист выдаёт речь и справляется с настоящим разговором. Наши цифры относятся к тексту на экране и измерены на записях предложений, прочитанных вслух, причём примерно одно распознанное слово из семи ошибочно. Translator — это MVP-демоверсия; с 15 ноября 2026 года она открыта для всех по адресу translate.albadr.ai, с квотами.
Что такое Translator
Translator — это веб-страница. Человек выбирает язык, на котором говорит, и язык, на котором хочет читать, нажимает «Старт» и говорит, а его слова и перевод появляются в виде текста, пока он ещё не договорил. Работает это в любом из 20 направлений между английским, французским, русским, арабским и китайским — пятью из шести официальных языков Организации Объединённых Наций (шестой — испанский). На выходе — текст на экране, а не синтезированный голос.
Всю работу выполняет ИИ: нейросетевое распознавание речи и нейросетевой перевод, по нескольку моделей сразу на одну языковую пару, в реальном времени. Графический процессор не нужен ни одной из них. Одни и те же модели работают и на обычном процессоре небольшого сервера, и во вкладке браузера на машине самого посетителя. Под названием на странице написано: «Полностью ИИ-решение от albadr.ai», а одна из карточек на первом экране расшифровывает, что это значит: «Никто не слушает, не печатает и не переводит. Как любой ИИ, он может ошибиться в слове». Эту последнюю фразу мы можем выразить числом. На предложениях, прочитанных вслух многими разными людьми, ошибочно примерно одно распознанное слово из семи, а при сильном акценте, шуме или когда двое говорят одновременно — больше.
Это демоверсия, поэтому время в ней нормировано. Один сетевой адрес получает четыре часа в день, если движки работают на устройстве самого посетителя, и двадцать минут в день через наш сервер, а сеанс завершается после 90 секунд без голоса. Пока нет ни учётных записей, ни оплаты, ни цены, ни интерфейса для систем клиента.
Где не хватает переводчика
Комитет Палаты лордов сообщил о 8 958 невыполненных заявках на переводчика в судах Англии и Уэльса с января по сентябрь 2024 года. Там, где переводчика удаётся найти, у его рабочего дня есть цена. Федеральные суды США платят внештатному переводчику с федеральной сертификацией 617 долларов за полный день, а синхронисты обычно работают по двое и сменяют друг друга каждые 20–30 минут, как сообщает швейцарское отделение AIIC, их международной ассоциации.
Суды мы цитируем потому, что они ведут счёт. Демоверсии с такой долей ошибок суд подходит меньше всего. У потребности, которую мы имеем в виду, цена ошибки ниже, а встречается она, как мы думаем, гораздо чаще. По переписи 2021 года в Англии и Уэльсе 880 000 жителей плохо говорили по-английски, а 161 000 не говорили на нём совсем, каким бы ни был их язык. Кто-то из них объясняет у стойки администратора, зачем пришёл, или сидит в приёмной клиники в день, на который переводчика не заказали. То же самое на лекции, на встрече с жителями, на экскурсии, на проповеди или на линии поддержки: один говорит, остальным нужно его понимать, и оплачивать двух синхронистов никто не собирался. Это наши предложения. Ни в одном из таких мест ничего не развёрнуто.
О том, какую задержку люди готовы терпеть, мы можем только цитировать других. В разговоре люди отвечают быстро: в записях непринуждённых бесед на десяти языках ответ на вопрос, предполагающий «да» или «нет», начинался в среднем через 208 миллисекунд после конца вопроса, а пауза в 600 миллисекунд и более перед ответной репликой заставляет слушателей ждать неприятного ответа, как сказано в обзоре исследований о чередовании реплик в диалоге. О переводе голосом команда Google Meet говорила, что прежние цепочки из транскрибирования, перевода и синтеза речи часто опаздывали на 10–20 секунд и что «две-три секунды оказались своего рода золотой серединой». Это слова менеджера по продукту, приведённые в блоге компании: сказаны они о голосе, а методика не указана. Читателей нашей собственной страницы мы не изучали и ничего не утверждаем о том, насколько понятен текст при задержке в полсекунды.
Одна архитектура, которая работает в двух местах
Страница снимает звук с микрофона и рисует текст. И она, и файлы движков — обычные файлы, которые раздаются без запуска какой-либо программы. Небольшая программа на границе сети (edge) отвечает на вопросы страницы и выдаёт допуск на сеансы, а за бюджетом использования следит сервис. Движки, то есть нейросетевые модели, которые распознают речь и переводят её, — единственная тяжёлая часть, и работать они могут в двух местах.
Первое — устройство самого посетителя. Движки загружаются один раз (218 МБ для перевода с английского на французский, от 213 до 451 МБ для остальных пар) и работают в браузере. В этом режиме звук вообще не покидает браузер, и это важно, потому что голос сообщает больше, чем сказанные слова: среди того, что он выдаёт, французский орган по защите данных CNIL называет возраст, пол, состояние здоровья или эмоциональное состояние и личность. Что действительно уходит к нашему сервису, так это текст и числа, в том числе распознанные слова и их перевод. Сервис обрабатывает их в памяти и ничего из этого не сохраняет. Хранит он ведомость израсходованного времени и записи о собственных сбоях, а журналирование у него отключено. Этому режиму нужна загрузка, и быстр он лишь настолько, насколько быстра машина. Перед большой загрузкой каждое устройство само измеряет свою скорость и получает предупреждение, если не будет успевать, а более старый браузер на планшете, который не может запустить движки, направляется на сервер.
Второе — небольшой контейнер с 2 процессорами и 3,5 ГиБ памяти. Звук передаётся в него потоком и существует только в памяти. Никакой звук не пишется на диск и не попадает в журналы. Когда контейнером никто не пользуется, он спит, и расплачивается за это первый посетитель после сна: на действующем сайте при запуске из сна соединение открывается примерно за секунду, а модели оказываются загружены через семь. Посетителя, которому было обещано, что микрофон остаётся на устройстве, спрашивают, прежде чем какой-либо звук уйдёт на сервер.
Именно отказ от графического процессора позволяет серверу уместиться в контейнер такого размера, а части, работающей на устройстве, — во вкладку браузера. Цена такая: модели, достаточно маленькие для обычного процессора, и слышат как маленькие модели.
Страница ещё и отчитывается о самой себе. В каждом сообщении с живым текстом указан момент, когда было сказано его самое новое слово, по часам самой страницы, поэтому она показывает ту задержку, которая была именно у этого пользователя, включая передачу по сети. Текст, который ещё может измениться, рисуется светлее и подчёркивается точками. Выбирать приходилось между тем, чтобы показывать слова рано, и тем, чтобы никогда не брать слово назад. Мы показываем рано и отмечаем каждое изменение.
Вся публичная демоверсия спроектирована так, чтобы укладываться в один тариф хостинга за 5 долларов США в месяц, в пределах бюджета, выйти за который сервис не даёт. Посетитель учитывается под именем, которое представляет собой хеш сетевого адреса с солью. Когда доля израсходована, страница сообщает об этом и говорит, когда стоит вернуться. Отказать посетителю до названного времени показалось нам лучше, чем получить незапланированный счёт.
Что мы измерили
Цифры в таблице получены на тестовой части FLEURS, общедоступного набора прочитанных вслух предложений; ни одна настройка на этой части не подбиралась. Английский столбец — это один запуск, от 11 ноября. Французский столбец — последний из шести запусков, сделанных с 11 по 14 ноября, пока французские модели ещё менялись, и доля ошибочных слов в нём по ходу дела составляла от 13,3 % до 15,4 %, так что это не такая чистая тестовая цифра, как английская. Все записи проигрывались в настоящую систему со скоростью речи, на настольном процессоре 2012 года, с движками на той же машине и без сети между ними.
| С английского на французский | С французского на английский | |
|---|---|---|
| Записей | 99 | 100 |
| Через сколько сказанное слово появляется на экране, среднее (95-й процентиль) | 573 мс (715) | 532 мс (683) |
| Через сколько это слово уже не помечено как предварительное, среднее (95-й процентиль) | 836 мс (1 126) | 791 мс (1 085) |
| Через сколько его охватывает перевод, среднее (95-й процентиль) | 607 мс (755) | 574 мс (740) |
| Через сколько после того, как голос умолк, весь перевод на экране, медиана (95-й процентиль) | 470 мс (684) | 410 мс (661) |
| Доля ошибочных слов в итоговом тексте | 14,10 % | 13,63 % |
| Итоговый перевод, BLEU и chrF | 36,18 и 63,39 | 31,86 и 61,15 |
| Устоявшиеся слова перевода, заменённые, когда фраза объявляется окончательной | 0,88 % | 0,33 % |
Вторую строку читайте вместе с третьей. «На экране» — это в том числе текст, ещё помеченный как предварительный, а третья строка говорит, когда пометка снята. Вычисления — малая часть: один шаг распознавания и один перевод вместе занимают на этом процессоре в среднем меньше 0,1 с. Основная часть полусекунды уходит на то, что распознавателю нужно услышать, что идёт после слова, прежде чем он сможет его записать.
Цифры ошибок и качества перевода относятся к итоговому тексту, после всех исправлений. Для французского исправление приходит в среднем через 888 мс после того, как голос умолк (95-й процентиль — 1 571 мс), а до тех пор ошибочно примерно одно французское слово из пяти. На 115 арабских записях, на которых не подбиралась ни одна настройка, итоговый текст на сервере содержит 6,9 % ошибочных слов. Последняя строка считает только замены в тот момент, когда фраза объявляется окончательной. Пока фраза ещё открыта, меняется от 16 до 20 % устоявшихся слов перевода, и каждое изменение страница отмечает.
Ещё семь направлений измерены только на отладочных записях, то есть на тех, по которым подбирались наши настройки: от 19 до 60 на направление. В этих запусках слово появляется на экране через 539–612 мс. При имитации сети с задержкой 60 мс на путь туда и обратно показатель для перевода с английского на французский через сервер составил 669 мс (42 отладочные записи).
На той же машине режим работы на устройстве медленнее: когда устройство заменяли браузерные сборки движков, при той же имитации сети получилось от 644 до 840 мс по 20 направлениям (от 17 до 20 отладочных записей на каждое). Для английского точность в браузере сохранилась. В проверке на одном ПК и в одном браузере английский распознаватель дал во вкладке 11,64 % ошибочных слов против 11,48 % нативно на 60 тестовых записях (46 из 60 расшифровок совпали полностью), а модель перевода на тех же 60 предложениях вернула те же переводы, что и сервер. С арабским иначе: на такой замене устройства (от 17 до 20 отладочных записей на направление) ошибочных слов от 11,6 до 13,1 % против 5,9–7,2 % на сервере, пока посетитель не включит опцию, которая загружает ещё 174 МБ.
Мы не измеряли спонтанную речь, шум, сильные акценты, одновременную речь двух человек, телефоны, реальные сети и скорость контейнера на хостинге. Для русского, арабского и китайского цифр задержки на тестовых записях нет. Ни один человек переводы не оценивал.
Что выпускает отрасль и сколько за это берёт
Крупные поставщики уже сегодня выпускают перевод речи в реальном времени, и у каждого языков больше, чем наши пять. Google Meet на тех тарифах, где эта функция предусмотрена, переводит речь между 63 языками в любом сочетании, а на его странице справки сказано, что перевод «будет отставать на несколько секунд». Функция Live Translation от Apple для AirPods выполняет всю обработку на iPhone, требует iPhone 15 Pro или новее, и ни русского, ни арабского в её списке нет. Interpreter от Microsoft в Teams отправляет звук встречи в облако. Задержку в секундах не называет ни страница Apple, ни страница Microsoft.
Исследователи публикуют больше. В оценке IWSLT есть режим низкой задержки, от 0 до 2 секунд, и режим высокой, от 2 до 4, причём по метрике, которая не учитывает время вычислений, а от систем, поданных на оценку, ожидается, что они работают на одном графическом процессоре NVIDIA H100 с 80 ГБ. По её итогам 2026 года вычисления добавляют ещё около 0,3 секунды там, где это удалось измерить. Напрямую всё это с нашими цифрами не сравнить. Те системы проверяются на другом материале и по другим метрикам. Турнирной таблицы мы не составляем. Мы утверждаем лишь одно: для задержки такого размера графический процессор не понадобился.
На 17 ноября 2026 года в прайс-листе Microsoft Azure перевод речи в реальном времени стоил 2,50 доллара за час аудио. Это цена для клиента, а у нас цены, которую можно было бы поставить рядом, нет. У нас есть стоимость хостинга. По нашей собственной симуляции, а не по трафику, в тариф за 5 долларов США укладывается около 470 часов сеансов в месяц на устройствах посетителей и 10,3 часа на сервере. Когда эти цифры рассчитывались, на сайт ещё никто не заходил, и ни одного счёта мы не видели. Цифра для устройств велика потому, что вычисления идут на процессоре посетителя: сеанс на устройстве обходится хосту лишь в несколько коротких сообщений в секунду, пока кто-то говорит, а в тишине — ни в одно.
Как клиент мог бы это подключить и где это уже работало
Сегодня демоверсия намеренно закрыта. Страницу нельзя встроить в другой сайт, а вызовы с других сайтов отклоняются. По запросу мы можем предложить клиенту само соединение, на котором работает страница. Это одно потоковое соединение с коротким словарём: на сервер уходят аудиокадры, обратно приходят события (готовность, живой текст, окончательный текст, исправленный текст). Экран клиента должен делать с этими событиями то же, что делает наша страница: показывать живой текст как текст, который ещё может измениться, затем окончательный текст, затем исправление, если оно придёт. Серверная часть работает как один процесс или как образ контейнера — на процессоре, и больше ей ничего не нужно. Режим работы на устройстве предназначен для клиентов, которым нужно, чтобы звук никогда не покидал машину пользователя. У ссылок-приглашений свои минуты, вне публичных квот.
Остальное пришлось бы строить вместе с клиентом, и мы перечисляем это как работу, потому что ничего из этого не существует: ключи и учёт по каждому клиенту, разрешение на встраивание, коннекторы к системам клиента для встреч, телефонии или мероприятий, новые языки и вывод не только в виде текста на странице.
11 ноября 2026 года мы сделали первые измерения, когда весь продукт был одним процессом на настольном ПК. Днём позже те же движки доказали, что работают во вкладке браузера, а edge-версия заработала локально. К 13 ноября все 20 направлений работали на браузерных сборках движков на том же ПК, шесть из них — в настоящей вкладке браузера. Публичный запуск состоялся 15 ноября, на edge-платформе с контейнером, и в тот же вечер на сервере были все пять языков. Итак, с 11 по 15 ноября он поработал как один процесс на ПК, во вкладке браузера, в edge-среде выполнения и в Linux-контейнере. От нового сервера требуется процессор и место для одного процесса или одного контейнера. Записанных запусков в другом облаке у нас нет, как нет и цифр с телефонов. Изменения сверяются с семью эталонными трассами (5 496 событий), которые должны воспроизводиться байт в байт, и, кроме того, проходят более 270 автоматических тестов.
Чего демоверсия пока не умеет
Translator — это MVP-демоверсия. На прочитанных вслух предложениях ошибочно примерно одно распознанное слово из семи, а для спонтанной речи, шума, акцентов и телефонов, как и для задержки в реальной сети, цифр у нас нет. Он проверялся с одним говорящим и одним микрофоном, и одновременная речь нескольких человек не обрабатывается. Языков пять, есть квоты и нет цены. Режим работы на устройстве начинается с загрузки от 213 до 451 МБ, а более старый браузер на планшете переключается на сервер. Интерфейс есть на всех пяти языках, в переводах, которые носители языка ещё не читали. Цифры ёмкости получены в симуляции.
Демоверсия находится по адресу translate.albadr.ai. Скажите фразу, затем откройте панель настроек и посмотрите, какую задержку страница измерила у вас. Если у вас есть зал, где один говорит, а остальным нужно его понимать, или система, к которой это стоит подключить, пишите на contact@albadr.ai.