Что произошло

Тексты переводили на русский с английского, испанского, китайского и иврита. В обычном наборе были новость WSJ, статья PubMed, документация ядра, тред с комментариями, современная проза, стихи Лорки, глава Амоса Оза. Отдельный стресс-набор: Бен Сира, религиозный отрывок, каббала, старые китайские медицинские и даосские тексты и глава «Поминок по Финнегану». Каббала оказалась самой тяжёлой: локальные модели на ней просели.

Финалистов автор оставил немного. Qwen3.8 Flash-Next (смесь экспертов, около 125 млрд весов и примерно 7 млрд активных) лидирует по качеству: английский 87,6, испанский 92, китайский 88, иврит 90, классический иврит 81 и на 8 баллов впереди следующей модели. Ей нужно 80–95 ГБ памяти плюс видеокарта. Квант IQ4_XS шёл около 15 токенов в секунду, более лёгкий IQ3_XXS — около 21, разница оценок в пределах шума. Художественный текст без отдельной редактуры у неё средний. Режим рассуждения на отложенных классических китайских текстах оставлял в ответе непереведённые куски.

Gemma 4 31B лучше всех пишет по-русски и поднимает слабый черновик на 5–14 баллов, но на этой машине даёт около 6–7 токенов в секунду: половина слоёв сидит в оперативной памяти. Gemma 4 26B в официальном кванте QAT Q4 целиком помещается на 16 ГБ и идёт примерно на 113 токенов в секунду, на обычном тексте и страницах набирая 80–88. На классике она разваливается: классический иврит около 49, классический китайский около 54. Index Translate 35B сильнее других на классическом китайском (около 80 в Q8) и годна как быстрый черновик под редактуру 31B. Модели помельче и узкие переводческие варианты автор отсеял на ранних этапах.

Почему это важно

Скорость и качество здесь не одна ось. Страницу в браузере нельзя ждать минуту, книгу можно оставить на ночь. Карта на 16 ГБ не равна «модель на 16 ГБ»: лидер по смыслу живёт в оперативной памяти, а на видеокарте крутятся слои экспертов. Если памяти 32 ГБ, этот лидер вам просто не запустится, какой бы ни была оценка 92 по испанскому.

Судьи сами облачные модели, эталон тоже. Это сравнение локального перевода с Claude, а не с живым переводчиком. Автор прямо пишет, что стилистику сложной прозы и местные реалии модели всё ещё не держат, а облачные версии пока сильнее на книгах. Локальный контур нужен там, где канал могут закрыть из-за бюджета, правил или прав.

На практике

1. Для страниц и обычного текста на этой карте смотрите Gemma 4 26B в кванте, который целиком на графическом процессоре. Рассуждение добавляет около полутора баллов и растягивает время в четыре-пять раз.
2. Для качества, если есть 80–95 ГБ памяти, оставьте Qwen3.8 Flash-Next. Инструкция на русском на классических текстах дала около пяти баллов. Рассуждение помогло не везде: на отложенном классическом китайском провалилось.
3. Художественный текст гоните черновиком и отдельным проходом Gemma 4 31B. Официальный английский системный текст со стилевой инструкцией у неё оказался лучше русской инструкции и «художественного» сэмплера.
4. Классический китайский отдайте Index Translate, короткими фрагментами. На иврите фрагмент в тысячу токенов модель перевела только в конце. Куски по 300–600 токенов это починили.
5. Не ждите, что локальная модель заменит облако на книге, которую вы собираетесь продавать. Автор для такой цели сам оставляет облачные модели.

Итог

На скромной игровой карте локальный перевод уже годится, чтобы понять страницу и черновик. Лидер качества — это большая модель в оперативной памяти, а не «то, что влезло в 16 ГБ». Классика и каббала по-прежнему ломают даже финалистов.