← Все статьи

JEPA и модели мира: почему размер LLM больше не единственный рычаг

Разбор `JEPA`, гипотезы платонического представления и лаборатории `AMI Labs`: чем модели мира отличаются от предсказания следующего токена, что показал эксперимент 109M против 72B и что из этого полезно инженеру в 2026.

JEPA и модели мира: почему размер LLM больше не единственный рычаг
Содержание

Ребёнок за четыре года бодрствования «прочитывает» через зрение примерно столько же байт, сколько современная большая языковая модель вынимает из всего публичного текста интернета. Разница в другом: четырёхлетка уже знает, что мяч не исчезает за диваном, а чашка разобьётся о плитку — и для этого ей не понадобился ни один учебник. Ян Лекун уже несколько лет твердит: пока отрасль наращивает число параметров ради следующего токена, она тренирует отличного собеседника, но не агента физического мира.

Осенью 2026 спор перестал быть только интервью на Давосе. Работа Рэндалла Балестриеро и Яна Лекуна о доказательстве гипотезы платонического представления через JEPA (arXiv:2610.39302) дала математическую рамку и сравнительные цифры, которые легко превратить в кликбейт: «модель на 109 миллионов параметров обошла Qwen 2.5 на 72 миллиарда». Ниже — что в этом результате действительно сильное, где границы эксперимента, как сюда вписались AMI Labs, LeWM и H-JEPA, и какой практический вывод для инженера, который сегодня строит продукты на LLM, а завтра, возможно, на моделях мира.

Ключевые выводы

Предсказание следующего токена — мощный, но узкий способ учиться. Оно отлично работает там, где язык сам является полем рассуждения: код, экзамены, документы. Оно плохо учит инвариантам физического мира, которые ребёнок схватывает через наблюдение.

JEPA предсказывает в пространстве представлений, а не в пикселях. Система сначала кодирует наблюдения, отбрасывает непредсказуемый шум и учится связи между «хорошими видами» одной и той же сцены. Это другая цель обучения, чем генерация текста или видеокадра.

Гипотеза платонического представления превратилась в теорему для JEPA. Если разные модальности смотрят на один мир и пары положительных примеров связывают одни и те же состояния мира, отдельно обученные JEPA сходятся к одному представлению с точностью до поворота.

Цифра «в 600 раз меньше» относится к согласованности представлений, а не к универсальному коэффициенту интеллекта. Текстовый JEPA на 109M обошёл языковые модели до 72B на сравнительных тестах выравнивания с образом — не на математике, коде или диалоге. Путать эти оси опасно.

Для продукта важны два горизонта. Ближний: цифровые двойники сложных установок, робототехника, мультимодальное выравнивание без гигантского масштаба. Дальний: домашний робот и «универсальная модель мира» пока остаются исследовательской ставкой, а не готовой платформой.

Одна траншея Кремниевой долины

К концу 2025 Лекун ушёл из Meta, где больше десяти лет возглавлял направление ИИ, и вместе с командой запустил лабораторию Advanced Machine Intelligence — AMI Labs — с штабом в Париже и узлами в Нью-Йорке, Монреале и Сингапуре. В марте 2026 лаборатория объявила раунд на $1,03 млрд при оценке около $3,5 млрд до денег. Среди инвесторов — фонд Безоса (Bezos Expeditions), Nvidia, Samsung, Toyota Ventures и длинный список европейских и азиатских фондов.

Причина ухода, которую он повторяет публично, звучит почти инженерно. Вся долина копает одну траншею: большие языковые модели. Компании переманивают одних и тех же людей, покупают одни и те же ускорители и не могут свернуть в сторону — отставание от «общей линии» выглядит дороже, чем риск тупика. Для публичной компании такой фокус может быть рационален. Для исследователя, который считает, что путь к человеческому уровню интеллекта лежит через понимание физического мира, это тупик.

Важно отделить риторику от ставки. Лекун не утверждает, что ChatGPT, Claude или Gemini бесполезны. Он утверждает другое: масштабирование языковых моделей само по себе не даст общего искусственного интеллекта и не заменит робота-помощника по дому. Это разные задачи. Отрасль слишком долго измеряла прогресс одним линейным метром — числом параметров и токенов.

Сколько «мира» видит ребёнок и сколько текста глотает LLM

Лекун любит простой расчёт. Современную большую языковую модель обучают примерно на 20 триллионах токенов. Если грубо взять три байта на токен, получается порядка (10^{14}) байт — сопоставимо с тем, сколько зрительной информации проходит по зрительному нерву за первые четыре года жизни ребёнка (около 16 тысяч часов бодрствования при потоке порядка 2 МБ/с).

Цифры порядка величины, не лабораторный протокол. Смысл в сравнении. Человек за те же байты выносит из опыта законы физики быта: объектность, постоянство, причинность, хрупкость стекла, инерцию мяча. Модель за те же байты текста выносит статистику языка. Обе системы «видели» огромный объём данных. Только данные устроены по-разному, и цель обучения — тоже.

Отсюда любимый контраст Лекуна. Подросток учится водить за десятки часов практики. Уровень 5 автономного вождения всё ещё упирается в инфраструктуру, редкие случаи и огромные корпуса. Домашний робот, который гибко уберёт кухню чужой квартиры, остаётся демонстрацией, а не товаром. Зато языковые модели уже сдают бар-экзамены и пишут рабочие черновики кода. Успех там, где рассуждение живёт в языке; отставание там, где нужно устойчивое представление физического мира.

Для инженера это полезный фильтр. Если ваш продукт — поиск по регламентам, генерация отчётов, помощник разработчика — LLM уже правильный инструмент. Если продукт — манипулятор на складе, цифровой двойник турбины или робот в доме, одной «большей модели чата» обычно мало: нужна модель динамики, планирование и память о состоянии среды.

Что такое JEPA без маркетинговых ярлыков

Joint Embedding Predictive Architecture (JEPA) — семейство архитектур, где система не обязана восстанавливать вход попиксельно или слово в слово. Наблюдение (X) (и при необходимости действие (A)) кодируется в представление. Будущее или связанное наблюдение (Y) тоже кодируется. Предсказание идёт в пространстве этих представлений.

Представьте футбольный матч. Генеративной модели достаточно легко увязнуть в цвете кресел трибуны и узоре футболки болельщика — деталях, которые почти не помогают понять, что форвард идёт к воротам. JEPA как раз пытается сохранить то, что помогает прогнозу: кто где, кто движется, что вероятно случится дальше. Непредсказуемый шум можно «выкинуть» из представления, и прогноз становится грубее по деталям, но точнее по смыслу сцены.

Это близко к тому, как человек ловит мяч. Мозг не моделирует каждую травинку и каждый порыв ветра. Он держит приближённую траекторию и обновляет её по мере полёта. Лекун хочет научить машины похожему сжатию: внутреннюю модель мира, а не бесконечную генерацию поверхности.

Исторически вокруг этой идеи выросли I-JEPA, V-JEPA и прикладные ветки для управления. В 2026 линия продолжилась компактными моделями мира вроде LeWM (~15M параметров, обучение с одной видеокарты за часы) и иерархическим H-JEPA, где разные уровни смотрят на разные временные масштабы.

От гипотезы Платона к теореме для представлений

В 2024 исследователи Массачусетского технологического института сформулировали гипотезу платонического представления (Platonic Representation Hypothesis): по мере роста мощности разные нейросети, даже обученные на разных данных, всё чаще организуют внутренние представления похожим образом. Интуиция красивая, но без доказательства она не говорила, когда сходство обязано появиться и как его ускорить.

Работа Балестриеро и Лекуна переводит наблюдение в утверждение для JEPA. В идеализированной модели отдельно обученные JEPA на разных модальностях сходятся к одному вложению с точностью до поворота, если их положительные пары связывают одни и те же состояния мира, а минимумы задачи единственны с точностью до поворота. Если пары расходятся, рассогласование ограничено мерой этого расхождения.

Ключевой практический вывод авторы называют разделением на «хорошие виды» (good views) и «плохие виды» (bad views). Хороший вид — два разных наблюдения одной сцены: фото собаки с фрисби и текстовое описание того же момента, два кадра с разных ракурсов, изображение и действие. Плохой вид — порчи одного наблюдения: маскирование кусков текста, случайные обрезки кадра, продолжение того же документа. В первом случае представление тянется к миру. Во втором — к особенностям модальности.

На этом фоне предсказание следующего токена выглядит как JEPA с плохими видами: положительная пара — префикс и его продолжение внутри одного документа. Отсюда осторожный, но сильный тезис статьи: языковые модели выравниваются с зрением в основном через масштаб, потому что цель обучения плохо заточена под общее представление мира.

Эксперимент 109M против 72B: что именно победило

Цифры, которые гуляют по роликам, стоит держать рядом с формулировкой метрики.

На корпусах текстов к веб-изображениям (вплоть до текстов порядка сотен миллионов изображений) текстовый JEPA с 109M параметров достиг показателя согласованности около 0,184 на сравнительном тесте из линии гипотезы платонического представления. Qwen 2.5 на 72B — около 0,154; Llama 3 на 7B — около 0,151; текстовый кодировщик CLIP — ниже. Разница в размере — сотни раз. По выборке на том же корпусе «хорошие виды» достигли сопоставимого выравнивания примерно на 21,6M примерах там, где предсказание следующего токена потребовало порядка 900M — примерно в 42 раза больше примеров.

Ещё один прикладной жест из статьи: после обучения отдельные кодировщики можно связать одним поворотом и получить подпись к изображению без тяжёлого совместного дообучения. На тесте без готовых пар текст–изображение текстовый JEPA также показал сильный результат без примеров задачи относительно языковых моделей до нескольких миллиардов параметров.

Теперь границы — и они важнее заголовка.

  1. Победа измерена на согласованности представлений текст↔образ и родственных метриках, не на MMLU, HumanEval или пользовательском чате.
  2. Независимые лаборатории ещё должны воспроизвести полный контур. Теорема держится в оговорённых условиях (отбеливание, спектральный зазор, характер пар).
  3. Масштабирование JEPA до размеров передовых промышленных систем — открытый вопрос. История ИИ полна методов, которые красиво работали на «маленьком» и теряли преимущество на «большом».
  4. Модели мира в литературе иногда оказываются чувствительны к мелким визуальным сдвигам — цвету фона, освещению. Для робота это не академическая придирка, а риск безопасности.

Иными словами: архитектура и дизайн положительных пар могут бить грубый масштаб на задаче выравнивания. Это не доказательство, что отрасль «шла не туда» во всём остальном.

Иерархия, роботы и кошка с 250 миллионами нейронов

Лекун часто сравнивает современных роботов с домашней кошкой. У кошки порядка 250 миллионов нейронов, и она уверенно прыгает на узкий подоконник, обходит препятствия и строит короткие планы движений — без триллионов токенов текста. Метафора намеренно провокационная, но направление ясное: интеллект действия растёт из модели среды, а не из энциклопедии.

LeWM (LeWorldModel) показывает инженерный стиль этой ставки: компактная модель мира на базе JEPA, стабильно обучаемая целиком от сырых пикселей на двух членах функции потерь, планирование в скрытом пространстве признаков быстрее тяжёлых базовых моделей мира на ряде контрольных задач. H-JEPA добавляет этажи: каждый уровень предсказывает дальше в своём пространстве и на своём временном шаге; планирование идёт сверху вниз, а на среде Visual AntMaze авторы сообщают рост успеха с 18% до 73% при меньшей вычислительной нагрузке планировщика.

Параллельно другие группы строят соседние куски пазла. Google DeepMind развивает семейство Genie для интерактивных миров. World Labs Фей-Фей Ли работает над моделированием пространств из небольшого числа фото. Nvidia публикует симуляторы и модели мира для робототехники; отдельные университетские коллаборации показывают перенос политики из быстрого симулятора мягких объектов в реальность.

Картина 2026 года уже не «LLM против всего». Формируется вторая гонка: кто лучше научит машину держать состояние мира, предсказывать последствия действия и планировать на нескольких горизонтах времени. Языковые модели в этой гонке не исчезают — они становятся интерфейсом, библиотекой навыков и слоем объяснения. Но ядром автономии Лекун и AMI видят именно модель мира.

Что это меняет в экономике вычислений

Если согласованное представление мира можно получить заметно меньшим числом параметров и примеров, меняется не только академический рейтинг. Меняется место, где может жить интеллект: смартфон, очки, бортовой компьютер робота, контроллер установки — без постоянного канала к дата-центру на десятки тысяч ускорителей.

AMI Labs прямо говорит, что первые коммерческие применения скорее появятся в промышленности: цифровые двойники электростанций, авиадвигателей, химических производств. Там модель мира — это симулятор состояния оборудования и раннее предупреждение, а не домашний ассистент с пылесосом. Массовый бытовой робот отодвигается дальше по дорожной карте.

Крупные разработчики LLM при этом могут просто вобрать куски идеи: лучшие виды, предсказание в скрытом пространстве признаков, иерархию горизонтов. Тогда «победа» JEPA будет не сменой поставщиков, а сменой целевой функции внутри тех же корпораций. Для команды продукта важнее не болеть за бренд лаборатории, а понимать, какую задачу вы оптимизируете: правдоподобный текст или устойчивый прогноз среды.

Связанные материалы на сайте: агентная инженерия, железо для ИИ, локальные MoE и память.

Четыре пробела до человеческого уровня — и что закрывает JEPA

Лекун обычно раскладывает путь к человеческому уровню интеллекта на несколько крупных дыр: понимание физического мира, долговременная память, рассуждение и планирование сложных последовательностей действий. Современные попытки «научить LLM рассуждать» через цепочки подсказок и внешние инструменты он часто называет слишком тонкими: они имитируют ход мысли в тексте, но не держат устойчивую модель среды.

Новая линия JEPA закрывает в основном первый пункт — и то частично. Она предлагает более эффективный способ строить представления мира и связывать модальности. H-JEPA добавляет кусок планирования на разных временных масштабах. Долгая память как отдельная подсистема и универсальное рассуждение «как у взрослого человека» этими работами сами по себе не появляются.

Отсюда трезвый фильтр для заголовков про общий искусственный интеллект. Даже если завтра независимые лаборатории полностью подтвердят цифры выравнивания, мы получим сильный кирпич архитектуры, а не готовый общий интеллект. Кирпич важен: без него стена не стоит. Но путать кирпич с домом — привычка кликбейта, не инженерии.

Для команд, которые строят агентов поверх LLM, практический перевод такой. Инструменты, RAG и «размышляющие» промпты закрывают работу со знанием. Как только агенту нужно удерживать состояние склада, цеха или квартиры и выбирать действие на минуты вперёд, вам нужен контур модели мира — хотя бы упрощённый симулятор или явный граф состояния — а не ещё один слой текста вокруг той же чат-модели.

Что сделать сегодня, если вы строите на LLM

Не нужно завтра выкидывать GPT-класс из продакшена. Нужно перестать мерить любой прогресс одной осью «больше параметров».

  1. Разделите задачи продукта. Язык, документы, код — зона силы LLM. Физика, длинный план действий, устойчивость к смене освещения и фона — зона, где стоит смотреть на модели мира, симуляторы и классическое управление.
  2. Проверьте мультимодальное выравнивание как отдельную метрику. Если вы склеиваете текст и изображение, измерьте согласованность представлений, а не только качество подписи «на глаз». Идея «хороших видов» полезна уже сейчас: учите на парах «одна сцена — разные наблюдения», а не только на порчах одного файла.
  3. Для роботов и цифровой физики начните с симулятора и компактной динамики. Публичные ветки LeWM / H-JEPA и соседние симуляторы дают точку входа без бюджета передовой исследовательской лаборатории.
  4. Держите скепсис к кликбейту. «В 600 раз меньше и умнее» почти всегда означает «лучше на выбранной оси». Читайте протокол: какая метрика, какой корпус, какие базовые линии, что не измеряли.
  5. Следите за воспроизводимостью. До независимого повторения и масштабирования относитесь к цифрам как к сильному сигналу направления, а не к замене дорожной карты.

Практический минимум на неделю: выписать три пользовательских сценария своего продукта и пометить каждый — «язык», «мир» или «гибрид». Для гибридов заранее решить, где нужна модель состояния среды, а где достаточно RAG и LLM.

Частые вопросы

Значит ли результат JEPA, что трансформеры устарели?

Нет. Многие JEPA сами используют трансформерные кодировщики и блоки предсказания. Спор не про «убить механизм внимания», а про цель обучения и пространство, в котором делается прогноз.

Можно ли считать 109M-модель новым классом LLM?

Формально это текстовый JEPA для выравнивания представлений, а не чат-модель общего назначения. Называть её «новым классом LLM мощнее GPT» удобно для заголовка и вредно для инженерии.

Когда ждать домашнего робота на JEPA?

Лекун и AMI говорят о годах исследований и сначала об индустриальных применениях. Бытовой универсальный робот зависит не только от архитектуры, но от данных взаимодействия, безопасности, стоимости железа и надёжности в открытом мире.

Стоит ли стартапу «переписывать всё на модели мира»?

Обычно нет. Стоит выбрать узкое место, где LLM систематически врёт из-за отсутствия модели среды, и там поставить симулятор, прогноз динамики или представление в духе JEPA. Остальной продукт можно оставить на проверенном стеке.

Что почитать дальше

Заключение

Видео в духе «общий ИИ найден, трансформеры в архив» правильно ловят нерв момента и почти всегда перегибают вывод. На столе 2026 года лежит более трезвая формулировка. Языковые модели останутся инфраструктурой работы со знанием. Но путь к системам, которые действуют в физическом мире так же уверенно, как болтают о нём, скорее всего, потребует другой учебной цели: строить сжатое, разделяемое представление мира и предсказывать последствия в нём.

JEPA, теорема о платонических представлениях, LeWM и H-JEPA — не финал этой истории. Это набор доказательств и прототипов, что рычаг «какие виды мира мы считаем одним и тем же» может быть сильнее рычага «насколько огромна модель». Если преимущество удержит масштабирование, следующий крупный сдвиг в ИИ может прийти не из ещё одного гигантского дата-центра, а из более умной постановки задачи обучения.