LLM

Inkling от Thinking Machines: зачем MoE-модели 1M контекст

Thinking Machines выпустила Inkling: открытую мультимодальную MoE-модель с 975 млрд параметров, 41 млрд активных параметров и контекстом до 1 млн токенов.

Факты проверены 16 июля 2026 года. Inkling — это открытая мультимодальная MoE-модель Thinking Machines Lab с 975 млрд параметров, 41 млрд активных параметров и контекстом до 1 млн токенов. Модель принимает текст, изображения и аудио, а на выходе генерирует текст.

Это первый крупный релиз модели от компании Миры Мурати после серии исследований про новые интерфейсы взаимодействия с ИИ. Раньше мы разбирали, как Thinking Machines экспериментирует с interaction models. Inkling показывает следующий слой стратегии: открытую базовую модель, которую разработчики могут запускать, дообучать и встраивать в свои продукты.

Релиз — ставка Thinking Machines на открытые веса, мультимодальный вход, длинный контекст, sparse-инференс и кастомизацию через Tinker. Вместо демо на странице компания даёт инфраструктурный пакет: карточку модели, Apache 2.0 на Hugging Face и поддержку нескольких inference-движков с первого дня.

Коротко: что открыли в Inkling

Что открыли	Почему это важно	Где ограничение
Open weights, Apache 2.0	Модель можно изучать, интегрировать и дообучать без ожидания закрытого API	Открытые веса не отменяют стоимость железа, safety-контур и собственные evals
975B total, 41B active MoE	Sparse-архитектура даёт большую ёмкость модели без активации всех параметров на каждом токене	975B total не равно 975B active compute: на каждом токене активны 41B параметров
Контекст до 1 млн токенов	Можно работать с длинными документами, кодовыми базами и агентными сценариями	KV-cache, задержки и цена обслуживания всё равно становятся инженерным ограничением
Текст, изображения и аудио на входе	Одна модель закрывает несколько типов данных без отдельного пайплайна под каждый вход	Видео как готовый out-of-the-box сценарий Thinking Machines не обещает
Tinker fine-tuning	Кастомизация становится продуктовым углом Thinking Machines, а не побочной функцией	После дообучения модель нужно заново проверять на качестве, безопасности и стоимости

Таблица помогает развести Inkling с соседними материалами. Общий фон про мультимодальные модели вынесен в отдельный evergreen. Здесь фокус уже: конкретный релиз Inkling и то, как Thinking Machines собирает вокруг него стек для разработчиков.

Архитектура: 975B параметров, но активны 41B

Inkling — decoder-only multimodal transformer с sparse Mixture-of-Experts backbone. В карточке модели Thinking Machines указывает 66 слоёв, 256 routed experts, выбор 6 экспертов на токен и ещё 2 shared experts, которые активны всегда. Итоговая строка параметров: 975B total и 41B active.

Большое число параметров легко переоценить. Оно показывает ёмкость модели, но стоимость одного шага зависит от активной части и реализации inference. В этом Inkling похожа на другие крупные open-weights MoE-релизы, но отличается связкой мультимодальности, длинного контекста и кастомизации. Для сравнения, соседний материал про GLM-5.2 с контекстом 1M токенов держится на coding-интенте, а Inkling нужно оценивать шире: документы, изображения, аудио и агентные рабочие процессы.

Одна из архитектурных схем Inkling: relative attention вместо RoPE. Источник: Hugging Face.

В архитектуре есть несколько нетипичных деталей. Hugging Face отдельно описывает relative attention вместо RoPE, hybrid attention с чередованием local и global слоёв, short 1D convolution по скрытым состояниям и MTP-драфтеры для speculative decoding. Эти элементы не делают модель автоматически быстрее в любом окружении, но объясняют, почему Thinking Machines выпускала не только веса, а ещё рецепты для serving.

Мультимодальность: что модель принимает и что выдаёт

В модели нет отдельного обещания «any-to-any» на выходе. По карточке Hugging Face и Thinking Machines, Inkling принимает UTF-8 текст, pixel-based изображения и WAV-аудио 16 кГц, а выдаёт текст. Для аудио в карточке есть практическая рекомендация: файл желательно держать короче 20 минут для оптимальной работы.

Практическая роль Inkling — рассуждение поверх разных входов, а не генерация медиа. Модель может разобрать скриншот с формулой, сопоставить документ и изображение, транскрибировать и объяснить аудио, работать с длинной технической документацией или репозиторием, где агент читает файлы и внешние данные.

Официальный Hugging Face post пишет, что training data включали текст, изображения, аудио и видео. Готовую video-модель обещать нельзя: сама Hugging Face оговаривает, что image inputs имеют temporal dimension для видеообработки, но out-of-the-box video performance не оценивалась.

Прозрачность обучения при этом ограничена. Thinking Machines называет общий объём предобучения — 45 трлн токенов — и перечисляет только крупные категории: общедоступные источники, материалы третьих сторон, синтетические и дополненные данные. По состоянию на 17 июля 2026 года опубликованная карточка модели не раскрывает конкретные наборы, их доли и дату отсечения знаний. Открытые веса Inkling не означают полной открытости данных и процесса обучения.

Tinker и кастомизация: почему это продуктовый угол

Thinking Machines продвигает Inkling не только как checkpoint, а как основу для domain adaptation. В релизе много внимания Tinker: модель может помогать проектировать fine-tuning, готовить evals и synthetic data, запускать post-training через API и затем работать уже в кастомизированном варианте.

Здесь у Thinking Machines понятный коммерческий ход. Закрытый API продаёт доступ к сильной модели как услугу. Open-weights модель с Tinker продаёт другой сценарий: команда берёт базовую модель, адаптирует её под домен и оставляет контроль над частью инфраструктуры. Для enterprise-разработки это может быть важнее пары процентов на общем benchmark.

Но кастомизация требует дисциплины. После fine-tuning нельзя считать, что safety, refusal-поведение, качество на длинном контексте и стоимость inference остались прежними. Любая адаптация меняет модель, а значит возвращает команду к evals, red-teaming и проверке на своих данных.

Локальный запуск: не для обычного ноутбука

Hugging Face прямо пишет, что BF16-checkpoint требует около 2 ТБ VRAM, а NVFP4-вариант — около 600 ГБ VRAM. Эта цифра отрезвляет заголовки про локальный запуск: веса открыты, но полный Inkling не становится потребительским приложением для одного MacBook.

Практический путь выглядит иначе: кластер GPU, inference engine и ограничение контекста под задачу. В официальном посте и карточке модели перечислены Transformers, SGLang, vLLM, TokenSpeed, Unsloth и llama.cpp. vLLM отдельно опубликовал рецепт для Inkling: text/image/audio input, context up to 1M tokens, LoRA, speculative decoding, parallelism и prefix caching.

Квантованный Inkling-GGUF в Unsloth Studio. Это снижает требования, но не превращает полную модель в лёгкое приложение. Источник: Hugging Face / Unsloth.

Квантованные GGUF-варианты интересны для экспериментов и локального serving, но их нельзя смешивать с полной моделью в оценках качества. Чем сильнее сжатие, тем больше нужна повторная проверка на задачах, ради которых вы берёте модель.

Бенчмарки: конкурентна, но не абсолютный лидер

Карточка модели фиксирует дату сравнительных оценок: 14 июля 2026 года. Среди опубликованных чисел: AIME 2026 — 97,1%, GPQA Diamond — 87,2%, SWE-bench Verified — 77,6%, Terminal Bench 2.1 Best Harness — 63,8, MMMU Pro Standard 10 — 73,3%. Это сильная таблица для open-weights модели, но она не говорит, что Inkling лучше закрытых frontier-моделей по всем задачам.

В той же таблице закрытые модели впереди по ряду строк. Например, Claude Fable 5 указан с 95,0% на SWE-bench Verified, а GPT-5.6 Sol — с 89,5 на Terminal Bench 2.1. Поэтому корректный вывод такой: Inkling выглядит конкурентной в open-weights поле и местами близко подходит к закрытым системам, но не снимает вопрос качества, цены и проверок на конкретном workflow.

Отдельный слой — safety. Thinking Machines пишет, что проводила оценки по обычному взаимодействию, dangerous-capability testing, CBRN, cyber и loss-of-control, а по итогам не увидела material uplift beyond the open-weight ecosystem. При этом карточка указывает остаточные риски: role-play и косвенно сформулированные вредные запросы могут обходить отказы, поэтому для развёртывания нужны внешняя модерация, rate limiting, мониторинг и human oversight.

Что это значит для разработчиков

Для прикладной команды Inkling интересна не как повод заменить все модели в стеке. Её стоит рассматривать как candidate foundation model для тех задач, где одновременно нужны открытые веса, мультимодальные входы, длинный контекст и возможность дообучения.

Если нужен закрытый API с минимальной инфраструктурой, Inkling может оказаться слишком тяжёлой.
Если нужен контроль над весами, fine-tuning и serving, релиз Thinking Machines стоит включить в short list.
Если задача упирается в видео-выход или мультимодальную генерацию, Inkling не закрывает её сама по себе.
Если команда работает с длинными документами или агентными сценариями, 1M context полезен, но только при честном расчёте памяти, задержек и стоимости KV-cache.

Практичный вывод: Thinking Machines открыла крупную платформенную заготовку, а не «убийцу всех LLM». Inkling сильна там, где разработчику нужны веса, рецепты serving, дообучение и мультимодальный вход в одном пакете.

FAQ

Что такое Inkling от Thinking Machines?

Inkling — открытая мультимодальная MoE-модель Thinking Machines Lab. По состоянию на 16 июля 2026 года официальная карточка указывает 975 млрд параметров всего, 41 млрд активных параметров, контекст до 1 млн токенов, входы text/image/audio и текстовый output.

Inkling — это open-source модель?

Корректнее говорить open weights. На Hugging Face для thinkingmachines/Inkling указана лицензия Apache 2.0, веса опубликованы, модель можно дообучать и интегрировать. Но полноценная открытость зависит не только от лицензии, а ещё от данных, training pipeline, evals и стоимости запуска.

Можно ли запустить Inkling локально?

Технически да, но полный BF16-checkpoint требует около 2 ТБ VRAM, а NVFP4 — около 600 ГБ VRAM. Для локальных экспериментов есть quantized/GGUF варианты через llama.cpp и Unsloth, но это уже компромисс по размеру, скорости и качеству.

Чем Inkling отличается от обычных открытых LLM?

Сочетанием признаков: мультимодальный вход, 1M context, sparse MoE 975B/41B, open weights, Apache 2.0, Tinker fine-tuning и day-0 поддержка нескольких inference-стеков. По отдельности эти элементы встречались и раньше; интересен именно их пакет в первом большом релизе Thinking Machines.

Источники

Thinking Machines Lab: Inkling: Our open-weights model, опубликовано 15 июля 2026 года, проверено 16 июля 2026 года.
Thinking Machines Lab: Inkling Model Card, проверено 16 июля 2026 года.
Hugging Face Blog: Welcome Inkling by Thinking Machines, опубликовано 15 июля 2026 года, проверено 16 июля 2026 года.
Hugging Face model card: thinkingmachines/Inkling, проверено 16 июля 2026 года.
vLLM Recipes: thinkingmachines/Inkling, проверено 16 июля 2026 года.