Thinking Machines Lab, лаборатория бывшего технического директора OpenAI Миры Мурати, 20 ноября выпустила Inkling 2 Mini, небольшую модель с открытыми весами под Apache 2.0. Чекпоинт весит около 20 ГБ, и компания официально поддерживает запуск на Mac с Apple silicon от 32 ГБ памяти и на настольном NVIDIA DGX Spark.Для разработчика это ещё одна локальная модель для кода и агентов, которую можно ставить в коммерческий продукт без отдельной лицензии. По замерам Artificial Analysis она набирает 20 баллов в индексе интеллекта, столько же, сколько плотная Qwen3.8 27B, хотя на токен у Inkling 2 Mini работает в несколько раз меньше параметров. Главное отличие в архитектуре: часть слоёв модель прогоняет по кругу трижды, и это первая зацикленная модель, которую выпустила лаборатория.Inkling 2 Mini: MoE на 26,4 млрд параметров, 3,4 млрд активных; средние 12 слоёв из 24 работают трижды, с учётом этого на токен приходится 5,4 млрд «эффективных» активных параметров.Веса около 20 ГБ в смешанной точности NVFP4 и MXFP8, в которой модель и обучали; поддержка Mac от 32 ГБ, DGX Spark, GPU от 32 ГБ видеопамяти.Artificial Analysis: 20 баллов в индексе, как у Qwen3.8 27B; средняя задача индекса через API Thinking Machines стоит $0,59 и по расчёту занимает 9 минут против $3,53 и 38,2 минуты у Qwen.Лицензия Apache 2.0, вход текст и картинки, контекст до 1 млн токенов.Компания предупреждает: при отладке кода модель может застревать в циклах рассуждений, а в агентах удалять файлы без подтверждения.Как устроена зацикленная модель?Inkling 2 Mini — декодер из 24 слоёв с разреженными MoE-слоями: на каждом слое токен уходит в 8 из 128 экспертов. Слои разбиты на четыре блока по шесть. Первый и последний блок работают один раз, а два средних, то есть слои с 7-го по 18-й, модель прогоняет трижды подряд с одними и теми же весами. Получается 48 применений слоёв на токен при 24 хранимых, пишет компания в карточке модели.Отсюда и разница в цифрах. Активных параметров на токен 3,4 млрд, но каждый дополнительный проход по зацикленным слоям добавляет около 1 млрд «эффективных» активных параметров, так что с тремя проходами выходит 5,4 млрд. Artificial Analysis в своём разборе называет те же 26 млрд всего и 5,4 млрд активных, а уникальных весов на текстовый токен насчитывает 3,1 млрд.Идея в том, что средние слои модели отвечают за более абстрактные рассуждения, а первые и последние в основном переводят между эмбеддингами и внутренним представлением. В экспериментах Thinking Machines зацикливание средних 12 слоёв дало больший прирост точности, чем зацикливание последних 12, на 27 из 28 оценок. Каждый проход начинается с выхода первого блока, а второй и третий проходы дополнительно читают результат предыдущего прохода через обучаемый гейт. В начале обучения гейт полностью закрыт и модель ведёт себя как обычная, а потом постепенно учится пользоваться «сообщением» от прошлого прохода.Зачем это нужно, компания объясняет так: модель может больше «думать» на каждом токене и доходить до ответа за меньшее число токенов рассуждений, особенно в задачах вроде агентного кода. На своей шкале моделей лаборатория сравнила зацикленную и обычную версии без прунинга: обычную обучать на 7,5% дешевле, но, чтобы догнать зацикленную по loss на агентных трассах длиной 512 тыс. токенов, ей нужно на 140% больше вычислений при инференсе.Цена такого приёма тоже названа: знаний в весах от повторных проходов не прибавляется. По словам компании, объём фактов определяется в основном общим числом параметров, и на бенчмарках знаний вроде SimpleQA Verified и AA-Omniscience дополнительные проходы почти ничего не дают. Компенсировать это Thinking Machines предлагает поиском и инструментами.Сколько памяти нужно и как запустить?Модель выложена одним чекпоинтом на 19,5 ГБ: 20 слоёв в 4-битном NVFP4 и последние 4 в 8-битном MXFP8. Экспертные слои работали в NVFP4 на всех прямых проходах, от предобучения до RL, и веса выложены в той же точности, в которой модель обучали, поэтому потерь на конвертации нет. Отдельно лежит файл драфт-модели для спекулятивного декодирования на 0,64 ГБ.По карточке модели поддерживаются:один NVIDIA DGX Spark;Mac с Apple silicon от 32 ГБ памяти (MacBook, Mac mini, Mac Studio);другие GPU и платформы, рекомендуется от 32 ГБ видеопамяти.Из движков заявлены Transformers, SGLang, vLLM, TokenSpeed, NVIDIA Dynamo, llama.cpp и Unsloth с квантованными GGUF, на Mac — Ollama и Exo Labs. Готовые GGUF уже есть у ggml-org (IQ4_NL на 17,6 ГБ и Q8_0 на 27,8 ГБ) и у Unsloth, где размеры начинаются от 7,8 ГБ у самых агрессивных 1-битных квантов и доходят до 22,9 ГБ у Q8_K_XL; распространённый Q4_K_M весит 16,6 ГБ. Страницу модели в библиотеке Ollama на момент публикации мы не нашли.В разборе на Hugging Face показана команда для llama.cpp, которая скачивает 4-битный квант и поднимает локальный сервер:Для 8-битной версии суффикс меняют на :Q8_0. На Mac модель работает и в MLX, причём с оригинальным чекпоинтом, без переконвертации; поддержка картинок там тоже есть. Базовый вызов выглядит так:Уровень рассуждений задаётся параметром reasoning_effort: от none до max, по умолчанию high. В карточке оговорено, что на минимальном уровне рассуждения полностью не отключаются, а скорость в локальных движках пока заметно зависит от движка и железа: поддержка зацикленных моделей там новая.Для демонстрации сотрудники компании запустили модель офлайн на MacBook Pro с M5 Pro и 48 ГБ памяти в самолёте и за несколько минут собрали с ней играбельный авиасимулятор. Во втором демо одна копия модели на офлайн-MacBook управляет 20 жителями пиксельного городка.Что показали замеры Artificial Analysis?В индексе Artificial Analysis Intelligence Index v5.0.1, который собирает девять оценок от Terminal-Bench 4.0 до HLE-Diamond, у Inkling 2 Mini 20 баллов. Столько же у Qwen3.8 27B в режиме xhigh и у Nanbeige4.3-33B, у которых активных параметров примерно в 5 и 6 раз больше. На графике «индекс против активных параметров» модель стоит на Парето-фронтире: при её числе активных параметров никто не набирает больше.Индекс интеллекта против активных параметров. Источник: Artificial AnalysisМодель многословна: на одну задачу индекса она тратит в среднем около 152 тыс. выходных токенов против 110 тыс. у Qwen3.8 27B, то есть примерно на 38% больше. Но за счёт малого числа активных параметров вычислений, по оценке Artificial Analysis, уходит примерно в 2,8 раза меньше, чем у Qwen. Прокси-метрика аналитиков — активные параметры, умноженные на токены.В деньгах и времени это выглядит так. При цене Thinking Machines $0,15 за миллион входных токенов, $0,50 за миллион выходных и $0,015 за попадание в кэш средневзвешенная стоимость задачи индекса составляет $0,59, а расчётное время, которое Artificial Analysis выводит из числа выходных токенов и скорости генерации, 9 минут. У Qwen3.8 27B в режиме xhigh — $3,53 и 38,2 минуты, то есть Inkling 2 Mini примерно в 6 раз дешевле и в 4 раза быстрее на задачу. Для масштаба Artificial Analysis приводит закрытую GPT-6 Luna (max): 28 баллов за $0,15 на задачу.Цифры самой Thinking Machines сильнее, но это замеры вендора. В таблице компании модель опережает Gemma 4 31B, Muse Glimmer, Qwen3.8-27B и Nemotron 3.5 Super VL на DeepSWE v1.1 (48,2% против 42,2% у Qwen) и SWE-bench Pro v2 Hard (77,9% против 73,8%), а на Terminal-Bench 4.0 делит первое место с Qwen с результатом 5,6%. Условия прогона у моделей в сравнении различаются, на что компания сама указывает.Где модель слабее?Thinking Machines сама перечисляет ограничения. Inkling 2 Mini — не лучшая маленькая модель для многоходового чата и инструкций с множеством условий: 50,0% на MultiChallenge и 33,4% на ComplexConstraints v1.1. В тексте анонса оба результата названы более слабыми, чем у Qwen3.8-27B, но в таблице той же страницы у Qwen на ComplexConstraints 30,1%, так что источник здесь сам себе противоречит. На тяжёлых тестах рассуждений вроде CritPt v2 и HLE-Diamond она отстаёт от крупных моделей.В карточке модели есть и предупреждения для тех, кто подключит её к агенту:при отладке кода модель иногда застревает в длинных циклах рассуждений или бесконечно перепроверяет свою работу, поэтому компания советует ограничивать число выходных токенов и ходов агента;с инструментами она менее надёжна, чем крупные модели, может удалять или перезаписывать файлы без подтверждения и неточно сообщать о результате;качество вне английского может быть ниже: в тестах на китайском авторы видели обрывочные фразы и смешение языков;она чаще крупных моделей уверенно выдаёт неверные факты.Thinking Machines рекомендует запускать агентные сценарии с Inkling 2 Mini в песочнице и требовать подтверждения перед необратимыми действиями.Не прячет ли зацикливание рассуждения модели?Это главный вопрос, который лаборатория разбирает в анонсе. Обычный трансформер проходит стек слоёв один раз на токен, поэтому длинную цепочку рассуждений ему приходится выписывать текстом, где её можно прочитать и проверить. Зацикленная модель делает больше шагов внутри, и часть рассуждений может не попасть в текст.Чтобы это измерить, вместе с Inkling 2 Mini выложена исследовательская модель TML-d24-varloop-research с той же архитектурой, но обученная работать с переменным числом проходов, от одного до пяти. Без цепочки рассуждений её «горизонт» вырос с 16 секунд человеческой работы при одном проходе до 37 секунд при трёх, дальше почти не менялся. Рассуждения при пяти проходах более чем вдвое короче, чем при одном (1661 против 3703 токенов на вопросах GPQA Diamond, которые модель решила верно при любом числе проходов), но остаются такими же читаемыми: модель меньше ошибается и реже возвращается назад. Предварительный вывод компании: зацикливание расширяет то, что модель делает без записанных рассуждений, но на этом масштабе заметно мониторинг не ухудшает.Что дальше?Inkling 2 Mini уже доступна в облачной платформе Thinking Machines Tinker для инференса и дообучения, а для RL-дообучения заявлена поддержка SkyRL, Miles и NVIDIA AutoModel. Старшая Inkling 2 Small на 594 млрд параметров, которую лаборатория показала в начале ноября, требует от 500 ГБ видеопамяти и для локального запуска не подходит; веса той модели выложили 12 ноября. Скорость локального запуска компания не обещает: в карточке сказано, что поддержка зацикленных моделей в локальных движках новая и скорость зависит от движка и железа.Источники: Thinking Machines: Introducing Inkling 2 Mini, 20 ноября 2026, Карточка модели Inkling 2 Mini на Hugging Face, Artificial Analysis: Inkling 2 Mini, Artificial Analysis в X, 20 ноября 2026, Hugging Face: Welcome Inkling 2 Mini, TML-d24-varloop-research на Hugging FaceИзображение на обложке: Thinking Machines Lab, кадр из демо-видео