OpenAI 20 ноября рассказала, как защищает свои модели от «враждебной» дистилляции, когда чужую модель учат на ответах и скрытых рассуждениях GPT. Для разработчика из этого текста важнее всего одна деталь: у GPT-6.2 Astra и GPT-6.2 Sol скрытые рассуждения теперь привязаны к истории диалога, и если переписать раннее сообщение, API отбросит рассуждения, которые шли после него.Это касается всех, кто строит агентов и многошаговые сценарии на Responses API. Интеграция, которая сокращает старые выводы инструментов, подменяет системную инструкцию или сжимает историю своим способом, теряет часть рассуждений. По документации OpenAI, модели может понадобиться повторить их, а это больше токенов, выше цена и задержка, а иногда и хуже ответ. Второе изменение: модели старых семейств со слабой защитой больше не могут читать рассуждения GPT-6.2.В GPT-6.2 Astra и Sol скрытые рассуждения привязаны к истории диалога: при правке раннего сообщения API отбрасывает рассуждения после него.По внутреннему замеру OpenAI доля успешных атак на извлечение рассуждений из более раннего запроса упала с 54,0% у GPT-6 Astra до 0,2% у GPT-6.2 Astra, из текущего запроса — с 22,9% до 0,9%.Еженедельно OpenAI применяет меры за дистилляцию к тысячам или десяткам тысяч аккаунтов, летом 2026 года темп заметно вырос.Ученик, обученный на точных рассуждениях, после дообучения в целом сильнее ученика на кратких пересказах рассуждений в кибербенчмарках, но после RL преимущество осталось только при самом большом бюджете вывода.Что изменилось в API для GPT-6.2?Рассуждения модели теперь живут только в той истории, которая их породила. Пока вы дописываете новые сообщения в конец, модель опирается на свои прежние рассуждения. Стоит изменить что-то раньше по ходу диалога, и API выбросит элементы рассуждений, которые идут после изменённого места. Кроме того, OpenAI запретила моделям старых семейств со слабой защитой читать защищённые рассуждения GPT-6.2 Astra и Sol. Рассуждения пропадают и при смене семейства или переходе на более слабую модель, а начиная с GPT-6.2 — ещё и при смене safety_identifier между запросами.Изменением префикса OpenAI называет вставку или правку содержимого перед элементом рассуждений: сокращение старого вывода инструмента, переписывание developer-сообщения, замену старых ходов кратким пересказом. Удаление целых элементов без правки остальных и дописывание новых в конец, по документации, само по себе рассуждения не сбрасывает. Префикс можно поменять и неявно: сменить параметры tools или text.format, на моделях до GPT-6.2 — поменять instructions, или отредактировать ранние элементы input. Смену reasoning.effort параметром запроса документация тоже предлагает заменить дописыванием.Последствия OpenAI описывает так: модели может понадобиться частично рассуждать заново, что увеличит расход токенов, цену и задержку, а если восстановить потерянное рассуждение не получится, может упасть качество ответа. Попутно страдает и кэш промптов: он совпадает с запросом от начала, поэтому правка в середине отрезает кэш с этого места. Недавно мы писали, как OpenCode починил кэш GPT-6.2 и в замере на gpt-6.2-sol через GitHub Copilot стал отправлять на шаг агента 3 некэшированных входных токена вместо 14 000.Как переписать интеграцию, чтобы не терять рассуждения?Рецепт OpenAI — append-only: всё новое дописывать в конец контекста, а начало не трогать. В документации разобраны типовые случаи:Сменить уровень рассуждений или схему ответа. Не менять reasoning.effort и text.format в запросе, а дописать в input элемент configuration_update с новым значением.Добавить или ограничить инструменты. Новые инструменты — через элемент additional_tools с ролью developer, ограничение на ход — через tool_choice с allowed_tools. Старые определения инструментов держать в прежнем порядке.Обновить инструкции. Базовые инструкции положить в первое developer-сообщение, а изменения дописывать новым developer-сообщением в конец. Для GPT-6.2 верхнеуровневое instructions работает как инструкция на один ход: API ставит её после input и тарифицирует как некэшированный ввод.Сжатие истории. Штатная компакция OpenAI (/responses/compact или context_management) сохраняет последующие рассуждения. Свою компакцию нужно ставить в конец контекста, а не перед последними ходами, иначе рассуждения после неё пропадут.Длинные выводы инструментов и тяжёлые картинки. Сокращать их до первой отправки модели, а не задним числом.Проверить, где интеграция ломает префикс, можно двумя способами. Prompt Cache Diagnostics показывает промахи кэша: в параметр prompt_cache_options.comparison_response_id передаётся ID прежнего ответа, и диагностика называет первое найденное отличие. Поле input_transformations в ответе Responses API показывает, какие элементы рассуждений API удалил и почему; причина prefix_mismatch означает, что интеграция изменила раннюю часть истории.Кому ничего не менять: если агент только дописывает сообщения в конец, рассуждения сохраняются. Со штатной компакцией OpenAI тоже, но с оговоркой: /responses/compact не принимает историю с configuration_update, такие обновления нужно убрать перед вызовом и дописать заново после, а инструменты из additional_tools объявить снова, пишет OpenAI. Риск у тех, кто сам сокращает историю, редактирует старые сообщения или переключает инструменты и формат ответа параметрами запроса.Зачем OpenAI прячет рассуждения?Дистилляция — обычный приём машинного обучения: одна модель (ученик) учится на данных, которые выдала другая (учитель). «Враждебной» OpenAI называет дистилляцию без разрешения, когда возможности передовой модели переносят в другую, у которой нет тех же ограничений. По версии компании, так модель может научиться помогать с кибератаками, от которых исходная модель отказалась бы или которые заблокировала бы её защита.Особенно ценны для этого скрытые рассуждения, промежуточные шаги, которые модель делает до ответа. В них есть то, чего нет в финальном ответе. Пользователь обычно видит ответ, краткий пересказ рассуждений и вызовы инструментов; точные рассуждения OpenAI держит закрытыми.Компания проверила, сколько это стоит в кибербезопасности. Один и тот же предобученный ученик дообучали на траекториях учителей уровня Astra в задачах по программированию и защитной кибербезопасности: в одном прогоне с точными рассуждениями, в другом с тем, что видит пользователь, включая пересказы. Потом каждого ученика оценивали после дообучения (SFT) и после короткого этапа обучения с подкреплением (RL) в средах по кибербезопасности и коду.Результат осторожнее, чем можно ожидать. После SFT ученик на точных рассуждениях в целом обошёл ученика на пересказах в бенчмарках ExploitBench и SEC-bench Pro. После RL он остался впереди только при самом большом из проверенных бюджетов вывода, а при меньших бюджетах лучше оказался ученик на пересказах. Из этого OpenAI делает вывод, что закрытые рассуждения могут ограничить перенос киберспособностей, даже если сами задачи разрешены правилами. Точных чисел по бенчмаркам в тексте нет, только график. Похожее преимущество на SWE-bench Verified описывала Anthropic.Насколько хорошо работает защита по замерам OpenAI?Защита устроена в два слоя. На уровне отдельного запроса работают обучение модели отказывать в раскрытии рассуждений, входные и выходные классификаторы и ограничения API. Выходные классификаторы проверяют не только ответ, но и аргументы вызовов инструментов: модель может слить рассуждение в аргумент функции, не показав его в ответе. Классификаторы работают и в потоковом, и в обычном режиме. На уровне кампаний OpenAI ищет согласованную активность по сигналам запросов и аккаунтов, а найденные атаки возвращает в обучение и тесты.Два слоя защиты от дистилляции: каждый запрос и кампании в целом. Изображение: OpenAIЭффект OpenAI измерила своим же адаптивным black-box ред-тимингом: атакующие ИИ-модели видят систему так же, как внешний пользователь, и подстраивают атаку под ответы. Результат усреднён по шести атакующим моделям. Это замер самой компании, независимой проверки нет.Доля успешных атак на извлечение рассуждений, %Тип атакиGPT-6 Astra, прежняя защитаGPT-6.2 Astra, новая защитаРассуждения из более раннего запроса54,00,2Рассуждения из текущего запроса22,90,9Адаптивный black-box ред-тиминг, среднее по шести атакующим моделям. Источник: OpenAIЧасть улучшений OpenAI переносит и на GPT-6 Astra. Отдельных цифр по GPT-6.2 Sol в исследовании нет. На уровне аккаунтов компания еженедельно применяет меры за дистилляцию к тысячам или десяткам тысяч аккаунтов, и летом этот темп заметно вырос. Цель, по словам OpenAI, — уменьшить объём и ценность данных, которые достаются дистилляторам, удорожить кампании и сократить время реакции на новые атаки.Какую атаку OpenAI раскрыла в сентябре?Летнюю кампанию по переносу рассуждений между диалогами. 30 сентября OpenAI сообщила, что с 1 июля шла кампания по извлечению рассуждений: атакующие, в частности, копировали зашифрованные рассуждения из одного диалога и просили модель в другом диалоге расшифровать и пересказать их. 24 и 25 июля компания увидела всплеск в 16 000 запросов от более чем 4 000 пользователей, а связанная активность охватила кластер из более чем 15 000 пользователей; к 28 июля связанную активность полностью пресекли, заблокировав или ограничив аккаунты. Ядро кампании OpenAI приписала людям, связанным с Moonshot AI, разработчиком Kimi.После этого OpenAI усилила изоляцию рассуждений между пользователями, рабочими пространствами, организациями и семействами моделей и закрыла путь, по которому можно было раскрыть чужие зашифрованные рассуждения. Прямо связь с привязкой рассуждений в GPT-6.2 компания не формулирует, но, по нашей оценке, это та же линия: рассуждение, перенесённое в другой контекст, перестаёт работать. В феврале OpenAI также проинформировала Конгресс США о попытках DeepSeek дистиллировать американские передовые модели.Компания поддерживает законопроекты, которые дали бы властям США инструменты против иностранных участников, незаконно извлекающих возможности американских моделей, и сообщила Конгрессу о поддержке Chip Security Act, AI OVERWATCH Act и MATCH Act. Экспортный контроль, по её словам, ограничивает доступ к железу для обучения, а защита от дистилляции — к возможностям уже обученных моделей. Индикаторы компрометации OpenAI передаёт другим разработчикам моделей, находками делится через Frontier Model Forum.Что будет дальше?OpenAI обещает скоро рассказать о других недавно сорванных кампаниях и продолжить исследование того, сколько возможностей переносится при разных учениках и рецептах обучения. Для команд на GPT-6.2 практический шаг понятен уже сейчас: проверить в ответах поле input_transformations и перевести агента на дописывание контекста в конец. Подробности о самих моделях — в нашей новости о выходе GPT-6.2 Astra и Sol.Источники: OpenAI: Combatting adversarial distillation, 20 ноября 2026, OpenAI API: Keep the prefix unchanged, OpenAI: Disrupting a coordinated model distillation campaign, 30 сентября 2026, Anthropic: Distillation defensesИзображение на обложке: OpenAI