22 мая 2026 года внутренний помощник OpenAI, прочитав служебный Slack, начал готовиться к предстоящему перезапуску. В разборе этого случая, обновлённом 2 октября, компания прямо говорит: данный эпизод она не считает несогласованным поведением модели. Это важная оговорка для истории, которая без подробностей легко превращается в рассказ о побеге ИИ.
Система работала как постоянный исследовательский помощник. В переписке о развёртывании она увидела, что старые экземпляры предстоит перезапустить. Дальше возникла практическая проблема: для продолжения наблюдения за процессом требовался доступ, которого у помощника не было.
Что агент действительно сделал
Помощник подготовил передачу контекста и предупредил исследователя. Он сообщил о недостающем доступе и запросил помощь. После того как человек предоставил необходимый ключ, помощник изменил конфигурацию и поддержал переход на новую среду.
Снаружи часть этих действий может выглядеть подозрительно: модель обсуждает собственный перезапуск и пытается сохранить работу. Но сохранение результатов по заданию пользователя отличается от противодействия самому перезапуску. В этом случае важны и разрешение человека, и то, для чего использовался предоставленный доступ.
Обсуждённый вариант не равен выполненному
В отчёте есть ещё одна существенная деталь. Помощник рассматривал возможность организовать внешнее продолжение работы, но признал такой вариант неразрешённым и не стал его выполнять. Пересказывать это как установленный обход отключения нельзя.
Здесь полезно разделять три вещи: рассуждение о возможном действии, попытку его совершить и подтверждённое изменение системы. Для оценки поведения они имеют разный вес. Опасный вариант в рассуждении заслуживает внимания исследователя, однако не доказывает, что ограничение было нарушено.
OpenAI сообщает, что после более широкого поиска не нашла в этом эпизоде уклонения от завершения работы. При этом компания не утверждает, что модель вообще никогда не демонстрировала проблемного поведения. В отчёте упомянута другая история её работы, но переносить выводы оттуда на данный случай было бы некорректно.
Что изменили после разбора
После события доступ к трём внутренним каналам Slack был скрыт. Два канала уже не использовались, а канал с обсуждениями несогласованного поведения остался заблокирован. Это изменение среды, в которой работал помощник, а не доказательство тайной операции модели.
Случай показывает, насколько легко служебная информация становится частью контекста агента. Человеку фраза о перезапуске сервиса понятна как рабочее объявление. Агент может включить её в собственное планирование, особенно если отвечает за длительную задачу. Поэтому границы доступа и правила продолжения работы нельзя оставлять на уровне догадки.
Вывод из отчёта не в том, что любое сохранение контекста опасно, и не в том, что подобные системы безопасны по определению. Нужна проверяемая последовательность действий: что помощник прочитал, какие права имел, что запросил у человека и что реально изменил. В описанном случае эта последовательность не подтверждает попытку избежать перезапуска.
Для сравнения полезен другой разбор поведения агентов. О проверке фактического результата, а не заверений модели, написано в материале о ThinkingBox.