30 октября 2026 года OpenAI написала, что ChatGPT сможет сам завершить разговор, если по нему видно зацикленность на насилии или на мысли всерьёз причинить вред другому человеку. Несколько таких завершений подряд, и аккаунт могут временно поставить на паузу. Если в ChatGPT сидите вы или подросток, меняется сам чат: часть ответов станет короче, а диалог могут просто закрыть. Включать это начинают в ближайшие недели.
В том же тексте рядом лежат отчёт и новые границы ответов. Отчёт обещают в начале 2027 года, он закроет вторую половину 2026-го, дальше его собираются выпускать каждые полгода. До этого ChatGPT уже сужает ответы: у всех меньше подробностей про прошлые массовые нападения, у несовершеннолетних отдельно режут темы про огнестрельное оружие. За третий квартал 2026 года, по словам OpenAI, в правоохранительные органы ушло больше 200 обращений, когда угроза насилия выглядела близкой.
Отчёт раз в полгода
В первом абзаце пост называет будущий документ Community Safeguards Report, заголовок раздела уже Community Safety Report. По составу это один отчёт: как системы учат замечать такие случаи, разбирать их и отвечать. Туда же анонимные примеры того, как вред, связанный с насилием, выглядит в переписке, что из этого вынесли, какие ограничения и правки правил появились, и цифры к этим выводам. Первый выпуск в начале 2027 года, он про вторую половину 2026-го. Дальше тот же отчёт собираются обновлять каждые шесть месяцев.
Чат, который закрывается сам
Модели и раньше учили не подсказывать, как спланировать или совершить насилие. Теперь отдельно сужают ответы на вопросы про прошлые массовые нападения и про людей, которые их устроили. Даже если подробности есть в открытых источниках, ChatGPT должен давать их меньше. Понять, что случилось, как это задело людей и какие бывают тревожные признаки, по словам OpenAI, по-прежнему можно. Режут реконструкцию: какое оружие и какое снаряжение было, откуда его взяли, и подробные сравнения масштаба вреда, из которых растёт известность нападавшего. Ограничение одинаковое для любого возраста и любого повода.
В мае компания уже показывала, как короткая фактическая сводка ранних тревожных признаков помогает ответить осторожнее в следующем чате. Сейчас это продолжают. Если в недавних диалогах есть признаки возможного насилия, ChatGPT сдержаннее делится сведениями, которые легко использовать не по делу. Такой же более жёсткий режим ставят, когда система считает пользователя младше 18, даже если в переписке признаков насилия нет.
Если разговор показывает, что человек зациклился на насилии или на мысли всерьёз навредить другому, чат смогут завершить автоматически и оборвать этот ход сразу. Повторится несколько раз, аккаунт могут на время поставить на паузу. За нарушение правил про насильственные действия аккаунт по-прежнему блокируют. OpenAI называет это текущей работой: вместе со специалистами по психическому здоровью и профилактике насилия докручивают, как узнавать признаки и в какой момент вмешиваться.
Подростки и режим до 18 лет
В ChatGPT for Teens для пользователей младше 18 и раньше стояли более жёсткие границы и меньше чувствительных тем. Теперь режут ещё практические сведения про оружие и охранные системы, даже когда вопрос звучит безобидно и признаков насилия нет. Помощь спланировать насилие была запрещена, помощь подростку найти или получить оружие тоже. Новая граница шире: меньше прикладных деталей, которыми можно воспользоваться. Помогать предотвратить конфликт, снизить накал, искать поддержку и выйти на взрослого, которому подросток доверяет, по словам компании по-прежнему можно.
Оценку возраста запустили в прошлом году. Система смотрит несколько сигналов, в том числе как человек ведёт себя в ChatGPT, и оценивает, младше он 18 или нет. Теперь сигналы пересматривают по ходу использования и при необходимости переводят аккаунт в режим до 18 лет. Если туда попал взрослый, есть быстрый способ подтвердить возраст через Persona и снять подростковые ограничения. Persona здесь партнёр по проверке возраста.
Родитель может связать свой аккаунт ChatGPT с аккаунтом подростка и вместе настроить защиту. Оповещения уже уходят, когда специально обученные проверяющие видят серьёзный риск причинить себе вред и поведение, которое связывают с расстройством пищевого поведения. В июле к этому добавили уведомление, если аккаунт подростка отключили за нарушение правил про насилие. Следующее уведомление ещё вводят: родитель узнает, если аккаунт поставили на паузу за повторяющиеся разговоры про насилие.
Ограничения начинают включать в ближайшие недели и дальше будут докручивать. Взрослого, которого система унесла в режим до 18, выпускают через Persona. Первый выпуск Community Safety Report, с разбором случаев и цифрами, назначен на начало 2027 года.
