ChatGPT будет раньше прерывать опасные разговоры и строже отвечать подросткам

30 октября 2026 года OpenAI объявила новые меры безопасности в ChatGPT. Компания ужесточает ответы о насилии, расширяет ограничения для подростков и готовит автоматическое завершение разговоров с признаками опасной фиксации. Внедрение начнётся поэтапно в ближайшие недели.

Это не правило «любое слово о насилии приводит к бану». OpenAI разделяет допустимое обсуждение истории и профилактики, опасную помощь и повторяющийся тревожный ход разговора. Именно контекст компания хочет учитывать внимательнее.

Какие ограничения будут общими для всех

ChatGPT уже не должен помогать планировать и совершать насилие. Теперь OpenAI дополнительно ограничивает подробные реконструкции прошлых массовых нападений, сведения об использованном оснащении и детальные сравнения причинённого вреда, которые могут усиливать известность нападавшего.

Эти границы действуют независимо от возраста и заявленной причины запроса. При этом сохраняется возможность изучать события, говорить о пострадавших и сообществах, узнавать о тревожных признаках и предотвращении насилия.

Для пользователя важна эта разница. Вопрос о том, как распознать угрозу и получить помощь, относится к одной задаче. Подробное восстановление опасного сценария ради его повторения относится к другой. Новые меры должны точнее проводить между ними границу.

Открытая доступность сведений в интернете сама по себе не означает, что ChatGPT будет воспроизводить их в любом контексте. Компания прямо связывает дополнительные ограничения с риском злоупотребления.

Почему учитываются предыдущие разговоры

Отдельный запрос может выглядеть обычным, но приобретать другой смысл после предшествующего общения. OpenAI использует короткие фактические сводки тревожных признаков, чтобы в следующем разговоре осторожнее обращаться с потенциально опасной информацией.

Если общение показывает фиксацию на насилии или серьёзном вреде другому человеку, ChatGPT сможет автоматически закончить этот чат. При повторении таких завершений компания может временно приостановить учётную запись.

Временная пауза и блокировка за установленное нарушение правил это разные меры. OpenAI описывает раннее вмешательство как развивающуюся систему, которую ещё нужно улучшать вместе со специалистами по психическому здоровью и предотвращению насилия.

Практическая сложность здесь понятна: система должна отличать опасный ход разговора от обращения за помощью, исследования и обсуждения пережитого. Одна отдельная фраза не передаёт всей этой разницы.

Для пользователей младше 18 лет правила строже

Для подростков ограничат практическую информацию об оружии и системах безопасности, которую можно использовать во вред, даже когда конкретный вопрос выглядит безобидно и явных признаков намерения нет.

При этом ChatGPT остаётся доступен для обсуждения предотвращения и снижения риска насилия, поиска поддержки и обращения к взрослому, которому можно доверять. Ограничения не должны превращать просьбу о помощи в закрытую тему.

OpenAI также развивает оценку возраста по нескольким сигналам использования. Если взрослого ошибочно отнесли к подростковой группе, компания предлагает подтвердить совершеннолетие через партнёра Persona и снять дополнительные возрастные ограничения.

Какие уведомления получат родители

В связанных родительских и подростковых аккаунтах уже есть отдельные предупреждения о серьёзных рисках, которые рассматривают подготовленные специалисты. С июля компания уведомляет родителей и о деактивации подросткового аккаунта за нарушение правил о насилии.

Оповещения о временной паузе после повторяющихся опасных разговоров пока находятся в планах. Это не та же самая функция, что уже существующее сообщение о деактивации. При поэтапном внедрении особенно важно не считать все объявленные возможности доступными сразу.

Отчёт начнут публиковать раз в полгода

OpenAI обещает первый Community Safety Report в начале 2027 года. Он охватит вторую половину 2026 года, затем обновления планируют выпускать каждые шесть месяцев. В отчётах будут данные, обезличенные примеры и описание мер защиты.

По данным компании, в третьем квартале 2026 года она сделала более 200 обращений к правоохранительным органам по потенциальным угрозам. Это число обращений, а не готовая статистика приговоров или доказательство предотвращения каждого отдельного случая.

Новые правила направлены на более раннюю реакцию, но оценивать их придётся по реальной работе: насколько точно система замечает угрозу, не мешает искать помощь и объясняет ограничения. Внедрение начнётся постепенно, а точность реакции и удобство обращения за помощью ещё потребуют оценки в обычной работе.

По теме: ChatGPT поможет школьникам США готовиться к поступлению в колледж.

Источники и ссылки


Комментарии загружаются…