ChatGPT будет вычислять ваш возраст: что скрывается за новым апдейтом

OpenAI усиливает меры защиты подростков и вводит новую систему контроля. Теперь ChatGPT будет анализировать поведение аккаунтов, чтобы определить возраст пользователя и ограничить доступ к чувствительному контенту.

Компания приняла это решение на фоне усиливающегося общественного давления. В последние годы всё активнее обсуждается влияние ИИ-сервисов на психику детей и подростков, включая формирование зависимости. На этом фоне Индонезия даже пошла на блокировку чат-бота Grok после громкого скандала, связанного с созданием откровенных ИИ-дипфейков.

Как работает система «возрастного прогнозирования» в ChatGPT

OpenAI и давно находится под давлением регуляторов и экспертов по цифровой безопасности. Причина — опасения, что ИИ может вредить несовершеннолетним при неправильном использовании.

Ранее компанию уже критиковали за возможность обсуждения сексуальных тем с юными пользователями и она уже вводила строгие правила для подростков, после обвинения в самоубийстве. В 2024 году OpenAI пришлось срочно закрывать уязвимость, позволявшую генерировать откровенные материалы для лиц младше 18 лет.

Новая система прогнозирования дополняет существующие защитные механизмы. Она использует алгоритмы искусственного интеллекта для анализа так называемых поведенческих и пользовательских сигналов.

К числу таких факторов относятся возраст, указанный в профиле, длительность существования аккаунта, а также время суток, в которое пользователь проявляет наибольшую активность. При совокупности этих признаков система может автоматически классифицировать аккаунт как принадлежащий несовершеннолетнему. Ранее схожие меры уже предпринимала Character AI: платформа закрыла чаты для подростков и перешла к формату «Историй».

В таком случае ChatGPT сразу применяет усиленные фильтры. Они блокируют темы, связанные с насилием, сексуальным контентом и другими потенциально опасными обсуждениями.

Если система ошиблась, пользователь может восстановить полноценный доступ. Для этого потребуется пройти проверку личности, отправив селфи через сервис Persona — партнёра OpenAI по верификации данных.