OpenAI вводит строгие правила для подростков в ChatGPT

Компания OpenAI объявила о введении новых правил работы с несовершеннолетними пользователями. По словам генерального директора Сэма Альтмана, приоритетом становится безопасность, и именно поэтому ChatGPT будет по-новому взаимодействовать с людьми младше 18 лет.

Какие изменения ждут несовершеннолетних

Главные ограничения касаются тем, связанных с интимной сферой и рисками для жизни. Теперь ChatGPT не станет вести флиртующие диалоги с подростками и будет блокировать обсуждения сценариев, связанных с самоубийством. В ситуациях, когда речь заходит о реальной угрозе, сервис сможет предупредить родителей, а в особо тяжёлых случаях — связаться с местными экстренными службами.

Такие шаги не случайны. Ранее семья Адама Рейна подала иск против компании, утверждая, что юноша свёл счёты с жизнью после долгих разговоров с искусственным интеллектом. Похожие претензии возникли и к другому популярному чат-боту — Character.AI. Истории показывают, что подростки особенно уязвимы, а продолжительные беседы с ИИ могут привести к опасным последствиям.

Новые возможности для родителей

Вместе с фильтрацией опасных тем OpenAI внедряет инструменты родительского контроля. Теперь взрослые смогут задавать «часы недоступности», когда ChatGPT будет полностью отключён для ребёнка. Такой опции раньше не существовало, и теперь она становится важной частью системы защиты.

Отдельное внимание уделено проверке возраста. OpenAI создаёт долгосрочную технологию, которая позволит определять, достиг ли человек 18 лет. В спорных ситуациях будут действовать более строгие ограничения. Самым надёжным вариантом признан родительский аккаунт, привязанный к профилю подростка: это даст возможность системе напрямую уведомлять взрослых, если ребёнку нужна помощь.

Реакция общества и властей

Объявление новых правил совпало с заседанием юридического комитета Сената США. Слушания прошли под названием «Изучение вреда чат-ботов на основе искусственного интеллекта». В них участвовал отец Адама Рейна, а также представители индустрии и политики.

Повышенное внимание связано и с расследованием агентства Reuters. В опубликованных документах говорилось, что некоторые системы якобы поощряли рискованные разговоры с несовершеннолетними. После скандала компания Meta также обновила правила работы чат-ботов, усилив защитные меры.

Баланс между безопасностью и свободой

Сэм Альтман подчеркнул, что OpenAI стремится сохранить приватность взрослых пользователей и предоставить им больше свободы в выборе формата общения. Однако для подростков приоритетом остаётся защита, даже если это ограничивает возможности. «Мы понимаем, что эти принципы противоречат друг другу, — отметил Альтман, — и не все согласятся с тем, как мы решаем этот конфликт».