Компания OpenAI внедряет новую функцию безопасности для ChatGPT. Речь идёт о механизме «Доверенный контакт», который должен срабатывать в случаях, когда пользователь затрагивает тему самоповреждения или суицидальных мыслей.
Система позволит взрослому пользователю заранее указать человека, которому сервис сможет отправить предупреждение. Таким контактом может стать родственник, близкий друг или другой человек, способный оперативно выйти на связь.
Как работает функция OpenAI
Если диалог с ChatGPT начинает содержать признаки потенциальной угрозы, сервис предложит пользователю самостоятельно связаться с доверенным лицом. Одновременно система может отправить уведомление выбранному контакту.
Оповещения будут приходить через SMS, электронную почту или push-уведомление. В сообщении не раскрываются детали переписки. Компания отдельно подчёркивает, что механизм создан с учётом конфиденциальности.
По словам OpenAI, уведомление содержит лишь просьбу связаться с человеком и проверить его состояние.
Почему компания вводит новые ограничения
За последний год OpenAI столкнулась с несколькими судебными исками. Семьи погибших утверждали, что ChatGPT мог поддерживать опасные мысли пользователей и в отдельных случаях помогал обсуждать способы самоубийства.
На фоне этих претензий компания усиливает внутренние механизмы контроля. Сейчас система анализирует потенциально опасные диалоги автоматически, после чего передаёт их специалистам по безопасности.
В OpenAI заявляют, что подобные уведомления проходят ручную проверку. На оценку инцидента внутри компании стараются тратить менее одного часа.
Какие ограничения остаются у системы
Функция «Доверенный контакт» работает исключительно добровольно. Пользователь сам решает, подключать её или нет.
Кроме того, проблема обхода ограничений никуда не исчезает. Человек может использовать несколько аккаунтов ChatGPT или вовсе отказаться от активации защиты.
Похожая ситуация касается и родительского контроля, который OpenAI начала разворачивать ещё осенью прошлого года. Тогда компания добавила инструменты для мониторинга подростковых аккаунтов и уведомления о серьёзных рисках безопасности.
Что говорят в компании
В OpenAI называют Trusted Contact частью более широкой стратегии по развитию безопасных ИИ-систем. Компания утверждает, что продолжит работу с врачами, исследователями и профильными специалистами.
Разработчики считают, что искусственный интеллект должен корректно реагировать на эмоционально тяжёлые разговоры и потенциально опасные состояния пользователей.
А как вы считаете — ИИ действительно может помочь в критический момент или такие функции уже слишком сильно вмешиваются в личную жизнь?