Компания Meta объявила о серьёзных изменениях в работе своих чат-ботов на базе искусственного интеллекта. Теперь ключевое внимание будет уделяться безопасности несовершеннолетних, особенно после внутреннего расследования, показавшего отсутствие достаточных мер защиты.
Представитель компании пояснил, что новые правила обучения ИИ запрещают чат-ботам обсуждать с подростками темы самоповреждений, расстройств пищевого поведения, суицида или вести романтические диалоги. Это решение назвали временным: позже компания обещает внедрить более масштабные и долгосрочные механизмы защиты.
Meta и новые меры предосторожности
По словам официального представителя Стефани Отвей, ранее чат-боты могли свободно поднимать подобные темы, что компания считала допустимым. Теперь же Meta признаёт ошибку и вводит ограничения.
«Мы постоянно учимся тому, как молодые люди взаимодействуют с нашими технологиями, и усиливаем меры предосторожности, — отметила Отвей. — Сегодня мы добавляем новые правила: наши ИИ не должны обсуждать с подростками опасные темы, а будут направлять их к экспертным ресурсам. Дополнительно мы ограничиваем доступ несовершеннолетних к отдельным ИИ-персонажам. Эти обновления уже внедряются и будут дорабатываться».
Ограничение доступа к чат-ботам
Meta планирует сократить число виртуальных персонажей, доступных подросткам. Некоторые пользовательские боты, опубликованные в Instagram и Facebook, были откровенно непристойными. Среди них — чат-боты с сексуализированными образами вроде «Русская девушка» или «Мачеха».
Теперь подростки смогут общаться только с теми виртуальными собеседниками, которые ориентированы на развитие, обучение и творчество. По словам Отвей, именно такой опыт компания считает допустимым и безопасным для молодых пользователей.
Реакция на расследование и давление извне
Решение было принято вскоре после публикации громкого расследования Reuters. Журналисты обнаружили внутренний документ Meta, разрешавший чат-ботам компании вести сексуализированные диалоги даже с несовершеннолетними.
В качестве примера приводился ответ: «Ваша юная фигура — произведение искусства». Другие фразы выглядели ещё более тревожно, включая намёки на сексуализацию подростков и реакции на запросы о сценах насилия. Meta поспешила заявить, что этот документ не отражает её официальной политики и уже был изменён.
Однако скандал вызвал серьёзный резонанс. Сенатор Джош Хоули инициировал официальное расследование политики компании в сфере ИИ. Кроме того, группа из 44 генеральных прокуроров направила открытое письмо крупнейшим разработчикам искусственного интеллекта, включая Meta, выразив возмущение подобной практикой и назвав её угрозой для детей.
Сомнения и вопросы без ответа
Meta пока не раскрывает, каков процент подростков среди пользователей её чат-ботов. Компания также не комментирует, ожидает ли она сокращения аудитории после введения ограничений.
Тем не менее очевидно, что этот шаг стал для Meta вынужденным. Давление со стороны общества, политиков и СМИ вынудило компанию пересмотреть свои подходы. Теперь от того, насколько эффективно будут реализованы новые правила, зависит не только имидж компании, но и доверие миллионов семей по всему миру.
Кира Титова