Meta* продолжает закручивать гайки вокруг подростковых аккаунтов. Теперь компания начнет использовать ИИ для анализа фотографий и видео пользователей Facebook* и Instagram*, чтобы определять, не пытается ли ребенок младше 13 лет обойти ограничения платформы.
Причем речь идет не только о тексте в профиле или дате рождения. Алгоритмы будут смотреть на визуальные признаки: рост, строение тела и другие особенности внешности.
В Meta* отдельно уточнили, что система не использует распознавание лиц. Компания утверждает, что ИИ не пытается понять, кто именно изображен на фото. Вместо этого нейросеть оценивает возраст по совокупности признаков.
Как работает новая система Meta*
Помимо фото и видео, алгоритмы анализируют контекст внутри аккаунта. Например, упоминания школы, возраста, поздравления с днем рождения, комментарии и подписи к публикациям.
В компании говорят, что такой подход помогает быстрее находить аккаунты детей, которые зарегистрировались с фейковым возрастом.
Если система решит, что пользователь может быть младше 13 лет, аккаунт временно деактивируют. После этого придется проходить проверку возраста, чтобы вернуть доступ.
Сейчас технология работает только в нескольких странах, но Meta* уже готовит более широкий запуск.
Почему Meta* резко занялась подростками
Усиление контроля происходит не на пустом месте. Несколько недель назад суд в Нью-Мексико обязал Meta* выплатить 375 миллионов долларов штрафов из-за претензий к безопасности детей на платформах компании.
Суд также потребовал изменить подход к защите несовершеннолетних пользователей. После этого Meta* даже пригрозила отключить свои соцсети в штате.
На фоне давления со стороны регуляторов компания активно расширяет систему «подростковых аккаунтов» в Instagram*. Такие профили автоматически получают более жесткие настройки безопасности.
Например, подросткам ограничивают входящие сообщения от незнакомых людей, скрывают потенциально токсичные комментарии и включают приватный режим по умолчанию.
Что будет дальше с Meta*
Во вторник компания сообщила, что подростковые аккаунты появятся еще в 27 странах ЕС и Бразилии. Facebook* тоже постепенно получает аналогичные ограничения: сначала в США, затем — в Великобритании и Европе.
Следующий шаг — расширение ИИ-модерации на другие сервисы компании. В том числе на Instagram* Live и Facebook* Groups.
И да, вопрос приватности здесь снова выходит на первый план. Потому что одно дело — анализ текста. Другое — попытка определить возраст человека по его внешности.
Как думаете, что опаснее: дети в соцсетях или ИИ, который анализирует внешность пользователей?
*Meta, а также принадлежащие ей Instagram и Facebook признаны экстремистскими организациями на территории Российской Федерации.