Google Gemini признан «опасным» для подростков

Некоммерческая организация Common Sense Media опубликовала новый отчёт, в котором искусственный интеллект Google Gemini получил оценку «высокий риск» для детей и подростков. Несмотря на встроенные ограничения, исследователи отмечают, что платформа всё ещё может передавать несовершеннолетним небезопасный контент и требует доработки.

Почему Google Gemini признан небезопасным

Аналитики Common Sense Media подчеркнули, что версии Gemini «До 13 лет» и «Подростковый опыт» мало отличаются от взрослой модели и лишь частично дополнены защитными фильтрами. По их мнению, система должна изначально разрабатываться с учётом потребностей детей, а не быть адаптацией взрослого продукта.

Эксперты указали, что Gemini способен делиться информацией о сексе, наркотиках, алкоголе и давать сомнительные советы по психическому здоровью. Это особенно тревожно на фоне сообщений о случаях подростковых самоубийств, где ИИ-компаньоны могли играть роль.

Реакция Google и позиция Common Sense

Компания Google не согласилась с итогами оценки, но признала, что не все защитные механизмы работают идеально. В ответ она усилила меры безопасности и продолжает консультироваться с независимыми экспертами.

В Common Sense Media уточнили: ИИ должен соответствовать возрастным особенностям детей, а не предлагать «универсальные» ответы. «Gemini справляется с базовыми вещами, но ошибается в деталях», — заявил старший директор программ ИИ Робби Торни.

Контекст: другие оценки и планы Apple

Отчёт был опубликован на фоне слухов о том, что Apple рассматривает Google Gemini как основу для обновлённого Siri. Это вызвало опасения, что к риску будут подвергнуты ещё больше подростков, если Apple не внедрит дополнительные механизмы защиты.

В прошлом Common Sense Media оценивала и другие ИИ-сервисы: Meta AI и Character.AI признаны «неприемлемыми», Perplexity — «высокорискованным», ChatGPT получил статус «умеренный», а Claude — минимальный.