60-летний житель США оказался в психиатрической клинике после трёх месяцев следования опасной диете от ИИ, в рамках которой он заменил обычную поваренную соль на бромид натрия, полагая, что это более полезный вариант. Источником рекомендаций стал ChatGPT, которому мужчина доверял как авторитетному советчику.
Как «диета от ИИ» привела к госпитализации
Постепенно его здоровье стало резко ухудшаться: появились бессонница, навязчивое чувство жажды, приступы паранойи и яркие галлюцинации. В какой-то момент он уверился, что его отравил сосед, и пытался сбежать из-под наблюдения врачей. Только принудительная терапия позволила стабилизировать его состояние.
Медики из Вашингтонского университета считают, что пострадавший мог использовать GPT-3.5 или GPT-4. Хотя у них не было доступа к переписке, при собственном тестовом запросе о замене соли модель GPT-3.5 действительно назвала бромид натрия в числе вариантов.
«Да, бот упомянул, что контекст имеет значение, — пишут исследователи, — однако он не предупредил о потенциальной опасности для здоровья и не задал уточняющих вопросов, как это сделал бы профессиональный врач».
Почему бромид натрия опасен
В начале XX века бромид широко применяли для лечения тревожности, бессонницы и даже эпилепсии. Однако к 1980-м годам от него отказались из-за высокой токсичности и риска тяжёлых психических нарушений. Сегодня бромид можно встретить лишь в некоторых ветеринарных средствах и специализированных добавках.
История этого мужчины наглядно демонстрирует, что даже самые продвинутые нейросети способны допустить опасные ошибки. Любые рекомендации, особенно касающиеся здоровья и питания, необходимо проверять у квалифицированных специалистов, а не полагаться на алгоритмы, каким бы убедительным ни казался их ответ.
Елена Ветрова 
Ярослав Курагин