Мошенники и ИИ: Альтман предупредил о волне цифровых подделок

Руководитель OpenAI Сэм Альтман в ходе беседы с заместителем главы Федерального резерва США заявил о растущей угрозе: мошенники и ИИ в скором времени объединят усилия для подделки личности — включая как голос, так и внешность — в реальном времени. Ситуация, по его словам, может выйти из-под контроля.

Как мошенники и ИИ создают цифровых двойников

В качестве тревожного примера Альтман привёл распространённую в компаниях систему видеоподтверждения личности — когда пользователь подтверждает свою подлинность, произнося кодовую фразу во время видеозвонка. Если преступнику известна эта фраза, с помощью дипфейк-технологий он сможет смоделировать не только голос, но и внешность клиента. Сегодня подобные махинации чаще ограничиваются подделкой речи, но всё чаще фиксируются случаи успешной имитации внешности.

Борьба с таким видом обмана напоминает по духу принцип «клин клином вышибают»: чтобы противостоять дипфейкам, банки и компании внедряют собственные ИИ-алгоритмы, способные распознавать неестественные артефакты в видеоизображении и улавливать звуки, находящиеся за пределами обычного человеческого диапазона. Такие системы анализируют мельчайшие несоответствия, указывающие на цифровую фальсификацию.

Альтман выразил обеспокоенность тем, что мошенники и ИИ могут уже в ближайшем будущем превзойти по качеству подделки все существующие методы защиты. Он призвал к ужесточению технических стандартов безопасности и разработке новых форм цифровой идентификации, способных выдерживать натиск стремительно развивающихся технологий обмана.