Эксперт рассказал, как ИИ меняет архитектуру мошеннических атак и создает новые уязвимости

Массовое внедрение искусственного интеллекта изменило логику цифрового мошенничества. Злоумышленники атакуют не только людей, но и алгоритмы, которые принимают решения и оценивают риски.

Появление и широкое распространение искусственного интеллекта изменило не только бизнес-процессы, но и саму архитектуру цифрового мошенничества. Об этом «Клерку» рассказал заведующий лабораторией доверенного искусственного интеллекта РТУ МИРЭА Юрий Силаев.

Главный парадокс ИИ-мошенничества заключается в двойственной роли технологий. С одной стороны, искусственный интеллект помогает банкам и сервисам быстрее выявлять подозрительные операции. С другой — злоумышленники начинают искать слабые места уже не в людях, а в цифровых механизмах доверия.

«В классической схеме мошенничества цепочка ответственности обычно выглядит проще: злоумышленник, потерпевший, причиненный ущерб. В сценариях с использованием ИИ появляется дополнительное звено — цифровой сервис, который автоматически оценил риск, провел идентификацию или принял решение вместо человека. Поэтому ключевой вопрос постепенно смещается от "кто нажал кнопку" к тому, насколько корректно была построена вся цепочка проверки, контроля и принятия решения», — объяснил Юрий Силаев.

В корпоративной среде формируется еще один риск — так называемый «спящий дипфейк». Речь идет о внедрении синтетического фрагмента данных, который позже может попасть в архивы, обучающие выборки или внутренние системы автоматизации. Если такие данные используются для настройки голосовых помощников или механизмов подтверждения команд, подделка способна повлиять на решения спустя время.

Нейросети используют и для разведки. Крупные языковые модели анализируют открытые источники — вакансии, технические публикации, описания сервисов — и помогают формировать гипотезы о том, какие действия могут выглядеть для системы допустимыми. Это ускоряет подготовку атак и снижает их стоимость, особенно против систем, которые опираются на исторические признаки мошенничества.

Юрий Силаев рекомендует избегать публикации длинныхзаписей голоса и видео, а для значимых операций использовать дополнительные факторы подтверждения, контроль устройств, лимиты и возможность оперативной блокировки подозрительных действий.