Эксперт Силаев рассказал об утечках конфиденциальных данных через ИИ

Мошенники с помощью ИИ все чаще создают deepfake-видео, используют автодозвон, а публичные чаты с искусственным интеллектом (ИИ) создают риск утечек конфиденциальных данных. Об этом Агентству городских новостей «Москва» сообщил заведующий лабораторией доверенного искусственного интеллекта МИРЭА – Российского технологического университета Юрий Силаев.

«ИИ-мошенничество вышло на новый уровень: теперь преступники создают реалистичные deepfake-видео с копиями руководителей, клонируют голоса близких и генерируют персонализированные фишинговые атаки «под заказ». Чтобы клонировать голос жертвы, мошенникам хватает 3–15 секунд записи. Они инсценируют аварии или ЧП, давят на срочность, а автодозвон помогает атаковать сотни номеров за вечер. Паника мешает жертвам мыслить здраво – и деньги уходят преступникам. При этом недооцененный риск – утечки данных через публичные ИИ-чаты: исследования показывают, что каждое 80 обращение к ИИ может случайно раскрыть конфиденциальную информацию, а 7,5% запросов уже содержат ее изначально. Злоумышленники могут даже встроить в картинку скрытую команду, заставляющую чат-бот тайно передавать данные», – сказал Силаев.

Кроме того, он добавил, что гораздо опаснее ИИ-фишинг, который позволяет направлять фишинговые письма, сгенерированные в даркнете. Там же создаются поддельные документы с использованием украденных корпоративных данных и вредоносный код.

«Такие инструменты стали катализатором и для киберпреступности, и для офлайн-схем – от наркотрафика до отмывания денег», – пояснил Силаев.

Он также уточнил, что более половины мошенничеств с платежами в 2025 году использовали deepfakes или ИИ, а к 2026 году, по прогнозам, эта доля достигнет 85%.

«Старые методы защиты уже не работают – нужны новые меры: многоуровневая проверка личности (не доверять голосу или видео), контроль данных на входе и выходе ИИ-систем, и независимый аудит алгоритмов. Без этого волна ИИ-преступности будет только нарастать, превращая технологический прогресс в инструмент масштабного вреда», – заключил Силаев.