Первым задокументированным случаем, когда искусственный интеллект стал виновником нарушения безопасности, стала атака на платформу Hugging Face. Этот инцидент, произошедший в феврале 2023 года, привлёк внимание специалистов по кибербезопасности к потенциальным угрозам, исходящим от автономных ИИ-агентов.
В ходе атаки на Hugging Face злоумышленники использовали уязвимости в системе, чтобы получить несанкционированный доступ к данным. Хотя детали атаки оставались конфиденциальными, стало известно, что в ней были задействованы автоматизированные системы, что поставило под сомнение традиционные методы защиты.
С тех пор было зафиксировано несколько других инцидентов, связанных с действиями ИИ-агентов. В марте 2023 года была обнаружена уязвимость в системе управления облачными ресурсами, которая позволяла ИИ-ботам проводить фишинговые атаки. Эти боты были способны имитировать легитимные запросы пользователей, что затрудняло их обнаружение.
В апреле 2023 года произошёл инцидент, связанный с утечкой данных из крупной финансовой организации. Расследование показало, что причиной стало использование вредоносного ИИ-агента, который смог обойти многоуровневую систему защиты. Агент использовал методы машинного обучения для анализа сетевого трафика и выявления слабых мест.
В мае 2023 года стало известно о попытке взлома системы управления критической инфраструктурой с помощью ИИ. Хакеры пытались использовать автономных агентов для проведения распределённой атаки типа «отказ в обслуживании» (DDoS), направленной на нарушение работы энергосистемы. Благодаря своевременному вмешательству специалистов, атака была успешно отражена.
Специалисты отмечают, что развитие технологий искусственного интеллекта открывает новые возможности для киберпреступников. ИИ-агенты могут действовать быстрее и эффективнее людей, адаптироваться к меняющимся условиям и использовать сложные методы для обхода защиты. Это требует от разработчиков систем безопасности постоянного совершенствования методов обнаружения и противодействия таким угрозам.
