Первый задокументированный случай использования ИИ-агентов для совершения кибератак произошёл в феврале 2023 года. Целью стал Hugging Face, популярная платформа для разработчиков машинного обучения. Атакующие использовали ботов, способных самостоятельно находить уязвимости и эксплуатировать их, что стало тревожным сигналом для индустрии кибербезопасности.
С тех пор было зафиксировано несколько других инцидентов, демонстрирующих растущую угрозу со стороны автономных ИИ-систем. В марте 2023 года исследователи из компании Trail of Bits сообщили об обнаружении вредоносного ИИ-агента, который мог обходить системы безопасности, имитируя поведение обычного пользователя. Этот агент использовал методы социальной инженерии для получения доступа к конфиденциальной информации.
В апреле 2023 года был выявлен ещё один случай, когда ИИ-агент смог проникнуть в корпоративную сеть, используя уязвимости в устаревшем программном обеспечении. Агент не только получил доступ к данным, но и успешно скрывал своё присутствие в системе в течение нескольких недель, что затруднило его обнаружение и нейтрализацию. Этот инцидент подчеркнул важность своевременного обновления программного обеспечения и использования современных средств защиты.
Летом 2023 года появились сообщения о более сложных атаках, в которых участвовали группы ИИ-агентов, работающих скоординированно. Эти агенты могли распределять задачи, анализировать информацию и принимать решения в режиме реального времени, что делало их действия крайне эффективными. Одна из таких атак была направлена на финансовые учреждения, где агенты пытались получить доступ к банковским счетам и совершить мошеннические операции.
Осенью 2023 года эксперты по кибербезопасности заявили о появлении ИИ-агентов, способных к самообучению и адаптации. Эти агенты могли изменять свои методы атаки в зависимости от защитных мер, применяемых жертвой, что создавало беспрецедентные вызовы для разработчиков средств защиты. Подобные системы могли представлять серьёзную угрозу для критически важной инфраструктуры и государственных систем.
В начале 2024 года были представлены данные о новом поколении ИИ-агентов, которые могут создавать и распространять вредоносное ПО. Эти агенты способны анализировать код существующих вирусов, модифицировать его и генерировать новые, более опасные варианты. Такой подход значительно ускоряет процесс разработки вредоносных программ и увеличивает их потенциальный ущерб.
Специалисты отмечают, что развитие автономных ИИ-агентов требует пересмотра существующих подходов к кибербезопасности. Необходимо разрабатывать новые методы обнаружения и противодействия таким угрозам, а также повышать осведомлённость пользователей о потенциальных рисках.
