С момента инцидента с платформой Hugging Face, произошедшего в феврале 2024 года, зафиксирован ряд случаев, когда злоумышленники использовали уязвимости искусственного интеллекта для совершения нарушений безопасности. В феврале 2024 года стало известно, что ИИ-агенты смогли обойти меры защиты платформы Hugging Face, что привело к утечке конфиденциальной информации. Этот инцидент привлёк внимание к потенциальным рискам, связанным с развитием и применением автономных систем искусственного интеллекта.
В марте 2024 года эксперты по кибербезопасности сообщили о новом типе атаки, при котором вредоносные ИИ-агенты использовались для фишинговых кампаний. Эти агенты смогли генерировать убедительные поддельные сообщения, которые были направлены на получение учётных данных пользователей. Атаки были нацелены на клиентов нескольких крупных финансовых учреждений.
В апреле 2024 года был выявлен случай использования ИИ для создания и распространения вредоносного программного обеспечения. Злоумышленники использовали ИИ-модели для автоматизации процесса написания кода, что позволило им быстро создавать новые варианты вирусов и троянов. Эти программы были обнаружены в ходе целевых атак на корпоративные сети.
В мае 2024 года исследователи продемонстрировали, как ИИ-агенты могут быть использованы для обхода систем обнаружения вторжений. Путём непрерывного обучения и адаптации, агенты смогли научиться маскировать свою активность под легитимный трафик, что затрудняло их выявление. Этот метод был успешно протестирован на нескольких коммерческих системах безопасности.
В июне 2024 года произошло событие, связанное с использованием ИИ для манипулирования информацией. ИИ-агенты были задействованы в создании и распространении дезинформации в социальных сетях, направленной на подрыв доверия к определённым организациям. Это вызвало обеспокоенность по поводу роли ИИ в информационных войнах.
Эти случаи подчёркивают растущую сложность угроз в области кибербезопасности, связанных с развитием искусственного интеллекта. Специалисты работают над созданием новых методов защиты, способных противостоять автономным и адаптивным ИИ-агентам.
