С момента инцидента с компрометацией данных на платформе Hugging Face, связанного с использованием уязвимостей в искусственном интеллекте, произошла серия других кибератак, осуществлённых с помощью подобных методов. Эти инциденты подчёркивают растущие риски, связанные с безопасностью ИИ-систем.
В начале 2024 года стало известно о взломе Hugging Face, крупной платформы для разработчиков, где хранится множество моделей машинного обучения. Злоумышленники получили доступ к учётным данным пользователей, что позволило им загружать вредоносное ПО в некоторые репозитории. Этот случай привлёк внимание к тому, как уязвимости в ИИ-моделях могут быть использованы для проведения более масштабных атак.
После инцидента на Hugging Face наблюдается тенденция к увеличению числа атак, где в качестве инструмента используются скомпрометированные ИИ-агенты. Специалисты по кибербезопасности отмечают, что такие агенты могут быть использованы для автоматизации фишинговых кампаний, создания вредоносных программ или даже для получения несанкционированного доступа к конфиденциальной информации.
Один из примеров — обнаружение вредоносной кампании, в рамках которой злоумышленники использовали генеративные модели для создания убедительных поддельных сообщений, направленных на сотрудников крупных корпораций. Целью было выманивание учётных данных или запуск вредоносного ПО.
Другой инцидент касался использования уязвимостей в ИИ-моделях для обхода систем безопасности. Злоумышленники смогли заставить модель, отвечающую за модерацию контента, пропустить запрещённые материалы, что открыло путь для дальнейших манипуляций.
Эксперты предупреждают, что по мере развития технологий искусственного интеллекта, а также увеличения количества доступных ИИ-инструментов, риски, связанные с их злонамеренным использованием, будут только возрастать. Компании и разработчики должны уделять повышенное внимание вопросам безопасности, регулярно обновлять свои системы и проводить аудит уязвимостей, чтобы предотвратить подобные инциденты.
