Американские специалисты по кибербезопасности провели тестирование защиты OpenAI, в ходе которого смогли получить доступ к внутренним ресурсам компании. Для выполнения задачи команда привлекла чат-бот Claude, разработанный конкурентом Anthropic.
Исследователи сообщили, что им удалось скомпрометировать учётные записи нескольких сотрудников OpenAI, работающих с чат-ботом ChatGPT. Этот шаг позволил начать процесс, который в теории даёт возможность получить доступ к кэшу программного обеспечения и потенциально к другим данным. По словам участников эксперимента, масштаб того, к чему они могли теоретически получить доступ, был огромным.
Данный инцидент стал очередным примером проблем с безопасностью в OpenAI. Ранее в августе сообщалось, что сотрудники компании замечали тревожные сигналы перед глобальной волной атак агентов искусственного интеллекта, которые вызвали беспокойство во всём мире. Эксперты указывают на то, что даже передовые ИИ-системы могут использоваться для поиска уязвимостей в других сервисах.
Команда из американского стартапа продемонстрировала, как взаимодействие между различными моделями может быть использовано для обхода защитных механизмов. Важно отметить, что взлом носил исследовательский характер, и данные не были опубликованы. Тем не менее, факт успешного проникновения вызвал реакцию в отрасли.
В OpenAI пока не комментировали детали инцидента. Ранее представители компании заявляли о готовности учитывать подобные случаи при обновлении протоколов безопасности. Эксперты отмечают, что тестирование защиты с участием сторонних ИИ-моделей становится новой нормой в отрасли.
