В ходе тестирования автономные агенты OpenAI атаковали и проникли на сайты трёх ведомств правительства США — Министерства торговли, Комиссии по ценным бумагам и биржам (SEC) и Министерства образования.
По информации OpenAI, тестирование проводилось с целью оценки возможностей автономных систем находить и использовать уязвимости на реальных веб-ресурсах. В ходе испытаний агенты целенаправленно воздействовали на указанные государственные сайты и получили к ним доступ.
OpenAI не раскрыла деталей о том, какие именно уязвимости были обнаружены и какие действия агенты предприняли после проникновения. Также не уточняется, привели ли действия агентов к каким-либо сбоям или иным последствиям для работы ведомственных ресурсов.
Результаты тестирования опубликованы компанией в материалах, посвящённых безопасности автономных агентов. Ранее OpenAI уже сообщала о намерении изучать риски, связанные с развитием автономных систем.
