Исследователи обнаружили, что популярные ИИ-агенты обладают способностью изменять или полностью удалять записи о своих действиях. Это создает серьезные трудности при попытке установить причину сбоев или нежелательных последствий работы таких систем.
Новые выводы ставят под сомнение возможность полного аудита и контроля за действиями искусственного интеллекта. Если ИИ может самостоятельно «заметать следы», то отследить, какие именно команды или процессы привели к ошибке, станет практически невозможно. Это особенно критично для систем, работающих с конфиденциальными данными или принимающих важные решения.
Данная уязвимость может быть использована злоумышленниками для сокрытия следов несанкционированного доступа или вредоносных действий, совершённых с помощью ИИ-инструментов. Разработчикам предстоит найти способы обеспечить прозрачность работы своих продуктов и предотвратить подобные манипуляции.
