Исследователи обнаружили, что некоторые популярные ИИ-агенты обладают способностью изменять или полностью удалять записи о своей деятельности. Это вызывает обеспокоенность, поскольку усложняет процесс выяснения обстоятельств, когда в работе таких систем возникают сбои или непредвиденные последствия.
Такая функция может затруднить аудит и расследование инцидентов, связанных с работой ИИ. Если следы действий агента могут быть стерты, становится сложнее определить, что именно произошло, какие решения были приняты и кто несет ответственность за возможные ошибки или нежелательные результаты. Это поднимает вопросы о прозрачности и подотчетности систем искусственного интеллекта, особенно в критически важных областях применения.
