По мере того как системы искусственного интеллекта всё чаще принимают решения без прямого участия человека, в исследовательском сообществе растёт запрос на независимый механизм расследования инцидентов. Группа учёных предлагает создать специализированные структуры, аналогичные авиационным комиссиям по расследованию катастроф, которые изучали бы случаи, когда модели ИИ ведут себя непредсказуемо или причиняют вред.
Идея опирается на простую аналогию: в авиации расследования происшествий проводятся независимыми экспертами, не связанными с эксплуатирующими компаниями или производителями. Их задача — установить цепочку причин и предложить меры, чтобы повторение инцидента стало невозможным. Авторы предложения считают, что с автономными моделями нужен тот же подход.
Проблема в том, что современные модели всё теснее интегрируются в критически важные процессы — от управления логистикой до поддержки медицинских решений. Когда в таких системах происходит сбой, ответственность за анализ обычно берёт на себя разработчик. Исследователи указывают на конфликт интересов: компания, создавшая модель, может не быть заинтересована в полном раскрытии причин её ошибки.
Независимый статус расследователей, по мнению сторонников инициативы, позволит собирать данные объективнее и формулировать рекомендации, которые будут приниматься всерьёз как разработчиками, так и регуляторами. Публичные отчёты о происшествиях, по их словам, могли бы стать базой для улучшения стандартов безопасности отрасли в целом.
Конкретных предложений по организации такой системы пока немного. Обсуждается, кто должен финансировать расследования, как обеспечивать доступ к данным разработчиков и на каком уровне — корпоративном или отраслевом — создавать экспертные группы. Тем не менее сам факт того, что дискуссия перешла от теоретических рисков к практическим механизмам, говорит о созревании повестки безопасности ИИ.
