С увеличением автономности искусственного интеллекта растёт тревога учёных: когда модели начинают действовать без должного контроля, кто будет разбираться в причинах аварий? К такому выводу приходит всё больше исследователей, которые выступают за создание независимых экспертов по расследованию инцидентов с ИИ.
По мере того как модели становятся всё более самостоятельными, их ошибки могут иметь серьёзные последствия — от экономических убытков до угрозы безопасности. Однако правила их эксплуатации пока не прописаны, а компании, разрабатывающие ИИ, часто скрывают детали инцидентов.
Группа исследователей из разных стран подготовила проект рекомендаций, в котором призывает создать независимый реестр экспертов. Такие специалисты должны иметь доступ к внутренним данным и алгоритмам, чтобы выяснить, почему модель поведена именно так. Эксперты были бы похожи на авиационных инспекторов или тех, кто расследует аварии на железных дорогах: независимы, компетентны и могут давать публичные заключения.
Проект также предлагает стандартизацию процесса расследования: чёткие протоколы, обязательный участие экспертов при серьёзных инцидентах и обязательность публикации выводов. Это позволит не только выявить уязвимости, но и предотвратить повторение подобных ситуаций.
Пока реализация инициативы остаётся на уровне обсуждений, но уже ясно: без независимого контроля сложно обеспечить доверие к системам, которые всё чаще участвуют в жизни человека.
