По мере того как модели искусственного интеллекта всё чаще действуют самостоятельно, часть исследователей выступает за создание независимых экспертов, которые будут расследовать случаи, когда системы дают сбой. С таким предложением обратились учёные из нескольких стран.
Идея позаимствована из других отраслей, где автономные системы уже давно существуют. В авиации, например, после каждого серьёзного происшествия создаётся комиссия, изучающая причины инцидента и вырабатывающая рекомендации по предотвращению повторения. Аналогичные структуры работают в железнодорожном и морском транспорте. Авторы предложения считают, что с ИИ следует поступать так же.
Проблема в том, что современные нейросети всё чаще принимают решения без прямого контроля человека. Они используются в медицине, финансах, юридических сервисах и системах автоматизированного управления. Когда в таких системах происходит ошибка — от некорректного ответа до принятия неверного решения — зачастую невозможно точно установить, на каком этапе и почему произошёл сбой.
По мнению сторонников инициативы, независимые расследователи могли бы документировать инциденты, анализировать логи работы моделей и выявлять системные закономерности. Это помогло бы не только понять конкретный случай, но и предотвратить похожие ошибки в будущем.
Отдельный акцент делается на прозрачности. Разработчики ИИ, как правило, не раскрывают деталей сбоев, ссылаясь на коммерческую тайну. Исследователи предлагают создать механизм, при котором данные об инцидентах передаются независимой стороне, не связанной с создателем модели.
Пока предложение остаётся на стадии дискуссии. Конкретных законодательных инициатив или организаций, готовых взять на себя такую функцию, среди авторов идеи не названо. Тем не менее дискуссия о том, кто и как должен расследовать происшествия в сфере искусственного интеллекта, в последние годы набирает обороты.
