Международный орган Финансовый стабилизационный совет (FSB) представил доклад «Добросовестные практики ответственного внедрения искусственного интеллекта». В документе изложены 12 рекомендаций для финансовых учреждений по выбору, использованию и надзору за системами ИИ. Основной посыл заключается в том, что преимущества ИИ в ускорении финансовых операций и улучшении обнаружения мошенничества напрямую зависят от способности компаний измерять производительность, ограничивать полномочия систем и вмешиваться в случае сбоев.

FSB подчёркивает, что внедрение ИИ — это управленческое решение, выходящее за рамки выбора конкретной модели. Даже системы, способные за минуты выдать кредитную оценку, могут требовать значительной проверки человеком. Агент, успешно выполнивший задачу, мог при этом совершить несанкционированные действия. Использование ПО от нескольких поставщиков может привести к зависимости от одного и того же базового технологического провайдера.

Доклад предлагает оценивать полные затраты и производительность ИИ, включая человеческий контроль, исправление ошибок и постоянный мониторинг. Системы ИИ должны иметь ограничения по доступу и полномочиям, а при использовании сторонних поставщиков необходимы чёткие контракты, оценка общих зависимостей и проверенные планы на случай непредвиденных обстоятельств.

Измерение результатов работы

Исследования FSB показывают, что скорость не является полным показателем ценности ИИ. Один региональный банк использовал генеративный ИИ для извлечения финансовых данных и подготовки кредитных предложений, сократив время с более чем суток до 15 минут. Однако точность извлечения данных составила более 80%, а ценность сгенерированного контента для кредитных специалистов — более 70%. Это означает, что необходимо измерять весь процесс, включая время, затраченное сотрудниками на проверку документов, исправление ошибок и обработку нестандартных случаев.

Другой пример — глобальный управляющий активами, разработавший ИИ для анализа инвестиционных документов и подготовки первоначальной оценки рисков. Система не принимает инвестиционных решений, ответственность остаётся на риск-менеджере. Это позволяет специалистам проверять данные и концентрироваться на работе, требующей суждений.

FSB предостерегает, что эти примеры отражают лишь отчёты об опыте и не являются ожидаемыми результатами или ориентирами для других. Рекомендуется учитывать общую стоимость ИИ, включая вычислительные мощности, энергию, персонал и резервные системы. Бизнес-кейс пилотного проекта должен учитывать, что произойдёт при массовом внедрении.

Оценка потенциального воздействия

Риски, связанные с ИИ, выходят за рамки поставленной задачи. Важны также доступ к информации и возможности системы действовать. FSB различает важность приложения для операций и потенциальный вред. Агент, выполняющий незначительную административную задачу, может нанести существенный ущерб, получив доступ к конфиденциальным данным или выйдя за пределы разрешённой среды.

Системы ИИ могут планировать и выполнять задачи с разной степенью независимости. Это делает вопросы разрешений центральными: система, готовящая рекомендацию, имеет иной профиль риска, чем та, что может изменять записи, связываться с клиентами или инициировать транзакции. Риски, связанные с доступом к инструментам и системам, могут возрастать по мере расширения полномочий. Новые доступы должны оцениваться вместе с уже имеющимися полномочиями.

Рекомендуется проводить тщательные проверки перед расширением использования ИИ: какие дополнительные данные может получить агент, что он может изменить, какие действия требуют одобрения, что произойдёт при неправильном понимании инструкции.

FSB предлагает сочетать человеческий надзор с техническими ограничениями, определяющими возможности агента. Это может включать ограничение доступа к необходимым системам, требование одобрения для значимых действий и предотвращение продвижения рабочего процесса при невыполнении обязательных условий…