Автономные системы искусственного интеллекта в медицине переходят из стадии экспериментов в рабочие инструменты клиник. При этом ни у регуляторов, ни у медицинского сообщества нет согласованного плана, как встраивать такие технологии в повседневную практику. Эту проблему обсудили участники дискуссии, посвящённой дорожной карте автономного ИИ в здравоохранении.
Под автономным медицинским ИИ обычно понимают программы, которые без постоянного контроля врача берут на себя часть клинических задач: ставят предварительный диагноз, подбирают лечение, отслеживают состояние пациента. Проще говоря, алгоритм сам решает, что делать дальше, и сигнализирует человеку только в нестандартных случаях.
По словам экспертов, главная трудовая единица ближайшего будущего — «ИИ-врач», который принимает пациента и ведёт его до выписки. Подобные решения уже тестируются в отдельных проектах: чат-боты собирают жалобы и выдают рекомендации, системы поддержки принятия решений анализируют снимки и лабораторные данные. Однако переход к полностью автономной работе требует пересмотра сразу нескольких процессов.
Первый блок вопросов связан с ответственностью. Если алгоритм ошибся при постановке диагноза или выборе терапии, непонятно, кто отвечает: разработчик модели, медучреждение, которое её внедрило, или врач, который доверился системе. Действующие законы рассчитаны на действия человека, а не на работу автономного программного обеспечения.
Второй блок — клинические испытания. Обычные регистрационные процедуры оценивают лекарства и устройства, но не подходят для самообучающихся алгоритмов, поведение которых меняется по мере накопления данных. Без прозрачных метрик и регулярного аудита сложно понять, насколько безопасно обновлять такую систему после её одобрения.
Отдельно обсуждается подготовка кадров. Медики учатся пользоваться ИИ-помощниками, но к работе с автономными системами, способными действовать без подтверждения, их пока не готовят. Учебные программы не успевают за темпами внедрения, а навыки интерпретации решений алгоритма остаются вне формальной подготовки.
Не менее остро стоит вопрос доступа к данным. Автономному ИИ нужны большие массивы медицинской информации — от электронных карт до изображений и генетических профилей. Без чётких правил обращения с этими данными остаются риски утечек и неконтролируемого использования чувствительных сведений.
В дорожной карте, которую обсуждают участники дискуссии, речь идёт сразу о нескольких направлениях: обновлении регулирования, создании отдельных процедур оценки таких систем, подготовке медицинского персонала и выработке этических стандартов. По сути, речь идёт о попытке догнать технологию нормативной базой, которая пока пишется под прошлые модели взаимодействия врача и пациента.
Участники подчёркивают, что без согласованного плана внедрение автономного ИИ будет происходить точечно и неравномерно: одни клиники начнут использовать такие системы раньше других, а общие стандарты появятся постфактум. Это повышает и юридические, и клинические риски для пациентов.
Дорожная карта пока остаётся площадкой для обсуждений. Её итоговая форма, сроки и обязательность для участников рынка не определены — речь идёт скорее о попытке нащупать общие ориентиры, чем о готовом документе.
