В ближайшие годы пациенты всё чаще будут сталкиваться с системами искусственного интеллекта, которые самостоятельно ставят диагнозы, назначают лечение и ведут приём без прямого участия врача. Технологии уже вышли за пределы лабораторий и используются в больницах, однако у регуляторов пока нет согласованной стратегии, как оценивать безопасность таких решений и контролировать их работу.

Что меняется в клинической практике

Алгоритмы давно применяются для анализа снимков и поиска паттернов в больших массивах данных. Следующий шаг — системы, которые берут на себя часть клинических решений. Это включает генерацию черновиков медицинских заключений, подбор терапии на основе индивидуальных показателей пациента и автоматическое ведение простых случаев — от первичной сортировки до повторных консультаций по хроническим заболеваниям.

Такой сценарий воспринимается отраслью как неизбежный. Главный вопрос теперь — не появится ли ИИ-врач, а кто и как будет отвечать за его ошибки, как проверять его компетентность и где проходит граница между помощью клиницисту и заменой врача.

Где нет готовых правил

Действующие процедуры сертификации медицинских изделий создавались для устройств с предсказуемой логикой работы. Самообучающиеся модели, поведение которых меняется по мере накопления новых данных, в эту схему не вписываются. Регуляторам приходится решать, как проводить аудит алгоритма, который мог измениться уже после выхода на рынок.

Не менее остро стоит вопрос ответственности. Если ИИ ошибается в рекомендации, непонятно, распределяется ли вина между разработчиком, медицинским учреждением и врачом, подписавшим назначение. Без ясных правил клиники рискуют либо тормозить внедрение полезных инструментов, либо брать на себя скрытые юридические риски.

Что обсуждается

В профессиональном сообществе сходятся к нескольким принципам. Первый — постепенное расширение полномочий ИИ: от вспомогательных функций к более автономным задачам с обязательным контролем со стороны человека на каждом этапе. Второй — прозрачность для пациента: человек должен знать, что с ним работает алгоритм, и иметь возможность получить мнение живого специалиста. Третий — постоянный мониторинг после внедрения, а не разовая проверка перед выпуском.

Отдельная тема — подготовка врачей. Медицинские работники всё чаще взаимодействуют с ИИ как с коллегой, а не с инструментом, и им нужны навыки критической оценки рекомендаций алгоритма.

Что зависит от регуляторов

Пока ни в одной крупной юрисдикции нет финальной модели регулирования полностью автономных медицинских ИИ. Разработчики и клиники работают в промежуточном режиме: формально алгоритмы остаются «вспомогательными», хотя по факту уже влияют на ключевые решения о лечении. Чем дольше сохраняется этот разрыв, тем выше вероятность, что правила будут писаться постфактум — после громкого инцидента, а не до его появления.