Медицинские системы на основе искусственного интеллекта выходят за рамки ассистента врача. По словам авторов обзора, речь идёт о движении к «автономному ИИ-врачу» — алгоритмам, которые сами ставят диагнозы, назначают и корректируют терапию, ведут пациента на дому и общаются с ним между визитами в клинику.

Такой ИИ — это не одна модель, а связка технологий: распознавание речи и изображений, большие языковые модели, генерация кода, инструменты планирования и роботизированные платформы для хирургии и ухода. Авторы сравнивают происходящее с переходом от автопилота Tesla к полностью беспилотному автомобилю Waymo: функции складываются в систему, способную действовать самостоятельно.

Один из ключевых сдвигов — появление ИИ-агентов, которые не просто отвечают на вопросы, а выполняют задачи в несколько шагов. В медицине это значит, что алгоритм может сам запросить дополнительные обследования, свериться с клиническими рекомендациями, выписать рецепт и проследить за приёмом лекарств.

В обзоре выделены три уровня автономности:

  • уровень 0 — нет автоматизации, решения принимает только врач;
  • уровень 3 — условная автоматизация: ИИ предлагает диагнозы и план лечения, человек утверждает;
  • уровень 5 — полная автономия: алгоритм ведёт пациента, а врач подключается только в нестандартных случаях.

Примеры таких систем уже существуют. Ассистент для первичного приёма в клинике Кливленда, автоматическая сегментация опухолей и планирование лучевой терапии, ИИ-системы наблюдения за пациентами в реанимации, генеративные инструменты для медицинской документации. Отдельно авторы упоминают Китай, где ИИ активно встраивается в работу стационаров и первичного звена.

Вместе с возможностями растут и риски. Алгоритмы могут ошибаться в редких случаях, «галлюцинировать», ссылаться на несуществующие исследования, выдавать предвзятые результаты из-за смещённых обучающих данных. Отдельная проблема — приватность и хранение медицинских данных, которые утекают за пределы клиники и используются для обучения моделей.

Главная претензия авторов — отсутствие дорожной карты. Регуляторы в США и других странах пока обсуждают генеративный ИИ и отдельные медицинские устройства, но не сложные автономные системы, где человек лишь изредка вмешивается в процесс. Неясно, кто несёт ответственность, если автономный алгоритм ошибётся, какие стандарты испытаний применять и как обновлять модели без повторных клинических проверок.

Авторы предлагают начать с малого и прозрачного. Поэтапно расширять полномочия ИИ в тех областях, где модели уже доказали эффективность, фиксировать роль человека-контролёра, требовать раскрытия данных и логики решений, вести реестр автономных медицинских систем и их инцидентов. По их словам, без такого каркаса рост автономии ИИ в медицине обгонит и законодательство, и клиническую практику.

Резюме авторов звучит прямолинейно: технологии автономного ИИ-врача появятся быстрее, чем общество и регуляторы будут готовы их принять. Решение — не запрещать разработку, а вовремя выстроить правила её внедрения.