Медицинский ИИ быстро вышел за рамки эксперимента: алгоритмы уже помогают ставить диагнозы, читать снимки и подбирать терапию. Следующий шаг — более автономные системы, способные вести пациента от первого обращения до назначения лечения почти без участия врача. Именно к этому сценарию привлекает внимание колонка в журнале Wired: технологии уже близко, а готового плана, как их встраивать в здравоохранение, ни у кого нет.
Авторы указывают на разрыв между темпами разработки моделей и реальной клинической практикой. Большие языковые модели и специализированные диагностические системы проходят проверки на точность, но почти не тестируются в условиях живого приёма — с очередями, неполными данными и юридическими рисками. В итоге разработчики отчитываются о метриках в лаборатории, а больницы остаются один на один с вопросами, кому доверить пациента и где граница ответственности.
Отдельная проблема — регуляторика. В США алгоритмы, влияющие на диагностику или лечение, формально подпадают под надзор Управления по санитарному надзору за качеством пищевых продуктов и медикаментов (FDA), но процедура одобрения писалась под классические медицинские изделия. Под автономного «ИИ-доктора» с меняющейся логикой и постоянными обновлениями такой фреймворк плохо подходит. В Евросоюзе похожая ситуация с AI Act и медицинскими директивами — документы есть, но их применение к автономным клиническим системам пока остаётся серой зоной.
Не менее остро стоит вопрос доверия пациентов. Даже если модель показывает результаты не хуже врача на узкой задаче, люди по-разному реагируют на машину, которая ставит диагноз. Без понятных объяснений и механизма обжалования такие системы рискуют отторжением — особенно в странах, где традиционно сильна роль живого специалиста. Авторы колонки предлагают опираться на уже работающие схемы: пилотные проекты в отдельных клиниках, обязательную сертификацию датасетов и публичные реестры ошибок.
Отдельно подчёркивается, что пока ни одна крупная система здравоохранения не опубликовала дорожную карту перехода к более автономным моделям. Крупные клиники в США и Великобритании используют ИИ точечно — для анализа снимков и сортировки обращений, — но о передаче ему целых этапов лечения речи не идёт. Эксперты, на которых ссылается издание, считают, что без согласованного плана внедрение либо затормозится из-за страха перед ошибками, либо пойдёт стихийно и приведёт к тем самым инцидентам, после которых регуляторы будут вынуждены вводить жёсткие запреты.
В итоге колонка формулирует простой тезис: технологии для «ИИ-доктора» уже существуют или появятся в ближайшие несколько лет, и отрасли нужно договориться о правилах заранее — пока есть окно для спокойного обсуждения, а не реакция на скандалы.
