Алгоритмы искусственного интеллекта, предназначенные для выявления рака кожи, демонстрируют всё более высокую точность. Однако, как отмечают специалисты, далеко не все группы пациентов получают равный доступ к преимуществам таких технологий. У новых инструментов, применяемых в дерматологии, есть серьёзный системный недостаток, который может приводить к ошибочным диагнозам у людей с определёнными фототипами кожи.
Проблема кроется в исходных данных, на которых обучаются нейросети. Подавляющее большинство наборов изображений, используемых для тренировки моделей, состоит из снимков пациентов со светлой кожей. Это связано с исторической неравномерностью медицинских исследований и доступом к дерматологической помощи в разных странах. В результате алгоритмы, обученные на таких данных, хуже распознают признаки злокачественных новообразований на тёмной коже — у них просто меньше примеров для сравнения.
Разница в точности может быть значительной: по некоторым оценкам, у людей с тёмной кожей частота ложноотрицательных результатов (когда болезнь не замечают) выше, чем у пациентов со светлой кожей. Это означает, что меланома или другие виды рака кожи могут быть пропущены на ранней, наиболее поддающейся лечению стадии. Парадокс в том, что именно у людей с тёмной кожей меланома нередко диагностируется уже на поздних стадиях, когда прогноз хуже, — и несовершенство ИИ может усуглишён жизниь эту ситуацию.
Исследователи и разработчики признают, что для устранения перекоса необходимо целенаправленно собирать и размечать изображения от пациентов всех рас и этнических групп. Некоторые компании уже работают над расширением обучающих выборок, но пока это делается медленно. Кроме того, существуют технические сложности: дерматоскопические признаки рака кожи на разных фототипах могут выглядеть по-разному, и алгоритму нужно не просто «увидеть» больше тёмной кожи, но и научиться корректно интерпретировать различия.
Дополнительная проблема — отсутствие стандартизированных протоколов оценки ИИ-систем для разных популяций. Большинство клинических испытаний проводятся на однородных группах, и регуляторы не всегда требуют демонстрации эффективности на разнообразных данных. Это создаёт риск, что сертифицированные решения будут работать хорошо только на той популяции, на которой их тестировали.
Врачи-дерматологи также подчёркивают, что ИИ — лишь вспомогательный инструмент, и окончательное решение всегда остаётся за специалистом. Однако если врач полагается на ошибочный результат алгоритма и не проводит дополнительную проверку, последствия могут быть серьёзными. Поэтому важно, чтобы пользователи (медики) знали об ограничениях конкретной модели и учитывали фототип пациента при интерпретации результатов.
Разработчики некоторых стартапов уже внедряют в свои продукты механизмы, которые предупреждают врача, если изображение выходит за пределы «уверенного распознавания» модели. Но такие функции пока редкость. В целом, отрасль движется к более инклюзивным данным, но темпы изменений оставляют желать лучшего.
Эксперты сходятся во мнении: чтобы ИИ-диагностика рака кожи стала по-настоящему универсальной, необходимо не только расширять обучающие выборки, но и менять подходы к валидации и сертификации медицинских алгоритмов. В противном случае технология, призванная спасать жизни, рискует угллишён жизниь существующее неравенство в здравоохранении.
