Современные алгоритмы искусственного интеллекта, применяемые в дерматологии для обнаружения рака кожи, демонстрируют всё более высокую точность. Однако, как отмечают исследователи, далеко не все пациенты могут в равной степени рассчитывать на качественную диагностику. У новых AI-инструментов есть серьёзный системный недостаток, который сводит на нет часть их потенциала.
Проблема кроется в обучающих данных. Большинство существующих моделей машинного обучения тренировались на изображениях преимущественно светлой кожи. Это означает, что алгоритмы значительно лучше распознают опасные новообразования у людей с фототипами I–III по шкале Фитцпатрика. Для пациентов с тёмной кожей — IV–VI типов — точность диагностики падает. В результате система, которая должна помогать врачам, фактически воспроизводит и даже усиливает существующее неравенство в здравоохранении.
Исследования показывают, что меланома у людей с тёмной кожей часто диагностируется на более поздних стадиях, что связано в том числе с меньшей настороженностью врачей и недостатком репрезентативных данных в медицинских справочниках. AI-инструменты, унаследовав этот перекос, рискуют закреплять практику, при которой одни группы пациентов получают более надёжную диагностику, чем другие.
Разработчики пытаются решить проблему. Некоторые компании собирают более разнообразные наборы данных, включая изображения кожи разных оттенков, а также редких форм рака. Другие экспериментируют с методами синтетической генерации изображений или корректировки алгоритмов для учёта этнических и расовых особенностей. Однако пока эти меры не привели к кардинальному изменению ситуации.
Клинические испытания новых AI-систем часто проводятся на однородных популяциях, что маскирует недостаток. Когда алгоритм затем внедряют в реальную практику в многонациональных регионах, его эффективность оказывается ниже ожидаемой для части пациентов. Врачи, использующие такие инструменты, могут не знать о смещении в данных и полагаться на результат, который для темнокожих пациентов будет менее надёжным.
Проблема неравенства в AI-диагностике не ограничивается дерматологией. Аналогичные перекосы обнаружены в системах анализа рентгеновских снимков, МРТ и ретинальных изображений. Однако в случае рака кожи последствия особенно серьёзны: позднее выявление меланомы резко снижает выживаемость.
Эксперты призывают регуляторов и разработчиков внедрять обязательные требования к репрезентативности обучающих выборок. Без этого прогресс в AI-диагностике рискует остаться привилегией лишь части пациентов, а не всеобщим благом. Пока же ситуация остаётся двойственной: инструменты становятся мощнее, но их польза распределяется неравномерно.
