Врач общей практики, работающая в нерабочее время в NHS, доктор Мэри Гиббс высказала серьёзные опасения по поводу внедрения ИИ-систем для транскрипции медицинских консультаций. В колонке для The Guardian она сосредоточилась на мифе о том, что такие технологии экономят время врачей, и привела примеры из своей практики.
Гиббс ссылается на недавний репортаж издания, в котором регулятор NHS предупредил, что «ИИ-секретари» врачей часто неправильно записывают названия лекарств и диагнозы. Она подтверждает, что проблемы с ИИ многочисленны, включая склонность системы к недопониманию и самопротиворечию, что создаёт риски для пациента.
По словам врача, когда она видит в истории пациента запись, сделанную ИИ, у неё «опускается сердце». Такие консультации, как правило, получаются длинными, с повторами и иногда с противоречиями. Анамнез, который она собирает сама, часто существенно отличается от того, что записал алгоритм. Гиббс заявляет, что никогда не может доверять корректности таких записей и с уверенностью утверждает, что находит в них значимые ошибки гораздо чаще, чем в записях, сделанных коллегами вручную.
