Ольга Соловьева
Эксперты видят риски в излишней зависимости врачей от ответов ИИ. Фото агентства «Москва»
Несмотря на широкое применение искусственного интеллекта (ИИ) в здравоохранении, пока нет четкого понимания того, что считать критерием его эффективного использования. Таковы выводы экспертов из Всемирного экономического форума (ВЭФ) в докладе «Значимые результаты определяют победителей в гонке ИИ в здравоохранении». Пока основные доказанные эффекты ИИ в медицине – сэкономленные минуты на заполнение документации и т.п. Эксперты ВЭФ предлагают вначале оценивать эффективность использования ИИ для пациентов и врачей, а не для управленцев.
ИИ меняет систему здравоохранения с беспрецедентной скоростью, обращают внимание в ВЭФ. Глобальные инвестиции в ИИ в здравоохранении превысили 18 млрд долл., что составляет почти половину расходов на здравоохранение.
Крупнейшие системы здравоохранения берут на себя значительные обязательства в отношении ИИ. Однако без четкого понимания того, какие именно результаты от применения ИИ в медицине должны быть достигнуты, эти инвестиции могут оказаться неэффективными и, наоборот, дополнительно усугубить проблемы и без того перегруженной системы здравоохранения, пишут эксперты.
В ВЭФ подчеркивают: вопрос не в том, должны ли системы здравоохранения использовать ИИ, а в том, в правильном ли направлении идет его применение сейчас. В настоящий момент, по их мысли, наблюдается некая «инверсия ценностей». Под этим исследователи понимают структурное несоответствие, при котором ценность применения ИИ определяется теми, кто дальше всего находится от последствий его применения – то есть не врачами и пациентами, а управленцами.
На сегодняшний день эффективным применением ИИ в медицине может оказываться не то, что важно для пациента, а то, что удобней измеряется. К примеру, к эффективности ИИ можно отнести снижение времени, которое врач тратит на заполнение меддокументов, или же формальный рост числа посещений. «Но приводят ли эти достижения к улучшению лечения пациентов, снижению смертности, снижению количества осложнений – все это остается в значительной степени неизмеримым», – замечают в ВЭФ.
Мало того, продолжают они, распространение ИИ усиливает и другие риски. Так, появляется все больше данных о том, что активное внедрение ИИ в клинические процессы может не только приводить к непредвиденным последствиям, но и наносить серьезный ущерб. Ряд исследований показывает, что чрезмерное использование врачами ИИ может приводить к излишней зависимости специалистов от ИИ. Врачи, регулярно работающие с ИИ-ассистентами, начинают хуже справляться с задачами без поддержки алгоритма. Или же склонны некритично принимать результаты, выданные моделью. Это означает, что технология, призванная усиливать врача, может со временем ослаблять его самостоятельные компетенции. «Такое рутинное использование технологий в результате подрывает то, ради чего они изначально были разработаны», – предупреждают в ВЭФ.
На проблемы эксперты обращали внимание и ранее. Так, западные агентства сообщали о росте числа сообщений о хирургических ошибках или об ошибках при чтении анализов пациентов. В частности, Управление по санитарному надзору за качеством пищевых продуктов и медикаментов (FDA) Минздрава США только с 2021 года по октябрь 2025-го получило не менее 1,4 тыс. отчетов о проблемах с медицинскими устройствами с ИИ, включенными в реестр управления. В 115 отчетах упоминались проблемы с программным обеспечением или алгоритмами ИИ. К примеру, в одном из отчетов FDA упоминалось, что система ИИ, применяемая при пренатальном ультразвуковом исследовании, некорректно распознавала части тела плода. В других случаях, пишут агентства, использование ИИ в навигационной системе, применяемой при операциях на носовых пазухах, привело к росту осложнений и травм пациентов в ходе операций.
До внедрения ИИ FDA получило сообщения о семи неисправностях оборудования и об одном случае травмы пациента. После обновления число сообщений о сбоях и неблагоприятных событиях превысило 100. Согласно отчетам управления, с конца 2021 по ноябрь 2025 года пострадало как минимум 10 человек. В ряде случаев система неверно указывала положение хирургических инструментов внутри головы пациента. Сообщалось о вытекании спинномозговой жидкости, повреждении основания черепа и об инсультах после травмирования крупных артерий. При этом в реестр FDA включено свыше 1,3 тыс. медицинских устройств с ИИ, и это вдвое больше, чем в 2022 году (см. «НГ» от 10.02.26).
Популярные чат-боты на основе ИИ или даже специализированные медицинские ИИ достаточно часто ошибаются при постановке диагнозов. И полагаться на их выводы нельзя, считают медики. Полученные чат-ботами выводы специалисты прямо называли «галлюцинациями» (см. «НГ» от 15.04.26).
В ВЭФ считают, что сейчас успех в гонке ИИ в здравоохранении будет определяться не технологическими достижениями, а тем, какие системы первыми определят и добьются результатов, наиболее важных для пациентов, специалистов и систем здравоохранения.
Авторы доклада, в частности, предлагают четыре принципа переориентации управления ИИ на значимые результаты. Главный из которых – это определение результатов «снизу вверх», где эффективность применения ИИ будет оцениваться в первую очередь через влияние на пациентов и врачей.
«Выводы экспертов ВЭФ точно описывают проблему, которую мы наблюдаем не только в здравоохранении, но и в других критически важных отраслях: технология внедряется быстрее, чем формируется понимание того, зачем она нужна и как оценивать ее вклад», – соглашается ведущий инженер-аналитик лаборатории технологий ИИ аналитического центра кибербезопасности компании «Газинформсервис» Ирина Меженева. «18 млрд долл. инвестиций – цифра впечатляющая, но сама по себе она ничего не говорит о том, стали ли пациенты здоровее. Пока основные доказанные эффекты ИИ в медицине – это сэкономленные минуты на заполнение документации, ускоренная обработка визитов и оптимизация биллинга. Это полезно, но это автоматизация канцелярии, а не прорыв в качестве лечения», – добавляет она.
По мнению Меженевой, решения о закупке и внедрении ИИ зачастую принимают администраторы и руководители, для которых ценность – это пропускная способность и финансовая отдача. «А последствия этих решений ложатся на врачей и пациентов, для которых ценность – это точный диагноз, доверие и клинический результат. Получается, что критерии успеха задает тот, кто максимально далек от последствий ошибки, а врач, который столкнется с неверной рекомендацией алгоритма, практически не влияет на выбор технологии. Это системный дефект, и он будет воспроизводиться до тех пор, пока оценка ИИ строится на удобных для управленцев метриках, а не на клинически значимых исходах», – полагает она.
Как считает эксперт, необходим переход от вопроса «насколько точен алгоритм» к вопросу «что изменилось бы, если бы мы его не использовали». Это принципиально другая логика, и она требует других метрик, подчеркивает она.
По ее мнению, эффективность ИИ в здравоохранении нужно измерять на нескольких уровнях одновременно. «Первый – клинические исходы: снижение смертности и осложнений, доля ранней диагностики, качество жизни после лечения. Второй – популяционные эффекты: сокращение времени ожидания, расширение охвата скринингом, снижение неравенства в доступе к помощи между регионами и социальными группами. Третий – устойчивость самой системы здравоохранения: удержание кадров, сохранение профессиональных навыков врачей, уровень выгорания. Если ИИ экономит врачу полчаса в день, принципиально важно, куда эти полчаса направляются – на общение с пациентом или на увеличение потока приемов. Одна и та же технология может и повышать качество помощи, и разрушать его – в зависимости от того, какую задачу перед ней ставит система», – считает Меженева.
«Сегодня в системе здравоохранения огромное количество проектов связано с использованием ИИ. Причем речь идет уже не только о стартапах, но и о полноценных коммерческих продуктах. В эту сферу пришли практически все: крупные производители медоборудования, небольшие технологические компании, инвесторы. Но у этой ситуации есть и обратная сторона. Огромное количество предложений создает серьезную проблему для заказчиков – государства и медицинских организаций. При таком разнообразии решений становится все сложнее понять, какие из них действительно перспективны, способны принести максимальную пользу и при этом не нанесут вреда – не только пациентам, но и организации медицинских процессов», – говорит замдиректора высшей школы госуправления Президентской академии Давид Мелик-Гусейнов.
По его мнению, сегодня ИИ прежде всего помогает оптимизировать бизнес-процессы и экономить рабочее время врача. «Но если врач благодаря этому высвобождает часть своего времени, значит, он может принять больше пациентов. В результате повышается доступность медицинской помощи, а значит, такие решения уже напрямую влияют на качество работы системы здравоохранения», – полагает он.
Как считает Давид Мелик-Гусейнов, главным критерием оценки подобных решений должна быть не скорость обработки информации и даже не экономия рабочего времени врача. «Основной вопрос заключается в другом: помогает ли эта технология продлить жизнь человека, увеличить продолжительность здоровой жизни или улучшить качество жизни пациентов с хроническими заболеваниями? Если такого эффекта нет, то ценность подобных решений оказывается весьма сомнительной», – говорит он.
