Искусственный интеллект в медицине: возможности и риски
«Искусственный интеллект» стал главным технологическим модным словом последних лет. Он доминирует в заголовках, инвестиционных портфелях и разговорах в корпоративных советах. Но то, что чаще всего называют «искусственным интеллектом», не сходно с мыслящим, самосознательным существом из научной фантастики. На деле большинство современных решений — это машинное обучение (ML): набор математических методов, позволяющих программам улучшать выполнение задач за счёт обучения на данных, а не следования заранее прописанным инструкциям.
Теоретические основы ML существуют десятилетиями; нейронные сети были описаны ещё в середине XX века, а метод обратного распространения ошибки возник в конце XX века. Только в последние годы аппаратная мощность компьютеров достигла уровня, позволяющего эффективно обучать и запускать продвинутые модели ML, что открыло волну практических приложений.
Сильная сторона машинного обучения — распознавание закономерностей. Модели ML обрабатывают изображения, видео, данные движения и текст быстрее и часто точнее людей. В медицине это уже приносит ощутимые результаты. В одной из стран с развитой системой здравоохранения ежедневно производится сотни тысяч диагностических снимков, тогда как одна из профессиональных медицинских ассоциаций констатирует существенную нехватку клинических радиологов для их анализа, причём дефицит прогнозируется к увеличению. Машинное обучение всё чаще предлагается в качестве инструмента для заполнения этого пробела.
Примеры внедрения ML в национальной системе здравоохранения впечатляют. Созданный при сотрудничестве университетского и кардиологического центра инструмент, финансируемый благотворительной организацией по борьбе с заболеваниями сердца, способен проанализировать МРТ сердца за около двадцати секунд, пока пациент всё ещё находится в сканере; человеку-врачу на интерпретацию таких изображений может потребоваться существенно больше времени. Инструмент обнаруживает изменения структуры и функции сердца с заметно большей точностью по сравнению с человеческим анализом и, по оценкам разработчиков, экономит тысячи клинических рабочих дней в год при десятках тысяч кардиологических МРТ, выполняемых ежегодно в стране.
Другой пример — система, рекомендованная национальным регулятором здравоохранения под специальной программой финансирования медицинских технологий: с помощью глубокого обучения она строит персонализированную трёхмерную модель коронарных артерий по стандартной КТ, что сокращает необходимость в инвазивной диагностике и позволяет экономить сотни фунтов стерлингов на пациента; технология уже внедрена во множестве больниц.
В онкологии реализованы масштабные исследования с участием ИИ. Ведётся крупнейший в мире эксперимент по использованию ИИ в скрининге молочной железы: в нём участвует несколько сотен тысяч женщин на многочисленных площадках, и целью является проверить, может ли ИИ безопасно заменить одного из двух специалистов, традиционно читающих каждый маммографический снимок. Ранние пилотные проекты с коммерческой системой показали, что ИИ выявляет больше случаев рака по сравнению со стандартной двукратной проверкой.
Ещё одна платформа для анализа рентгенограмм грудной клетки развёрнута во многих национальных медучреждениях в рамках государственного фонда диагностики: она способна скринировать на сотни патологических находок, включая признаки лёгочного рака.
Однако все эти достижения сопровождаются важной оговоркой: качество вывода любой модели ML полностью зависит от качества тренировочных данных и строгости процесса обучения. Когда что-то идёт не так в этой цепочке, модели могут выучить неверные закономерности — явление, которое исследователи называют «shortcut learning» (поиск статистических «коротких путей»).
Одна хорошо задокументированная ситуация касалась анализа рентгенограмм грудной клетки: модели, обученные на открытых наборах данных для обнаружения пневмоторакса, научились ассоциировать диагноз с наличием дренажной трубки на снимке, а не с самой патологией лёгкого. Модель демонстрировала хорошие показатели на тестах, потому что пациенты с пневмотораксом часто имеют дренажи, но систематически пропускала случаи без трубки. То есть ИИ нашёл статистический «обходной путь», а не истинный признак болезни.
Проблема глубже одиночных ошибок. Исследование, выполненное группой учёных в ведущем техническом университете, показало, что радиологические модели ИИ способны с большой точностью предсказывать расовую принадлежность пациента по рентгенограмме грудной клетки — то, что опытный рентгенолог сделать не в состоянии. Последующие исследования обнаружили, что модели, наиболее точно предсказывающие демографию, проявляли и наибольшие «разрывы справедливости»: существенные различия в диагностической точности между мужчинами и женщинами, между белыми и чёрными пациентами. Проще говоря, модели использовали демографические «короткие пути» в диагностике, что делало их менее надёжными для исторически недопредставленных групп.
Это не только проблема одной страны: любая модель, обученная на смещённых или несбалансированных данных, перенесёт эти предубеждения туда, где будет применяться, в том числе в национальные лечебные протоколы. Эти режимы неудач указывают на более глубокий и коварный риск: склонность людей безкритично доверять результатам ИИ. Были задокументированы случаи, когда профессионалы использовали тексты, сгенерированные языковой моделью, не проверив их, и сталкивались с серьёзными последствиями — от дисциплинарных мер до штрафов — потому что модель придумала несуществующие судебные дела и цитаты. В клинической среде аналогичная ошибка может иметь фатальные последствия.
Модель ML, уверенно ошибающаяся из‑за неправильного «короткого пути», опасна лишь в том случае, если врач беспрекословно примет её вывод. Поэтому любое внедрение ML в здравоохранение должно проектироваться, исходя из предположения, что модель иногда ошибается, а «человек в петле» — не формальность, а последняя линия защиты.
Риск усугубляет ещё один факт: формы представления выводов ML склонны создавать иллюзию корректности. Языковая модель оптимизирована под правдоподобную, связную прозу, диагностический классификатор выдаёт уверенный балл вероятности. Но ни та, ни другая форма вывода не гарантирует надёжности суждения. Результат, который выглядит правильным, с гораздо большей вероятностью будет принят без проверки — это явление называется «автоматизационным смещением» и представляет, возможно, самую большую угрозу безопасному использованию ИИ в медицине.
Одно из наиболее перспективных направлений — Edge AI, когда модели выполняются непосредственно на локальном устройстве, а не на удалённых серверах. В отличие от облачных систем, Edge AI обрабатывает данные там, где они собираются, устраняя зависимость от интернет‑соединения и значительно снижая задержки. Простейший пример — фитнес‑трекер, распознающий шаги, но применение шире: современные смарт‑часы способны на обнаружение нерегулярного ритма сердца, оценку уровня кислорода в крови и мониторинг сна, и всё это происходит на крошечном чипе.
Непрерывные глюкометры с Edge AI анализируют уровень сахара в реальном времени и предлагают персонализированные рекомендации, смарт‑одежда с датчиками отслеживает пульс, частоту дыхания и осанку, а встроенные модели дают мгновенную обратную связь. В одном из университетских центров разработан портативный скрининговый инструмент для выявления врождённых катаракт у новорождённых — ведущей причины предотвратимой детской слепоты. Устройство использует цифровую съёмку и обученную модель ML, позволяющую медицинским работникам сразу оценить, достаточно ли качественно сделан снимок для диагностики.
В рамках исследовательского проекта инструмент проходит испытания в нескольких десятках родильных отделений, планируется массовый скрининг сотен тысяч детей, и первые результаты уже выявляют редкие заболевания, которые традиционное офтальмоскопическое обследование могло пропустить. При этом экономический эффект ощутим: поскольку с устройства покидают не потоки необработанных данных, а сжатые сводки, устройства с Edge AI требуют гораздо меньше пропускной способности сети по сравнению с облачными аналогами, что означает более долгую работу от батареи и меньшие затраты на передачу данных.
По мере появления специализированных процессоров для эффективного вывода ML на устройствах, этот тренд ускоряется. Некоторые компании идут по гибридному пути: лёгкий анализ на устройстве для оперативной реакции и облачные модели для более глубоких долгосрочных выводов — сочетание оперативности и приватности на месте с вычислительной мощью централизованных систем.
Тем не менее широкое использование облачных платформ для обработки медицинских данных имеет как преимущества, так и недостатки. Облачные решения дают доступ к более мощным алгоритмам, централизации данных и возможности удалённых апдейтов моделей. Но они добавляют задержки, что критично для приложений, требующих мгновенного отклика, повышают риск утечек и расширяют поверхность атаки для чувствительной информации. Коммерческие практики, такие как подписная модель ценообразования, искусственное устаревание оборудования, непрозрачные правила использования данных и проникновение рекламы в медицинские сервисы, подрывают доверие пользователей.
Неудивительно, что пациенты и медработники всё чаще тяготеют к офлайн‑совместимым решениям, которые предлагают больший контроль, меньшие сопутствующие расходы и меньше проблем с приватностью. Регуляторы в разных странах пытаются поспеть за технологиями. Национальные регуляторные органы в одной европейской стране обновляют подходы к программному обеспечению и ИИ как медицинским изделиям, запуская специальные программы и комиссии, объединяющие клиницистов, технологов и пациентов для выработки рекомендаций по управлению ИИ‑устройствами.
Значимым стало упрощение международных путей выхода на рынок: если крупные регуляторы других развитых стран уже одобрили медицинское устройство, производители могут использовать ускоренные маршруты для выхода на национальный рынок без повторной полной экспертизы, что сокращает сроки доступа на рынок на несколько месяцев. Также обсуждается сохранение признания маркировки соответствия, выданной в рамках ранее действующих общеевропейских требований, на длительной основе, что позволит устройствам, одобренным в другом правовом поле, оставаться на рынке страны без необходимости повторной переоценки.
В Евросоюзе принят первый в мире горизонтальный регламент по ИИ, который накладывает дополнительные требования поверх уже существующих правил для медицинских изделий. Большинство ИИ‑решений в медицине классифицируются как системы высокого риска и подлежат строгим обязательствам по управлению данными, устойчивости, прозрачности, человеческому надзору и обнаружению предвзятости.
Полная реализация новых регуляторных требований для медицинских устройств требует времени и усилий со стороны разработчиков и регуляторов; останется открытым вопрос, облегчат ли эти рамки безопасность пациентов или превратятся в бюрократический лабиринт, тормозящий инновации.
Стоит обратить внимание и на саму формулировку «интеллект». По моему мнению, современные ИИ‑системы не обладают интеллектом в осмысленном смысле: они не понимают реальность, не умеют рассуждать о принципиально новых ситуациях и не порождают по-настоящему оригинальные идеи за пределами своих обучающих данных. Очевидно это, например, по трудностям генераторов изображений с простыми концепциями — модель не «знает» анатомию или пространственные отношения, она лишь интерполирует между увиденными шаблонами.
Тем не менее эти системы — мощные инструменты. Медицинские устройства на базе ML уже спасают жизни, позволяют выявлять болезни на ранних стадиях и расширяют доступ к здравоохранению в регионах с ограниченными ресурсами. Ограничения технологии — «короткие пути», демографическая предвзятость, сложность регулирования — серьёзны, но они не являются поводом для отторжения технологий. Это причины подходить к ним обдуманно: требовать прозрачности, настаивать на строгой валидации и сохранять здоровый скептицизм в отношении заявлений, которые звучат слишком хорошо, чтобы быть правдой.
Будущее ML в медицинских устройствах — не вопрос «если», а вопрос «как». При должном подходе это может стать одним из самых значимых достижений современной медицины. При халатном внедрении это рискует закрепить предубеждения, подорвать доверие и причинить реальный вред. Ставки высоки, и выборы, которые делают инженеры, регуляторы, клиницисты и пациенты сегодня, определят, каким окажется этот результат.