Искусственный интеллект в медицине: перспективы, подводные камни и что должен знать пациент

Оглавление

• Ключевые моменты
• Почему это исследование важно
• Век статистики в медицине
• Как ИИ обучается: сила автоматического обнаружения закономерностей
• Прогнозирование против понимания: две разные цели
• Сработает ли ИИ в реальном мире? Обобщаемость и интерпретация
• Как заставить ИИ быть честным: стабильность и статистические гарантии
• Когда ИИ ошибается: предвзятость в реальной жизни
• Что это означает для пациентов
• Ограничения данного обзора
• Рекомендации на будущее
• Часто задаваемые вопросы
• Информация об источнике

Ключевые моменты

• ИИ уже используется в медицине для маммографии, прогнозирования риска заболеваний и ведения электронных медицинских карт, однако он обладает статистическими уязвимостями.
• Автоматическое обнаружение закономерностей ИИ может усиливать скрытые предубеждения; алгоритм, примененный к 200 миллионам американцев, дискриминировал пациентов африканского происхождения.
• Модели ИИ часто трудно интерпретировать и проверять, что требует прозрачности и человеческого контроля для безопасного применения в медицине.
• Существует разрыв между способностью ИИ прогнозировать индивидуальные исходы и пониманием заболеваний в более широкой популяции.
• Для ответственного использования ИИ рекомендуются публикация исходного кода, планов заранее определенных анализов, сочетание ИИ с традиционной статистикой и человеческое суждение.

Почему это исследование важно

Искусственный интеллект больше не является отдаленной концепцией в здравоохранении — он уже здесь. Системы ИИ используются для чтения маммограмм, прогнозирования риска заболеваний, анализа электронных медицинских карт и даже помощи в ведении медицинской документации. Но как мы можем быть уверены, что эти системы безопасны, точны и справедливы?

Эта обзорная статья, написанная Дэвидом Дж. Хантером (David J. Hunter, M.B., B.S.) из Департамента популяционного здоровья Нюфилда при Оксфордском университете и Кристофером Холмсом (Christopher Holmes, Ph.D.) из Департамента статистики и Института Алана Тьюринга в Лондоне, поднимает критически важный вопрос: что происходит, когда строгий мир медицинской статистики сталкивается с мощным, но часто непрозрачным миром искусственного интеллекта?

Авторы описывают фундаментальный парадокс. Способность ИИ автоматически обнаруживать закономерности в огромных массивах данных делает его невероятно ценным инструментом медицинских исследований — но именно эти же особенности делают его статистически уязвимым. Методы, достаточные для таргетированной рекламы избирателей или потребителей, могут не соответствовать строгим требованиям прогнозирования риска или диагностики в медицине. В этой статье исследуется это напряжение и его значение для будущего оказания медицинской помощи.

Век статистики в медицине

Статистика выделилась в самостоятельную дисциплину примерно в начале XX века. В этот период были разработаны фундаментальные концепции, которые преобразили медицинские исследования, включая использование рандомизации в клинических испытаниях, проверку гипотез, вероятностный вывод, P-значения, байесовский анализ и теорию принятия решений.

Статистика быстро стала незаменимой для прикладных наук. Более того, в 2000 году редакторы журнала New England Journal of Medicine назвали «Применение статистики к медицине» одним из 11 важнейших достижений в медицинской науке за предыдущие 1000 лет.

Так что же такое статистика? Авторы определяют ее как рассуждение с неполной информацией — строгую интерпретацию и коммуникацию научных выводов на основе данных. Статистика включает определение оптимального дизайна экспериментов и точное количественное выражение неопределенности относительно выводов, все это выражается через язык вероятности.

Сегодня, в XXI веке, искусственный интеллект стал мощной новой силой в медицинских исследованиях. Это развитие отчасти обусловлено колоссальным ростом вычислительных мощностей и доступности данных, однако вместе с этими достижениями возникают новые статистические проблемы, решение которых ставит целью данный обзор.

Как ИИ обучается: сила автоматического обнаружения закономерностей

Традиционный подход: ручная статистика

Традиционное статистическое моделирование опирается на тщательный, ручной отбор измерений и признаков данных для включения в анализ. Например, статистик должен решить, какие ковариаты (факторы, которые могут влиять на исход), включить в регрессионную модель — статистический метод, изучающий взаимосвязи между переменными. Он также определяет, какие преобразования или стандартизации измерений необходимы.

Полуавтоматические методы снижения размерности данных, такие как случайный лес и пошаговая регрессия с прямым или обратным отбором, на протяжении десятилетий помогали статистикам в этом процессе отбора. В этой традиционной парадигме допущения моделирования и признаки обычно являются явными, а количество параметров в модели, как правило, известно.

Революция ИИ: автоматическое обучение признакам

Безусловно, самым впечатляющим и отличительным аспектом ИИ является его автоматическая способность искать и извлекать произвольные, сложные, ориентированные на задачу признаки из данных — процесс, называемый обучением представлению признаков. Признаки алгоритмически конструируются из данных в процессе обучения для выявления преобразований данных, которые подходят для задачи обучения.

Алгоритмы ИИ во многом устраняют необходимость для аналитиков заранее определять признаки или вручную курировать преобразования переменных. Это особенно полезно в больших и сложных областях данных, таких как:

• Анализ изображений (например, маммограмм или гистологических препаратов)
• Геномика (изучение полного набора генов организма)
• Моделирование электронных медицинских карт (цифровых версий медицинских историй пациентов)

Модели ИИ могут искать среди потенциально миллиардов нелинейных преобразований ковариат, чтобы сократить большое количество переменных до меньшего набора признаков, адаптированных под задачу. Парадоксальным образом увеличение сложности модели ИИ за счет добавления параметров — а именно это происходит при глубоком обучении — на самом деле помогает модели находить более богатые внутренние наборы признаков, при условии, что методы обучения соответствующим образом адаптированы.

Темная сторона парадокса

Вот в чем проблема: признаки, которые часто создают инженеры ИИ, выходят за рамки того, что люди могут создать, и именно поэтому ИИ демонстрирует столь впечатляющие результаты. Но эти же признаки часто трудно интерпретировать, они хрупки (склонны к ошибкам) при изменении данных и лишены здравого смысла в использовании фоновых знаний и качественных проверок, которые статистики применяют регулярно.

Модели ИИ часто не могут проследить цепочку доказательств от данных к признакам, что затрудняет аудит и проверку. Это означает, что необходимы дополнительные проверки и балансировки для обеспечения достоверности и обобщаемости научных выводов, полученных с помощью ИИ.

Авторы также кратко комментируют развивающуюся область генеративного ИИ — такую как большие языковые модели и медицинские чат-боты, которые могут использоваться для ведения медицинских записей в электронных медицинских картах. Эти «фундаментальные модели» используют самообучение на огромных объемах неструктурированных обучающих данных, при этом целевые функции обучаются с использованием триллионов параметров (на момент написания статьи). Это резко контрастирует с «обучением с учителем», где обучающие данные известны и размечены в соответствии с клиническими исходами, а цель обучения четкая и целенаправленная. Учитывая непрозрачность этих генеративных моделей, авторы призывают к особой осторожности при их применении в здравоохранении.

Прогнозирование против понимания: две разные цели

ИИ особенно хорошо подходит для — и во многом предназначен для — масштабных задач прогнозирования. Цель обучения четкая, а прогностическая точность обычно хорошо охарактеризована. Хорошим примером является прогнозирование риска заболевания.

Однако конечной целью большинства медицинских исследований не является явное прогнозирование риска. Скорее, это понимание биологического механизма или причины заболевания в более широкой популяции, или помощь в разработке новых методов лечения. Авторы подчеркивают наличие пробела в доказательствах между хорошей прогностической моделью, работающей на индивидуальном уровне, и способностью делать выводные утверждения о популяции.

Статистика в основном занимается популяционным выводом — обобщением доказательств из одного исследования для проверки научной гипотезы о более широкой популяции. Прогнозирование является важной, но более простой задачей; научный вывод часто оказывает большее влияние на понимание механизмов.

Как наблюдал Гиппократ столетия назад: «Важнее знать, какой человек болен, чем то, каким заболеванием он болен».

Реальный пример: пандемия Covid-19

Во время пандемии Covid-19 были разработаны различные инструменты прогнозирования для определения наличия у человека инфекции SARS-CoV-2 (вируса, вызывающего Covid-19). Однако переход от индивидуального прогнозирования к пониманию распространенности заболевания в популяции — и выявлению подгрупп населения с более высоким риском — оказалось гораздо более сложной задачей.

Как измерить прогностическую точность?

Дополнительная проблема заключается в том, что существует множество способов измерения и отчетности о прогностической точности, включая:

• Площадь под приемно-рабочей характеристикой (мера того, насколько хорошо тест различает группы)
• Точность и полнота (меры точности и полноты)
• Среднеквадратичная ошибка (среднее значение квадратов ошибок)
• Прогностическая ценность положительного результата (вероятность того, что положительный результат теста является правильным)
• Частота классификационных ошибок (как часто модель дает неверный ответ)
• Индекс чистой переклассификации (показывает, улучшает ли новая модель классификацию)
• Оценка логарифма вероятности (мера уверенности в прогнозе)

Выбор подходящей меры контекстуально крайне важен, поскольку точность по одному показателю может не соответствовать точности по другому и может не иметь отношения к клинически значимой мере эффективности или безопасности.

В отличие от этого, целевые показатели для статистики популяций, как правило, менее неоднозначны, а неопределенность четко характеризуется с помощью P-значений, доверительных интервалов и правдоподобных интервалов. Тем не менее, надежные и точные модели прогнозирования на основе ИИ указывают на то, что воспроизводимые сигналы и стабильные ассоциации в данных заслуживают дальнейшего изучения.

Причинное машинное обучение: где ИИ встречается со статистикой

Интересной точкой пересечения между методами прогнозирования на основе ИИ и статистическим выводом является причинное машинное обучение, которое уделяет особое внимание инференциальным величинам. Принимая структуры причинного моделирования или фреймворки потенциальных исходов — с использованием таких инструментов, как направленные ациклические графы (диаграммы, показывающие причинно-следственные связи), — исследователи могут применять предметные знания для снижения вероятности ошибок ИИ-модели. Эти ошибки включают неправильное указание временной связи между воздействием и исходом, условную обработку переменной, которая вызывается как воздействием, так и заболеванием («коллайдер»), или выделение ложных ассоциаций (например, эффекта партии в исследовании биомаркеров).

Методы причинного вывода также могут применяться к ИИ для помощи в интерпретации радиологических или патологических изображений и поддержки клинических решений и диагностики. Однако авторы подчеркивают, что человеческое суждение, вероятно, будет необходимо в обозримом будущем, хотя бы потому, что различные алгоритмы ИИ могут предлагать нам разные выводы. Кроме того, причинный анализ наблюдательных данных требует допущений, выходящих за рамки того, что можно узнать только из самих данных, — чтобы избежать смещения из-за отбора, опосредования и смешивающих факторов.

Сработает ли ИИ в реальном мире? Обобщаемость и интерпретация

Одной из самых больших трудностей при интерпретации результатов ИИ является то, что алгоритмы внутреннего представления признаков разработаны для автоматической адаптации своей сложности к решаемой задаче, обладая практически бесконечной гибкостью в некоторых подходах.

Эта гибкость является большим преимуществом — но она также требует осторожности во избежание переобучения, которое происходит, когда модель настолько хорошо изучает шум и случайные особенности своих обучающих данных, что плохо работает на новых, ранее не виденных данных.

Пределы традиционных статистических гарантий

Использование регуляризации (техник, предотвращающих переобучение путем штрафования за сложность модели) и контролируемой стохастической оптимизации параметров модели во время обучения может помочь предотвратить переобучение. Но эти техники также означают, что у алгоритмов ИИ плохо определены понятия статистических степеней свободы и количества свободных параметров. Традиционные статистические гарантии против излишнего оптимизма не могут быть использованы в контексте ИИ.

Вместо этого исследователи должны заменять их такими техниками, как перекрестная проверка и выделенные выборки, чтобы имитировать истинную производительность на внешних данных. Компромисс заключается в том, что объем данных, доступных для открытий, уменьшается. В совокупности эти факторы создают реальную риск чрезмерной интерпретации обобщаемости и воспроизводимости результатов.

Заметный пример: ИИ и скрининг рака молочной железы

Авторы выделяют известный случай, связанный со исследованием McKinney et al. об использовании ИИ для прогнозирования рака молочной железы на основе маммограмм. Исследование показало высокий потенциал ИИ в скрининге рака молочной железы. Однако Хаиб-Кейнс и коллеги публично призвали к большей прозрачности, заявив: «В своем исследовании McKinney et al. показали высокий потенциал ИИ для скрининга рака молочной железы. Однако отсутствие деталей методов и кода алгоритма подрывает его научную ценность».

Это иллюстрирует, почему четкая отчетность о результатах и доступность кода имеют решающее значение для внешней репликации и уточнения другими исследовательскими группами — хотя это может быть ограничено тенденцией к защите прав интеллектуальной собственности на коммерческие продукты ИИ.

Использование ИИ для отбора данных из больших наборов

Подходы ИИ могут быть полезны для уменьшения набора данных с очень большим количеством признаков — таких как «-омные» наборы данных (метаболомные, протеомные или геномные) — до меньшего количества признаков, которые затем можно протестировать с помощью традиционных статистических методов.

Популярные методы ИИ, предоставляющие рейтинги «релевантности признаков» ковариат, включают:

• Случайный лес (ансамбль решающих деревьев)
• XGBoost (алгоритм градиентного бустинга)
• Байесовские аддитивные регрессионные деревья

Статистические методы, такие как оператор наименьшего абсолютного сжатия и отбора (LASSO), используют явный отбор переменных в процессе подгонки модели. Снижение размерности признаков помогает аналитику-человеку более эффективно изучать данные и применять ограничения, основанные на предыдущих знаниях о предметной области. Например, исследователь может знать, что признак A часто находится во взаимном влиянии с признаком X, или что период задержки в несколько лет между воздействием признака A и исходом заболевания означает отсутствие ожидаемой связи на ранних этапах наблюдения.

Искусственный интеллект против традиционной статистики: сравнение рядом

В статье приводится подробное сравнение методов искусственного интеллекта и традиционной статистики. Ключевые различия включают:

• Предварительные гипотезы: ИИ нейтрален или очень общ в отношении гипотез; традиционная статистика определяет гипотезы как основные, вторичные или исследовательские.
• Методы: ИИ использует случайные леса, нейронные сети и XGBoost; традиционная статистика использует параметрические и непараметрические сравнения, регрессию и модели выживаемости с линейными предикторами.
• Устойчивость: анализы ИИ более склонны к нестабильности из-за областей применения и выбора пользователя при спецификации алгоритма; традиционная статистика следует заранее определенному плану анализа с минимальным количеством пользовательских настроек.
• Применение: ИИ отлично справляется с изображениями, данными мониторинга, электронными медицинскими картами и обработкой естественного языка; традиционная статистика подходит для данных с меньшим количеством предикторов, табличных данных и рандомизированных исследований.
• Цель: ИИ фокусируется на обнаружении закономерностей, автоматическом представлении признаков, снижении размерности признаков и прогнозировании; традиционная статистика фокусируется на выводе, проверке конкретных факторов, контроле смешивающих влияний и количественной оценке неопределенности.
• Воспроизводимость: ИИ часто обеспечивает внутреннюю воспроизводимость (перекрестная проверка или разделение выборок); традиционная статистика Ideally обеспечивает внешнюю воспроизводимость на новых данных.
• Препятствия: ИИ сталкивается с проприетарными алгоритмами, недоступными другим исследователям, и неясным отчетом; традиционная статистика сталкивается с медленным прогрессом в обмене первичными данными.
• Интерпретируемость: ИИ часто является «черным ящиком»; традиционная статистика имеет явные характеристики и четкие степени свободы.
• Справедливость: обучение признакам на основе данных в ИИ подвержено предвзятости данных, что усугубляет неравенство в сфере здравоохранения; модели традиционной статистики легче проверить на справедливость при наличии соответствующих данных.

Поддержание честности ИИ: устойчивость и статистические гарантии

Медицинская наука — это итеративный процесс наблюдения и уточнения гипотез — циклы экспериментов, анализа и предположений, которые приводят к новым экспериментам и в конечном итоге достигают уровня доказательств, опровергающего существующие теории или поддерживающего новые методы лечения и рекомендации по образу жизни.

Рандомизированные исследования экспериментальных препаратов исторически предъявляли высокие требования к строгости. Обеспокоенность чрезмерной интерпретацией вторичных конечных точек и анализа подгрупп привела к еще большему акценту на заранее определенное описание основных гипотез и контроль семейного уровня ошибки (вероятности получения хотя бы одного ложноположительного результата при множественных тестах) для ограничения ложноположительных результатов.

Протоколы теперь часто указывают:

• Точные оцениваемые параметры (точные измеряемые величины)
• Методы анализа, которые будут использоваться для получения P-значений
• Ковариаты, которые необходимо контролировать
• Даже таблицы-заглушки, которые будут заполнены после завершения сбора данных

Анализ в наблюдательных исследованиях обычно менее строго предопределен, хотя статистический план анализа, разработанный до начала работы с данными, все чаще требуется как дополнительный материал к опубликованным отчетам.

Проблема ИИ: паттерны без предварительного определения

Подходы на основе ИИ часто ищут в данных паттерны, которые не были предопределены заранее — что является одним из их преимуществ. Однако недостаток заключается в том, что вероятность ложноположительных результатов возрастает, если не внедрены строгие процедуры оценки воспроизводимости.

Были разработаны новые руководства и рекомендации по отчетности для применения ИИ в медицинских науках, чтобы обеспечить большее доверие и обобщаемость выводов. Авторы также отмечают, что высокоадаптивные алгоритмы ИИ наследуют все предвзятости и нерепрезентативность, которые могут присутствовать в обучающих данных. При использовании «черных ящиков» — инструментов прогнозирования на основе ИИ — может быть сложно оценить, возникают ли прогностические сигналы из-за смешивающего эффекта, вызванного скрытыми предвзятостями в данных.

Методы области объяснимого ИИ (XAI) могут помочь противостоять непрозрачному обучению представлению признаков. Однако для приложений, где безопасность является критическим вопросом, природа «черного ящика» в моделях ИИ требует тщательного рассмотрения и обоснования.

Когда ИИ ошибается: предвзятость в реальной жизни

Один из самых ярких примеров предвзятости ИИ в здравоохранении исходит из исследований Обермайера и коллег. Команда описала алгоритм, основанный на данных ИИ, который применялся к популяции 200 миллионов человек в США ежегодно для выявления пациентов с наибольшим риском возникновения значительных расходов на здравоохранение и направления их в «программы управления высокорисковыми состояниями».

Анализ показал, что алгоритм непреднамеренно дискриминировал чернокожих пациентов. Причина? На каждом уровне расходов на здравоохранение и возрасте у чернокожих пациентов было больше сопутствующих заболеваний, чем у белых. Поскольку алгоритм обучался на основе расходов на здравоохранение как прокси-показателя медицинских потребностей — а системные факторы приводят к более низким расходам на чернокожих пациентов даже при более тяжелом состоянии здоровья — алгоритм систематически недооценивал медицинские потребности чернокожих пациентов.

Этот пример ярко иллюстрирует одну из ключевых проблем, поднимаемых авторами: системы ИИ, обученные на реальных данных, могут воспроизводить и даже усиливать существующее неравенство в здравоохранении.

Что это означает для пациентов

Для пациентов послание одновременно обнадеживающее и предостерегающее. ИИ обладает потенциалом трансформировать медицину мощными способами:

• Чтение и интерпретация медицинских изображений, таких как маммограммы, с высокой точностью
• Прогнозирование риска заболеваний на основе электронных медицинских карт
• Анализ геномных и других «омиксных» данных для выявления механизмов заболеваний
• Сведение огромных массивов данных к наиболее релевантным признакам для клинических вопросов

Но пациенты также должны осознавать ограничения:

• Результаты ИИ могут быть трудны для интерпретации и проверки
• Модели ИИ могут не обобщаться на популяции, отличные от тех, на которых они были обучены
• Смещения в обучающих данных могут приводить к несправедливым или неточным результатам для определенных групп
• Отсутствие прозрачности коммерческих алгоритмов затрудняет независимую проверку их результатов

Пациенты могут отстаивать свои интересы, задавая вопросы о том, как искусственный интеллект используется в их лечении. Готовность медицинских учреждений предоставлять четкие ответы о проверке, ограничениях и контроле за инструментами ИИ является хорошим признаком ответственного внедрения.

Авторы отмечают, что использование традиционных статистических методов прогнозирования вместе с интерпретируемыми методами ИИ может помочь понять сигналы прогнозирования и смягчить бессмысленные ассоциации. Комбинация лучших сторон обоих подходов — способности ИИ обрабатывать огромные объемы данных и строгости статистики в интерпретации — вероятно, является самым безопасным путем развития.

Ограничения данного обзора

Поскольку это обзорная статья, а не оригинальное исследование, данная работа синтезирует существующие знания, а не представляет новые экспериментальные данные. Авторы признают, что ограничения объема не позволили подробно обсудить важную область ИИ и экспериментального дизайна, а также лишь кратко упомянули развивающуюся сферу генеративного ИИ и медицинских чат-ботов, не углубляясь в детали.

Статья отражает точки зрения двух исследователей из Соединенного Королевства: одного из области общественного здравоохранения Оксфордского университета и другого — из области статистики и медицины Оксфордского университета и Института Алана Тьюринга, и опирается на примеры из систем здравоохранения США и Великобритании. Область применения ИИ в медицине быстро развивается, и некоторые конкретные детали (например, масштаб фундаментальных моделей с триллионами параметров) могут быстро меняться со временем.

Рекомендации на будущее

Основываясь на своем анализе, авторы предлагают несколько практических рекомендаций для медицинских ученых и медицинских учреждений:

1. Опубликуйте весь исходный код. Публикация кода и предоставление четких описаний процесса настройки модели и отложенных данных, использованных для оценки точности, облегчает внешнюю оценку воспроизводимости.
2. Будьте прозрачны в отношении данных. Четкое представление результатов и доступность кода способствуют возможности внешней репликации и улучшения работы другими группами.
3. Используйте заранее определенные планы анализа. Для наблюдательных исследований следует ожидать наличия плана статистического анализа, разработанного до начала анализа данных, так же как это требуется для рандомизированных испытаний.
4. Комбинируйте ИИ с традиционными методами. Использование традиционных статистических методов прогнозирования вместе с интерпретируемыми методами ИИ может прояснить сигналы прогнозирования и смягчить бессмысленные ассоциации.
5. Разумно применяйте снижение размерности признаков. ИИ может сокращать данные высокой размерности до меньшего набора признаков, которые затем можно проверить с помощью традиционной статистики, позволяя человеческим аналитикам применять предметно-специфические знания.
6. Обеспечивайте человеческий контроль. Человеческое суждение будет необходимо в обозримом будущем, особенно потому, что различные алгоритмы ИИ могут давать разные выводы, а причинно-следственный вывод требует допущений, выходящих за рамки того, что можно выявить только на основе данных.
7. Соблюдайте руководства по отчетности. Разрабатываются новые руководства и рекомендации по отчетности об использовании ИИ в медицинских науках для обеспечения большего доверия и обобщаемости выводов.
8. Оценивайте внутреннюю воспроизводимость. Данные должны быть разделены на обучающую (открытия) и тестовую выборки, а обобщаемость результатов на другие наборы данных должна тщательно оцениваться.

Авторы подчеркивают, что подход к использованию ИИ в медицине с надлежащей строгостью и мерами предосторожности — это не просто технический вопрос, а необходимость для безопасности пациентов, научной добросовестности и здоровья общества.

Как ясно следует из формулировки статьи, техника, которая работает для целевой рекламы или прогнозирования погоды, может не соответствовать строгим требованиям медицинской диагностики и прогнозирования рисков. Ставки слишком высоки.

Часто задаваемые вопросы

Для чего в настоящее время используется искусственный интеллект (ИИ) в медицине?

ИИ уже применяется в здравоохранении для анализа маммограмм, оценки риска заболеваний, обработки электронных медицинских карт и помощи в ведении медицинской документации. Он также может использоваться для анализа геномных данных и сокращения огромных массивов данных до наиболее релевантных признаков для решения клинических вопросов. Эти приложения демонстрируют потенциал ИИ, но они имеют важные ограничения, которые необходимо понимать.

Чем ИИ отличается от традиционной статистики в медицинских исследованиях?

Традиционная статистика опирается на тщательный ручной отбор измерений и признаков с явными предположениями о модели. ИИ автоматически ищет закономерности в огромных массивах данных, самостоятельно выявляя признаки. Это делает ИИ мощным инструментом для прогнозирования, но может затруднять интерпретацию, проверку и выявление скрытых смещений по сравнению с традиционными статистическими методами.

Может ли ИИ быть предвзятым или допускать ошибки в здравоохранении?

Да. Реальный алгоритм ИИ, примененный к 200 миллионам жителей США для выявления пациентов с высоким риском, непреднамеренно дискриминировал чернокожих пациентов. Поскольку он обучался на данных о расходах на здравоохранение, а системные факторы приводят к более низким расходам на чернокожих пациентов даже при более тяжелом состоянии здоровья, он недооценивал их потребности в медицинской помощи. ИИ может наследовать и усиливать существующие предубеждения в обучающих данных.

Почему трудно проверить решения ИИ в медицине?

Модели ИИ часто используют обучение внутреннему представлению признаков, что создает признаки, которые трудно интерпретировать и которые лишены здравого смысла. Они часто не могут проследить цепочку доказательств от данных к признакам, что затрудняет аудит и проверку. Именно поэтому прозрачность, четкая отчетность и человеческий контроль необходимы при использовании ИИ в оказании медицинской помощи пациентам.

Что пациентам следует спрашивать об использовании ИИ в их лечении?

Пациенты могут спросить, как именно используется ИИ в их лечении, как он был проверен, каковы его ограничения и кто осуществляет надзор за ним. Медицинское учреждение, которое дает четкие ответы на эти вопросы, демонстрирует ответственное внедрение технологий. Пациентам также следует знать, что результаты ИИ могут не обобщаться на другие популяции и могут содержать предубеждения.

Можно ли использовать ИИ для понимания причин заболеваний, а не только для прогнозирования риска?

ИИ особенно хорош в прогнозировании на больших масштабах, например, в оценке риска заболеваний. Однако понимание механизмов развития заболеваний в более широкой популяции сложнее. Существует разрыв в доказательствах между прогнозированием исходов для отдельного человека и выдвижением выводов о популяции в целом. Комбинация ИИ с традиционной статистикой и человеческим суждением является наиболее безопасным путем.

Каким будет будущее ИИ в медицине для пациентов?

Будущее несет как обещания, так и предостережения. ИИ имеет потенциал трансформировать медицину, но пациенты должны осознавать ограничения, такие как сложность интерпретации, плохая обобщаемость и предвзятость. Ответственное внедрение включает публикацию исходного кода, прозрачность в отношении данных, использование заранее определенных планов анализа и человеческий контроль. Комбинация ИИ с традиционными методами, вероятно, является наиболее безопасным подходом.

Стоит ли получать второе мнение, если ИИ используется в моем медицинском диагнозе или плане лечения?

Да, второе мнение может быть ценным, когда в вашем лечении участвуют инструменты ИИ. Системы ИИ могут быть предвзятыми, как показал алгоритм, непреднамеренно дискриминировавший чернокожих пациентов, а их результаты могут быть трудны для интерпретации или проверки. Второе мнение от независимого эксперта может помочь убедиться в точности и уместности вашего диагноза или плана лечения, особенно если у вас есть опасения по поводу того, как использовался ИИ. Diagnostic Detectives Network предоставляет независимые вторые мнения экспертов.

Информация об источнике

Original article title: Where Medical Statistics Meets Artificial Intelligence

Authors: David J. Hunter, M.B., B.S., and Christopher Holmes, Ph.D.

Journal: The New England Journal of Medicine, 2023; volume 389, pages 1211–1219

Publication date: September 28, 2023

DOI: 10.1056/NEJMra2212850

Article type: Review Article in the "AI in Medicine" series, edited by Jeffrey M. Drazen, M.D., with guest editors Isaac S. Kohane, M.D., Ph.D., and Tze-Yun Leong, Ph.D.

Copyright: © 2023 Massachusetts Medical Society. All rights reserved.

Эта статья для пациентов основана на рецензируемых исследованиях и предназначена только для образовательных целей. Она не является медицинской консультацией.