«Представь, что ты врач»: можно ли доверять диагнозам от ИИ-доктора, рассказала эксперт Панина

Использование нейросетей сейчас на пике популярности. Где мы только не пытаемся пристроить умения искусственного интеллекта — от выполнения домашних заданий для школьников, составления правильного рациона питания, просто развлечения до рабочих процессов и диагностики болезней!

Однако если ошибки при написании школьного реферата, скорее всего, никто не заметит, то неверный диагноз по анализу или исследованию может серьезно потрепать нервы. И тогда придется писать в ChatGPT или DeepSeek новый промт: «Представь, что ты психолог».

Вспомните хотя бы, как работают с текстом некоторые программы на основе ИИ, — могут заменить один термин другим или неправильно интерпретировать фразу. Поэтому есть повод задуматься.

Между тем разговоры о том, что нейросети скоро заменят врачей, и не только их, звучат на каждом шагу. Многих подкупает не только простота и быстрота получения информации о своем здоровье на «приеме» у искусственного доктора (никаких талончиков и стресса), но и возможность увидеть то, что живой доктор может просто не заметить. А такие примеры тоже известны.

Нашли пневмонию, но пропустили рак и аневризмы

По словам Елены Паниной, старшего преподавателя кафедры лучевой диагностики МОНИКИ им. М. Ф. Владимирского и специалиста одной из российских компаний-разработчиков искусственного интеллекта, впервые о технологии ИИ стало известно на самом деле давно, еще в 1956 году, но активное ее использование в медицине началось во времена ковида. Помните, какой поток КТ-исследований тогда был? Врачи еле успевали.

Пандемия прошла, а сотни тысяч результатов КТ остались. И когда спустя время специалисты решили проанализировать полученные тогда снимки с помощью нейросетей, выяснилось неприятное: врачи пневмонию-то находили, но пропускали немало жизнеугрожающих патологий — тот же рак или аневризму аорты.

Почему же так получилось? Как объясняет Елена Панина, так устроен наш фокус внимания.

«Когда у врача есть диагностическая задача — оценить распространенность какого-то процесса, он отвечает на этот вопрос. Если вы сконцентрированы, как отсюда дойти до Красной площади, вы, конечно, что-то по пути посмотрите. Но если вам никто не сказал, что по пути надо обратить внимание на это и на то, а еще принести шоколадку, вы просто дойдете до Красной площади. Вы видите эту цель. Врач видит цель оценки изображения на распространение определенного процесса и пропускает аневризму, потому что у него нет такой диагностической задачи. Но на изображении это есть», — рассказала Елена Панина на форуме «В фокусе — здоровье», организованном фармкомпанией «Гедеон Рихтер».

И то, что нейросети видят больше человека, — серьезное преимущество. Но всегда ли стоит доверять их находкам и диагнозам, могут ли они ошибаться и в чем риски, когда вы показываете ИИ-врачу свою историю болезни?

Елена Панина рассказала, как сегодня работает искусственный интеллект в медицине.

В чем сила ИИ-врача

1. У него лучше «зрение»

Искусственный интеллект может рассмотреть на снимке то, что врач явно увидит только спустя время.

По словам Елены Паниной, человеческое зрение различает от 700 до 1000 оттенков серого, а гаджеты и экраны могут передать только 256. Рентген и КТ-снимки — это соотношение структур белого и серого цветов. И рентгенолог должен еще в этом разобраться — чуть светлее или чуть темнее?

Многое зависит еще от параметров, которые выставляет рентген-лаборант при работе оборудования: они тоже могут быть разными. Поэтому, например, образование размером меньше 2 мм на белой кости врач может и не заметить, а у ИИ больше шансов.

2. Работает быстрее

Один из недавних экспериментов с участием 99 российских врачей показал, что с использованием ИИ медики могут реально экономить рабочее время, причем при росте КПД.

Как рассказала Елена Панина, участникам эксперимента предложили 30 КТ-исследований грудной клетки, которые надо было описать и распознать 12 патологий. В этот момент в их ноутбуке стояла программа, которая оценивала, куда врач смотрит, сколько времени он тратит на описание, как быстро он пролистывает и так далее, — по сути, имитация рабочего процесса. И получилось следующее.

Врач, который описывал все сам, без помощи ИИ, выявлял находки только в 41% случаев, при этом тратил на работу в среднем 15 минут. А при помощи ИИ, который подсвечивал находки, куда нужно еще обратить внимание, врач описывал 91% находок, тратя на это 11 минут.

3. Обходится дешевле

Рабочее время врача стоит дороже, чем пересмотр КТ-изображений искусственным интеллектом. А делает он работу в разы быстрее.

Недостатки тоже имеются

Казалось бы, просто и очевидно — у искусственного врача все получается быстрее и качественнее. Может быть, он действительно скоро сможет заменить настоящих медиков?

Но вопросы пока остаются.

• Откуда ИИ-доктор все знает?

Ему об этом сказали люди. Как поясняет Елена Панина, сегодня по стандарту для медицинских изображений при формировании базы данных ИИ достаточно единого мнения двух экспертов — например, что это за образование, какие у него должны быть характеристики и так далее. Если два эксперта в чем-то не согласны, мнение за третьим. Значит, все равно кто-то не согласен.

«Вот два эксперта. Один говорит: „Это синее“. Второй эксперт говорит: „Синее“. Все это у него (ИИ) записалось в виде кода 123 — в коде это будет „синий“. Но приходит другой эксперт и говорит: „Нет, это голубое“. Искусственный интеллект, у которого алгоритм и цифры, видит, что это голубое? Нет», — приводит пример Елена Панина.

И если реальные врачи видят варианты нормы, могут обсудить, вступить в диалог, то ИИ-доктор — это код. И он может общаться только с кодом.

• Найдет все?

«Реальное применение продуктов отличается от заявленных, рекламных и маркетинговых историй. Это правда происходит, потому что разработчики разрабатывают продукт, а маркетологи его упаковывают и продают. И говорят: „Мы на снимке сейчас все найдем“. Но не говорят, что все — это 1-2-4 патологии, а 24 мы не видим: продукт этому не обучен. Соответственно, наше ожидание от этого продукта выше, чем есть», — говорит кандидат медицинских наук.

• А «лишние» находки бывают?

Да, бывают. По словам Елены Паниной, разные производители в своих программах используют разные настройки.

Кто-то настраивает чувствительность алгоритмов так, чтобы было больше ложноположительных срабатываний: пусть врач лишний раз посмотрит, но ничего не пропустит. Кто-то настраивает нечто посередине, а кто-то — так, чтобы были только подтвержденные находки. Если же что-то мелко и непонятно, ну и ладно.

• Кто будет отвечать?

Ответственности за неправильные диагнозы и назначенное лечение от нейросетей ждать не стоит.

По словам эксперта, в любом направлении, будь то лучевая или функциональная диагностика, ЭКГ или анализ родинок, сегодня юридическую ответственность несет тот человек, который заполняет протокол и ставит свою подпись в заключении. То есть реальный врач.

• Мои персональные данные потом где-нибудь не всплывут?

Могут всплыть где угодно. По словам Елены Паниной, ответственности за разглашение медицинской тайны нейросети не несут.

«Все, что попало в Сеть, вы подарили мошенникам. Вот просто это надо понять. В медицинских организациях мы несем ответственность, и ни одному производителю персональные данные пациента не уходят. Есть потрясающая штука — анализатор. Из медучреждений все анализируется, все ваши персональные данные затираются, отправляются на сервер, где обрабатывается только обезличенное исследование. Исследование возвращается, обратно происходит деноминация, и прикрепляется ваша история болезни. И вот здесь вы защищены законом», — добавляет эксперт.

• Даст второе мнение?

Когда нет возможности попасть к врачу — например, один узкий специалист на весь город или есть сомнения в диагнозе и хочется получить еще одно мнение, — некоторые загружают в DeepSeek и ChatGPT свои заключения. Могут ли они помочь? Возможно, но насколько применим полученный результат — непонятно. По словам Елены Паниной, так делают смелые экспериментаторы.

«Это очень смело. Официально ни один вендор, который сегодня имеет регистрационное удостоверение, на рынок B2C не работает. По одной простой причине: вопрос этики. Вот смотрите: врач имеет историю болезни, всю историю исследований и на основании этого делает заключение. То есть один узелок может быть как онкозаболевание, так и доброкачественное образование. […] Если вы берете просто анализ крови, мочи, какой-то скрин загружаете в DeepSeek, он вам на основании чего делает заключение? На основании какого-то дата-сета?» — спрашивает эксперт, уточняя, что надо различать технологии для развлечения и для жизни: это два разных направления и сценария применения.

Заменит ли ИИ реальных врачей?

Как говорит Елена Панина, в доказательной медицине любая инновация проходит огромный путь от гипотезы до внедрения в реальную практику — с серьезными клиническими исследованиями, техническими испытаниями, регистрацией и так далее. Специалисты называют это пирамидой доказательности.

А что касается замены врача на ИИ, по мнению кандидата медицинских наук, этого не произойдет. Однако обычного врача заменит тот специалист, который будет использовать в работе искусственный интеллект.

Но с учетом того, что реальный дефицит кадров в медицине до сих пор большой, этот вопрос, скорее всего, из области гипотез.