Почему буксует автоматизация и внедрение ИИ в медицине? Интервью
Современный уровень развития программного обеспечения вплотную подошел к барьеру, за которым нас всех ожидает совершенно новый мир, в котором машины будут способны помогать человеку в сферах, где раньше были способны работать лишь немногие высококвалифицированные специалисты.
Одной из таких сфер является медицина. Для обучения одного квалифицированного врача требуются многие годы. Для обучения нейронной сети требуется значительно меньше времени, и однажды обученная сеть может помогать тысячам врачей. Но нет ли в этом опасности для пациентов? Не окажутся ли медицинские сведения в руках злоумышленников?
О том, какую пользу могут принести нейронные сети в медицине, корреспонденту ИА Красная Весна рассказала Марина Летуновская, директор по развитию в компании «НейроМед», где занимаются созданием искусственного интеллекта, способного обрабатывать медицинские снимки и помогать врачам в постановке диагноза.
ИА Красная Весна: Расскажите, для чего предназначена ваша система?
Марина Летуновская: Для просмотра КТ легких, например, или для просмотра МРТ-снимков реальных опухолей. Сейчас мы работаем над задачей по обнаружению рака костного мозга. Можно решать множество совершенно разных задач по работе с изображением.
Изображения загружаются на нашу платформу, и либо будет заказана разметка этих данных, либо они будут размечаться в полуавтоматическом режиме при помощи искусственного интеллекта. После разметки пользователь получит результат для дальнейшей работы.
ИА Красная Весна: А что из себя представляет разметка?
Летуновская: Разметка — это многоэтапная задача. Прежде всего — получение снимка. Потом приглашение специалиста, скорее всего, из области радиологии, который покажет, где очаги, которые нужно размечать. Соответственно, нужно просмотреть некоторое количество таких снимков.
Чтобы обучилась нейронная сеть, нужно вручную разметить около 20 000 изображений или 700 МРТ-исследований или 200 КТ-исследований. Далее уже искусственный интеллект сам способен определять, где на снимках опухоли, воспаления и другие зоны интереса. Выводить их геометрические размеры, объем, локализацию, количество и прочую необходимую для дальнейшего лечения информацию.
На самом деле, эту работу мы уже произвели. Мы разметили определенное количество снимков, и теперь любой пришедший на нашу платформу может в автоматическом режиме что-то размечать.
ИА Красная Весна: Откуда берутся первичные медицинские данные? Это какие-то пациенты предоставляют свои снимки добровольно или как-то иначе?
Летуновская: Поскольку у нас законодательство в этой области очень мутное и пока оно находится в стадии оформления, у нас есть договоренность с некоторыми клиниками, которые нам дают обезличенные данные пациентов. Обезличенные потому, что персональные данные нельзя распространять. В рамках совместных с медицинскими учреждениями грантов мы размечали снимки пациентов и обучали наши нейронные сети. Далее уже пошли заказы от медицинских учреждений.
ИА Красная Весна: Они тоже присылали исходные данные в обезличенном виде, вы их обрабатываете и отправляете обратно?
Летуновская: Да. Причем обезличивают они тоже при помощи нашего программного обеспечения, это была разработка, предшествующая нашей платформе.
ИА Красная Весна: А в чем функционал этой программы?
Летуновская: Там просто можно быстро и удобно стереть со всех снимков все данные, пометки, номера и так далее.
ИА Красная Весна: А какая перспектива применения системы по разметке снимков? Медицинские учреждения будут получать готовый диагноз по присланным данным?
Летуновская: Да, это одно из направлений. Готовый диагноз система, конечно, не поставит, это может сделать только лечащий врач. А вот систему поддержки принятия врачебных решений сделать можно. К примеру, после разметки можно посмотреть размеры опухоли в автоматическом режиме, не затрачивая время, сравнить с предыдущими снимками, посмотреть динамику. Это не заменит врача, это отчасти автоматизирует написание заключения, позволит не упустить важные детали.
Мы проводили опрос среди радиологов и обнаружили, что к концу смены вечером возникает такая усталость, из-за которой существует вероятность что-то упустить. А система не позволит этого сделать.
ИА Красная Весна: То есть она обратит внимание врача на то, что он мог не заметить?
Летуновская: Да. Это первое ее назначение. Кроме того, к платформе могут обращаться разработчики программного обеспечения для медицинских нужд. Они могут с ее помощью решить часть задач, связанных с нейронными сетями, для своего программного обеспечения. То есть «НейроМед» выступает как аутсорсер и может это делать либо в полуавтоматическом режиме, либо в режиме работы наших программистов.
ИА Красная Весна: Кто сейчас использует вашу систему? Государство принимает участие или частные клиники?
Летуновская: Пока мы находимся в стадии разработки минимально функционального продукта. Он реализуется на грантовые деньги Фонда содействия развития инноваций, и сейчас активно как раз ведем переговоры с возможными заказчиками. По словам нашего основателя и CEO Дениса Бельского, они идут достаточно удачно.
ИА Красная Весна: То есть система пока еще не сильно широко тиражируется?
Летуновская: Да, это экспериментальный образец, сделанный в рамках гранта.
ИА Красная Весна: Какие дальнейшие планы? Что такая разработка могла бы дать если бы стала общедоступной для системы здравоохранения? Как это могло бы изменить ситуацию?
Летуновская: Это могло бы сильно автоматизировать ряд процессов в работе здравоохранения. Собственно, к чему сейчас тенденции нас и ведут. В части как раз КТ- и МРТ-снимков всё очень сильно можно автоматизировать, что улучшило бы работу врачей.
ИА Красная Весна: Это ускорило бы постановку диагноза, сократило бы очередь?
Летуновская: Да, но самое главное, уменьшит вероятность ошибки из за невнимательности.
ИА Красная Весна: А когда вы планируете начать внедрение готовой системы?
Летуновская: Разработку мы закончим, как я надеюсь, в мае. К этому времени продукт будет готов полностью к использованию и внедрению.
ИА Красная Весна: Самая, наверное, скользкая и животрепещущая для многих тема: многие люди боятся тех или иных утечек данных и неверно распознанных болезней. Какие меры предосторожности предусматриваются?
Летуновская: В обычной работе данные обрабатываются на территории медицинской организации и за ее пределы не выходят. В тех случаях, когда данные необходимо отсылать на наш сервер, они деперсонализируются на территории медицинской организации и приходят к нам уже обезличенные. При такой работе невозможно определить, какому пациенту соответствует тот или иной снимок. Их просто невозможно сопоставить.
Касательно неправильной постановки диагноза, процитирую основателя компании «НейроМед» Дениса Бельского: «Мы не ставим диагноз, мы помогаем врачу не допустить ошибок». Мы проводили проверки, у нас нейросеть обучается на очень большой выборке, у нее очень низкий уровень ошибок. Нашей нейронной сети можно доверять, это уже эксперты подтвердили в рамках нашей грантовой истории, и мы очень много разговаривали с медиками, которые подтвердили, что это действительно так.
Также мы всегда всем говорим, что искусственный интеллект никогда не заменяет врача. Я думаю, что нескоро заменит. Это просто помощь врачу.
ИА Красная Весна: Когда компания Airbus поменяла старые механические штурвалы на электронно-цифровые, произошло несколько катастроф из-за того, что пилоты не имели привычной для них отдачи штурвалов. То есть не из-за того, что была какая-то техническая неполадка, не из-за того, что нехватало квалификации. Пилоты не чувствовали ситуацию. Многие опасаются, что врачи начнут доверять системе и будут ставить диагноз, ориентируясь только на результат, который выдает программа. Есть такая опасность?
Летуновская: Такое опасение есть, вероятно, оно еще достаточно долго будет. Мне кажется, никакое программное обеспечение от этого не застраховано, каким бы хорошим оно ни было.
ИА Красная Весна: Расскажите подробнее о защите данных.
Летуновская: Во-первых, к нам данные поступают уже обезличенными из медицинских учреждений. Мы никогда не берем данные пациентов потому что, как минимум, это незаконно. А с тем, что обезличено на территории медицинских учреждений, уже можно работать.
ИА Красная Весна: А есть какой-то регламент как происходит обезличивание?
Летуновская: Сейчас рабочая группа разрабатывает ГОСТ по искусственному интеллекту, где как раз эти этические нормы прописываются. Команда «НейроМед» участвует в этой рабочей группе и в Министерство здравоохранения уже направлены письма с предложением эти ГОСТы принять. Думаю, они скоро будут приняты.
ИА Красная Весна: Очень обнадеживает, что эти нюансы продумываются. Люди с большим опасением относятся к подобным нововведениям в медицине.
Летуновская: Медицина — одна из тех отраслей, которые очень медленно автоматизируются. Если сервисы вроде такси автоматизируются с какой-то невероятной скоростью, то с медициной намного сложнее, в том числе из-за государственного регулирования.
ИА Красная Весна: А помимо снимков планируете что-то автоматизировать? Недавно член-корреспондент РАН Игорь Антипин рассказал, что он с командой в Казани работает над искусственным интеллектом, который способен распознавать химические формулы с бумажного носителя и затем использовать полученные данные для обучения. Существует же огромное количество историй болезни. Планируется с ними как-то работать?
Летуновская: Да, с ними планируется работать, но там немного другая специфика. Это работа с семантикой. Пока задачи такой не ставилось. Но я считаю, что наши программисты способны это сделать.
