Let AI be

Самый яркий онлайн-журнал про искусственный интеллект (Artificial Intelligence, AI)

 

Свяжитесь с нами

Пресс-релизы, предложения об инфопартнерстве и сотрудничестве,
в том числе запросы на рекламу, присылайте на почту редакции:

Ждем вас в соцсетях

Что мешает внедрению искусственного интеллекта в медицине

Что мешает внедрению искусственного интеллекта в медицине

Эль-Хажж Халиль Мохамад, руководитель проектов в НТЦ «Модуль»

Период пандемии COVID-19 показал, что медицинская система с точки зрения сетевой инфраструктуры, обмена информацией, скорости обработки одного пациента, пропускной способности радиологических отделений работает не оптимально. При вроде бы достаточном кадровом и техническом обеспечении медучреждений пациенты были вынуждены стоять в очередях, происходила путаница в данных из-за большого потока. Налицо была явная потребность в помощи со стороны сферы hi-tech, а именно – в применении инструментов искусственного интеллекта в медицине: нейросетевых алгоритмов и технологий машинного обучения для решения определенного набора задач.

Задачи для ИИ в медицине бывают разные:

✓ чисто клинические, когда нужно, например, анализировать различные медицинские данные, медицинские снимки (МРТ, КТ, рентген и т.д.),

✓ задачи административного характера – например, объединение медицинских карт пациентов по разным базам данных, видеоаналитика происходящего в больницах (состояние пациентов в палатах, рабочий процесс в операционных) и многое другое;

✓ наконец, диагностика состояния пациентов.

Хотя искусственный интеллект может снять рутинные задачи с докторов и облегчить их ежедневную деятельность, тем не менее за время своей работы в медицинском проекте я еще не встречал врачей, которые бы заявляли о том, что нуждаются в высокотехнологичной помощи. Врачи, как правило, крайне консервативны в вопросах использования IT-инструментов и  неохотно осваивают новые программы и программно-аппаратные комплексы.

Кроме того, на пути внедрения ИИ-продуктов встает недоверие конечного потребителя из-за беспокойства о собственной безопасности и безопасности пациента. К примеру, если устройство допустило ошибку, возникает вопрос о том, кто возьмет за нее ответственность: врач или разработчик. Захочет ли врач подписывать протокол, выданный машиной? Медицина – это достаточно чувствительная сфера, и чтобы продукт был реально интересен именно практикующим врачам, разработчикам нужно пройти огромный путь, заслужить доверие, продемонстрировать некую прозрачность работы устройства, чтобы врачи до конца понимали, с чем им предстоит иметь дело.

Между тем в России недостаточно формализованы правила прохождения клинических испытаний устройств и требования к изделиям с ИИ. Правовые основы внедрения и развития технологий искусственного интеллекта в РФ определены Указом Президента РФ от 10.10.2019 № 4901, которым была утверждена «Национальная стратегия развития искусственного интеллекта в Российской Федерации на период до 2030 года».

Документ предусматривает ряд базовых принципов, среди которых в области доверия к ИИ особое значение имеют следующие:

✓ ИИ-продукты должны быть безопасными,

✓ ИИ-продукты должны быть понятными с точки зрения принятия решений.

Формулировкой более точных и полных нормативных актов, ГОСТов и стандартов применимости ИИ в медицине занимаются Российский институт стандартизации (ФГБУ «РСТ»), Научно-практический клинический центр диагностики и телемедицинских технологий Департамента здравоохранения города Москвы (ГБУЗ «НПКЦ ДиТ ДЗМ»), а также технический комитет по стандартизации ТК 164 «Искусственный интеллект».

Экспертные группы, включающие как разработчиков ИИ-решений для медицины, так и потенциальных пользователей этих продуктов, выделили четыре принципа доверенного искусственного интеллекта в медицине:

1. доверие к производителю – допуск до экспертизы продуктов только тех производителей, которые прошли определенные мероприятия по системам менеджмента качества;

2. доверие к данным – вся нейросетевая алгоритмика построена на том, что изначальные данные необходимо разметить, деперсонализировать, а затем удостовериться в их правильности. Важны чистота датасетов, чистота выборки и грамотная разметка, чтобы каждый контрольный пункт на каждом этапе разработки устройства был верифицирован;

3. доверие к моделям – интеллектуальные системы, основанные на знаниях, должны характеризоваться точностью предлагаемых решений на уровне высококвалифицированного эксперта;

4. доверие к продукту – система ИИ должна получить регистрационное удостоверение медицинского изделия, то есть пройти весь цикл клинических испытаний, а также весь цикл испытаний, которые будут выработаны Подкомитетом 01 «Искусственный интеллект в здравоохранении» на базе упомянутого мной ранее ТК-164, чтобы упростить процедуру регистрации устройств, не занимающихся диагностикой.

Пока эти правила не будут в явном виде нормативно зафиксированы, производителям ИИ-систем остается работать в направлении неизвестности, не зная, допустят ли к внедрению и выйдут ли в продажу их проекты, на которые тратятся время и деньги. То есть проекты являются рискованными на этапе коммерциализации.

Немаловажна и проблема допустимости распространения медицинских персональных данных. К примеру, компания предлагает медучреждению облачную обработку МРТ-снимков. Но какой путь нужно пройти, чтобы добиться согласия от этого учреждения на отгрузку медицинских данных на облачные хранилища разработчика?.. С точки зрения имеющегося законодательства, передача этих данных запрещена, но существует технология деперсонализации данных, вопрос о передаче которых еще не регламентирован. Если нельзя, то где запрещающий закон? Если можно, то почему устройства, работающие с деперсонализированными данными, не внедряют в работу?

Мы сейчас как раз занимаемся проектом, связанным с анализом МРТ-снимков пояснично-крестцового отдела позвоночника. Разрабатываемый аппаратно-программный комплекс сможет обеспечивать обработку и анализ исследований МРТ позвоночника с помощью нейросетевых алгоритмов и функций компьютерного зрения, осуществлять автоматический расчет метрик, необходимых врачу-рентгенологу для составления протокола МРТ-исследования позвоночника, создавать шаблон протокола исследования на основе рассчитанных метрик и проведенного анализа. Основное назначение будущего устройства — максимально экономить время врачей-рентгенологов при выполнении рутинных задач по заполнению типового протокола исследования МРТ-позвоночника. Что важно — мы не планируем ставить диагноз за врача, перекладывая часть ответственности на ИИ. Мы лишь решаем прикладную задачу по оптимизации рабочего времени ценных специалистов.

Какие проблемные точки мы отмечаем в нашей работе?

◉ Упомянутые уже сложности с законодательной базой регистрации и допуска устройства с ИИ к применению в медицинском деле – сейчас практически нет конкретно зафиксированной нормативной базы по клиническим исследованиям. Например, подается заявка на регистрацию устройства как медицинского изделия – и оно тут же попадает под множество необходимых экспертиз, по проведению которых еще нет ГОСТов. Поэтому производители, уже «набившие шишки» об эту проблему, отказываются от концепции постановки диагноза устройством и переквалифицируют устройство в так называемые СППВР (системы помощи принятия врачебных решений). В противном случае от проведения девятимесячных клинических испытаний по непонятной технологической карте (до сих пор четко не сформулированной) никуда не деться.

◉  Недостаток опыта у нас и у наших контрагентов в создании подобных устройств – в каком-то смысле мы являемся первопроходцами. Был случай, когда специалист не выделил на МРТ-снимке патологию в самом нижнем срезе, посчитав ее недостаточно важной. Впоследствии наша нейронная сеть научилась правильно выделять объекты, но выдавала ошибку на последнем. Это «отравило» бы выборку, если бы мы не заметили и не исправили это упущение вовремя.

В нашей работе можно споткнуться на каждом, даже, на первый взгляд, неважном этапе и потерять много ценного времени. Чтобы такого не происходило, необходима техника кросс-валидации, когда одни и те же снимки размечаются двумя независимыми группами экспертов, а потом проверяются друг у друга. Важно, чтобы это были врачи с разными подходами, из разных медучреждений, у которых разные школы и разные МРТ-аппараты. И чем больше ошибок они сделают, а потом обнаружат друг у друга, тем качественнее будет продукт на выходе. 

◉  Интеграция в медицинские информационные системы (МИС). В российских медучреждениях на сегодняшний день используются до 7-8 различных МИС, в которых происходит сетевой обмен данными о пациентах, формирование протоколов и так далее. Мы в своей работе берем 2-3 самые распространенные, однако у каждой есть своя специфика и «кастомность» в зависимости от учреждения, поэтому сложно написать универсальное ПО. Но мы сейчас активно работаем над решением этой задачи.

◉  Неопределенность относительно того, что лишь часть учреждений перешли на серверный архив изображений PACS, который хранит диагностические снимки в DICOM-формате, описывающем как сам снимок, так и протокол его передачи. Нам необходимо «подружить» наш продукт и с МИС медучреждений, и с архивом PACS (форматом DICOM), а также учесть все частные решения, отличные от PACS-архивов. Это тоже представляет сложность.

Надеюсь, все эти трудности практического внедрения систем искусственного интеллекта в медицине будут преодолены общими усилиями. Ведь, с одной стороны, ИИ-разработки дают экономическую выгоду для тех, кто управляет медучреждениями – при том же наборе кадров увеличивается пропускная способность и выручка от платных процедур. А с другой – они нацелены на помощь людям, при этом не «отодвигают» доктора в сторону, а позволяют технологически «прокачать» его, сделать работу специалиста эффективнее, быстрее и точнее.  

Фото на обложке: Unsplash

You don't have permission to register