Ученые из компании Smart Engines совместно с коллегами из Сеченовского университета установили, как нейронные сети могут вводить в заблуждение врачей при диагностировании заболеваний с помощью томографических снимков. В отдельных случаях искусственный интеллект может дорисовывать на снимках несуществующие опухоли, ложные поражения в результате COVID-19 и другие ошибочные признаки заболеваний. Ученые предложили новый метод оценки устойчивости нейросетей к подобному «обману».
Фото: Дмитрий Лебедев, Коммерсантъ
Фото: Дмитрий Лебедев, Коммерсантъ
Волна нейросетевых инноваций, которые сегодня используются во всевозможных сферах, дошла и до компьютерной томографии. В частности, с помощью нейросетей можно снизить дозу вредоносного излучения, которое получает пациент в ходе КТ-исследования. Алгоритмы искусственного интеллекта способны реконструировать полученные изображения, даже по шумным данным, а это, в свою очередь, позволяет сократить время регистрации или экспозиции одного рентгеновского снимка.
Этот процесс, выяснили специалисты Smart Engines, сопровождается определенными сложностями.
«На снимках компьютерной томографии некоторые нейросети под воздействием шумов дорисовывают или, напротив, стирают важные для диагностики пациента детали. Вследствие этого врач видит на снимках несуществующие опухоли, ковидные поражения или ошибочные признаки других заболеваний легких,— рассказала научный сотрудник-программист Smart Engines, научный сотрудник Института проблем передачи информации (ИППИ РАН) имени Харкевича кандидат физико-математических наук Анастасия Ингачева.— К постановке неправильного диагноза это, конечно, вряд ли приведет. Но это значит, что пациенту придется повторно делать компьютерную томографию легких и, соответственно, получить двойную дозу излучения. А это вредно».
Ученые российской компании Smart Engines уже более 25 лет специализируются на разработке программ в сфере компьютерного зрения и распознавания образов. Smart Engines создает продукты для автоматизации распознавания и ввода данных из документов в видеопотоке, на фотографиях и сканах. В 2020 году специалисты Smart Engines разработали собственные нейросетевые архитектуры, использование которых при проведении рентгеновской компьютерной томографии позволяет снизить необходимую дозу облучения пациентов. Ученые Smart Engines создали алгоритмы, позволяющие провести реконструкцию снимка сразу во время процесса томографической съемки и остановить исследование при достижении результата, обладающего достаточным качеством. Решение будет актуально, в частности, для обследований пациентов с COVID-19. В 2021 году Smart Engines выпустила первую версию продукта Smart Tomo Engine. Система может поставляться вместе с графическим интерфейсом, через который удобно загружать данные и выполнять реконструкцию. Для этого решение использует классические и запатентованные алгоритмы томографической реконструкции. Система способна корректировать различные искажения, а также дает возможность предварительно просматривать обработанные рентгеновские проекции и выгружать данные в формате сторонних программ для анализа результатов. При использовании Smart Tomo Engine получаются изображения высокого качества, которые позволяют врачу поставить диагноз, а технологу — построить экспертную оценку качества процесса.
Стрелкой показана опухоль, которую необходимо обнаружить врачу для правильной постановки диагноза. На правом изображении из-за шума опухоль становится слабо различимой, соответственно, поставить правильный диагноз по такому изображению будет затруднительно
Стрелкой показана опухоль, которую необходимо обнаружить врачу для правильной постановки диагноза. На правом изображении из-за шума опухоль становится слабо различимой, соответственно, поставить правильный диагноз по такому изображению будет затруднительно
В своей публикации ученые Smart Engines предложили методику оценки нейросетей, определяющую уровень их устойчивости к помехам и общую надежность алгоритмов. В свою очередь, врач-ревматолог Клиники ревматологии, нефрологии и профпатологии им. Е. М. Тареева Университетской клинической больницы №3 Клинического центра Сеченовского университета кандидат медицинских наук Татьяна Шевцова валидировала полученные результаты, проводила консультации по возможным опасным ошибкам реконструкции нейронной сетью, помогала формировать бинарные изображения опухолей.
В России число проведенных КТ-исследований в последние годы увеличивалось. По данным фонда «Здоровье», изучавшего выкладки Росстата, в 2016 году в РФ было проведено 8,9 млн процедур, а в 2018 году — уже 10 млн исследований.
С увеличением количества КТ-исследований вопрос помехоустойчивости нейросетей становится все более актуальным, полагает Татьяна Шевцова.
«При проведении КТ-исследований для врача очень важно соблюсти баланс между величиной дозы облучения пациента и возможностью получения томографических реконструкций высокого качества. Также необходимо иметь всю возможную информацию о том, какие именно алгоритмы искусственного интеллекта наиболее применимы для анализа результатов КТ»,— сообщила Татьяна Шевцова.
«Мы создали инструмент, который перед непосредственным применением нейросетей позволяет их оценить и выбрать наилучшую, наиболее подходящую для реального использования. Это важный шаг на пути к внедрению нейросетей в медицину, которая, будучи весьма консервативной, пока с недоверием и опаской смотрит на инструменты машинного обучения»,— пояснила Анастасия Ингачева.
По материалам статьи.