Какова вероятность ошибки ИИ в медицине

Нейросети вводят врачей в заблуждение. Искусственный интеллект нередко дорисовывает несуществующие опухоли и другие признаки тяжелых болезней на снимках компьютерной томографии. Это в своем совместном исследовании выяснили ученые из Smart Engines и Первого московского государственного медицинского университета им. И. М. Сеченова. В частности, по их данным, нейросети могут по ошибке выявить поражения организма у переболевших коронавирусом, которых на самом деле нет.

В чем причина некорректной работы искусственного интеллекта? Начальник отдела компьютерной томографии компании Smart Engines Марина Чукалина говорит, что нужно разрабатывать дополнительные инструменты контроля: «Сейчас создаются новые томографы, поскольку ученые пытаются снизить лучевую нагрузку на пациента. Соответственно, нужны какие-то новые методы, которые смогут собрать из изображений низкого качества хорошую цифровую картинку для врача, ведь как только мы снижаем дозу, то сразу ухудшается качество изображения. Ровно здесь место нейросетевых моделей. Но они должны развиваться параллельно с созданием критериев и правил, не позволяющих искусственному интеллекту что-то либо убрать из цифрового изображения, либо дорисовывать».

Как ранее заявлял ведущий эксперт по искусственному интеллекту Минздрава России Александр Гусев, сейчас существуют трудности, которые не дают продвигать использование нейросетей в медицине. Во-первых, не хватает поддержки проектов на уровне государства. Во-вторых, нет прямого финансирования. В-третьих, не все в медицинской среде доверяют искусственному интеллекту — многие технологии недавно на рынке, и у врачей возникают вопросы к их надежности.

Потребуется еще несколько лет, чтобы их доработать, полагает генеральный директор научно-исследовательской компании «Электрон» Александр Элинсон: «Первая ситуация — вы просто делаете диагностику, и искусственный интеллект помогает вам находить то, что вы изначально ищете. Если мы берем пандемию COVID-19, то появилось большое количество систем с искусственным интеллектом, которые могли видеть так называемое матовое стекло, особенно когда поражения легких были очень серьезными. Вторая ситуация — вы проводите исследование чего-то одного, а в поле, которое диагностируется, попадают еще и другие органы. Здесь машина может вам сказать, что видит еще то-то и то-то.

Точно так же, когда кинологи работают с собаками, и собака через какое-то время начинает находить то, чего не замечает человеческий глаз. Но это не означает, что если собака на что-то среагировала, то это однозначно там есть. Вот с искусственным интеллектом ситуация очень схожая: вы обучаете нейросеть видеть какие-то вещи, она начинает их различать и дает некую подсказку врачу — обрати внимание именно сюда. Здесь успешно используется много различных систем: скрининг рака молочной железы, маммография — однотипные исследования, которые имеют одинаковый вид укладки и которые проводятся в очень больших количествах. Скорее всего, нейросети через пять-шесть лет будут находиться во множестве рабочих элементов, которые широко применяются на практике».

Ранее американские разработчики представили алгоритм, который способен улучшить качество КТ-изображений. Как заявляли в Nature Machine Intelligence, доза излучения при такой диагностике сократится в десятки раз.

Новости в вашем ритме — Telegram-канал "Ъ FM".

Анна Маргулис