Патологически беспомощный интеллект
Росздравнадзор приостановил применение медицинской системы с ИИ
Росздравнадзор впервые приостановил применение медизделия с искусственным интеллектом (ИИ) — системы анализов Botkin.AI, позволяющей врачам обнаружить на снимках компьютерной томографии патологии. Ведомство посчитало, что разработка, созданная за счет вложений пула венчурных фондов, в том числе «Росатома», Минпромторга, «Р-Фарм», «Ташира», может «причинить вред здоровью» пациентов. Еще три года назад разработчик системы — «Интеллоджик» — заявлял о ее интеграции в медучреждения Москвы, но в мэрии утверждают, что не используют ее. Чтобы обучить ИИ выявлять патологии, требуются серьезные технические решения, на что пока клиники не готовы, говорят эксперты.
Фото: Александр Миридонов, Коммерсантъ
Фото: Александр Миридонов, Коммерсантъ
Росздравнадзор приостановил применение получившей регистрационное удостоверение в 2020 году Botkin.AI — системы для анализа снимков компьютерной томографии с использованием ИИ — «в связи с угрозой причинения вреда жизни и здоровью граждан». Соответствующее письмо от 8 ноября “Ъ” обнаружил в реестре ведомства (.pdf). В Росздравнадзоре сообщили “Ъ”, что сейчас проводится проверка производителя. В «Интеллоджик», разработчике Botkin.AI, на запрос “Ъ” не ответили.
Еще в начале ноября глава Росздравнадзора Алла Самойлова на форуме Novamed заявляла, что ведомство впервые приостановило обращение медизделия с ИИ из-за «отсутствия клинического эффекта и неоднократно выявленных дефектов функционирования». Тогда она не конкретизировала название продукта.
«Интеллоджик» на развитие проекта Botkin.AI в 2019 году привлек 100 млн руб. от ряда инвесторов, в том числе созданного при участии «Росатома» Digital Evolution Ventures, RBV Capital (фонда «Р-Фарм» и Российской венчурной компании), а в 2020 году — еще 160 млн руб., в том числе от «Ташир Медика» Самвела Карапетяна и «Юникорн Кэпитал Партнерс», управляющей компании венчурного фонда Минпромторга.
По данным Kartoteka.ru, сейчас около 17,6% «Интеллоджик» принадлежит «Ташир Медика», 8,9% — основателю стартапа Сергею Сорокину, по 3,1% — у Дмитрия Шарова и Тимура Авдеенко, еще 1,5% — у Олега Бухвалова. Выручка компании в 2022 году составила 15,5 млн руб., чистый убыток — 100 млн руб.
В «Ташир Медика» сообщили, что в курсе приостановки обращения Botkin.AI и разбираются в причинах этого. В «Юникорн Кэпитал Партнерс» пояснили, что «Интеллоджик» находится «в процессе технической реорганизации», чем и обусловлена приостановка действия регудостоверения. Там заявили, что какая-либо угроза причинения системой вреда жизни и здоровью граждан «полностью исключена».
Изделия с ИИ относятся к высокому, третьему классу риска, поэтому Росздравнадзор уделяет им такое пристальное внимание, поясняет гендиректор «Медлевелтеха» Михаил Виноградов. По его словам, по факту приостановка применения может длиться до устранения производителем всех замечаний регулятора.
Между тем еще в 2020 году «Интеллоджик» заявлял, что Botkin.AI интегрирована в созданную мэрией Москвы Единую радиологическую информсистему города для помощи в выявлении рака легких.
В департаменте здравоохранения Москвы (ДЗМ) заверили “Ъ”, что не используют Botkin.AI в столичных клиниках. Там добавили, что сегодня в рамках эксперимента работают свыше 50 ИИ-сервисов, выявляющих признаки патологий по 28 клиническим направлениям. В частности, ДЗМ использует систему по анализу медицинских изображений Celsus, платформы «Третье мнение», AIDiagnostic.
В Минздраве Тульской области, где Botkin.AI тестировалась в трех медучреждениях, сообщили “Ъ”, что сейчас система не применяется.
«В ходе тестирования выявлен ряд недостатков, обратная связь передана разработчикам»,— сообщили в Минздраве региона.
В сети «Открытая клиника», по словам ее основателя Филиппа Мироновича, применение Botkin.AI «поставлено на паузу в ожидании разъяснения от разработчика».
Схожие продукты на основе ИИ, зарегистрированные Росздравнадзором, есть у «Третьего мнения», «Кэременторэйай» и «Сайберии». Гендиректор «Платформы Третье мнение» Анна Мещерякова, ссылаясь на данные госзакупок, говорит, что более 15 регионов с начала 2023 года уже закупили медизделия с ИИ для помощи в расшифровке компьютерной томографии органов грудной клетки, но среди поставленных систем нет Botkin.AI.
В медицине делаются только первые шаги для обучения ИИ, это самый сложный процесс с большим числом параметров для анализа, отмечает директор по работе с партнерами компании «Рекфэйсис» Ирина Остроухова. Для внедрения ИИ в практику нужны серьезные технические решения, к которым готовы далеко не все медучреждения, сказывается и дефицит кадров в этой области, добавляет гендиректор сервиса онлайн-расшифровки снимков «Честная медицина» Дмитрий Росляков. Михаил Виноградов основную проблему видит в том, что ИИ приходится учиться в том числе на снимках, где врач не выделил патологию, никак не прокомментировал данные и не подтвердил диагноз.