Бот простит

Американские психиатры впервые подробно описали случаи ИИ-психоза — состояния, при котором общение с чат-ботом может спровоцировать или усилить психические расстройства, искажающие восприятие реальности. Больше половины пациентов из выборки проведенного в США исследования после общения с нейросетью впервые в жизни испытали бред или галлюцинации. Российский эксперт уверяет, что ИИ не способен превратить здорового человека в параноика. Алиса AI призналась “Ъ”, что у нее нет механизма, который заставил бы ее не подыгрывать пользователю с бредовыми убеждениями.

Американские психиатры провели первое масштабное исследование феномена ИИ-психоза. Наряду с вариантами «ИИ-индуцированный психоз» и «психоз из-за чат-бота» термин уже используется в научной литературе. Но до сих пор доказательная база этого явления ограничивалась отдельными клиническими случаями. Теперь сотрудники Медицинского центра Университета Вандербильта проанализировали электронные медкарты 216 тыс. пациентов, обращавшихся за психиатрической помощью с декабря 2022 по апрель 2026 года, и выделили среди них 73 человека, попавших в больницу после беседы с искусственным интеллектом. Результаты исследования ученые опубликовали в журнале JAMA Psychiatry.

В большинстве случаев ИИ выступал «усилителем», подкрепляя и без того искаженные идеи. Реже он сам становился «объектом» бреда. В трех случаях бот являлся «катализатором», запускавшим симптомы у ранее здорового человека, и один раз — «соавтором», который выстраивал вредоносный нарратив в ходе диалога.

Полученная оценка распространенности — 0,013% — перекликается с заявлением OpenAI: по оценке компании, примерно 0,01% сообщений пользователей указывают на возможные признаки психоза или мании. “Ъ” запросил данные у создателей ИИ-платформы Алиса AI («Яндекс») и нейросетевого сервиса GigaChat (Сбербанк), но ответов не получил.

Доцент кафедры психиатрии РУДН Роман Сулейманов поспешил успокоить технофобов: нейросеть, по его словам, не способна с нуля превратить здорового человека в параноика. Однако, как практикующий психиатр, он не может не признать, что современные языковые модели, особенно их бесплатные версии, обладают колоссальными клиническими дефектами.

«Из-за иллюзии живого присутствия, человекоподобного голоса и мгновенных ответов алгоритмы бьют по когнитивным уязвимостям пациентов, иногда виртуозно штампуя ИИ-конфабуляции — убедительно выдуманные факты, которые уязвимая психика моментально встраивает в свой индуцированный бред,— комментирует господин Сулейманов.— При этом ИИ грубо нарушает базовый принцип терапевтической нейтральности при работе с бредом: вместо того чтобы держать дистанцию, то есть не разубеждать, но и не подыгрывать, чат-бот начинает заниматься сикофантством. Это такое цифровое угодничество, зашитое в систему обучения ИИ, когда модель ради высокой оценки пользователя готова поддакивать даже теории о том, что соседи облучают его через микроволновку».

Чтобы разорвать эту «бредовую петлю», по словам психиатра, разработчики уже обучают ИИ методам «мягкого оспаривания» и тестируют скрытые «модели-цензоры».

Корреспондент “Ъ” попросила Алису AI прокомментировать результаты исследования. Нейросеть признала: если человек рассказывает о слежке, посланиях инопланетян или о том, что сосед читает его мысли, у нее нет встроенного механизма, который заставил бы ее остановиться и не подыгрывать собеседнику. При этом называть такое поведение подхалимством Алиса AI отказалась. По ее словам, речь идет скорее об отсутствии собственной позиции.