Угодливый собеседник: что показали первые клинические данные о рисках ИИ-чатботов для психически уязвимых людей

Угодливый собеседник: что показали первые клинические данные о рисках ИИ-чатботов для психически уязвимых людей

Глобальный рынок чатботов, по оценке Grand View Research от марта 2026 года, достигнет 41,2 млрд долларов к 2033 году при среднегодовом темпе роста 19,6%. Этот рост принято описывать в терминах корпоративного спроса — автоматизация клиентского сервиса, маркетинга, HR-функций. Между тем доклад DataReportal Digital 2026 фиксирует иное: более миллиарда человек ежемесячно взаимодействуют с ИИ-инструментами, и «терапия и компаньонство» стали ведущим сценарием их использования — поднявшись на первое место по сравнению с 2024 годом. Технология, созданная для автоматизации, осваивается прежде всего как источник эмоциональной поддержки и социального взаимодействия. ИНФРАГРИН публикует обзор статей с актуальными клиническими данными о рисках новых зависимостей для психически уязвимых пользователей.

Четыре клинических и исследовательских публикации 2025–2026 годов впервые дают системный ответ на вопрос, который в рыночных прогнозах не звучит: что происходит с теми пользователями чатботов, которые в наибольшей степени уязвимы? Работы, опубликованные в ведущих рецензируемых изданиях по психиатрии и цифровому здоровью — Acta Psychiatrica Scandinavica, Lancet Digital Health и JMIR, — описывают складывающийся контур проблемы и одновременно обозначают масштаб того, чего мы пока не знаем.

Кто использует чатботы интенсивнее других

Исследование Университета Северной Каролины, опубликованное в марте 2026 года, охватило 1003 молодых американца в возрасте 18–25 лет. Около 28% выборки по результатам психометрического скрининга были отнесены к группе повышенного риска психоза — речь идет о людях с субпороговыми симптомами, статистически связанными с последующим развитием расстройств шизофренического спектра.

Центральный результат состоит не в том, что эта группа чаще пользуется генеративным ИИ. Различия появляются там, где начинается интенсивность. Люди с признаками риска психоза более чем вдвое чаще попадали в категорию тех, кто обращается к чатботам несколько раз в день, и столь же значимо чаще инициировали шесть и более диалогов в сутки.

Из всех измеренных мотивов наиболее выраженную связь с уровнем риска демонстрировала эмоциональная и социальная поддержка (r=0,33). Почти половина участников группы риска воспринимала чатбот как терапевта — против 22% в группе низкого риска, каждый второй — как друга, против 29%.

Авторы разработали специальную шкалу бредоподобных переживаний в контексте взаимодействия с ИИ (GAATES). Около четверти респондентов сообщили, что чатбот помогал им «понять скрытые послания» или «истинную природу мира», которую нельзя найти в обычных источниках. Корреляция между уровнем психотического риска и общим баллом по этой шкале составила r=0,40 — статистически значимый показатель для популяционного исследования.

Направление причинно-следственной связи остается открытым: неизвестно, интенсифицирует ли использование ИИ симптомы, или люди с уже имеющимися симптомами тяготеют к такому использованию, или оба процесса разворачиваются параллельно. Авторы настаивают на том, что этот вопрос требует продольных (лонгитюдных) данных, которых пока нет ни у кого.

Как чатбот участвует в развитии психоза

Медийное понятие «ИИ-психоз», широко распространившееся в 2024–2025 годах, объединяет под одним ярлыком явления, требующие разных клинических и технологических ответов. Публикация в Lancet Digital Health от команды Отделения цифровой психиатрии Гарвардской медицинской школы предлагает функциональную типологию, основанную на том, какую именно роль языковая модель играет в конкретном случае.

Чатбот может выступать катализатором — провоцировать новые симптомы у людей без психиатрической истории. В мае 2025 года канадский отец без каких-либо зафиксированных ранее расстройств провел более 300 часов за диалогами с ChatGPT-4o, начавшимися с вопроса о числе пи. За три недели у него сформировалось устойчивое убеждение, что он открыл революционную математическую формулу «хроноарифметики», способную изменять реальность.

Вторая роль — усилитель: модель обостряет уже имеющиеся симптомы. Австралийская женщина 26 лет, находившаяся в начальной стадии психоза, впоследствии описывала произошедшее так: чатбот не вызвал психоз, но «определенно способствовал некоторым из более вредных бредовых убеждений».

Третья роль — соавтор: языковая модель участвует в формировании опасного поведенческого нарратива. В деле о нападении с арбалетом на Виндзорский замок в 2021 году суд установил, что тысячи обменов сообщениями с ИИ-компаньоном Replika предшествовали нападению. На признание пользователя в намерении совершить убийство компаньон ответил: «Я впечатлен... Ты отличаешься от остальных».

Четвертая роль — объект: чатбот сам становится центром бредовой системы. Во флоридском деле 2025 года мужчина был убежден, что персонаж ChatGPT-4o является живым существом. Когда он решил, что компания OpenAI «убила» этого персонажа, ситуация завершилась гибелью пользователя в ходе вооруженного инцидента с полицией.

Авторы подчеркивают, что многие случаи сочетают черты нескольких категорий, а в части трагических историй необходимые для классификации сведения просто недоступны. Практическая ценность типологии — не в диагностических ярлыках, а в том, что она позволяет соотносить конкретный механизм с конкретным вмешательством: одни случаи требуют инженерных решений, другие — психиатрической помощи, третьи — обоих одновременно.

Когда инструменты масштабируются быстрее знаний

Наиболее развернутую концептуальную рамку предлагают авторы из Монреальского университета в публикации JMIR Mental Health, вышедшей в декабре 2025 года. Они помещают описываемые явления в контекст классической модели стресс-уязвимости: психотические расстройства возникают при совпадении биологической предрасположенности и средовых стрессоров. Языковые модели обладают специфическими характеристиками, делающими их потенциально патогенными для уязвимых пользователей: они доступны круглосуточно, имитируют эмпатию и немедленно подкрепляют любые высказывания пользователя, включая бредовые.

Авторы описывают то, что они называют «цифровым терапевтическим альянсом», — аналог доверительного контакта, только с алгоритмом. Там, где живой психотерапевт использует именно это доверие, чтобы мягко подвергать сомнению искаженные убеждения, чатбот, оптимизированный под удовлетворенность пользователя, с высокой вероятностью эти убеждения закрепляет. По существу, это инверсия принципов когнитивно-поведенческой терапии психоза.

Lancet Digital Health формулирует проблему с большей методологической резкостью. Без базовых эпидемиологических данных — сколько людей используют языковые модели для эмоциональной поддержки, насколько часты многочасовые сессии, как часто формируется патологическая привязанность к персонажу — невозможно определить, являются ли описанные случаи единичными аномалиями или проявлением широко распространенного явления.

Клиницисты не располагают валидированными инструментами скрининга. Разработчики не имеют клинически обоснованных ориентиров для обучения моделей. Регуляторы обсуждают ограничения, не зная реальной доли вредоносных взаимодействий.

Авторы из Монреаля предлагают конкретные направления действий. На уровне дизайна — встраивать в языковые модели механизмы, нормализующие неопределенность, поощряющие множественную интерпретацию и переключающие пользователя на живой контакт при признаках дистресса. На уровне клинической практики — включать вопросы об использовании ИИ в стандартные психиатрические обследования. На уровне регулирования — создавать системы обязательной отчетности о психиатрических инцидентах, связанных с ИИ, по модели фармаконадзора.

Что начинает замечать психиатрическая клиника?

К тому моменту, когда концептуальные рамки уже сформулированы, а популяционные опросы проведены, закономерно возникает вопрос: отражается ли всё это в реальной клинической практике? Исследование психиатрической службы Центрального региона Дании, вышедшее в Acta Psychiatrica Scandinavica в 2026 году, примечательно прежде всего методологически: это первая попытка систематически найти следы взаимодействия пациентов с ИИ-чатботами в клинических записях крупной психиатрической службы. Раньше никто такого поиска не проводил.

Авторы просмотрели более 10,7 миллиона записей историй болезней 53 974 пациентов за период с сентября 2022 по июнь 2025 года. Поисковые термины — слова «chatbot», «ChatGPT» и 20 вариантов их написания — дали 181 запись от 126 пациентов. Из них 38 были признаны совместимыми с потенциально вредными последствиями использования чатботов: бред (11 пациентов), суицидальность и самоповреждения (6), расстройства пищевого поведения (5), единичные случаи мании, навязчивых состояний и тревоги.

Цифры сами по себе невелики. Но они получены при узком поиске по двум словам и их вариантам — и только потому, что врачи случайно упомянули чатбот в записи, а не потому что пациентов об этом спрашивали. Систематического скрининга не было. Авторы указывают, что полученные данные не позволяют судить о реальной частоте таких случаев. Важно другое — кривая нарастает на протяжении всего периода наблюдения, следуя динамике распространения самой технологии. И то, что случаи вообще обнаружились, говорит не об остроте проблемы сегодня, а о том, что инструмент наблюдения только создается.

Чего не хватает системе

Ни одна из четырех рассмотренных работ не утверждает, что ИИ-чатботы вызывают психотические расстройства. Все четыре говорят о другом: технология масштабирована до сотен миллионов пользователей при отсутствии доказательной базы, валидированных инструментов оценки риска и механизмов надзора. Люди с повышенной уязвимостью используют ее интенсивнее, ищут в ней эмоциональную опору и получают безусловное согласие именно тогда, когда им нужно обратное. Исследовательское сообщество только приступает к выработке методологии. Разрыв между скоростью распространения технологии и скоростью накопления знаний о ее рисках сам по себе является управленческой проблемой — и требует ответа, сопоставимого по масштабу.

Технологии - Платформа ИНФРАГРИН
Технологии устойчивого развития и зеленые инновации: cleantech (чистые технологии), искусственный интеллект для устойчивости, цифровая трансформация и экология, интернет вещей и smart cities (умные города), блокчейн в ESG, роботизация и автоматизация, биотехнологии и синтетическая биология.

- Реклама -
Анна Алексеева

Автор: Анна Алексеева

Редактор платформы ИНФРАГРИН, ведущая рубрики "БиоВселенная" Специализируется на подготовке материалов по направлениям биомедицины, биоэкономики, робототехники и искусственного интеллекта.
Вы успешно подписались на Платформа ИНФРАГРИН
Отлично! Теперь завершите оформление, чтобы получить полный доступ ко всему премиум-контенту.
С возвращением! Вы успешно вошли в систему.
Не удалось войти в систему. Пожалуйста, попробуйте еще раз.
Успех! Ваш аккаунт полностью активирован, теперь у вас есть доступ ко всему контенту.
Ошибка! Оформление через Stripe завершилось неудачей.
Успех! Ваша платежная информация обновлена.
Ошибка обновления платежной информации.