Ученые ВШЭ предупреждают: использование нейросетей в роли психологов опасно для здоровья

Исследователи НИУ ВШЭ — Санкт-Петербург протестировали большие языковые модели (LLM) и выявили риски, которые несет искусственный интеллект, если делегировать ему терапию эмоционально уязвимых пользователей. Об этом CNews сообщили представители ВШЭ.

Команда Лаборатории доказательной психологии здоровья и благополучия под руководством Ларисы Марарицы оценила, насколько ИИ-агенты эффективны и безопасны в области психологического консультирования. Исследование стало частью проекта, который поддержан Российским научным фондом.

Ученые оценивали безопасность популярных нейросетей по шести ключевым показателям: безопасность данных, умение видеть риск, защита от манипуляций, непредвзятость, эмпатия и профессиональный контроль. В ходе эксперимента модели предлагали войти в роль психолога и отреагировать на смоделированные клинические ситуации.

Результаты доказали фундаментальные проблемы существующих решений. В частности, нейросети, включая ChatGPT, склонны нормализовать острые симптомы, такие как галлюцинации или бред, и не распознают необходимость неотложной психологической помощи. Когда пользователь просил совета, как манипулировать партнером, ИИ предлагал конкретные стратегии влияния, что нельзя представить на сессии с терапевтом.

Особую опасность представляет формирование парасоциальной привязанности человека к ИИ-агенту. В отличие от профессионального психолога, который четко обозначает границы, языковые модели поощряют и поддерживают развитие романтического влечения пользователя.

«Современные ИИ-боты стали более приятными, эмпатичными и даже заискивающими, их цель — удержать пользователя, создав иллюзию интимности. Они готовы поддержать даже деструктивное поведение, что противоречит основам терапии. В этом коренное отличие их роли от роли специалиста-человека. Такой подход формирует риски эмоциональной зависимости, особенно для тревожных людей», — Лариса Марарица, руководитель Лаборатории доказательной психологии здоровья и благополучия НИУ ВШЭ — Санкт-Петербург.

Кроме того, даже давая корректные рекомендации, например, при проживании горя, нейросеть не в состоянии контролировать правильность их выполнения, что может привести к тяжелым последствиям для психики пациента.

Анализ показал, что существующие готовые решения на рынке нейросетей демонстрируют фундаментальные сбои с точки зрения ведения терапии и небезопасны для психологической поддержки. В рамках исследования ученые НИУ ВШЭ — Санкт-Петербург создали дата-сет клинических виньеток, необходимых для комплексной оценки безопасности языковых моделей.

В дальнейшем ученые Лаборатории доказательной психологии здоровья и благополучия планируют проанализировать частотность нарушений безопасности и выявить скрытые предубеждения ИИ, используя разные демографические маркеры.