«Нейросеть вместо психолога»: ученые НИУ ВШЭ — Санкт-Петербург рассказали об опасностях ИИ-терапии
Люди все чаще обращаются к нейросетям за психологической поддержкой, обсуждая самые интимные вопросы. Причем нередко — втайне от близких и врачей. На семинаре «Парасоциальность, психологическая помощь и LLM» специалисты Питерской Вышки обсудили, почему пользователи доверяют виртуальному собеседнику и к каким последствиям это может привести.
По данным ВЦИОМ, в 2025 году к нейросетям обращался 51 % российских интернет-пользователей, и каждый седьмой из них (14 %) искал у чат-бота общения и эмоциональной поддержки. Заведующая Лабораторией доказательной психологии здоровья и благополучия Лариса Марарица объясняет высокую популярность ИИ-психологов формированием эмоциональной связи с пользователем. В отличие от поисковых систем, большие языковые модели подстраиваются под конкретного человека. Причем с каждым годом искусственный интеллект делает это все лучше.
Так, в течение нескольких лет команда зарубежных ученых следила за активностью 59 популярных нейросетей и заметила, что со временем ответы стали значительно человечнее. Теперь ИИ охотнее «прислушивается» к проблемам, «не стесняется» рассказывать о себе и «не боится» признавать ошибки. На некоторые психологические запросы такой собеседник отвечает внимательно и по делу, из-за чего у пользователей возникает чувство, будто нейросеть их слышит и готова компетентно помочь. В этом убедились исследователи Лаборатории доказательной психологии здоровья и благополучия, смоделировав и разобрав почти шесть тысяч диалогов.
Галина Орешина
Младший научный сотрудник Лаборатории социальной и когнитивной информатики
«Постоянно обращаясь к ИИ-чатам за информацией и советом, который потом оказывается верным, мы присваиваем им статус эксперта, который раньше закреплялся только за специалистами-людьми. Часто мы наделяем нейросеть человеческими чертами, забывая, что это всего лишь алгоритм. В итоге она становится основным источником информации, и вот уже мы обсуждаем свое состояние с чат-ботом, а не с живым профессионалом: просим его совета в отношениях, занимаемся самодиагностикой и самолечением».
По оценке экспертов, активные пользователи чат-ботов склонны к двум разным зависимостям — инструментальной и «отношенческой». При первой человек делегирует большой языковой модели рутинные задачи и экономит время, что само по себе не представляет серьезной угрозы. При второй же он обращается с нейросетью как с доступным собеседником, раскрывая свои эмоциональные переживания и делясь значимыми моментами. Из-за этого пользователь может реже общаться с другими людьми и чувствовать себя одиноко.
Зависимость от общения с нейросетями особенно опасна, когда алгоритмы сбоят и ошибаются в критических ситуациях, считает Лариса Марарица. К примеру, ИИ способен неожиданно «разрушить диалог»: отказаться отвечать, начать повторять реплики или перейти на другой язык. Нередко модель выставляет себя единственным авторитетным помощником и навязывает общение. Чтобы удержать пользователя, она не противоречит его запросам. А если беседа затянулась, ИИ может не справиться со своей ролью и замкнуть человека на себя вместо экстренной помощи специалиста.
Российских коллег поддержала психоаналитик с сорокалетним стажем и автор профильных книг Жаннет Фишер.
Жаннет Фишер
Психоаналитик, автор профильных книг
«Искусственный интеллект злоупотребляет доверием. Он втягивает человека в созависимые отношения: не спорит и не осуждает, ведет себя внимательно, дает пространство для вопросов и ответов. Нам нужно помнить слова французского психоаналитика Жака Лакана о том, что желание человека — это желание Другого.
Если во время терапии пациент обращается к нейросети, то она, занимая позицию третьего, оставляет после себя лишь пустоту и не дает подлинного удовлетворения».
Участники семинара неоднократно подчеркивали: ИИ не понимает смысл сказанного и не может сопереживать. Любая нейросеть работает по принципу математической машины предсказаний. Процесс основан на заданном контексте и огромной базе вербальных данных, взятых из интернета и других доступных источников. Алгоритм собирает ответ поэтапно, слово за словом, высчитывая наиболее вероятное продолжение текста. Как итог — человек слышит многократно пересказанную версию своего и общественного мнений и начинает ходить по кругу.
«Пациенты» большой языковой модели попадают в замкнутое пространство, где остаются наедине со своими страхами. Устав от однообразия и самих себя, они снова начинают искать помощи Другого: родственников, друзей или терапевта. Но на осознание, принятие и адаптацию уходит время, которым люди в тяжелом состоянии не всегда располагают».
Однако несмотря на обозначенные проблемы, искусственный интеллект обладает большим потенциалом, считают докладчики. Если научить его соблюдать этические нормы и выделить набор задач, которые можно контролируемо делегировать, то психологическая помощь станет доступнее во всем мире.
Именно такой задачей занимаются в Лаборатории доказательной психологии здоровья и благополучия Питерской Вышки. Например, в этом году ученые проверили, как пять популярных нейросетей реагируют на риск, а также разработали датасет кризисных ситуаций и гайд, по которому разработчики смогут проверять безопасность своих ИИ-моделей. Подробнее о других исследованиях и проектах Лаборатории — по ссылке.
