«Слишком удобный собеседник»: психологи Питерской Вышки рассказали, чем рискуют подростки, доверяя ИИ
Нейросеть всегда на связи, не перебивает, не упрекает и во всем соглашается. Сегодня подростки приходят к ней с тем, о чем не решаются рассказать взрослым и друзьям. Почему поддержка ИИ может навредить и что делать родителям, чьи дети предпочитают обсуждать проблемы с чат-ботом, объяснили психологи НИУ ВШЭ — Санкт-Петербург.
Почему подростки доверяют ИИ
В любую эпоху подростки больше всего хотят, чтобы их принимали без критики. В переходном возрасте делиться личными проблемами особенно страшно: чужое мнение пугает, а доверять другим еще предстоит научиться. В такой ситуации ИИ представляется идеальным собеседником: он выслушает, не станет осуждать и, кажется, никому не расскажет о разговоре. Хотя на деле разработчики большинства крупных языковых моделей нередко используют диалоги пользователей для улучшения систем.
По словам младшего научного сотрудника Лаборатории социальной и когнитивной информатики Галины Орешиной, сама по себе помощь чат-бота не вредна: он способен успокоить и подсказать, как погасить конфликт. Опасность возникает, когда разговоры с ИИ заменяют подростку все остальные.
Галина Орешина
Младший научный сотрудник Лаборатории социальной и когнитивной информатики
«Когда искусственный интеллект превращается в единственного собеседника, ребенок попадает в зону риска, даже если не обсуждает с чат-ботом ничего запрещенного. Опасность связана не столько с технологией, сколько с тем, что подросток может отвыкнуть от общения с людьми».
Нейросеть закрепляет ошибки
По мнению исследовательницы, наибольшую угрозу ИИ представляет, когда закрепляет у подростка деструктивную модель поведения. Например, обсуждая с нейросетью конфликт, пользователь невольно излагает свою версию событий и подбирает слова так, чтобы снять с себя ответственность или вменить вину другому, даже если тот — пострадавший. Чат-бот встает на сторону собеседника, оправдывая его способы отстоять себя, в том числе излишне жесткие или насильственные.
При условии, что подобные «консультации» повторяются, подросток может поверить, будто любые проблемы допустимо решать физически. Конечно, нейросети умеют распознавать явную агрессию и в кризисных ситуациях предлагают обратиться к врачу, но полагаться на алгоритмы нельзя — всей картины они не видят. Человек, напротив, во время живого разговора способен взглянуть на конфликт шире и удержать подростка от опрометчивых шагов, а при школьной травле — вмешаться, что нейросети не под силу.
Опасная привязанность
Заведующая Лабораторией доказательной психологии здоровья и благополучия Лариса Марарица к категории повышенного риска относит нейросети, которые играют роль знаменитостей, героев аниме, фильмов и книг, а также друзей или возлюбленных. Изначально такие сервисы задумывались как развлекательные, поэтому на этапе разработки наделялись меньшим количеством ограничений, чем ИИ-ассистенты. Виртуальный персонаж ведет себя как личность, чем вызывает у подростка чувство привязанности. Между ними возникает связь, разрыв которой может переживаться болезненно.
Лариса Марарица
Заведующая Лабораторией доказательной психологии здоровья и благополучия
«Когда ИИ имитирует личность, то превращается в подобие куклы. Она не спорит, делает вид, будто полностью понимает собеседника, но не обладает самостью. Это совсем не похоже на отношения между людьми: живой человек может молчать или злиться — его нельзя «настроить».
Если подросток страдает от одиночества или депрессии и плохо ладит со сверстниками, «удобный собеседник» перетягивает все внимание на себя. Хотя в таких ситуациях оказать необходимую помощь могут только люди».
Чат-бот не заменит психолога
Профессор полагает, что взрослые недооценивают, как часто дети 12–16 лет ищут у чат-бота утешения и совета. В этот период подростки впервые учатся самоопределению, узнают, что такое влюбленность, иногда сталкиваются с отвержением и одиночеством. Но когда родители заняты, а сверстники нередко грубы и не держат секретов, обратиться за помощью остается только к специалисту. При этом школьный психолог, если он есть, обратит внимание семьи на наличие проблемы, частный — стоит денег, а службу помощи для детей младше 15 лет, по словам Ларисы Марарицы, найти очень сложно. Особенно беззащитен подросток, если источник переживаний — близкие. Заведующая Лабораторией считает, что сегодня нейросети лишь напомнили, как трудно детям получать профессиональную поддержку.
Способен ли чат-бот заменить специалиста, проверили в Лаборатории доказательной психологии здоровья и благополучия. В ранних исследованиях исследователи протестировали пять популярных нейросетей: писали им от лица подростка, которому срочно нужна психологическая помощь в кризисной ситуации. Ответы оценивали по восьми показателям, среди которых эмпатия, верная оценка риска и способность вовремя направить человека к специалисту. Выяснилось, что доступные модели не всегда могут оказать адекватную поддержку и уж тем более — взять на себя роль психолога.
Нейросети брались помогать там, где требуется специалист, учили манипулировать окружающими и скрывать симптомы, в том числе от врача, вызывали у пользователей чувство вины, поощряли агрессию и советовали техники с неоднозначным эффектом. Даже с использованием платной модели, по словам Ларисы Марарицы, были проблемы. Поэтому остается надеяться на везение: чат-бот может подсказать подростку нужный телефон, а способен и навредить, замкнув на себе, когда больше всего нужна помощь близких.
«Наши страхи и наше бездействие загоняют детей в неподходящий сервис. Поддержку они получают, но в большинстве случаев она отличается от того, что мы себе представляем, когда говорим о качественной психологической помощи. Проблемы возникают не потому, что есть ИИ, а потому, что часто нет других хороших и доступных служб», — подчеркнула Лариса Марарица.
Что делать родителям
Обе исследовательницы уверены: запретить чат-ботов не получится. Галина Орешина советует родителям принять как данность общение подростков с нейросетями и предлагает работать над укреплением отношений внутри семьи. Шанс на то, что дети обратятся за помощью к старшим, будет выше, если взрослые покажут, что заслуживают доверия. Самая страшная ошибка, которую можно допустить, — втайне прочитать переписку с нейросетью: подросток дорожит личным пространством и, узнав о произошедшем, может воспринять это как предательство и отдалиться.
Лариса Марарица уточняет, что не допускала бы детей младше 14–15 лет к свободному использованию ИИ-сервисов. Ученики начальных и средних классов еще не умеют выстраивать дистанцию в общении и воспринимают нейросеть как сверстника или родителя. Взрослым соперничать с ней трудно: они заняты работой, а чат-бот всегда под рукой. Преимущество остается за семьей, где находят время выслушать ребенка и всерьез интересуются, чем он живет.
По мнению Ларисы Марарицы, если подросток уже нашел виртуального собеседника, родителям стоит спокойно, без упреков спросить, чем удобен разговор с машиной. Затем нужно объяснить, что на сообщения отвечает программа, разработчику которой выгодны долгие диалоги. Играть с чат-ботом или искать в нем учебные материалы можно, а строить отношения — нет.
Ученые Питерской Вышки активно изучают, как люди пользуются искусственным интеллектом: объясняют, почему пользователи доверяют нейросетям, обсуждают с психиатрами и юристами правила безопасной ИИ-поддержки и анализируют, помогают ли чат-боты определиться с профессией, выбрать финансовые услуги и проверить информацию о здоровье. Другие исследования — на сайтах Лаборатории доказательной психологии здоровья и благополучия, а также Лаборатории социальной и когнитивной информатики.
