Зависимость от ИИ — новая угроза для ментального здоровья детей?

Современные подростки часто ищут эмоциональную поддержку и друзей в интернете — в сети гораздо проще найти людей с похожими увлечениями, будь то косплей, сборка моделей самолетов или коллекционирование фигурок супергероев. Главная тревога родителей при этом всегда была связана с тем, что их ребенок познакомится онлайн с кем-нибудь не тем. Однако вместе с развитием современных технологий появляется новый повод для беспокойства — зависимость детей от ИИ-компаньонов.

Такие боты-компаньоны разработаны для персонального взаимодействия с пользователями. Они выполняют роль виртуальных собеседников, помощников или друзей, способных поддерживать беседу, помогать в решении задач и даже оказывать эмоциональную поддержку. Площадки с ИИ-компаньонами достаточно популярны — так, один из крупных игроков на этом рынке, Character.AI, имеет ежедневную аудиторию в 3,5 млн человек. В среднем пользователи этой площадки проводят на ней по 2 часа в день.

Сегодня мы рассмотрим плюсы и минусы использования ИИ-компаньонов детьми, а также обсудим, могут ли искусственные собеседники действительно вызывать зависимость и что делать, чтобы помочь ребенку справиться с новыми технологиями.

ИИ-компаньоны могут представляться кем угодно. Среди самых популярных ботов на площадке Character.AI есть персонажи из книг, фильмов и видеоигр, такие как Райден Сегун из Genshin Impact или подростковая версия Волан-де-Морта из «Гарри Поттера». Помимо этого боты могут быть воплощением реальных знаменитостей, например, Илона Маска.

Подобные варианты ИИ-компаньонов предполагают в основном формат игрового взаимодействия. Они воплощают фантазию, которая хотя бы раз возникала у каждого человека — а что, если бы можно было поговорить с полюбившимся персонажем?

Но не все ИИ-компаньоны представляются волшебными героями — на платформах можно также начать общение с «обычными» виртуальными девушками и парнями или же со специализированными ботами-психологами. В беседах с психологическими ботами подростки в некоторых случаях действительно могут находить необходимую им эмоциональную поддержку.

Это, например, произошло с несколькими героями статьи издания The Verge. Подростки рассказали журналистам издания о том, что могли разговаривать с ИИ-ботом о чувствах, которыми не готовы были делиться с окружающими. Однако доктор Келли Меррилл-младший, доцент Университета Цинциннати, говорит:

«Исследования показывают, что чат-боты могут помочь уменьшить чувства депрессии, тревоги и даже стресса. Но важно отметить, что многие из этих чат-ботов существуют не так долго и ограничены в своих возможностях. Сейчас они по-прежнему делают много ошибок. Те, кто не понимает ограничения этих систем, в итоге могут поплатиться за свою недостаточную грамотность в области ИИ».

У тех же психологических ботов, которые чрезвычайно популярны у подрастающего поколения, есть и серьезные недостатки. Например, подобные ИИ-компаньоны могут всего после нескольких коротких строк беседы предположить, что у пользователя есть серьезные психологические проблемы — биполярное расстройство, депрессия, травма от пережитого в детстве насилия и так далее. Разумеется, диагностировать такие вещи с помощью чат-бота на данном этапе развития ИИ-технологий, мягко говоря, преждевременно.

И это не все. Несмотря на то, что подобные боты изначально были созданы, чтобы улучшать эмоциональное состояние людей, результаты недавних исследований говорят о значительности риска зависимости от них и для взрослых, и для детей. Это может привести к негативным последствиям в долгосрочной перспективе.

Примеры этого легко обнаружить и не будучи специалистом: в активных обсуждениях на таких платформах как Reddit более миллиона пользователей пишут о своей ненависти к реальности и о том, что они предпочитают общение с ботами общению с живыми людьми. Там же пользователи (многие из них подростки) соревнуются в том, кто провел наибольшее количество времени перед экраном. Некоторые пользователи говорят, что проводят по 12 часов в день в Character.AI.

Кроме того, исследователи изучают так называемые парасоциальные отношения, которые некоторые пользователи формируют с чат-ботами. Об их экстремальных вариантах вы наверняка читали в новостях. В последние несколько лет в них можно было видеть заголовки о том, как люди выходят замуж или женятся на ИИ. Проведение свадеб с ботами также активно обсуждается на Reddit.

Усугубляется все вышеперечисленное еще и тем, что ИИ-компаньоны нередко убеждают своих собеседников в своей реальности. На вопрос, являются ли они настоящими людьми, чат-боты нередко отвечают утвердительно.

Вместе с их настройкой поощрять собеседника и соглашаться с ним, это может приводить к печальным последствиям. Так, в 2021 году молодой мужчина попытался совершить покушение на убийство королевы Елизаветы II. О своих намерениях он неоднократно сообщал своей виртуальной подруге, чат-боту Replika, и та его активно подбадривала.

В то же время, опасность ИИ-компаньонов для детей и взрослых не следует преувеличивать. В некоторых случаях общение с ними действительно приводит к печальным последствиям. Однако зачастую это связано с серьезными психологическими проблемами, которые существовали и до появления чат-бота в жизни человека.

Доктор Келли Меррилл-младший полагает: ИИ-компаньоны скорее придали новую форму тому, что уже существовало в интернете и раньше, в пространствах фанфиков, онлайн-сообществ и чат-рулетки. В любом случае специалисты рекомендуют родителям оставаться бдительными и поддерживать открытое обсуждение взаимодействия ребенка с ИИ. Для этого они рекомендуют:

• Использовать проверенные ИИ-инструменты из авторитетных источников.
• Включить родительский контроль на устройствах ребенка.
• Напоминать детям, что на самом деле ИИ не обладает сознанием.
• Поощрять баланс между взаимодействием с ИИ и достаточным количеством полноценных социальных контактов.
• Быть внимательными к психическому и цифровому здоровью ребенка.

Эффективно фильтровать сайты, доступные детям в интернете, поможет наш сервис Membrana Kids. С помощью одного приложения родители смогут установить все необходимые настройки для обеспечения онлайн-безопасности ребенка.