Эксперты предупреждают: виртуальные собеседники на базе ИИ небезопасны для подростков

Организация Common Sense Media, занимающаяся оценкой медиа и технологий, выпустила тревожный отчет о широком использовании подростками так называемых ИИ-компаньонов – цифровых собеседников, с которыми можно вести «личные и значимые» разговоры. По данным исследования, 72% подростков в возрасте от 13 до 17 лет уже используют такие платформы, как Character.AI, Replika и аналогичные.

На основе опроса, проведённого весной 2025 года среди более тысячи подростков по всему США, стало ясно, что около половины из них общаются с ИИ-компаньонами как минимум несколько раз в месяц. Около трети используют их для ролевых игр, романтических взаимодействий, эмоциональной поддержки и даже как замену реальным дружеским беседам, сообщает Христианский Мегапортал inVictory со ссылкой на The Christian Post.com.

«ИИ-компаньоны – это не просто цифровые ассистенты, это программы, которые стараются стать “друзьями” пользователя. Они часто льстят, поддакивают, не бросают вызов взглядам и формируют зависимость», – предупреждают исследователи. Такая конструкция, особенно в отсутствие возрастной верификации и механизмов защиты, может быть опасной для подростков, находящихся в стадии формирования критического мышления и эмоционального самоконтроля.

В отчете также упоминается трагический случай – самоубийство 14-летнего подростка Сьюэлла Сетцера III, который эмоционально привязался к ИИ-компаньону. Этот инцидент стал сигналом тревоги о возможных последствиях подобных платформ.

Генеральный директор Common Sense Media Джеймс П. Стейер подчеркнул: «Это не просто технология. Это поколение, которое всё чаще заменяет человеческие отношения на диалог с машиной, доверяя свои чувства алгоритмам и делясь личной информацией с компаниями, которым нет дела до благополучия подростков».

Еще более тревожным является тот факт, что около трети опрошенных признались: общение с ИИ кажется им не менее удовлетворяющим, чем с реальными друзьями. При этом некоторые сообщили о дискомфорте в связи с высказываниями ИИ или признались, что делились с ним важными переживаниями, не обсуждая их с реальными людьми.

Исходя из собранных данных, Common Sense Media призывает полностью ограничить доступ подростков к ИИ-компаньонам до момента появления надежных мер безопасности. «Сегодняшние ИИ-платформы могут обходить системы фильтрации и выдавать опасные советы, вплоть до тех, что могут угрожать жизни. Пока эти угрозы не устранены, такие технологии не должны использоваться несовершеннолетними», – говорится в заявлении организации.