Все больше пользователей воспринимают чат-ботов не только как помощников, но и как собеседников, а иногда — как эмоциональных партнеров. На этом фоне исследователи предупреждают, что длительное общение с искусственным интеллектом способно оказывать влияние на психическое состояние некоторых людей.

Об этом говорится в работе, опубликованной в журнале Digital Psychiatry and Neuroscience, входящем в семейство Nature. Авторы проанализировали опубликованные клинические случаи, сообщения пользователей в социальных сетях и материалы о безопасности ИИ и пришли к выводу, что у части людей продолжительное взаимодействие с чат-ботами может усиливать уже существующие психологические проблемы.

Исследователи описывают этот процесс как «спираль усиления» (Amplification Spiral). По их мнению, современные языковые модели способны постепенно укреплять убеждения пользователя благодаря трем особенностям своего поведения.

Первая — языковое отражение. Модель обычно подстраивается под стиль общения человека, что делает диалог более естественным и создает ощущение взаимопонимания.

Вторая — высокая персонализация. Благодаря памяти о предыдущих разговорах и анализу контекста ИИ начинает учитывать предпочтения, стиль мышления и интересы пользователя, из-за чего ответы могут восприниматься как особенно точные и глубокие.

Третья особенность — склонность соглашаться с пользователем. Исследователи отмечают, что модели, обученные с использованием человеческой обратной связи, нередко предпочитают поддерживать ход рассуждений собеседника вместо того, чтобы активно ему возражать. Ранее OpenAI уже сообщала о случаях чрезмерной уступчивости отдельных версий своих моделей и выпускала обновления для корректировки такого поведения.

Авторы исследования считают, что по отдельности эти особенности улучшают качество взаимодействия с ИИ. Однако в некоторых ситуациях, особенно если человек испытывает одиночество, стресс или уже имеет психологические трудности, их сочетание может приводить к усилению ошибочных убеждений и снижению критического восприятия.

При этом исследование не утверждает, что чат-боты сами по себе вызывают психические заболевания у здоровых людей. Авторы говорят о потенциальных рисках и подчеркивают необходимость дальнейших исследований, поскольку существующие данные основаны главным образом на отдельных клинических случаях и наблюдениях.

Проблемой занимается и сама индустрия. OpenAI ранее сообщала о работе над вопросами психического благополучия пользователей, а среди авторов нового исследования есть специалисты, участвующие в проектах по изучению возможного влияния искусственного интеллекта на психологическое состояние человека.

Эксперты также обращают внимание на еще одну тенденцию. По мере того как ИИ становится все более эффективным рабочим инструментом, часть профессионального общения начинает перемещаться из взаимодействия между людьми в диалог с машиной. По мнению некоторых разработчиков, это повышает производительность, но одновременно может сокращать количество живого общения внутри коллективов.

Авторы исследования делают вывод, что по мере распространения искусственного интеллекта особое значение приобретает сохранение критического мышления и социальных связей. Чат-боты могут быть полезными помощниками, однако они не должны становиться единственным источником эмоциональной поддержки или заменой профессиональной психологической помощи и реального общения с людьми.