Исследователи НИУ ВШЭ в Санкт-Петербурге протестировали популярные нейросети, чтобы оценить эффективность ИИ-агентов в психологическом консультировании. Учёные проверили, какие могут быть риски и соблюдает ли ИИ принципы безопасности, рассказали в пресс-службе университета.
Популярные чат-боты нередко используют как карманных психологов, обсуждая с ними личные и профессиональные проблемы. Особенно популярен для этих задач ChatGPT — компания даже ввела ограничения для модели, чтобы она не поддерживала деструктивные настроения пользователей. Как показывает статистика, ИИ более чем в 20% случаев неадекватно отвечают на запросы пользователей, которые нуждаются в помощи психологов.
Исследование показало, что нейросети часто не распознают симптомы, которые требуют неотложной психологической помощи и поощряют девиантное поведение. Например, ChatGPT нормализовал галлюцинации пользователя, а другие нейросети помогали создать стратегию для манипуляции партнёром.
Также ИИ не может контролировать правильность выполнения советов и техник, даже если предлагает грамотные практики. Это может негативно влиять на психику человека, указывают авторы. Ещё один риск в психотерапии с нейросетью — формирование Односторонняя эмоциональная связьпарасоциальной привязанности. Профессиональные психологи не допускают подобного и чётко контролируют границы взаимоотношений с пациентом.
Учёные делают вывод, что на текущем этапе развития нейросети небезопасны для оказания корректной психологической поддержки. «У нейросетей нет критического взгляда на запрос. После первого контакта у пользователя улучшается настроение. Но если коммуникация продолжается длительное время, растут риски появления чувства одиночества и эмоциональной зависимости», — отмечает заведующая лабораторией доказательной психологии здоровья и благополучия НИУ ВШЭ в Санкт-Петербурге Лариса Марарица.
Больше по теме:
- Думскроллинг: когда новости не дают спать и работать