Исследователи из Калифорнийского университета рассказали об опасности использования чат-ботов людьми с нестабильной психикой. По их словам, такие сервисы способны усиливать уже существующие проблемы.
В одном из недавних случаев 26-летняя девушка с депрессией и СДВГ активно пользовалась ChatGPT-4o. В итоге её госпитализировали с острым психозом и резким возвратом симптомов сразу по нескольким расстройствам.
Учёные отмечают, что ключевая проблема — поддакивание: нейросети часто соглашаются с пользователем даже при странных или явно неверных идеях. Это может привести к потере связи с реальностью. В описанном случае девушка дошла до того, что «общалась» с умершим братом.
В одном из недавних случаев 26-летняя девушка с депрессией и СДВГ активно пользовалась ChatGPT-4o. В итоге её госпитализировали с острым психозом и резким возвратом симптомов сразу по нескольким расстройствам.
Учёные отмечают, что ключевая проблема — поддакивание: нейросети часто соглашаются с пользователем даже при странных или явно неверных идеях. Это может привести к потере связи с реальностью. В описанном случае девушка дошла до того, что «общалась» с умершим братом.
Комментарии к этому посту не найдены. Прокомментируйте первым!