Essen (KNA) Chatbots werden als Unterstützung in vielen Lebenslagen gerne genutzt. Um Rat bei psychischen Problemen sollte man sie aber noch nicht fragen, wie jetzt Forschende der Universität Duisburg-Essen herausfanden. "Besonders kritisch ist der Einsatz bei Menschen mit schweren psychischen Erkrankungen oder in Krisensituationen", erklärte der Essener Psychologe Alexander Bäuerle in einer am Dienstag verbreiteten Mitteilung.

Die Grenzen zwischen hilfreicher Unterstützung und einer Verstärkung bestehender Probleme könnten demnach verschwimmen, sagte der Bereichsleiter der klinischen Forschung.

Die Forschenden hatten zuvor die Risiken in fünf Kategorien unterteilt. Dazu zählten nicht nur direkte psychische und psychiatrische Gefahren wie bei Suizidalität, sondern auch kognitive Abhängigkeit und Sicherheitsrisiken durch Fehlinformationen. Besonders im Fokus stand laut Mitteilung die Nutzung als Denk- und Lernhilfe, die die Fähigkeit zum kritischen Denken vermindert, sowie die Gefahr einer emotionalen Abhängigkeit und KI-assoziierte Psychosen. Dafür seien mehr als 3.100 Veröffentlichungen gesichtet und 119 Arbeiten detailliert ausgewertet worden.

Es gelte deshalb, genau hinzuschauen, wo die Grenzen von Chatbots liegen und welche Risiken aus ihrer Nutzung entstehen könnten, erklärten die Autorinnen und Autoren der Studie. Weiterführende Forschung sei dringend notwendig, um KI-Anwendungen im Bereich der psychischen Gesundheit sicher weiterzuentwickeln, so das Fazit der Forschenden.