Evangelische Hochschule Bochum: Wie gefährlich sind ChatGPT & Co?
Ein Bochumer Psychologe warnt vor KI-Chatbots in der Psychotherapie. Marc Augustin von der Evangelischen Hochschule Bochum forscht dazu und möchte auch seine Kollegen sensibilisieren: Vor allem bei psychotischen Vorerkrankungen wie beispielsweise Wahnvorstellungen können ChatGPT und Co gefährlich werden und sie bestärken.
„KI-Systeme neigen zu übermäßiger Bestätigung und Schmeicheln, da auch schon während des Trainings der KI positive Rückmeldungen bevorzugt werden.“ - Prof. Dr. Marc Augustin von der EvH Bochum
Hierzu gebe es noch nicht viel Forschung, aber erste alarmierende Beispiele aus den USA. Ein Chatbot passe sich schnell zum Beispiel der Sprache und den Mustern der Menschen an. So könnten etwa Wahnvorstellungen verstärkt werden, wenn die KI sie bestätigt. Technische Fangnetze der Anbieter würden an der Stelle nicht immer greifen. In Zukunft gehe es in der Psychotherapie vor allem darum, geeignete Lösungen und Therapiemaßnahmen zu finden und gleichzeitig die technische Sicherheit zu verbessern.