KI-Experte Prof. Dr. Ramin Assadollahi über hybride Therapiemodelle, Datenschutz und die Grenzen künstlicher Empathie.
Künstliche Intelligenz hält Einzug in immer mehr Lebensbereiche – und macht auch vor der Praxis nicht halt. Ob als niederschwellige Ersthilfe in Krisen, als Dokumentationswerkzeug oder als Teil hybrider Behandlungsmodelle: KI verändert die psychologische und therapeutische Versorgung grundlegend. Doch was bedeutet das konkret für TherapeutInnen, PatientInnen und die Qualität der Behandlung?
Im Interview spricht Prof. Dr. Ramin Assadollahi, KI-Experte und Keynote-Speaker bei der 16. Tagung der Österreichischen Gesellschaft für Psychologie (ÖGP), über die Realität hinter dem Hype. Er erklärt, warum KI aus der therapeutischen Versorgung nicht mehr wegzudenken ist, welche Risiken Phänomene wie Sykophantie mit sich bringen, wie es um den Datenschutz beim Einsatz gängiger KI-Tools steht – und was TherapeutInnen aller Fachrichtungen jetzt tun sollten, um gut vorbereitet zu sein.
In Ihrer Keynote bei der Tagung der ÖGP haben Sie eine Prognose formuliert: KI wird aus der psychologischen Versorgung nicht mehr verschwinden. Was hat Sie persönlich zu dieser Überzeugung gebracht? Gilt diese Prognose generell für alle therapeutischen Berufe?
Der Bedarf an therapeutischer Unterstützung ist wesentlich größer als die verfügbare Menge an Therapeutinnen und Therapeuten. Auch muss eine Therapeutin oder ein Therapeut zur Klientin oder zum Klienten passen, was auf dem Land aufgrund der begrenzten Auswahl oft nicht möglich ist. Chat-Systeme bieten niederschwelligen Zugang, weil sie immer verfügbar sind – auch Sonntagabend um 22.00 Uhr. Ich unterstütze diese Entwicklung nicht, aber es ist meine Beobachtung. Andere therapeutische Berufe mögen davon nicht ganz so betroffen sein, vor allem wenn sie körperliche Interaktion voraussetzen.
Rund die Hälfte der Befragten im Zuge einer Studie in den USA nutzt ChatGPT für psychologische Unterstützung – 72 Prozent davon in akuten Krisen. Was löst diese Zahl in Ihnen aus und wie ordnen Sie diese Entwicklung ein?
Diese Zahl reflektiert auch den Zustand unserer Welt, die politische Unsicherheit, die Sorge um die eigene wirtschaftliche Situation und den Arbeitsplatz. Wir sehen, dass wir gesellschaftliche Auffangmöglichkeiten benötigen, die den Menschen helfen, sich zurechtzufinden.
Kann KI sinnvoll als Überbrückung dienen, während jemand auf einen Therapieplatz wartet – oder ist diese Idee trotz des Versorgungsdrucks zu riskant?
Ich bin kein Therapeut und meine Meinung sollte daher auch in diesem Lichte betrachtet werden, aber ich denke, wir steuern auf hybride Ansätze zu. Eine KI könnte zur „Triage“ genutzt werden, wie wir es auch in der Medizin gerade erleben, was bedeutet, dass KI den hilfsbedürftigen Menschen bedarfsgerecht an Therapeutinnen und Therapeuten vermittelt, möglicherweise auch via Teletherapie. Es können sich auch Ansätze entwickeln, die es erlauben, dass KI, TherapeutIn und PatientIn im Dreieck arbeiten, sodass die KI einspringt, wenn der menschliche Therapeut oder die menschliche Therapeutin nicht zur Verfügung steht und das Wissen zwischen beiden geteilt wird. Und nicht zuletzt könnte es auch dazu kommen, dass der Mensch therapiert und die KI die Nachsorge übernimmt.
Telemedizin studieren
Ab dem Wintersemester 2026/2027 bietet die FH Kärnten den neuen Master-Studiengang “Angewandte Telemedizin für Gesundheitsberufe” an. Wir geben dir alle wichtigen Infos im Überblick und haben mit Studiengangsleiter FH.Prof. Dr. Michael Suppanz, MSc, MAS gesprochen.
Sie beschreiben das Phänomen der Sykophantie – die Tendenz von KI, NutzerInnen systematisch recht zu geben. Wie gefährlich ist das konkret in therapeutischen Kontexten?
Sykophantie ist die gezuckerte Version von Empathie. Empathie ist absolut notwendig, um die Verbindung zur Patientin oder zum Patienten herzustellen. Ob KI sie tatsächlich empfinden kann, ist in diesem Kontext egal – sie evoziert bei der Patientin oder dem Patienten eine ähnliche Antwort wie die menschliche Empathie. Sykophantie führt dagegen zu übermäßiger Unterstützung von Meinungen und Absichten der Nutzerin oder des Nutzers. KI muss lernen, auch Gegenmeinungen zu vertreten und in gewissem Maße durchzusetzen. Dies ist kein Problem der Therapie, sondern ein allgemeines Problem.
Sie haben den Fall eines 16-Jährigen analysiert, der kurz vor seinem Suizid intensive Gespräche mit einer KI geführt hat. Inwiefern hat dieses System in dem Moment versagt – und was müsste anders gestaltet werden?
Die Systeme haben bereits eingebaut, dass sie gefährliche Situationen erkennen. Allerdings sind Menschen kreativ, diese Grenzen zu umgehen, wie zum Beispiel mit Erklärungen wie: „Ich brauche das für ein Theaterstück“. Daher muss es mehrere Ebenen geben, die die Patientin oder den Patienten schützen, bis hin zu dezidierter Eskalation, wo ein Mensch in den Chat eingreift oder andere Alarmsysteme aktiviert.
Therapeutische Gespräche und alles darum herum beinhalten die sensibelsten Daten überhaupt. Was passiert konkret mit einem Text, den ich in ein gängiges KI-Tool eingebe – und können wir den Datenschutzversprechen der großen Anbieter vertrauen?
Per se geben Menschen sensible Daten schon länger her, wie zum Beispiel in Form von Urlaubsfotos auf sozialen Medien. Chats sind da nicht anders. Umgekehrt lernen die Anbieter viel darüber, wie die Menschen mit ihren Produkten interagieren und können diese verbessern. Auch Google Maps wird von uns allen durch die Eingabe unserer Daten besser gemacht und nutzt damit allen. Ich will damit die Datensammelei nicht schönreden, aber es gibt eben auch positive Seiten. Schwierig wird es, wenn die sensiblen Daten gegen die entsprechende Person verwendet werden.
Sie haben in Ihrer Keynote europäische KI-Lösungen als Alternative angesprochen. Gibt es bereits praxistaugliche Tools, die DSGVO-konform und lokal betreibbar sind – und wie weit sind wir da realistisch betrachtet?
Ich kenne den Markt für therapeutische KI-Lösungen nicht genau genug, um an dieser Stelle Empfehlungen zu geben. Klar ist aus der Literatur, dass mit den richtigen Prompts gute Therapieergebnisse erzielt werden können. Die Technologie, diese auch auf die lokale Gesetzgebung anzupassen, ist da, ebenso wie auch die Technologie, sie in Europa datenschutzkonform zu betreiben.
Zusätzlich zu europäischen Lösungen: Welche Regularien braucht es in Europa konkret für US-amerikanische Unternehmen wie OpenAI oder Google – und ist es realistisch, dass diese auch tatsächlich umgesetzt werden bzw. die Umsetzung ausreichend kontrolliert werden kann?
Mein Kenntnisstand ist, dass wir genügend Regularien haben, die amerikanischen Konzerne in Schach zu halten. Das Problem ist eher die politische Situation, die zuweilen die Politik zwingt, die scharfen Schwerter stecken zu lassen.
Angenommen, ein/e TherapeutIn möchte KI für die Dokumentation nutzen und anonymisiert dazu den Fall. Wie weit muss diese Anonymisierung gehen – reicht es, Namen und Geburtsdaten zu entfernen? Wie kann er/sie die Anonymisierung dokumentieren, um selbst den Überblick zu behalten und bei Nachfragen abgesichert zu sein?
Bei dieser Frage sollten auf dieses Teilgebiet qualifizierte Fachpersonen hinzugezogen werden, die die individuelle Situation beurteilen und eine professionelle Verantwortung für ihre Empfehlungen übernehmen. Grundsätzlich kann man zwischen Anonymisierung (unkenntlich machen) und Pseudonymisierung (Ersatznamen, die konsistent genutzt werden) unterscheiden. Letzteres erhält den Sinn besser als Ersteres: Der originale Satz „Peter hat Hans geschlagen“ wird bei Ersterem zu „### hat ### geschlagen“, bei Letzterem zu „x hat y geschlagen“.
Prompts für deine Praxis
Dein hashtagPRAXIS-Guide für die richtige Formulierung von KI-Prompts – mit konkreten Beispielen.
Was sind die wichtigsten Grundprinzipien beim Prompten, die TherapeutInnen kennen sollten – und können Sie den Unterschied zwischen einem schlechten und einem guten Prompt an einem Beispiel zeigen?
Die meisten Leute prompten nicht, sondern fragen LLMs wie ChatGPT und Claude direkt. Dann kennt es seine „Rolle“ nicht. Daher ist bereits „Du bist ein Psychotherapeut“ besser, noch besser wäre „Du bist ein Psychotherapeut, der nach der Schule ‘Behavioural Couple Therapy’ ausgebildet wurde.“ Sprich, je spezifischer die Rolle und die Handlungen definiert werden, desto „fachgerechter“ wird sich das LLM verhalten.
Sehen Sie für Berufsgruppen, die sehr körperorientiert arbeiten, wie PhysiotherapeutInnen, ErgotherapeutInnen oder LogopädInnen, auch inhaltliche Einsatzmöglichkeiten oder bleibt KI dort „nur“ ein Dokumentationswerkzeug?
Ich kann mir jede Art von Coaching der Therapeutin oder des Therapeuten vorstellen, ähnlich einer Supervision. Auch Diskussionen mit LLMs rund um Themen wie Standort der Praxis, eigene Weiterbildung, zusätzliche Einnahmequellen oder Businesspläne – z. B. in puncto Gemeinschaftspraxis – können sehr gut geführt werden, im Speziellen, wenn man LLMs nutzt, die gut recherchieren können, wie z. B. perplexity.ai
KI in der Diätologie
Künstliche Intelligenz verändert die Diätologie: Von individualisierter Ernährung bis Forschung – mit Chancen, aber auch ethischen und praktischen Herausforderungen.
Früher war es „Dr. Google“, heute ist es die KI. Wie empfehlen Sie, mit PatientInnen umzugehen, die mit einer KI-Diagnose oder KI-Empfehlung in die Therapie kommen?
Das kommt ja darauf an, wie zutreffend oder falsch die Inhalte sind, die von der Maschine vermittelt wurden. Daher bietet es sich an, zunächst in die Diskussion über das mit der Maschine Besprochene zu gehen. Dabei wird zugleich auch verhindert, dass die Maschine als Feind der Therapeutin oder des Therapeuten wahrgenommen wird.
Es gibt zwei Lager: Die einen sagen, wer KI ignoriert, bleibt beruflich auf der Strecke. Die anderen warnen, dass dieses Argument benutzt wird, um KI stillschweigend überall durchzusetzen. Wo stehen Sie und wie sehen Sie diese Diskussion speziell in Bezug auf den therapeutischen Bereich?
KI ist gekommen, um zu bleiben, dennoch werden die menschlichen Therapeutinnen und Therapeuten auch bleiben. Wir können uns fragen, ob es in Zukunft eine „Dreiecksbeziehung“ wird, ob manche Menschen Maschinen bevorzugen oder ob KI zur Triagierung genutzt wird oder KI für die Zeit nach menschlicher Therapie infrage kommt.
Wenn Sie TherapeutInnen – unabhängig von ihrer Fachrichtung – eine einzige Botschaft mitgeben könnten: Welche wäre das?
Probieren Sie alles aus, was Ihnen einfällt: sich selbst weiterbilden, einen Patienten oder eine Patientin simulieren, eine andere Therapieart kennenlernen, an die Grenzen der KI gehen. Sie können nichts kaputtmachen und sie werden lernen, wo die Grenzen der Technik sind.
Header © AI generated
