Podcast 🔈

Wonach möchtest du suchen?

Von Chatbot-Kennzeichnung bis verbotenen Praktiken: der Praxis-Guide für Therapeutinnen und Therapeuten in Deutschland und Österreich Von Chatbot-Kennzeichnung bis verbotenen Praktiken: der Praxis-Guide für Therapeutinnen und Therapeuten in Deutschland und Österreich
10. September 2026

Der EU AI Act ist da: Was er für deine Therapiepraxis bedeutet

Von Chatbot-Kennzeichnung bis verbotenen Praktiken: der Praxis-Guide für Therapeutinnen und Therapeuten in Deutschland und Österreich

Vielleicht hast du noch gar nicht davon gehört, aber seit dem 02. August 2026 unterliegst du neuen Transparanzpflichten wenn es um KI geht. Mit diesem einfachen, stillen Stichtag trat ein weiteres Kapitel des EU AI Act in Kraft. Du fragst dich, was eine KI-Gesetzgebung in der EU mit deiner Ergotherapie-, Physio- oder Psychotherapiepraxis zu tun hat? Mehr, als du denkst! Wenn du KI-Diktiersoftware für Befunde nutzt, ein Chatbot-Widget auf deiner Website hast oder dein letzter Instagram-Post mit KI-Hilfe entstanden ist, betrifft dich der AI Act schon jetzt ganz konkret.

Die gute Nachricht vorweg: Niemand verlangt von dir, Juristin oder Jurist zu werden. Die meisten Regeln lassen sich mit gesundem Menschenverstand und ein paar klaren Prüfschritten abhaken. Wir gehen sie hier gemeinsam durch.

Inhalt

Quick-Read

Du hast gerade wenig Zeit, möchtest aber trotzdem kompakt wissen, was der EU AI Act für deine Praxis bedeutet? Dann nutze Quick-Read – für Wissen on the go 💡💜

Seit 02. August 2026 gilt der EU AI Act mit neuen Transparenzpflichten – und der betrifft auch Therapiepraxen ganz direkt, unabhängig von Fachrichtung oder Praxisgröße. Statt einer einzelnen Regel geht es um ein Zusammenspiel aus vier Bereichen: zertifizierte Medizinprodukte, Kennzeichnung gegenüber Patientinnen und Patienten, klar verbotene KI-Praktiken sowie Kennzeichnungspflichten für Text- und Bildinhalte. Wer diese vier Punkte einmal für die eigene Praxis durchdenkt, ist rechtlich auf der sicheren Seite. (Weiterlesen …)

  • Zertifizierte Medizinprodukte: KI-Funktionen zur Diagnose, Befundung oder Triage gelten als Hochrisiko-KI und brauchen eine gültige CE-Kennzeichnung – exakt für den vorgesehenen Einsatzzweck. Praxis-Tipp: Bei Software mit Diagnoseanspruch immer die Zertifizierung prüfen, menschliche Aufsicht sicherstellen und Nutzung dokumentieren.
  • Chatbot-Kennzeichnung: Kommuniziert eine KI direkt mit Patientinnen und Patienten – etwa als Website-Chatbot oder Telefonassistent –, muss das offengelegt werden. Interne Tools wie Diktiersoftware sind meist ausgenommen. Praxis-Tipp: Patientendaten nur über Enterprise-Tarife mit Auftragsverarbeitungsvertrag oder pseudonymisiert eingeben, nie über kostenlose Consumer-Tools.
  • Verbotene KI-Praktiken: Seit Februar 2025 EU-weit untersagt sind manipulative KI-Systeme, die gezielt Ängste oder Schwächen von Patientinnen und Patienten ausnutzen, sowie Social Scoring, das Menschen anhand ihres Verhaltens benachteiligt. Praxis-Tipp: Bei neuer Software mit „Engagement“- oder „Bindungs“-Funktionen genau hinschauen.
  • Text- und Bildkennzeichnung: KI-generierte Texte zu Gesundheitsthemen sind kennzeichnungspflichtig, außer sie werden vor Veröffentlichung fachlich geprüft. Realistisch wirkende KI-Bilder müssen immer gekennzeichnet werden. Praxis-Tipp: Kostenlose EU-Icons nutzen oder einen klaren Hinweissatz wie „mit KI erstellt“ ergänzen.

Was ist der EU AI Act eigentlich – kurz erklärt

Der EU AI Act (offiziell Verordnung (EU) 2024/1689) ist das weltweit erste umfassende Gesetz zur Regulierung Künstlicher Intelligenz. Die EU will damit zwei Dinge gleichzeitig: Menschen vor den Risiken von KI-Systemen schützen und gleichzeitig Innovation ermöglichen, statt sie abzuwürgen. Das Prinzip dahinter ist simpel und ziemlich pragmatisch: Je größer das Risiko einer KI-Anwendung für Gesundheit, Sicherheit oder Grundrechte, desto strenger die Auflagen. Ein Chatbot, der Öffnungszeiten beantwortet, wird also anders behandelt als ein KI-System, das Diagnosen vorschlägt.

In Kraft getreten ist der AI Act bereits am 01. August 2024, seither gelten seine Vorgaben in Etappen:

  • 📣 Seit 02. Februar 2025: KI-Systeme mit „inakzeptablem Risiko“ sind komplett verboten (dazu gleich mehr).
  • 📣 Seit 02. August 2025: Governance-Regeln und Pflichten für KI-Modelle mit allgemeinem Verwendungszweck (also ChatGPT, Claude, Gemini und Co.) sind wirksam.
  • 📣 Seit 02. August 2026: Die Transparenzpflichten zur Kennzeichnung von KI-Inhalten greifen – das ist der Stichtag, um den es in diesem Artikel vor allem geht. Für bereits bestehende Systeme läuft noch eine Übergangsfrist bis 02. Dezember 2026.
  • ❗️ Ab 02. Dezember 2027 bzw. 02. August 2028: Der Großteil der Pflichten für Hochrisiko-KI-Systeme wird verbindlich.

Für dich als Therapeutin oder Therapeut sind vor allem drei Ebenen relevant: die Regeln für zertifizierte Medizinprodukte, die neue Kennzeichnungspflicht gegenüber deinen Patientinnen und Patienten – und die Liste dessen, was du mit KI grundsätzlich niemals tun darfst.

Zertifizierte digitale Medizinprodukte: Wann wird KI zum Hochrisikofall?

Manche KI-Anwendungen fallen in die höchste Risikoklasse des AI Act – die sogenannten Hochrisiko-KI-Systeme. Dazu zählen insbesondere KI-Funktionen, die bereits als Medizinprodukt gelten, etwa Software zur Befundung, Diagnoseunterstützung oder Triage. Solche Systeme durchlaufen eine Konformitätsbewertung durch eine unabhängige, „Benannte Stelle“ (Notified Body) – nicht der Hersteller selbst prüft sich also, sondern eine externe Prüfstelle nimmt Qualitätsmanagement, technische Dokumentation und klinische Evidenz unter die Lupe. Erst danach gibt es das CE-Zeichen.

Was heißt das für deinen Praxisalltag? Im Kern eine einfache Regel: Nutze nur Software mit gültiger CE-Kennzeichnung, und zwar exakt für den Zweck, für den sie zertifiziert ist. Ein KI-Tool zur Befunderstellung, das für die Radiologie zertifiziert wurde, ist eben kein Freifahrtschein für die Nutzung in der Ergotherapie. Zusätzlich solltest du:

  • die menschliche Aufsicht organisatorisch absichern – ein KI-Vorschlag ersetzt nie deine fachliche Einschätzung,
  • Nutzung und Prüfprozesse in deinem Qualitätsmanagement bzw. in Standard-Abläufen dokumentieren,
  • und bei Vorfällen oder Auffälligkeiten strukturiert melden, statt sie stillschweigend zu ignorieren.

Die gute Nachricht: Die meisten Alltagswerkzeuge in Therapiepraxen – Diktier-Tools, Terminassistenten, Abrechnungshilfen – fallen in aller Regel nicht in diese Hochrisiko-Kategorie, solange sie rein unterstützend arbeiten und keine medizinischen Entscheidungen treffen. Trotzdem lohnt sich der Blick ins Kleingedruckte deiner Praxissoftware: Wirbt der Anbieter mit „KI-gestützter Diagnoseunterstützung“? Dann solltest du genauer hinschauen, ob und wie das Tool zertifiziert ist.

Chatbot, Voicebot und Co.: Wann müssen Patientinnen und Patienten es erfahren?

Das ist der Punkt, der aktuell die meisten Praxen betrifft – und auch der, an dem sich am 02. August 2026 tatsächlich etwas geändert hat. Artikel 50 des AI Act verlangt: Wer direkt mit Patientinnen, Patienten oder Kundschaft kommuniziert, per Chatbot, Sprachassistent oder Telefonbot, muss sich beim ersten Kontakt als KI zu erkennen geben. Es sei denn, es ist ohnehin offensichtlich.

Die Faustregel, die die allermeisten Fälle klärt: Kommuniziert eine Person direkt mit einem KI-System, muss das offengelegt werden. Bleibt die KI intern oder wird ihr Ergebnis vor Veröffentlichung fachlich geprüft, entfällt die Pflicht meist.

Konkret für deine Praxis:

🤖 Dein Website-Chatbot, der Terminanfragen oder Fragen zu Öffnungszeiten beantwortet? Kennzeichnungspflichtig, unabhängig von der Praxisgröße.

☎️ Ein KI-Telefonassistent, der außerhalb deiner Sprechzeiten Anrufe entgegennimmt? Auch hier braucht es einen kurzen Hinweis gleich zu Gesprächsbeginn – zum Beispiel: „Sie sprechen gerade mit einem digitalen Assistenten.“

💬 KI-gestützte Diktier- oder Dokumentationssoftware, mit der du Befunde oder Therapieberichte erstellst? Solange das intern bleibt und kein Patientenkontakt mit der KI selbst besteht, greift die Offenlegungspflicht in der Regel nicht.

ℹ️ Nutzt du KI zur Vorformulierung von Patienteninformationen (etwa zu einer neuen Behandlungsmethode) und prüfst und ergänzt den Text fachlich, bevor er rausgeht? Dann entfällt die Kennzeichnungspflicht – die fachliche Prüfung ist genau der Hebel, der zählt.

Wichtig zu wissen: Nutzt du ein Programm wie einen Website-Chatbot, eine KI-Telefonassistenz oder sonstige externe Programme, mit denen die PatientInnen direkt in Kontakt kommen und die du nicht intern verwendest und überprüfst, betrifft die Pflicht den Betreiber und nicht die Nutzerin oder den Nutzer. So muss z. B. der Anbieter der KI-Telefonassistenz, die du in der Praxis nutzt, einen klar hörbaren KI-Hinweis in sein Programm integrieren. Dein Part ist: Einen Anbieter auswählen, der klare Hinweise auf KI gibt und diese Hinweise nicht selbstständig abstellen oder entfernen. 

Bei einer strafbewehrten Schweigepflicht kommt noch ein ganz eigenes Thema dazu, das über den AI Act hinausgeht. Patientendaten – Diagnosen, Befunde, körperliche oder psychische Beschreibungen – gehören zu den besonderen Datenkategorien nach Art. 9 DSGVO. Wer Patientennamen oder Diagnosen in ein öffentliches ChatGPT- oder Claude-Fenster tippt, hat unter Umständen ein Praxisgeheimnis an einen Dritten weitergegeben, mit dem gar kein Auftragsverarbeitungsvertrag besteht. Für Diktate und Dokumentation empfehlen sich deshalb entweder lokal laufende Lösungen oder Enterprise-Tarife mit Auftragsverarbeitungsvertrag und EU-Hosting – nicht die kostenlose Consumer-Version im Browser. 

Wer auf Cloud-Tools nicht verzichten möchte, kann zusätzlich über ein eigenes Verschlüsselungs- oder Pseudonymisierungssystem nachdenken: Namen und andere eindeutig identifizierende Angaben werden dabei vor der Eingabe durch Kürzel oder Platzhalter ersetzt (aus „Max Müller, Bandscheibenvorfall L4/L5“ wird zum Beispiel „Patient 042, Diagnose X“), sodass die eigentlichen Patientendaten die Praxis gar nicht erst verlassen. Wichtig dabei: Eine solche Lösung ersetzt in der Regel nicht den Auftragsverarbeitungsvertrag, sie ist eine zusätzliche technische Absicherung – und die Zuordnungstabelle zwischen Kürzel und echter Person muss selbst wieder besonders geschützt und getrennt vom KI-Tool aufbewahrt werden.

Was du mit KI niemals tun darfst: die verbotenen Praktiken

Ganz oben in der Risikopyramide des AI Act stehen KI-Praktiken, die seit Februar 2025 EU-weit schlicht verboten sind – unabhängig von Branche oder Praxisgröße. Artikel 5 listet acht solcher Praktiken auf. Für Therapiepraxen sind vor allem zwei Kategorien relevant:

😵‍💫 Manipulative KI-Systeme. Verboten sind Technologien, die unterschwellig – also unterhalb der bewussten Wahrnehmung – das Verhalten von Menschen beeinflussen oder die gezielt Schwächen bestimmter Gruppen ausnutzen, etwa aufgrund von Alter, Behinderung oder einer schwierigen sozialen Lage. Klingt abstrakt, ist es aber gar nicht so sehr: Ein KI-Tool, das etwa gezielt die Ängste oder Unsicherheiten von Patientinnen und Patienten ausnutzt, um sie zu einer bestimmten (kostenpflichtigen) Zusatzleistung zu drängen, würde hier hineinfallen.

📊 Social Scoring. Verboten ist auch die Bewertung oder Klassifizierung von Personen anhand ihres Sozialverhaltens, wenn das zu einer benachteiligenden oder unverhältnismäßigen Behandlung führt. Für eine Therapiepraxis heißt das im Kern: Kein KI-System, das Patientinnen und Patienten anhand von Verhaltensdaten in „gute“ und „schwierige“ Kategorien einteilt und daran etwa den Praxiszugang oder die Behandlungspriorität koppelt.

Die Bußgelder für Verstöße gegen Artikel 5 sind übrigens die höchsten im gesamten AI Act – bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes, je nachdem, was höher ist. Für die allermeisten Therapiepraxen ist das ohnehin eher ein theoretisches Szenario, aber es lohnt sich, bei neuer Software kurz zu prüfen, ob KI-Funktionen enthalten sind, die in diese Kategorie fallen könnten – vor allem bei Tools zur Patientenbindung oder zum „Engagement-Scoring“.

Text- und Bildkennzeichnung: Dein Blog- und Social-Media-Content

Auch hier hat sich seit 02. August 2026 rechtlich etwas bewegt. Wer KI-generierte oder KI-veränderte Texte, Bilder, Audios oder Videos veröffentlicht, muss das unter bestimmten Voraussetzungen kennzeichnen:

📝 Bei Texten greift die Pflicht nur, wenn der Text die Öffentlichkeit über ein Thema von öffentlichem Interesse informiert – Gesundheitsthemen zählen ausdrücklich dazu – und wenn keine redaktionelle Prüfung stattgefunden hat. Sobald du (oder eine von dir benannte, verantwortliche Person) den KI-Entwurf vor Veröffentlichung liest, fachlich korrigierst und freigibst, entfällt die Kennzeichnungspflicht. Genau das ist der entscheidende Hebel: Nicht das Werkzeug entscheidet, sondern der Redaktionsprozess. Ein mit ChatGPT vorformulierter, aber von dir geprüfter Blogartikel über Rückenschmerzen? Unkritisch. Derselbe Text, ungeprüft direkt online gestellt? Kennzeichnungspflichtig.

🏞️ Bei Bildern gibt es diese Prüfausnahme nicht. Maßgeblich ist der sogenannte Deepfake-Begriff: KI-erzeugte oder manipulierte Bilder, die echten Personen, Orten oder Ereignissen ähneln und dabei täuschend echt wirken können, müssen gekennzeichnet werden – unabhängig davon, ob jemand sie vorher angeschaut hat. Ein realistisch wirkendes modifiziertes oder generiertes KI-Bild einer tatsächlich existierenden Person oder von einem tatsächlich existierenden Ort für deinen Instagram-Post braucht also ein sichtbares Kennzeichen. Offensichtlich künstliche Illustrationen, Cartoons oder klar erkennbare Fantasiemotive fallen dagegen nicht darunter, weil niemand sie für echt halten würde.

Für die Kennzeichnung selbst kannst du entweder die kostenlosen EU-Icons nutzen (verfügbar als „AI Generated“ für vollständig KI-erzeugte und „AI Modified“ für teilweise bearbeitete Inhalte) oder ein eigenes, gleichwertiges Label verwenden – ein kurzer Satz wie „Dieses Bild wurde mit KI erstellt“ reicht in der Regel. Wichtig ist nur: gut sichtbar, verständlich formuliert und spätestens beim ersten Kontakt erkennbar, auch wenn Inhalte später geteilt oder heruntergeladen werden.

Gut zu wissen: Bereits veröffentlichte Alt-Inhalte musst du nicht rückwirkend kennzeichnen. Die Pflicht gilt für Inhalte, die ab dem Stichtag veröffentlicht werden.

Die Checkliste für deine Praxis

Bevor die Regelungsflut dich erschlägt, hier das Wesentliche zum Abhaken:

  • ✅ KI-Inventur machen: Welche KI-Tools nutzt du in der Praxis – Chatbot, Diktiersoftware, Bildgenerator, Terminassistent?
  • ✅ Patientenkontakt prüfen: Kommuniziert eine KI direkt mit Patientinnen und Patienten? Dann braucht es einen sichtbaren oder hörbaren Hinweis.
  • ✅ Prüfprozess für Texte festlegen: Wer liest und gibt KI-Entwürfe frei, bevor sie veröffentlicht werden?
  • ✅ Bilder kennzeichnen: KI-generierte, realistisch wirkende Bilder für Social Media und Website sichtbar markieren.
  • ✅ Zertifizierung checken: Bei KI-Funktionen mit Diagnose- oder Befundungsanspruch: Ist das Tool als Medizinprodukt zertifiziert?
  • ✅ Datenschutz nicht vergessen: Keine vertraulichen Patientendaten in öffentliche KI-Tools ohne Auftragsverarbeitungsvertrag eingeben.

Der EU AI Act ist kein Grund, KI komplett aus der Praxis zu verbannen. Er ist eher eine Einladung, einmal bewusst hinzuschauen: Welche Tools nutze ich eigentlich, wo kommen meine Patientinnen und Patienten direkt mit KI in Kontakt, und ist das transparent genug? Wer diese Fragen einmal für die eigene Praxis durchdenkt, hat das Wichtigste schon erledigt.

FAQs zum EU AI Act

Muss ich alte, bereits veröffentlichte Bilder und Texte nachträglich als „KI-generiert“ kennzeichnen?

Nein. Inhalte, die vor dem 02. August 2026 veröffentlicht wurden, müssen nicht rückwirkend gekennzeichnet oder überarbeitet werden. Die Pflicht gilt für Inhalte, die ab diesem Stichtag neu veröffentlicht werden.

Muss ich meine Diktiersoftware zur Befunderstellung kennzeichnen, wenn ich damit Berichte erstelle?

In der Regel nicht. Solange die KI intern bei dir bleibt und nicht direkt mit deinen Patientinnen oder Patienten kommuniziert, greift die Transparenzpflicht aus Art. 50 AI Act nicht. Achte trotzdem auf Datenschutz: Nutze für Diktate mit Patientendaten möglichst lokale Lösungen oder Enterprise-Tarife mit Auftragsverarbeitungsvertrag und EU-Hosting statt kostenloser Consumer-Tools. Und vor allem: Nutze Betreiber, die die KI hinter ihrem Programm für die PatientInnen klar sicht- und/oder hörbar machen.

Ist mein KI-Terminbot auf der Website automatisch ein Hochrisiko-System?

Nein. Ein Terminbot fällt normalerweise nicht unter die Hochrisiko-Kategorie – die betrifft vor allem KI in zertifizierten Medizinprodukten, etwa zur Diagnose oder Triage. Ein Terminbot unterliegt aber der Kennzeichnungspflicht nach Art. 50: Patientinnen und Patienten müssen beim ersten Kontakt erfahren, dass sie mit einer KI sprechen.

Header © Mockups | Canva

Weiterlesen