KI in der psychiatrischen Praxis: Was heute geht — und was nicht.

Künstliche Intelligenz ist in der psychiatrischen Versorgung angekommen — am sichtbarsten dort, wo es um Sprache geht: Dokumentation, Transkription, Zusammenfassung. Der Autor hat die Evidenzlage in einer eigenen, zur Publikation eingereichten Übersichtsarbeit (2026) erstmals spezifisch für Psychiatrie und Neurologie gewertet; dieser Artikel folgt dieser Analyse.

Das Feld im Überblick

KI begegnet der Psychiatrie derzeit auf vier Feldern, die in Reife, Evidenz und Regulatorik weit auseinanderliegen. Die Dokumentation — Transkription, ambiente Systeme, Briefe und Berichte, Formulierungshilfen für Anträge — ist das praktisch wichtigste und am besten kontrollierbare Feld; um sie geht es in diesem Artikel. Entscheidungsunterstützung — Literaturrecherche, Leitlinienwissen, Antworten auf klinische Fragen — ist brauchbar, wenn das System seine Quellen nennt und die Antwort damit nachprüfbar ist. Prädiktion und Monitoring — Modelle zu Rückfallrisiko, Suizidalität oder Therapieansprechen — stecken überwiegend im Forschungsstadium; offen sind Generalisierbarkeit und Verzerrungen aus den Trainingsdaten. Software, die Diagnosen nahelegt oder Therapieentscheidungen empfiehlt, unterliegt zudem regulatorisch einer eigenen Zulassungslogik. Patientenseitige Angebote — Chatbots und digitale Begleiter — behandelt der Leitfaden KI in der psychotherapeutischen Praxis.

Evidenz: was belegt ist — und woher es stammt

Die derzeit belastbarste Wirksamkeitsstudie ambienter Dokumentationssysteme ist eine randomisierte kontrollierte Studie mit 238 ambulanten Ärzten aus 14 Fachrichtungen (Lukac u. a., NEJM AI 2025): Die Schreibzeit pro Notiz sank signifikant um rund 9,5 Prozent — allerdings nur für eines der beiden geprüften Systeme; beide verbesserten validierte Maße der kognitiven Arbeitslast moderat. Eine Beobachtungsstudie berichtet deutlichere, aber nicht randomisierte Effekte: Nach 30 Tagen sank der Anteil der Teilnehmenden mit Burnout von 51,9 auf 38,8 Prozent (JAMA Network Open 2025). Der konsistenteste qualitative Befund betrifft die Interaktion selbst: Ärzte erleben sich präsenter, Beobachtungsdaten zeigen mehr Blickkontakt — eine prospektive Time-Motion-Studie beschreibt ambiente Systeme darum als Qualitätsintervention, die ärztliche Aufmerksamkeit von klerikaler Arbeit zur Patientenzuwendung verschiebt.

Drei Einschränkungen gehören zu diesen Zahlen. Erstens stammt ein beträchtlicher Teil der Studien von Herstellern oder ist ihnen nahe. Zweitens dominieren selbstberichtete Endpunkte; ein Rapid Review hält fest, dass die eingesparte Schreibzeit zwischen Einrichtungen erheblich schwankt und offen bleibt, ob gewonnene Zeit der Patientenversorgung oder einer höheren Patientenzahl zugutekommt. Drittens — und für diesen Artikel entscheidend: Keine der randomisierten oder kontrollierten Arbeiten schließt eine psychiatrische oder neurologische Kohorte ein. Für die niedergelassene nervenärztliche Versorgung in Deutschland existiert bislang keine belastbare Wirksamkeitsstudie. Wer ambiente Dokumentation in der psychiatrischen Praxis einführt, überträgt fachfremde Evidenz — das mag verantwortbar sein, sollte aber als das erkannt und benannt werden, was es ist.

Das Gespräch ist die Leistung

Warum diese Übertragung nicht selbstverständlich ist, liegt am Charakter des Faches. In der somatischen Medizin dient das Gespräch der Befunderhebung; es geht der eigentlichen Leistung voraus. In der Psychiatrie ist das Gespräch vielfach die Leistung selbst — Exploration, Beziehungsaufbau und Intervention vollziehen sich im Gesprochenen. Ein System, das dieses Gespräch kontinuierlich aufzeichnet und maschinell verarbeitet, greift damit nicht in eine Randbedingung der Behandlung ein, sondern in ihr Zentrum. Dazu kommt die besondere Sensibilität der Inhalte: Suizidalität, Traumamaterial, fremdanamnestische Angaben Dritter, forensisch relevante Offenbarungen gehören zu den sensibelsten Daten der gesamten Medizin.

Die Fehlertypologie — und ihr psychiatrischer Ernstfall

Die Fehlerforschung unterscheidet drei kategoriale Fehlerarten KI-generierter Notizen: Halluzinationen (Inhalte ohne Entsprechung im Gespräch), faktische Ungenauigkeiten (verändert wiedergegebene Inhalte) und Omissionen (ausgelassene relevante Inhalte). Die größte manuelle Evaluation (Asgari u. a., npj Digital Medicine 2025, knapp 13.000 klinikerannotierte Sätze) fand Halluzinationsraten von 1,47 und Omissionsraten von 3,45 Prozent — wobei 44 Prozent der Halluzinationen als potenziell versorgungsrelevant eingestuft wurden. Entdeckbar sind die Kategorien unterschiedlich gut: Während Halluzinationen einer aufmerksamen Durchsicht zugänglich sind, setzt die Omission voraus, dass der Prüfende den Gesprächsinhalt vollständig erinnert. Die Durchsicht des Dokuments allein genügt nicht.

Zwei psychiatriespezifische Verschärfungen kommen hinzu. Die erste betrifft die Risikodokumentation: Eine Omission — die erfragte, aber nicht dokumentierte Suizidabwägung — nimmt dem Behandler im Nachhinein den Beleg seiner Sorgfalt, und § 630h Abs. 3 BGB vermutet dann, dass die Maßnahme nicht getroffen wurde. Eine Halluzination — die dokumentierte, aber nicht erfolgte Exploration — erzeugt umgekehrt den Anschein einer Risikoabklärung, die nie stattgefunden hat.

Die zweite ist subtiler und wurde vom Autor erstmals als eigener Fehlertyp beschrieben: die Tilgung der Unsicherheitssprache. Sprachmodelle neigen bei der Zusammenfassung zu Übergeneralisierung und tilgen einschränkende Qualifikationen. Wird aus „verneint auf Nachfrage glaubhaft Suizidalität, im Affekt schwingungsfähig" die Formulierung „keine Suizidalität", ist kein Faktum erfunden und keines ausgelassen — und dennoch hat sich der Aussagegehalt verändert: Aus einer klinischen Einschätzung mit dokumentierter Grundlage ist eine apodiktische Feststellung geworden. In der Psychiatrie ist diese Unsicherheitssprache kein Stilmerkmal, sie trägt diagnostischen Gehalt: Sie dokumentiert den Grad der Festlegung und hält den differenzialdiagnostischen Raum offen. Der Fehler entzieht sich der üblichen Annotation, weil er auf Satzebene korrekt erscheint — und ist gleichwohl versorgungs- und haftungsrelevant. Vergleichbares gilt für Fremdgefährdung, Wahnsymptomatik und Absprachefähigkeit.

Automation Bias: die gefährliche Konstellation

Die Evaluationen zeigen ein Muster, das nach Ansicht des Autors den eigentlichen Risikokern bildet: KI-generierte Notizen wirken vollständiger und besser organisiert, enthalten aber häufiger Halluzinationen — und werden dennoch bevorzugt. In einer Evaluation mit dem validierten PDQI-9-Instrument (Palm u. a., Frontiers in Artificial Intelligence 2025) enthielten 31 Prozent der KI-Notizen Halluzinationen gegenüber 20 Prozent der ärztlichen — trotzdem bevorzugten verblindete Gutachter die KI-Notizen (47 gegenüber 39 Prozent). Ein Dokument, das glatter und vollständiger wirkt als der eigene Entwurf, senkt die Wahrscheinlichkeit kritischer Prüfung: der Automation Bias. Ein empirisches Warnsignal in dieselbe Richtung liefert eine retrospektive Untersuchung aus der Primärversorgung (medRxiv 2025): Unter ambienter Dokumentation wurde mehr neuropsychiatrische Symptomatik dokumentiert — bei zugleich geringerer Interventionswahrscheinlichkeit (adjustierte Odds Ratio 0,83). Vollständigere Dokumentation und tatsächliche Versorgung können auseinanderfallen.

Einwilligung bei fluktuierender Einwilligungsfähigkeit

Die Aufzeichnung des Behandlungsgesprächs braucht die Einwilligung aller Beteiligten — strafrechtlich (§ 201 StGB), wegen der Weitergabe an externe Dienstleister (§ 203 StGB) und datenschutzrechtlich (Art. 9 DSGVO). In der Psychiatrie verschärft sich das: Einwilligungsfähigkeit ist keine stabile Eigenschaft, sondern kann krankheitsbedingt fluktuieren — zwischen Terminen ebenso wie innerhalb einer Konsultation, bei akuter Psychose, Manie oder schwerer depressiver Hemmung. Die zu Behandlungsbeginn erteilte Einwilligung trägt dann womöglich nicht mehr in der Krise, in der das Gespräch seine sensibelsten Inhalte erreicht. Hinzu kommt die unterschiedslose Erfassung: Ambiente Systeme zeichnen alles auf, was gesprochen wird — auch das, was der Patient in der berechtigten Erwartung äußert, es bleibe im geschützten Raum. Für beide Probleme existieren bislang weder Verfahrensstandards noch empirische Untersuchungen.

Für die Einführung des Systems im Gespräch hilft ein einfacher Satz:

„Ich nutze ein Programm, das während unseres Gesprächs mitschreibt, damit ich Ihnen zugewandt bleiben kann, statt zu tippen. Es hört nur hier im Raum zu, und Sie können jederzeit sagen, dass ich es ausschalten soll."

Eine weitere offene Baustelle ist die Sprache der Dokumentation selbst: Für klinische Texte ist gezeigt, dass stigmatisierende Formulierungen die Entscheidungen nachfolgender Behandler beeinflussen (PLoS ONE 2024, Scoping Review). Welche sprachlichen Muster generative Systeme in psychiatrische Verlaufseinträge einschreiben, ist nicht untersucht.

Regulatorik in Kürze

Die KI-Verordnung der EU ordnet Dokumentationssysteme nach überwiegender Lesart nicht den Hochrisiko-Anwendungen zu, verlangt aber Transparenz gegenüber Betroffenen und wirksame menschliche Aufsicht; Art. 50 KI-VO befreit maschinell erzeugte Texte von der Kennzeichnung, wenn sie menschlich geprüft und redaktionell verantwortet werden — was kennzeichnungsrechtlich entbehrlich ist, kann beweisrechtlich gleichwohl geboten sein (zum Beweiswert der Akte: Atteste und Stellungnahmen). Beim Datentransfer in Drittländer beruht die Zulässigkeit derzeit auf dem EU-US Data Privacy Framework, dessen Bestand nach Schrems I und II nicht als gesichert gilt — für die Daten des psychiatrischen Gesprächs spricht das für Architekturen ohne Drittlandtransfer.

Praktische Leitplanken

Aus alledem folgt keine Empfehlung des Abwartens, aber eine des strukturierten Vorgehens — die kompensierenden Vorkehrungen, die der Autor für die Einführung im Fach fordert: die konsequente inhaltliche Freigabe statt formaler Bestätigung (die Freigabe ist der Moment der Verantwortungsübernahme, nicht ein Klick), besondere Prüfsorgfalt bei der Risikodokumentation und bei jeder Formulierung, die den Festlegungsgrad trägt, ein definierter Umgang mit Rohaufzeichnungen (ob und wie lange Audio und Transkript aufbewahrt werden, muss entschieden und dokumentiert sein — die ungeregelte Koexistenz zweier divergierender Aufzeichnungen ist der forensisch ungünstigste Zustand) und die Kenntlichmachung der Entstehungsart der Dokumentation.

Die Freigabe als klinische Fertigkeit

Für die tägliche Freigabe helfen drei Fragen — eine je Fehlerart:

1. Steht etwas im Text, das so nicht gesagt wurde? Verdächtig sind gerade die glatten Ergänzungen: ein „keine Beschwerden", das nie gefallen ist, eine Vorgeschichte, die im Gespräch so nicht vorkam.
2. Fehlt etwas, das gesagt wurde? Das lässt sich nur mit der eigenen Erinnerung beantworten. Deshalb: zeitnah freigeben, solange das Gespräch präsent ist, und sicherheitsrelevante Inhalte — erfragte Suizidalität, getroffene Absprachen — aktiv abgleichen, statt darauf zu warten, dass sie im Text auftauchen.
3. Klingt eine Formulierung bestimmter, als sie gemeint war? Wo man selbst „verneint auf Nachfrage glaubhaft" geschrieben hätte und im Text „keine" steht, gehört die Abstufung zurück in den Text. Bei Suizidalität, Fremdgefährdung, Wahnsymptomatik und Absprachefähigkeit ist das keine Stilfrage, sondern Befundarbeit.