Thema 4.7 — Klinische Entscheidungsunterstützung und klinische Informatik

Klinische Entscheidungsunterstützung ist klinisches Wissen, in Software gegossen, die am Behandlungsort auslöst; sie richtig zu machen – der richtige Impuls für die richtige Person im richtigen Moment und keine anderen – ist daher eine Disziplin der klinischen Sicherheit, der Arbeitsabläufe und des öffentlichen Vertrauens und keine Konfigurationsnebensache.

Warum das in Gesundheit und Pflege wichtig ist#

Jedes Rezept, jede Überweisung, jede Testanforderung und jede Diagnose läuft in einem modernen Gesundheitsdienst inzwischen durch Software, die die Entscheidung unterstützen oder behindern kann. Ein gut gestalteter Alarm hält eine tödliche Arzneimittelwechselwirkung auf, bevor sie die Patientin erreicht; ein schlecht gestalteter feuert so oft, dass Klinikpersonal lernt, ihn ungelesen wegzuklicken, und an dem Tag, an dem es zählt, ihn ebenfalls abtut. Derselbe Mechanismus, der Schaden verhindert, kann ihn erzeugen. Deshalb ist Entscheidungsunterstützung kein Feature, das man einschaltet, sondern ein Korpus klinischen Wissens, das man steuert, mit demselben Ernst, den man einem Arzneimittel oder einem Medizinprodukt entgegenbringt.

Der Einsatz ist in dreifacher Weise besonders. Erstens arbeitet Entscheidungsunterstützung in großem Maßstab und mit hoher Geschwindigkeit: Eine einzelne Regeländerung pflanzt sich sofort zu Tausenden Klinikern und Millionen Begegnungen fort, sodass ein subtiler Fehler ein systemischer ist. Zweitens ist sie von Konstruktion an sicherheitskritisch – ein Alarm, der eine echte Warnung unterdrückt, oder ein Rechner, der eine pädiatrische Dosis falsch rundet, ist eine Gefährdung, die die Software eingeführt hat (siehe Thema 1.6 — Klinische Sicherheit und Risikomanagement). Drittens formt sie klinisches Verhalten, ob Sie es beabsichtigten oder nicht: Was das System leicht macht, wird zum Standard, und was es unterbricht, wird verübelt. Entscheidungsunterstützung ist daher eine Übung in Beeinflussung, und Beeinflussung in der Gesundheitsversorgung ist nie neutral.

Hinter der Software steht eine Profession. Klinische Informatik ist die Disziplin, die klinische Praxis, Information und Technologie verbindet, und sie ist der Grund, warum Entscheidungsunterstützung von Menschen verfasst werden kann, die sowohl die Medizin als auch die Maschine verstehen. Ohne diese Profession – ohne Chief Clinical Information Officers, klinische Sicherheitsbeauftragte und informatisch geschulte Klinikerinnen und Kliniker im Raum – driftet Entscheidungsunterstützung zu dem, was ein Lieferant standardmäßig ausgeliefert hat, von niemandem abgestimmt, von niemandem verantwortet und von allen vertraut, bis sie versagt. Entscheidungsunterstützung als technische Einstellung statt als gesteuertes klinisches Gut zu behandeln, ist der Weg, auf dem Organisationen bei Tausenden Regeln enden, an deren Verfassen sich niemand erinnert und die niemand abzuschalten wagt.

Kernkonzepte#

Ein klinisches Entscheidungsunterstützungssystem (Clinical Decision Support System) (CDSS, oder einfach CDS) ist Gesundheits-IT, die Klinikpersonal, Mitarbeitenden oder Patientinnen Wissen und personenspezifische Informationen gibt, intelligent gefiltert und zu passenden Zeiten präsentiert, um eine Entscheidung zu verbessern. Die klassische Taxonomie unterscheidet mehrere Formen. Alarme und Erinnerungen unterbrechen, um zu warnen oder anzustoßen – eine Warnung vor Arzneimittelwechselwirkungen, eine Erinnerung an eine überfällige Impfung. Order-Sets bündeln die für eine Situation passenden Tests, Arzneimittel und Anweisungen, sodass die richtigen Dinge zusammen angefordert werden. Behandlungspfade kodieren einen klinischen Pfad – eine standardisierte, evidenzbasierte Abfolge der Versorgung – in den Arbeitsablauf. Dokumentationsvorlagen strukturieren, was erfasst wird, damit nichts Wesentliches fehlt. Diagnoseunterstützung schlägt mögliche Diagnosen vor oder reiht sie. Und Rechner setzen einen medizinischen Algorithmus um – eine Dosisberechnung, einen Risikoscore, eine eGFR –, damit die Arithmetik konsistent erfolgt.

Die Leitidee für Qualität sind die „fünf Richtigen“ der Entscheidungsunterstützung: die richtige Information an die richtige Person im richtigen Format über den richtigen Kanal zur richtigen Zeit im Arbeitsablauf. Eine Regel kann klinisch korrekt sein und doch an jedem dieser Punkte scheitern – genaue Information an die falsche Rolle, als harter Stopp, wo eine passive Anzeige genügt hätte, vergraben in einem Bildschirm, den niemand liest, Minuten nachdem die Entscheidung längst getroffen war. Die meisten Fehler der Entscheidungsunterstützung sind keine Fehler medizinischen Wissens; es sind Fehler eines oder mehrerer der fünf Richtigen.

Der dominante Fehlermodus hat einen eigenen Namen. Alarmmüdigkeit (Alarm Fatigue) (auch Alert Fatigue) ist die Desensibilisierung, die einsetzt, wenn Klinikpersonal so vielen Warnungen begegnet, dass es aufhört, ihnen Aufmerksamkeit zu schenken, und das Wichtige zusammen mit dem Trivialen übersteuert. Weil in einem typischen System die meisten Alarme übersteuert werden, ist die Übersteuerungsrate ein Vitalzeichen für die Gesundheit der Entscheidungsunterstützung: Eine hohe bedeutet, dass das System seine Nutzenden dazu erzieht, es zu ignorieren. Die Heilung sind nicht mehr Alarme, sondern weniger, schärfere, besser zugeschnittene.

Zwei Konzepte bestimmen, wie gut Entscheidungsunterstützung ankommt. Entscheidungsunterstützung lebt in der elektronischen Gesundheitsakte (EHR, im NHS elektronische Patientenakte oder EPR genannt) und oft in der computergestützten Arztanordnung (Computerized Physician Order Entry) (CPOE), sodass sie als Teil eines weiteren soziotechnischen Systems gelingt oder scheitert – des wechselwirkenden Geflechts aus Menschen, Aufgaben, Technologie und Organisation. Eine Regel, die den realen Arbeitsablauf ignoriert, wird, wie stichhaltig ihre Logik auch sei, zur Reibung, die umgangen wird. Und der Inhalt selbst ist ein Wissensgut: Die Regeln kodieren evidenzbasierte Medizin und eine medizinische Leitlinie, die sich im Lauf der Zeit ändern; Entscheidungsunterstützung muss daher wie jeder andere Korpus klinischen Wissens verfasst, überprüft, versioniert und stillgelegt werden (siehe Thema 10.3 — Wissensmanagement und Dokumentation).

Gesundheitsinformatik – und ihre klinische Teildisziplin, die klinische Informatik – ist das Feld, das Information und Technologie in der Gesundheitsversorgung untersucht und anwendet. Im Vereinigten Königreich professionalisierte es sich durch die Faculty of Clinical Informatics und Rollen wie den Chief Clinical Information Officer (CCIO) und den Chief Nursing Information Officer (CNIO). Historisch wurde viel Regellogik in der Arden-Syntax ausgedrückt, einem Standard zur Darstellung teilbaren medizinischen Wissens als Medical Logic Modules; heute wollen Standards wie HL7 CDS Hooks und FHIR-basiertes Clinical Reasoning Entscheidungsunterstützung über Systeme hinweg teilbar machen (siehe Thema 4.3 — Interoperabilität und Datenstandards). Beachten Sie schließlich die Grenze dieses Themas: Es verantwortet regel- und wissensbasierte Unterstützung und die Profession der Informatik. Statistische und maschinelle Lernansätze (Machine Learning) – einschließlich computergestützter Diagnose und Software als Medizinprodukt – werden als künstliche Intelligenz gesteuert (siehe Thema 8.4 — Governance von KI und aufkommenden Technologien).

Bewährte Praktiken#

1. Gestalten Sie nach den fünf Richtigen und behandeln Sie den Alarm als letztes Mittel. Fragen Sie vor dem Bau jeder Regel, welchem der fünf Richtigen sie dient und ob eine Unterbrechung wirklich das richtige Instrument ist. Machen Sie lieber den sicheren Weg zum leichten Weg – eine sinnvolle Standarddosis, ein vorausgefülltes Order-Set, eine Vorlage, die gute Dokumentation strukturiert – als eine Warnung, die den unsicheren im Nachhinein bestraft. Ein unterbrechender Alarm ist die teuerste Form der Entscheidungsunterstützung, weil er die knappste Ressource im Haus verbraucht: klinische Aufmerksamkeit. Reservieren Sie ihn für Gefährdungen, die ernst, umsetzbar und spezifisch genug sind, um zu rechtfertigen, eine beschäftigte Klinikerin anzuhalten.

2. Steuern Sie Inhalte der Entscheidungsunterstützung als klinisches Wissensgut mit Lebenszyklus. Jede Regel, jedes Order-Set und jede Vorlage braucht eine benannte klinische Verantwortliche, eine Evidenzgrundlage, ein Überprüfungsdatum, eine Versionshistorie und einen definierten Stilllegungsweg. Richten Sie eine Governance-Gruppe für klinische Inhalte ein – Klinikpersonal, Apothekerinnen, Informatiker und einen klinischen Sicherheitsbeauftragten –, die freigibt, was live geht, es planmäßig überprüft und stilllegt, was die Evidenz überholt hat. Ohne das sammelt sich Inhalt an: Regeln vermehren sich, widersprechen einander und überleben die Leitlinien, auf denen sie gebaut wurden, und niemand ist sicher genug, irgendeine davon abzuschalten.

3. Messen Sie Übersteuerungsraten und jagen Sie das Rauschen. Das nützlichste Einzelsignal für die Gesundheit der Entscheidungsunterstützung ist, wie oft Klinikpersonal jeden Alarm übersteuert, aufgeschlüsselt nach Regel, Fachrichtung und Rolle. Eine Regel, die bei fast jedem Auslösen übersteuert wird, schützt niemanden – sie erzieht Nutzende, das ganze System zu ignorieren, auch die Alarme, die zählen. Überprüfen Sie die schlimmsten Übeltäter regelmäßig und handeln Sie: Legen Sie sie still, verengen Sie ihre Auslösekriterien, stufen Sie sie von unterbrechend auf passiv herab oder beheben Sie das zugrunde liegende Datenproblem, das sie fälschlich auslösen lässt. Rauschen herunterzuregeln ist ebenso eine Sicherheitsaktivität wie eine neue Regel hinzuzufügen.

4. Stufen Sie Alarme nach Schweregrad ab und machen Sie die Unterbrechung verhältnismäßig. Nicht jede Warnung verdient es, die Welt anzuhalten. Gestalten Sie eine bewusste Hierarchie – ein echter harter Stopp für die seltene, katastrophale Gefährdung; eine unterbrechende, aber übersteuerbare Warnung für ernste Risiken; und passive, nicht blockierende Information für das bloß Nützliche. Passen Sie die Reibung an den klinischen Einsatz an und verlangen Sie eine Begründung für das Übersteuern nur bei Alarmen, die ernst genug sind, den zusätzlichen Tastendruck zu rechtfertigen. Wenn alles dringend ist, ist nichts dringend, und die wirklich gefährliche Warnung ertrinkt im Trivialen.

5. Bauen Sie Entscheidungsunterstützung in den realen Arbeitsablauf ein, nicht darauf. Eine klinisch perfekte Regel, die am falschen Schritt, im falschen Bildschirm, für die falsche Rolle ankommt, wird umgangen oder ignoriert (siehe Thema 8.3 — Verhaltenswissenschaft und Annahme). Gestalten Sie mit dem Klinikpersonal, das sie nutzen wird – beobachten Sie die tatsächliche Aufgabe, kartieren Sie, wo die Entscheidung wirklich fällt, und platzieren Sie die Unterstützung dort. Testen Sie sie vor dem Go-live in realistischer Umgebung und beobachten Sie, was Menschen tun, denn die Lücke zwischen dem gestalteten und dem gelebten Arbeitsablauf ist der Ort, an dem Entscheidungsunterstützung leise scheitert.

6. Halten Sie fest einen Menschen in der Schleife und bewahren Sie klinisches Urteil. Entscheidungsunterstützung rät; die Klinikerin entscheidet und bleibt rechenschaftspflichtig. Gestalten Sie so, dass Übersteuern möglich, schnell und, wo es zählt, mit Begründung erfasst ist – sowohl um professionelles Urteil zu respektieren als auch um die Daten zu erzeugen, die die Regel verbessern. Hüten Sie sich vor Automationsbias, der Neigung, dem Vorschlag der Maschine zu sehr zu vertrauen: Ein diagnostischer Hinweis, der eine Klinikerin auf die falsche Antwort verankert, kann so schädlich sein wie gar kein Hinweis. Das Ziel ist, Expertise zu erweitern, niemals sie zu entwerten oder stillschweigend eine Haftung zu übernehmen, die das System nie tragen sollte.

7. Führen Sie Entscheidungsunterstützung unter Management der klinischen Sicherheit und der Profession der Informatik. Behandeln Sie jede neue Regel und jede Änderung als klinischen Sicherheitsfall nach den NHS-Standards DCB0129 (Hersteller) und DCB0160 (Betreiber), wobei ein klinischer Sicherheitsbeauftragter die Gefährdungsanalyse freigibt (siehe Thema 1.6 — Klinische Sicherheit und Risikomanagement). Geben Sie der Arbeit professionelle Verantwortung: einen CCIO oder CNIO, der für den klinischen Inhalt rechenschaftspflichtig ist, informatisch geschulte Klinikerinnen, die ihn verfassen, und einen Weg für Personal an der Front, einen Alarm zu melden, der falsch, fehlend oder schädlich ist. Entscheidungsunterstützung ohne benannte klinische Verantwortliche ist ein verwaistes Sicherheitssystem, das darauf wartet zu versagen.

8. Bewerten Sie die Wirksamkeit an Ergebnissen und seien Sie ehrlich, wenn sie nicht funktioniert. Der Zweck einer Regel ist, eine Entscheidung zum Besseren zu verändern; messen Sie also, ob sie das tut – Verordnung, die sicherer wurde, ein Test, der nicht mehr überbestellt wurde, ein Pfad, den Patientinnen tatsächlich abschlossen –, nicht bloß, dass der Alarm feuerte (siehe Thema 8.6 — Forschung und Evaluation unter realen Bedingungen). Achten Sie auf unbeabsichtigte Folgen: Alarme, die Arbeit auf eine andere Rolle verlagern, Umgehungen, die neue Gefährdungen schaffen, oder „korrekte“ Hinweise, die Zeit kosten, ohne Ergebnisse zu ändern. Wo die Evidenz sagt, dass eine Regel Reibung ohne Nutzen erzeugt, legen Sie sie still. Zurückhaltung – Dinge abzuschalten – ist eine reife Form der Entscheidungsunterstützung, kein Rückzug von ihr.

Fragen zur Diskussion im Team#

1. Welche unserer Alarme schützen tatsächlich Patientinnen und Patienten, und welche erziehen unser Klinikpersonal nur, „Übersteuern“ zu klicken? Das ist wichtig, weil ein Entscheidungsunterstützungssystem nur so vertrauenswürdig ist wie seine schlechtesten Alarme: Eine Handvoll verrauschter, fast nutzloser Warnungen lehrt Klinikpersonal, alles reflexhaft abzutun, sodass an dem Tag, an dem eine echte Gefährdung feuert, sie mit dem Rest übersteuert wird. Ziehen Sie die realen Übersteuerungsraten nach Regel und Rolle und seien Sie ehrlich darüber, was eine Übersteuerungsrate von 95 % Ihnen sagt – nicht, dass Klinikpersonal nachlässig ist, sondern dass die Regel für den Arbeitsablauf falsch ist. Debattieren Sie den härteren Zielkonflikt: Jeder Alarm, den Sie stilllegen, entfernt ein theoretisches Sicherheitsnetz, und jemand wird fragen: „Was, wenn der eine Fall, den wir verpassen, der ist, den wir abgeschaltet haben?“ Eine gute, ehrliche Antwort widersteht dieser Rahmung, erkennt an, dass ein ignorierter Alarm niemanden schützt, und verpflichtet sich, den Bestand aktiv herunterzuregeln – die lautesten Regeln stillzulegen, zu verengen oder herabzustufen –, statt nur immer neue hinzuzufügen. Sie benennt auch, wer befugt ist, eine Regel abzuschalten, denn wenn die Antwort „niemand traut sich“ lautet, wird das System nur immer lauter.

2. Wer verantwortet unsere Inhalte der Entscheidungsunterstützung als klinisches Wissen – und würden wir merken, wenn eine Regel auf Leitlinien beruhte, die sich vor zwei Jahren geändert haben? Regeln der Entscheidungsunterstützung kodieren klinische Evidenz und Leitlinien, die sich weiterentwickeln, doch in vielen Organisationen wurde der Inhalt beim Go-live einmal von einem Lieferanten konfiguriert und seither nie systematisch überprüft. Besprechen Sie, ob jede Regel, jedes Order-Set und jede Vorlage eine benannte klinische Verantwortliche, eine Evidenzgrundlage, ein Überprüfungsdatum und eine Versionshistorie hat oder ob große Teile des Bestands faktisch unverantwortet und ungeprüft sind. Bringen Sie die Spannung zwischen dem Aufwand ordentlicher Inhalts-Governance und dem Tempo ans Licht, in dem sich Leitlinien ändern: Niemand hat Zeit, Tausende Regeln zu überprüfen, sodass die Gefahr besteht, dass die Überprüfung bei keiner stattfindet. Bedenken Sie den konkreten Fehler – eine Dosisgrenze oder Wechselwirkungsregel, die überholte Leitlinien abbildet, still falsch in jeder Begegnung, die sie berührt. Eine gute Antwort richtet eine ständige Governance-Gruppe für klinische Inhalte mit echter Befugnis ein, einen risikobasierten Überprüfungsplan, der Inhalte mit dem höchsten Schadenspotenzial priorisiert, und einen klaren Stilllegungsweg, und sie räumt offen ein, wo heute die ehrliche Antwort lautet: „Wir wissen nicht, wann das zuletzt geprüft wurde.“

3. Wie bauen und bewerten wir Entscheidungsunterstützung so, dass sie zur tatsächlichen Arbeitsweise von Klinikpersonal passt – und woran würden wir merken, dass sie alles verschlimmert hat? Eine Regel kann medizinisch einwandfrei sein und doch scheitern, weil sie im falschen Moment ankommt, die falsche Rolle unterbricht oder Arbeit auf jemanden weiter unten schiebt, der nie darum gebeten hat. Besprechen Sie, ob Ihre Entscheidungsunterstützung mit Klinikpersonal an der Front gestaltet wird, das den realen Arbeitsablauf beobachtet, oder von Menschen konfiguriert wird, die eine Spezifikation lesen und die Aufgabe nie ausgeführt gesehen haben. Debattieren Sie, was „Erfolg“ bedeutet: Auslösezahlen und Klickraten sind leicht zu erheben, sagen aber fast nichts, während veränderte Ergebnisse und vermiedener Schaden zählen und weit schwerer zu messen sind (siehe Thema 8.6 — Forschung und Evaluation unter realen Bedingungen). Bringen Sie die unbeabsichtigten Folgen ans Licht, für die Sie blind sein könnten – Umgehungen, die neue Gefährdungen schaffen, Automationsbias, der eine Klinikerin auf einen falschen Hinweis verankert, oder Zeit, die ohne Nutzen hinzukommt. Eine gute Antwort behandelt jede bedeutende Regel als zu evaluierende Änderung, nicht als umzulegenden Schalter, koppelt quantitative Signale mit der Beobachtung realer Nutzender und ist bereit zu schließen, dass eine gut gemeinte Regel entfernt werden sollte.

4. Wenn wir eine Regel der Entscheidungsunterstützung ändern, behandeln wir das als Änderung der klinischen Sicherheit mit Gefährdungsanalyse – oder als routinemäßige Konfigurationsbearbeitung? Eine einzelne Regeländerung pflanzt sich sofort zu Tausenden Klinikerinnen und Klinikern und Millionen Begegnungen fort; der Unterschied zwischen diesen beiden Rahmungen ist daher der Unterschied zwischen einem gesteuerten klinischen Gut und einem ungesteuerten. Besprechen Sie ehrlich, ob heute jede bedeutende Änderung durch einen klinischen Sicherheitsfall nach DCB0129 und DCB0160 läuft, wobei ein klinischer Sicherheitsbeauftragter die Gefährdungsanalyse freigibt, oder ob Änderungen in einem Konfigurationsbildschirm von Menschen vorgenommen werden, die sie nie als sicherheitskritisch sehen (siehe Thema 1.6 — Klinische Sicherheit und Risikomanagement). Bringen Sie die Spannung ans Licht: Ordentliche Sicherheitsbewertung fügt Reibung hinzu und verlangsamt die Lieferung, und unter Druck wird sie als Erstes für die „offensichtliche“ Korrektur übersprungen. Doch der gefährliche Randfall – die Wechselwirkung, die die Korrektur still freilegt, die Dosisgrenze, die die „kleine“ Änderung leise entfernt – ist genau das, was die Gefährdungsanalyse abfangen soll. Eine gute Antwort benennt, wer rechenschaftspflichtig ist, wenn eine Regel Schaden verursacht, besteht darauf, dass auch unscheinbar wirkende Änderungen eine verhältnismäßige Sicherheitsbewertung tragen, und kann den Prüfpfad vorweisen, der das belegt, statt nach einem Vorfall zu entdecken, dass niemand festhielt, warum die Änderung erfolgte.

5. Funktioniert unsere Entscheidungsunterstützung für jede Patientengruppe gleich gut – oder haben wir Verzerrung importiert, die wir nicht sehen? Die Logik der Entscheidungsunterstützung kodiert Schwellenwerte, Risikoscores und Pfadannahmen, die oft aus bestimmten Populationen abgeleitet wurden, und eine Regel, die „im Durchschnitt“ stimmt, kann für in der zugrunde liegenden Evidenz unterrepräsentierte Gruppen systematisch falsch sein. Besprechen Sie, wo Ihre Regeln Variablen einbetten – nach Ethnizität angepasste Berechnungen, Alters- oder Geschlechtsgrenzen, Annahmen darüber, wer wie vorstellig wird – und ob jemand geprüft hat, wie sie über die Menschen hinweg abschneiden, die Sie tatsächlich versorgen. Bringen Sie die härtere Spannung ans Licht: Eine klinisch gültige Anpassung zu entfernen kann ebenso schaden, wie eine verzerrte zu behalten; es geht also nicht darum, jede demografische Variable zu streichen, sondern zu wissen, welche evidenzbasiert und welche ererbte Gewohnheit sind. Bedenken Sie die Gleichstellungspflicht, deren Erfüllung eine nationale Stelle oder ein Commissioner erwartet, und die Transparenzfrage, ob die Logik und ihre Herkunft einer Veröffentlichung standhalten würden. Eine gute Antwort verpflichtet sich, Regeln mit hoher Wirkung auf unterschiedliche Effekte zu auditieren, behandelt Herkunft und Erklärbarkeit als erstklassige Anforderungen und ist ehrlich, dass für einen Großteil des Bestands die heutige Antwort lautet: „Wir haben nie hingeschaut.“

6. Wo ziehen wir die Linie zwischen der Unterstützung des Urteils einer Klinikerin und seiner stillen Ersetzung – und züchten wir Automationsbias? Entscheidungsunterstützung soll Expertise erweitern, doch ein System, das den Vorschlag der Maschine zum Weg des geringsten Widerstands macht, kann Klinikpersonal auf eine falsche Antwort verankern und mit der Zeit gerade das Urteil aushöhlen, das es voraussetzt. Besprechen Sie, ob Ihr Design das Übersteuern wirklich leicht und legitim hält oder ob Reibung, Voreinstellungen und Rahmung Klinikpersonal dazu drängen, Hinweise zu akzeptieren, die es nicht mehr prüft. Debattieren Sie das Entwertungsrisiko offen: Wenn Auszubildende Medizin an einem System lernen, das immer den nächsten Schritt vorschlägt, was geschieht an dem Tag, an dem das System falsch liegt oder nicht verfügbar ist? Wägen Sie das gegen die ebenso große Gefahr der Alarmmüdigkeit am anderen Extrem ab – das Ziel ist kalibriertes Vertrauen, nicht pauschale Folgsamkeit oder pauschaler Widerstand. Eine gute Antwort bewahrt sinnvolle menschliche Rechenschaftspflicht durch Design, achtet auf die verräterischen Zeichen übermäßigen Vertrauens wie nahezu universale Annahme eines diagnostischen Hinweises und stellt klar, dass das System rät, während die Klinikerin entscheidet und verantwortlich bleibt.

In der Praxis: ein Beispiel aus Gesundheit und Pflege#

Die Kingsmere NHS Foundation Trust, Teil des Integrated Care System Riverdale and Vale, ging vor zwei Jahren mit einer neuen elektronischen Patientenakte live. Der klinische Inhalt stammte großteils aus der Standardbibliothek des Lieferanten, während einer gehetzten Einführung leicht lokalisiert. In diesem Jahr beschwert sich das Klinikpersonal lautstark: Das System sei „nur Pop-ups“, junge Ärztinnen und Ärzte beschreiben, wie sie Warnungen ungelesen wegklicken, und ein Apotheker hat Sicherheitsbedenken angemeldet, nachdem in einer Häufung von Fällen ein ernster Wechselwirkungsalarm übersteuert wurde – weil er genauso aussah wie die Dutzenden trivialen, die jede Schicht feuern.

Der CCIO des Trusts beauftragt eine Überprüfung der Entscheidungsunterstützung. Das Informatikteam zieht Übersteuerungsdaten und stellt fest, dass eine kleine Zahl von Regeln den überwältigenden Großteil der Alarme ausmacht und mehrere bei fast jeder Verordnung mit einer Übersteuerungsrate über 90 % feuern. Eine Regel zur Doppeltherapie löst bei legitimen Kombinationen aus; ein Alarm zur Nierendosierung feuert auf veraltete Kreatininwerte wegen eines Datenzeitproblems, nicht wegen einer echten Gefährdung. Währenddessen ist der wirklich gefährliche Wechselwirkungsalarm vergraben, optisch identisch mit dem Rauschen, ohne Pflicht, eine Begründung für das Übersteuern zu erfassen.

Es wird eine Governance-Gruppe für klinische Inhalte eingerichtet, geleitet vom CCIO mit einem klinischen Sicherheitsbeauftragten, Apothekerinnen, leitenden Pflegekräften und einem Datenanalysten. Sie handeln auf Grundlage der Evidenz, statt weitere Regeln hinzuzufügen. Die Regel zur Nierendosierung wird an der Quelle repariert, indem das Datenzeitproblem gelöst wird. Die Regel zur Doppeltherapie wird verengt, sodass sie nicht mehr bei legitimen Paaren feuert. Ein abgestuftes Schweregradschema wird eingeführt: Die ernste Wechselwirkung wird ein eigenständiger, schwerer wegzuklickender Alarm, der eine dokumentierte Begründung verlangt, während ein langer Schwanz wertarmer Warnungen zu passiver Information herabgestuft oder ganz stillgelegt wird. Jede Änderung durchläuft eine Bewertung der klinischen Sicherheit nach DCB0160.

Sechs Monate später ist das Gesamtvolumen der Alarme stark gesunken, während die Übersteuerungsrate der verbleibenden Alarme mit hohem Schweregrad gefallen ist, weil Klinikpersonal nun darauf vertraut, dass eine Warnung, die es aufhält, etwas bedeutet. Die Governance-Gruppe hat für jede überlebende Regel Überprüfungsdaten gesetzt, jeder eine klinische Verantwortliche zugewiesen und begonnen zu evaluieren, ob die Order-Sets die Verordnung tatsächlich zum Besseren verändert haben. Die Arbeit fügte keine dramatische neue Fähigkeit hinzu – sie schaltete meist Dinge ab und regelte Dinge herunter –, doch sie verwandelte einen unverantworteten, misstrauisch beäugten Haufen Pop-ups in ein gesteuertes, vertrauenswürdiges klinisches Sicherheitssystem.

Sektorperspektiven#

Startup#

Ein Startup der digitalen Gesundheit, das Entscheidungsunterstützung einbettet – ein Triage-Werkzeug, einen Risikorechner, ein Modul zur Verordnungsunterstützung –, steht meist auf der Herstellerseite der Linie und muss seine Regeln von Anfang an als regulierte klinische Kenntnis behandeln. Selbst ein „einfacher“ Rechner, der eine Handlung empfiehlt, kann Software als Medizinprodukt sein, was ihn unter die MHRA-Regulierung zieht und einen klinischen Sicherheitsfall nach DCB0129 verlangt (siehe Thema 1.5 — Regulierungs- und Compliance-Landschaft). Die Versuchung ist, clevere Logik schnell auszuliefern; die Disziplin ist, die Evidenzgrundlage zu dokumentieren, den Inhalt zu versionieren und für elegantes Übersteuern und menschliche Aufsicht zu gestalten, bevor die erste Klinikerin sich darauf verlässt. Die Glaubwürdigkeit eines Startups bei einem NHS-Käufer ruht ebenso darauf, wie es seine klinischen Inhalte steuert und aktualisiert, wie auf der Cleverness des Algorithmus.

Kleines Unternehmen#

Ein etablierter kleiner Anbieter – eine Hausarztpraxis, eine Gemeindeapotheke, ein Pflegeheim oder eine Einzelstandort-Klinik – konsumiert meist Entscheidungsunterstützung, die im klinischen System eines Lieferanten eingebaut ist, statt sie zu verfassen, trägt aber dieselbe Pflicht, sie sicher zu nutzen und klinisches Urteil in der Schleife zu halten. Mit wenig oder gar keiner eigenen Informatikkapazität sind die praktischen Prioritäten eng, aber echt: Wissen Sie, welche Alarme Ihr System feuert, und schalten Sie lokale, die zu Rauschen geworden sind, ab oder stimmen Sie sie ab, halten Sie Arzneimittel- und Leitlinieninhalte aktuell, statt sie bei der Installation einzufrieren, und stellen Sie sicher, dass jemand – auch eine Teilzeit-Klinikleitung – die Sicherheit lokaler Anpassungen verantwortet. Widerstehen Sie der Versuchung, Warnungen pauschal abzuschalten, nur weil sie lästig sind, denn das tauscht ein Ärgernis gegen eine Gefährdung. Wo die Standardregeln eines Lieferanten für Ihre Patientinnen und Patienten eindeutig falsch sind, sprechen Sie es beim Hersteller an und halten Sie die Bedenken fest, denn Sie verlassen sich auf dessen Governance anstelle einer eigenen. Die Fragen von Gleichstellung und Herkunft gelten weiter, auch wenn ihre Beantwortung bedeutet, bessere Fragen an Ihren Lieferanten zu stellen, statt selbst Code zu auditieren.

Großunternehmen#

Ein großer NHS Trust oder eine Krankenhausgruppe erbt typischerweise Tausende Regeln aus der Standardbibliothek eines EHR-Lieferanten, und seine zentrale Herausforderung ist Governance im großen Maßstab statt Verfassen von Grund auf. Das realistische Ziel ist eine ständige Governance-Funktion für klinische Inhalte, verlässliche Analytik der Übersteuerung, ein abgestuftes Alarmschema und die Disziplin, stillzulegen und abzustimmen statt nur anzuhäufen – keine perfekt maßgeschneiderte Regel für jede Situation. Betten Sie Änderungen der Entscheidungsunterstützung in die klinische Änderungskontrolle und das Managementsystem der klinischen Sicherheit ein, mit einem rechenschaftspflichtigen CCIO oder CNIO und informatisch geschulten Klinikerinnen, die die Arbeit leisten (siehe Thema 4.6 — Elektronische Patientenakten und klinische Systeme). In dieser Größenordnung kommen die größten Sicherheitsgewinne davon, Rauschen zu senken und Inhalte zu verantworten, nicht davon, immer mehr Alarme hinzuzufügen.

Regierung#

Eine nationale Stelle – NHS England, die MHRA, NICE – prägt das Umfeld der Entscheidungsunterstützung, in dem jeder Anbieter arbeitet. Sie kann teilbares Wissen kuratieren und qualitätssichern (NICE-Leitlinien, BNF und dm+d-Arzneimitteldaten), die Standards der klinischen Sicherheit DCB0129 und DCB0160 setzen und Interoperabilitätsstandards betreuen, sodass eine einmal verfasste Regel vertrauenswürdig und wiederverwendbar ist, statt in jedem Trust neu gebaut zu werden (siehe Thema 9.1 — Zusammenarbeit mit lokalen und nationalen Regierungen). Ihr Hebel ist, gut gesteuerte, evidenzverknüpfte Entscheidungsunterstützung durch Standards, Beschaffungsrahmen und professionelle Infrastruktur wie die Faculty of Clinical Informatics zum Marktstandard zu machen. Die Regierung trägt auch die Pflichten zu Gleichstellung und Transparenz: sicherzustellen, dass die Logik der Entscheidungsunterstützung keine Verzerrung gegen bestimmte Gruppen kodiert und ihre Herkunft prüfbar und öffentlich ist.

Häufige Fehlermuster#

• Alarmüberlastung. Für jedes denkbare Risiko eine Warnung zu feuern desensibilisiert Klinikpersonal, bis es alles übersteuert, auch die Alarme, die zählen. Stufen Sie nach Schweregrad ab, messen Sie Übersteuerungsraten und kürzen Sie das Rauschen konsequent.
• Unverantworteter, ungeprüfter Inhalt. Regeln, die einmal beim Go-live konfiguriert und nie wieder angesehen wurden, driften von aktuellen Leitlinien ab und kodieren still überholte Evidenz. Geben Sie jeder Regel eine benannte Verantwortliche, eine Evidenzgrundlage und ein Überprüfungsdatum.
• Ungestimmte Lieferantenvoreinstellungen. Die Regelbibliothek des Herstellers direkt aus der Verpackung auszuliefern, ohne sie auf Ihren Arbeitsablauf und Ihr Formularium zu lokalisieren, importiert fremdes Rauschen und fremde Annahmen. Überprüfen und stimmen Sie vor dem Go-live ab, nicht nach Beschwerden.
• Logik ohne Arbeitsablauf. Eine klinisch korrekte Regel am falschen Schritt, Bildschirm oder bei der falschen Rolle wird zur Reibung, die Klinikpersonal umgeht. Gestalten und testen Sie mit Nutzenden an der Front in der realen Aufgabe.
• Auslösezahlen mit Wirksamkeit verwechselt. „Der Alarm feuerte 10.000-mal“ sagt nichts darüber, ob irgendeine Entscheidung besser wurde. Bewerten Sie an veränderten Ergebnissen und vermiedenem Schaden und achten Sie auf unbeabsichtigte Folgen.
• Kein Sicherheitsfall. Eine Regeländerung als routinemäßige Konfigurationsbearbeitung statt als Änderung der klinischen Sicherheit zu behandeln, überspringt die Gefährdungsanalyse, die den gefährlichen Randfall abfängt. Führen Sie jede Änderung durch DCB0160.
• Automationsbias und Entwertung. Übermäßiges Vertrauen in den Hinweis der Maschine kann eine Klinikerin auf die falsche Antwort verankern oder das Urteil aushöhlen, das das System voraussetzt. Bewahren Sie sinnvolle menschliche Aufsicht und gestalten Sie so, dass Übersteuern leicht und legitim ist.

Reifegradmodell#

Checkliste#

• Jede Regel, jedes Order-Set und jede Vorlage der Entscheidungsunterstützung hat eine benannte klinische Verantwortliche, eine Evidenzgrundlage, eine Versionshistorie und ein Überprüfungsdatum.
• Eine ständige Governance-Gruppe für klinische Inhalte gibt Inhalte frei, überprüft und legt sie nach einem risikobasierten Plan still.
• Alarme sind nach Schweregrad abgestuft, die Unterbrechung steht im Verhältnis zum klinischen Einsatz, und harte Stopps sind der seltenen katastrophalen Gefährdung vorbehalten.
• Übersteuerungsraten werden nach Regel, Fachrichtung und Rolle überwacht, und die lautesten Regeln werden aktiv stillgelegt, verengt oder herabgestuft.
• Entscheidungsunterstützung wird vor dem Go-live mit Klinikpersonal an der Front im realen Arbeitsablauf gestaltet und getestet.
• Jede neue Regel und Änderung läuft durch einen klinischen Sicherheitsfall nach DCB0129/DCB0160 mit Freigabe durch einen klinischen Sicherheitsbeauftragten.
• Ein CCIO, CNIO oder Äquivalent ist für den klinischen Inhalt rechenschaftspflichtig und wird von informatisch geschulten Klinikerinnen unterstützt.
• Klinikpersonal kann mit sinnvoller Leichtigkeit übersteuern, und ein Weg besteht, einen Alarm zu melden, der falsch, fehlend oder schädlich ist.
• Wirksamkeit wird an veränderten Entscheidungen und Ergebnissen bewertet, nicht an Auslösezahlen, mit Blick auf unbeabsichtigte Folgen.
• Die Grenze zu KI/ML-basierter Unterstützung ist explizit, und statistische oder lernende Komponenten werden unter KI-Governance gesteuert (siehe Thema 8.4).

Zentrale Quellen#

• NHS England / NHS Digital — Standards der klinischen Sicherheit DCB0129 (Herstellung von Gesundheits-IT-Systemen) und DCB0160 (Einsatz von Gesundheits-IT-Systemen) sowie Leitlinien für klinische Sicherheitsbeauftragte.
• Faculty of Clinical Informatics — professionelle Standards und das Core Competency Framework für klinische Informatikerinnen und Informatiker; Rollendefinitionen für CCIO und CNIO.
• Osheroff et al. — Improving Outcomes with Clinical Decision Support: An Implementation Sourcebook (HIMSS) — Ursprung des Rahmens der „fünf Richtigen“ für CDS.
• NICE — Evidenz, Leitlinien und das Evidence Standards Framework for Digital Health Technologies; NICE-akkreditiertes Wissen als CDS-Inhalt.
• HL7 International — CDS Hooks und FHIR Clinical Reasoning; die Arden-Syntax für teilbare Medical Logic Modules.
• Der Topol Review (Preparing the healthcare workforce to deliver the digital future) — Personal und Fähigkeiten der klinischen Informatik.
• MHRA — Leitlinien zu Software und künstlicher Intelligenz als Medizinprodukt für Unterstützung, die die regulatorische Schwelle überschreitet.

Referenzen#

1. Clinical decision support system — Wikipedia — https://en.wikipedia.org/wiki/Clinical_decision_support_system
2. Health informatics — Wikipedia — https://en.wikipedia.org/wiki/Health_informatics
3. Alarm fatigue — Wikipedia — https://en.wikipedia.org/wiki/Alarm_fatigue
4. Computerized physician order entry — Wikipedia — https://en.wikipedia.org/wiki/Computerized_physician_order_entry
5. Clinical pathway — Wikipedia — https://en.wikipedia.org/wiki/Clinical_pathway
6. Medical algorithm — Wikipedia — https://en.wikipedia.org/wiki/Medical_algorithm
7. Medical guideline — Wikipedia — https://en.wikipedia.org/wiki/Medical_guideline
8. Evidence-based medicine — Wikipedia — https://en.wikipedia.org/wiki/Evidence-based_medicine
9. Electronic health record — Wikipedia — https://en.wikipedia.org/wiki/Electronic_health_record
10. Sociotechnical system — Wikipedia — https://en.wikipedia.org/wiki/Sociotechnical_system
11. Arden syntax — Wikipedia — https://en.wikipedia.org/wiki/Arden_syntax
12. Machine learning — Wikipedia — https://en.wikipedia.org/wiki/Machine_learning
13. Computer-aided diagnosis — Wikipedia — https://en.wikipedia.org/wiki/Computer-aided_diagnosis
14. Knowledge management — Wikipedia — https://en.wikipedia.org/wiki/Knowledge_management
15. NHS England — Clinical Risk Management Standards DCB0129 and DCB0160 — NHS England — https://www.england.nhs.uk/long-read/clinical-risk-management-standards/
16. Faculty of Clinical Informatics — Core Competency Framework and professional standards — FCI — https://facultyofclinicalinformatics.org.uk/
17. National Institute for Health and Care Excellence — Evidence Standards Framework for Digital Health Technologies — NICE — https://www.nice.org.uk/about/what-we-do/our-programmes/evidence-standards-framework-for-digital-health-technologies
18. Health Level Seven International — CDS Hooks and FHIR Clinical Reasoning — HL7 — https://cds-hooks.hl7.org/
19. Health Education England — The Topol Review: Preparing the healthcare workforce to deliver the digital future — NHS — https://topol.hee.nhs.uk/
20. Medicines and Healthcare products Regulatory Agency — Software and AI as a Medical Device — GOV.UK — https://www.gov.uk/government/publications/software-and-artificial-intelligence-ai-as-a-medical-device