Konfidenz-Markierung (KI)

Hintergrund und Definition

Konfidenz-Markierungen (oder Konfidenz-Scores) zeigen an, wie sicher ein KI-Modell sich bei einer einzelnen Ausgabe ist. Technisch basieren sie auf den Wahrscheinlichkeiten, die das Modell intern beim Erzeugen jedes Tokens berechnet; bei Klassifikationsmodellen liegen sie zwischen 0 und 1. Moderne medizinische KI gibt zu jedem Vorschlag (z. B. ICD-10-Code, Medikament, Befundtext) eine Konfidenz-Stufe an: hoch, mittel, niedrig — oft mit visueller Codierung wie Ampel oder Prozentangabe. Niedrige Konfidenz heißt: das Modell hat mehrere plausible Alternativen, der Arzt sollte aktiv prüfen. Wichtig: Konfidenz ist nicht gleich Korrektheit — ein Modell kann mit hoher Konfidenz falsch liegen (Halluzination). Konfidenz-Markierungen sind Teil der menschlichen Aufsicht, die der EU AI Act fordert. Sie ersetzen nicht die ärztliche Verantwortung, machen sie aber gezielter.

Was das für die Praxis bedeutet

Konfidenz-Markierungen sind das Frühwarnsystem gegen Halluzinationen. Bei niedriger Konfidenz lieber zwei Sätze mehr lesen, bevor die KV Rückforderungen schickt. Eine sinnvolle Praxis-Routine: alles unter mittlerer Konfidenz wird vor Freigabe explizit geprüft, hohe Konfidenz wird stichprobenartig kontrolliert. Wer Konfidenz-Markierungen abschaltet oder ignoriert, hebelt einen wichtigen Schutzmechanismus aus. Bei der Software-Auswahl lohnt die Frage, wie Konfidenzen berechnet und dargestellt werden — pure Prozentzahlen ohne Kalibrierung sind weniger nützlich als gut begründete Stufen. Konfidenz-Markierungen lassen sich auch zur internen Qualitätssicherung nutzen, etwa wenn alle "niedrig"-Fälle in einem wöchentlichen Review besprochen werden.

Beispiele aus dem Praxisalltag

• ICD-Vorschlag M54.5 mit Konfidenz "hoch": vom Arzt nur noch bestätigt.
• ICD-Vorschlag E11.74 mit Konfidenz "niedrig": aktive Prüfung nötig.
• Medikamenten-Vorschlag mit niedriger Konfidenz wegen mehrdeutiger Anamnese.
• Konfidenz-Verteilung als wöchentliches QM-Werkzeug.

Typische Stolperfallen

• Annahme, hohe Konfidenz bedeute Korrektheit — Modell kann sicher und falsch sein.
• Konfidenz-Anzeige abgeschaltet, weil "stört im Workflow".
• Niedrige Konfidenzen pauschal ignoriert — Halluzinations-Risiko steigt.
• Vergleich von Konfidenzen verschiedener Modelle ohne Kalibrierung.

Verwandte Begriffe

• ICD-10: Internationale Klassifikation der Krankheiten — Code-System für Diagnosen.
• KV-Plausibilitätsprüfung: Automatisierte Prüfung der Quartalsabrechnung durch die KV.
• KI-Halluzination: Erfundene oder falsche Information, die eine KI als Tatsache präsentiert.

Quellen und weiterführende Hinweise

• arxiv.org — Forschung zu Calibration und Uncertainty Estimation
• fda.gov — Hinweise zu KI-Medizinprodukten und Confidence Reporting
• bfarm.de — Anforderungen an KI-Medizinprodukte

Hinweis: Dieser Lexikon-Eintrag dient der Orientierung und ersetzt keine rechtliche oder medizinische Beratung im Einzelfall.