EU AI Act

Hintergrund und Definition

Der EU AI Act (Verordnung 2024/1689) ist die erste umfassende KI-Regulierung weltweit. Er wurde im Sommer 2024 verabschiedet und tritt gestaffelt in Kraft: Verbote ab Februar 2025, Pflichten für Hochrisiko-Systeme weitgehend ab August 2026, Übergangsfristen für bestehende General-Purpose-Modelle. Die Verordnung klassifiziert KI-Systeme nach Risiko: verbotene Praktiken, Hochrisiko, begrenztes Risiko und minimales Risiko. Medizinprodukte mit KI fallen typischerweise in die Hochrisikoklasse, klassische KI-Doku-Tools für die Praxis meist in die Klasse "begrenztes Risiko" mit Transparenz- und Aufsichtspflichten. Pflichten für Praxen: KI-Literacy-Schulung der Mitarbeiter (Art. 4), menschliche Aufsicht über KI-Ausgaben, Dokumentation des KI-Einsatzes. Anbieter müssen technische Doku, Konformitätsbewertung und Marktüberwachung sicherstellen. Bußgelder reichen bis zu 35 Mio. Euro oder 7 Prozent des weltweiten Jahresumsatzes. Das Zusammenspiel mit MDR (Medizinprodukteverordnung) und DSGVO ist komplex und muss im Einzelfall geprüft werden.

Was das für die Praxis bedeutet

Praxen müssen ab August 2026 nachweisen, dass sie KI verantwortungsvoll einsetzen — eine kurze schriftliche KI-Richtlinie und protokollierte Mitarbeiter-Schulung sind Mindestanforderung. Anbieter sollten den passenden Compliance-Ordner mit technischer Doku, Risikobewertung und Anwender-Hinweisen mitliefern. Bei reinen Doku-Hilfen (Sprache zu Text, Brief-Vorschlag) gilt typischerweise die Transparenzpflicht: der Patient muss informiert werden, der Arzt muss kontrollieren. Das Vier-Augen-Prinzip ist nicht nur Best Practice, sondern Bestandteil der menschlichen Aufsicht. Wer KI als Medizinprodukt nutzt (z. B. Bildanalyse mit diagnostischer Aussage), bewegt sich im Hochrisikobereich mit deutlich höheren Anforderungen. Eine kurze interne Liste der eingesetzten KI-Systeme samt Zweck und Verantwortlichem ist sinnvoll und schützt bei Prüfungen.

Beispiele aus dem Praxisalltag

• KI für Anamnese-Transkription: begrenztes Risiko, Transparenz und Aufsicht.
• KI für automatisierte Hautläsions-Diagnose: Hochrisiko, MDR-Bezug.
• KI-Chatbot für Terminvergabe ohne medizinische Aussage: minimales Risiko.
• Praxis mit 6 Mitarbeitenden — eine 1-stündige KI-Schulung pro Jahr ist realistischer Aufwand.

Typische Stolperfallen

• Annahme, AI Act gelte nur für Anbieter — Anwender (Praxen) haben eigene Pflichten.
• Verwechslung von KI-Klassifizierung mit MDR-Klassifizierung — beide gelten parallel.
• Keine dokumentierte KI-Schulung — bei Aufsicht ein direkter Verstoß.
• Glaube, dass Open-Source-KI automatisch geringere Pflichten habe.

Verwandte Begriffe

• DSGVO — Datenschutz-Grundverordnung: EU-Verordnung zum Datenschutz, seit Mai 2018 anwendbar.
• Ärztliche Schweigepflicht: Berufs- und strafrechtliche Pflicht des Arztes, anvertraute Geheimnisse nicht zu offenbaren.
• KI-Halluzination: Erfundene oder falsche Information, die eine KI als Tatsache präsentiert.

Quellen und weiterführende Hinweise

• eur-lex.europa.eu — Verordnung 2024/1689 im Volltext
• digital-strategy.ec.europa.eu — Leitlinien der EU-Kommission
• bundesaerztekammer.de — KI-Stellungnahmen zur ärztlichen Anwendung

Hinweis: Dieser Lexikon-Eintrag dient der Orientierung und ersetzt keine rechtliche oder medizinische Beratung im Einzelfall.