Künstliche Intelligenz verändert die Medizin in einem Tempo, das vor wenigen Jahren noch undenkbar schien. Von der KI-gestützten Bilddiagnostik bis hin zu klinischen Entscheidungsunterstützungssystemen: Die Chancen sind enorm. Gleichzeitig entstehen neue Haftungs- und Datenschutzfragen, die Ärzte kennen müssen.

Das Wichtigste in Kürze

  • KI-Systeme gelten in der EU als Medizinprodukte und unterliegen der MDR-Regulierung
  • Haftung für KI-gestützte Diagnosen liegt weiterhin beim behandelnden Arzt
  • Der EU AI Act schafft seit 2024 einen verbindlichen Rechtsrahmen für KI-Anwendungen im Hochrisikobereich

Grundlagen: KI im medizinischen Kontext

Medizinische KI-Anwendungen lassen sich in drei Kategorien unterteilen: diagnostische KI (Bilderkennung in Radiologie und Pathologie), klinische Entscheidungsunterstützung (Empfehlungen zu Therapie oder Medikation) und administrative KI (Terminplanung, Dokumentationsassistenten). Alle drei Kategorien finden bereits breite Anwendung in deutschen Kliniken und Praxen.

Rechtlich gelten medizinische KI-Systeme, die diagnostische oder therapeutische Entscheidungen unterstützen, als Medizinprodukte der Klasse IIa oder höher nach der EU-Medizinprodukteverordnung (MDR 2017/745). Sie müssen ein konformitätsbewertetes CE-Kennzeichen tragen, bevor sie klinisch eingesetzt werden dürfen. Darüber hinaus werden KI-Systeme, die Entscheidungen im Gesundheitsbereich beeinflussen, im EU AI Act als Hochrisikosysteme eingestuft und unterliegen besonders strengen Anforderungen an Transparenz, Überwachung und Dokumentation.

Die Haftungsfrage ist noch nicht abschließend geklärt. Nach aktuellem deutschen Recht liegt die Haftung für ärztliche Entscheidungen beim Arzt, auch wenn diese durch ein KI-System unterstützt wurden. Ein KI-Fehler entlastet den Arzt nicht, wenn er die KI-Empfehlung unkritisch übernahm.

Schritt für Schritt: KI-Einsatz in der Praxis oder Klinik einführen

Schritt 1: KI-System auf CE-Zertifizierung prüfen. Akzeptieren Sie keine KI-Tools ohne gültige MDR-Zertifizierung für den geplanten Anwendungsfall.

Schritt 2: Klinische Validierung verlangen. Prüfen Sie, ob das System in der Zielgruppe und Indikation klinisch validiert wurde, und nicht nur an bestimmten Studienpopulationen.

Schritt 3: Berufshaftpflicht informieren. Klären Sie mit Ihrem Versicherer, ob KI-unterstützte Behandlungen vom Haftpflichtschutz abgedeckt sind.

Schritt 4: Aufklärungspflicht beachten. Informieren Sie Patienten darüber, wenn KI-Systeme bei ihrer Diagnostik oder Therapieplanung eingesetzt werden.

Schritt 5: Monitoring etablieren. Beobachten Sie die Ergebnisqualität bei KI-gestützten Entscheidungen kontinuierlich und melden Sie auffällige Fehler gemäß MDR-Vigilanzpflicht.

Häufige Fehler und wie man sie vermeidet

Ein verbreiteter Fehler ist die unreflektierte Übernahme von KI-Empfehlungen ohne eigene klinische Einschätzung. KI-Systeme können im Einzelfall falsch liegen, und die Verantwortung für die Behandlungsentscheidung liegt stets beim Arzt.

Ärzteversichert empfiehlt, beim Einsatz von KI-Tools auch den Versicherungsschutz kritisch zu überprüfen. Nicht alle Berufshaftpflichtpolicen decken Schäden aus KI-unterstützten Diagnosefehlern automatisch ab. Eine Anpassung der Police kann notwendig sein.

Fazit

KI in der Medizin ist kein Zukunftsthema mehr, sondern gelebter Alltag, der rechtliche Kompetenz und kritisches Urteilsvermögen erfordert. Weitere Artikel finden Sie in der Blog-Übersicht.

Quellen und weiterführende Informationen

Persönliche Beratung zu diesem Thema?

Kostenfreie Erstberatung anfragen →