03005 EU-KI-Verordnung: Pflichten für Medizinproduktehersteller

Chancen durch KI in der Medizin
Künstliche Intelligenz (KI) hat das Potenzial, die Medizin zu revolutionieren: von präziseren Diagnosen über personalisierte Therapien bis hin zur Früherkennung schwerer Erkrankungen. Während diese Technologien Chancen bieten, stellt ihr Einsatz die Medizintechnikbranche vor neue regulatorische Herausforderungen.

Medizinproduktehersteller, die KI-basierte Lösungen entwickeln oder integrieren möchten, müssen nicht nur die Vorgaben der Verordnung (EU) 2017/745 (MDR) beachten, sondern auch die der neuen Verordnung (EU) 2024/1689 über Künstliche Intelligenz (KI-VO, die konsolidierte Version ist hier als Arbeitshilfe angehängt) berücksichtigen.[ KI-VO.pdf]

Wie die MDR-Umsetzung wird auch die Implementierung des neuen Regelwerks wohl kein „Selbstläufer”. Zudem ist in diesem recht jungen Rechtsgebiet der Künstlichen Intelligenz Vorsicht geboten. Denn bislang gibt es keine umfassende (behördliche) Praxis und Rechtsprechung, die eine abschließende Bewertung zulassen. Zwar erlauben Praxisratgeber [1] eine erste und fundierte Einschätzung, können aber einige Fragen (noch) nicht abschließend beantworten. Zudem führen spezifische Aspekte der konkreten Fallkonstellation möglicherweise zu abweichenden Bewertungen.

Erforderliche Prüfschritte
Um die zu erfüllenden Anforderungen zu bestimmen, die beim Einsatz eines KI-Systems im regulatorischen Kontext von Medizinprodukten relevant sind, müssen grundlegende Prüfschritte erfolgen. Dies umfasst eine intensive Auseinandersetzung mit u. a. MDR, KI-VO und anderen einschlägigen Gesetzen wie beispielsweise der Datenschutzgrundverordnung (DSGVO).

Voranzustellen ist jedoch die zwingende Frage, ob es sich bei dem System überhaupt um ein KI-System im regulatorischen Sinne handelt. Der Begriff „Künstliche Intelligenz” wird nämlich mitunter inflationär verwendet, auch etwa für solche Software, die gar nicht in den KI-Verordnungskontext fällt.

Die Anwendungsbereiche von KI im Gesundheitssektor sind vielseitig und weisen für Krankenhäuser, Arztpraxen oder Krankenkassen, aber auch für pharmazeutische Unternehmen oder Medizintechnikunternehmen erhebliches Potenzial auf. So ergeben sich relevante Einsatzgebiete etwa

KI-System
Nicht jede Software ist aber ein KI-System. Sie gilt vielmehr nur dann als KI-System im Sinne der KI-VO, wenn sie bestimmte Kriterien erfüllt, die sie von herkömmlicher Software unterscheiden. Dazu gehören (auf das Wesentliche reduziert und vereinfacht dargestellt)

Einfachere Programme wie Excel oder Taschenrechner, die nur nach festgelegten Regeln (Wenn-Dann-Prinzip) funktionieren, fallen nicht unter diese Definition. Die KI-VO will KI-Systeme klar definieren und von traditionellen Algorithmen abgrenzen. Damit wird geregelt, wann eine Software als KI-System gilt und entsprechend auch den gesetzlichen Anforderungen der KI-VO unterliegt.

Wenn die Kriterien für ein KI-System erfüllt sind, dann ist der Hersteller des Medizinprodukts nicht mehr nur auf Basis der medizinprodukterechtlichen Regelungen gefordert, sondern er muss auch die Vorgaben der KI-VO berücksichtigen. Der „Hersteller” des Medizinprodukts wird zugleich „Anbieter” eines KI-Systems.