KI-Verordnung Medizinprodukte: Navigieren im neuen Rechtsrahmen für Innovation und Sicherheit

Die Künstliche Intelligenz (KI) revolutioniert die Gesundheitsbranche in einem atemberaubenden Tempo. Von der präzisen Diagnostik über personalisierte Therapieansätze bis hin zur effizienten Krankenhausverwaltung – KI-basierte Medizinprodukte versprechen eine Zukunft, in der die Patientenversorgung sicherer, effektiver und zugänglicher wird. Doch mit diesen bahnbrechenden Möglichkeiten gehen auch neue Herausforderungen einher, insbesondere im regulatorischen Bereich. Die Europäische Union hat mit der Verabschiedung der KI-Verordnung (EU AI Act) einen weltweit einzigartigen Rechtsrahmen geschaffen, der weitreichende Auswirkungen auf die Entwicklung, das Inverkehrbringen und den Betrieb von KI-Systemen hat. Für Hersteller von Medizinprodukten bedeutet dies eine neue Ära der Compliance, die ein tiefes Verständnis der komplexen Wechselwirkungen zwischen der bestehenden Medizinprodukte-Verordnung (MDR) und der neuen KI-Verordnung erfordert. Es ist nicht nur eine Frage der rechtlichen Absicherung, sondern auch eine Chance, Vertrauen in innovative Technologien zu schaffen und die Marktposition zu stärken. Die frühzeitige Auseinandersetzung mit diesen Anforderungen ist entscheidend für den Erfolg in einem dynamischen Markt.

Warum die KI-Verordnung für Medizinproduktehersteller entscheidend ist

Die rasante Entwicklung der Künstlichen Intelligenz hat die Gesetzgeber vor die Aufgabe gestellt, einen Rahmen zu schaffen, der sowohl Innovation fördert als auch Sicherheit und Grundrechte schützt. Medizinprodukte, die KI-Technologien nutzen, sind dabei von besonderer Relevanz, da sie direkten Einfluss auf die Gesundheit und das Wohlbefinden von Patienten haben können. Die KI-Verordnung verfolgt einen risikobasierten Ansatz, der die Anforderungen an KI-Systeme je nach ihrem potenziellen Gefährdungsgrad staffelt. Für Medizinproduktehersteller ist dies von entscheidender Bedeutung, da die meisten KI-basierten Medizinprodukte aufgrund ihrer Zweckbestimmung und der potenziellen Auswirkungen auf die Gesundheit des Menschen als Hochrisiko-KI-Systeme eingestuft werden. Dies führt zu einem erheblichen Anstieg der Compliance-Anforderungen, die über die bereits strengen Vorgaben der MDR hinausgehen.

Die Überschneidung der beiden Verordnungen – MDR und KI-VO – schafft eine komplexe regulatorische Landschaft. Hersteller müssen sicherstellen, dass ihre Produkte nicht nur den Sicherheits- und Leistungsanforderungen der MDR genügen, sondern auch den spezifischen Vorgaben der KI-Verordnung, die Aspekte wie Datenqualität, Transparenz, menschliche Aufsicht und Cybersicherheit adressieren. Das Ziel ist es, ein hohes Maß an Vertrauen in KI-Systeme zu gewährleisten, indem klare Regeln für ihre Entwicklung und Nutzung festgelegt werden. Wer diese Regeln versteht und proaktiv umsetzt, sichert sich nicht nur die Marktzulassung, sondern auch einen Wettbewerbsvorteil.

Risikobasierter Ansatz: Wie Ihre KI-Medizinprodukte eingestuft werden

Die EU-KI-Verordnung etabliert ein vierstufiges Risikoklassifizierungssystem für KI-Systeme, das maßgeblich bestimmt, welche regulatorischen Anforderungen erfüllt werden müssen. Dieses System reicht von verbotenen KI-Praktiken bis hin zu Systemen mit minimalem Risiko. Für Medizinprodukte ist die Kategorie der „Hochrisiko-KI-Systeme“ von größter Bedeutung. Ein KI-System wird als hochriskant eingestuft, wenn es in Anhang III der KI-Verordnung aufgeführt ist oder wenn es als Sicherheitskomponente eines Produkts dient, das unter die in Anhang I der Verordnung genannten Harmonisierungsrechtsvorschriften der Union fällt. Da Medizinprodukte unter die MDR fallen, werden KI-Systeme, die in Medizinprodukten integriert sind oder als solche fungieren, in der Regel als hochriskant eingestuft.

Insbesondere die Regel 11 des Anhangs VIII der MDR, die Software als Medizinprodukt oft in die Risikoklasse IIa oder höher einstuft, verstärkt diese Klassifizierung. Dies bedeutet, dass selbst KI-Software, die nach herkömmlichen Maßstäben ein geringeres Risiko darstellen mag, unter der KI-Verordnung als hochriskant gelten kann. Hersteller müssen daher eine sorgfältige Risikobewertung durchführen und dokumentieren, um die korrekte Einstufung ihrer KI-basierten Medizinprodukte zu gewährleisten. Es gibt zwar Ausnahmeregelungen, die eine Einstufung als Hochrisiko-KI-System unter bestimmten Umständen verhindern können, diese sind jedoch eng gefasst und erfordern eine detaillierte Begründung. Die korrekte Risikoklassifizierung ist der erste und wichtigste Schritt auf dem Weg zur Compliance.

Tabelle: Risikoklassifizierung von KI-Systemen in Medizinprodukten

Risikostufe	Beschreibung	Beispiele im Medizinproduktebereich	Regulatorische Konsequenzen
Unvertretbares Risiko	KI-Systeme, die eine klare Bedrohung für Sicherheit, Lebensunterhalt und Rechte darstellen.	KI zur Manipulation menschlichen Verhaltens, die zu physischem oder psychischem Schaden führt.	Verboten
Hohes Risiko	KI-Systeme, die ein erhebliches Risiko für die Gesundheit, Sicherheit oder Grundrechte darstellen.	KI-Systeme für die Diagnose oder Behandlung von Krankheiten, chirurgische Robotik, KI-gestützte Überwachung von Vitalfunktionen.	Strenge Anforderungen: Konformitätsbewertung durch Benannte Stelle, Risikomanagement, Daten-Governance, Transparenz, menschliche Aufsicht, robuste technische Dokumentation, Post-Market Surveillance.
Begrenztes Risiko	KI-Systeme mit spezifischen Transparenzpflichten.	Chatbots zur Patienteninformation, die sich als KI ausweisen müssen.	Transparenzpflichten (z.B. Offenlegung, dass man mit einer KI interagiert).
Minimales Risiko	KI-Systeme, die kein oder nur ein minimales Risiko darstellen.	KI-gestützte Verwaltungssoftware in Kliniken ohne direkten Patientenkontakt, einfache Suchalgorithmen.	Keine spezifischen regulatorischen Auflagen unter der KI-VO, jedoch allgemeine Produktsicherheitsgesetze.

Die Kernanforderungen an Hochrisiko-KI-Medizinprodukte

Für Hochrisiko-KI-Systeme, zu denen die meisten KI-basierten Medizinprodukte zählen, legt die KI-Verordnung eine Reihe umfassender und strenger Anforderungen fest. Diese sollen sicherstellen, dass die Systeme während ihres gesamten Lebenszyklus sicher, zuverlässig und ethisch vertretbar sind. Die Einhaltung dieser Vorgaben ist nicht nur eine rechtliche Notwendigkeit, sondern auch ein Qualitätsmerkmal, das das Vertrauen von Anwendern und Patienten stärkt.

Qualitätsmanagement und Risikomanagement

Hersteller müssen ein robustes Qualitätsmanagementsystem (QMS) implementieren, das die Anforderungen der KI-Verordnung berücksichtigt und von einer Benannten Stelle zugelassen wird. Dies umfasst die gesamte Wertschöpfungskette, von der Entwicklung über die Produktion bis hin zum Vertrieb und der Überwachung nach dem Inverkehrbringen. Das Risikomanagement muss umfassend sein und alle potenziellen Risiken, die mit dem KI-System verbunden sind, identifizieren, bewerten und mindern. Dies beinhaltet auch Risiken, die sich aus der Interaktion mit Menschen oder anderen Systemen ergeben können. Ein integriertes QMS ist der Grundstein für rechtssichere KI-Medizinprodukte.

Daten- und Governance-Anforderungen

Die Qualität der Daten ist für KI-Systeme von entscheidender Bedeutung. Die Verordnung fordert, dass die für das Training, die Validierung und das Testen von Hochrisiko-KI-Systemen verwendeten Datensätze von hoher Qualität, repräsentativ, fehlerfrei und vollständig sind. Dies soll sicherstellen, dass die KI-Systeme faire und genaue Ergebnisse liefern und Diskriminierungen vermeiden. Hersteller müssen zudem eine robuste Daten-Governance etablieren, die Prozesse für die Datenerhebung, -verwaltung und -überprüfung umfasst. Dies schließt auch die Dokumentation der Datenquellen und der angewandten Datenvorbereitungsverfahren ein. „Daten sind das Fundament – ihre Qualität entscheidet über die Zuverlässigkeit Ihrer KI.“

Transparenz und menschliche Aufsicht

Hochrisiko-KI-Systeme müssen so konzipiert sein, dass sie ein hohes Maß an Transparenz gewährleisten. Dies bedeutet, dass Nutzer die Funktionsweise des Systems verstehen und seine Ergebnisse interpretieren können sollten. Die Verordnung fordert zudem, dass diese Systeme einer effektiven menschlichen Aufsicht unterliegen. Dies kann durch Mechanismen wie die Möglichkeit zum manuellen Eingreifen, die Überwachung der Systemleistung oder die Deaktivierung des Systems bei Fehlfunktionen realisiert werden. Ziel ist es, die Kontrolle über die KI zu behalten und sicherzustellen, dass menschliche Entscheidungen nicht durch undurchsichtige Algorithmen ersetzt werden. Transparenz schafft Vertrauen, menschliche Aufsicht sichert Kontrolle.

Technische Dokumentation und Aufzeichnungen

Hersteller sind verpflichtet, eine umfassende technische Dokumentation zu erstellen, die alle relevanten Informationen über das KI-System enthält. Dies umfasst Details zur Entwicklung, den verwendeten Daten, den Algorithmen, den Validierungs- und Testverfahren sowie den Risikomanagementmaßnahmen. Diese Dokumentation muss während des gesamten Lebenszyklus des Produkts aktuell gehalten werden und den zuständigen Behörden auf Anfrage zur Verfügung stehen. Darüber hinaus müssen Hochrisiko-KI-Systeme in der Lage sein, Ereignisse während ihres Betriebs automatisch zu protokollieren, um die Überwachung und Rückverfolgbarkeit zu gewährleisten. Eine lückenlose Dokumentation ist Ihr Nachweis für Compliance und Sicherheit.

Cybersicherheit und Robustheit

Angesichts der zunehmenden Vernetzung von Medizinprodukten ist die Cybersicherheit von entscheidender Bedeutung. Die KI-Verordnung fordert, dass Hochrisiko-KI-Systeme so konzipiert werden, dass sie gegen Cybersicherheitsrisiken geschützt sind und robust gegenüber Fehlern, Störungen oder böswilligen Angriffen sind. Dies beinhaltet auch den Schutz vor unbefugtem Zugriff auf Daten und Systeme. Hersteller müssen Maßnahmen ergreifen, um die Integrität und Verfügbarkeit ihrer KI-Systeme zu gewährleisten. Cybersicherheit ist kein Zusatz, sondern ein integraler Bestandteil sicherer KI-Medizinprodukte.

„Innovation trifft Compliance: Ihr Weg zur CE-Kennzeichnung.“

Konformitätsbewertung und Benannte Stellen: Der Weg zur Marktzulassung

Die Marktzulassung von KI-basierten Medizinprodukten in der EU erfordert eine erfolgreiche Konformitätsbewertung, die sowohl die Anforderungen der MDR als auch der neuen KI-Verordnung berücksichtigt. Für Hochrisiko-KI-Systeme ist eine Bewertung durch eine Benannte Stelle zwingend erforderlich. Dies ist eine entscheidende Neuerung, da die Benannten Stellen ihre Expertise im Bereich der KI-Technologien aufbauen und erweitern müssen.

Das Konformitätsbewertungsverfahren nach der MDR soll dahingehend erweitert werden, dass es auch die Prüfung der Einhaltung der KI-Verordnungsanforderungen umfasst. Dies soll eine integrierte und effiziente Bewertung ermöglichen, um Doppelprüfungen zu vermeiden. Hersteller müssen sich darauf einstellen, dass die Benannten Stellen detaillierte Einblicke in ihre KI-Systeme verlangen werden, einschließlich der Trainingsdaten, Algorithmen und Validierungsstrategien. Die Auswahl einer geeigneten Benannten Stelle mit der notwendigen KI-Expertise wird zu einem kritischen Erfolgsfaktor. Die Zusammenarbeit mit einer erfahrenen Benannten Stelle ist unerlässlich für eine reibungslose Zulassung.

Die Herausforderung liegt darin, dass die Benannten Stellen ausreichend Kapazitäten und Fachwissen aufbauen müssen, um die steigende Anzahl und Komplexität der KI-basierten Medizinprodukte bewerten zu können. Dies kann anfänglich zu Engpässen und längeren Zulassungszeiten führen. Hersteller sollten daher frühzeitig den Dialog mit den Benannten Stellen suchen und ihre Produkte und Prozesse entsprechend vorbereiten. Eine proaktive Herangehensweise minimiert Verzögerungen und sichert den Marktzugang.

Post-Market Surveillance: KI-Systeme im Praxiseinsatz überwachen

Auch nach dem Inverkehrbringen unterliegen KI-basierte Medizinprodukte strengen Überwachungspflichten, der sogenannten Post-Market Surveillance (PMS). Die KI-Verordnung ergänzt die bestehenden PMS-Anforderungen der MDR um spezifische Aspekte, die der Besonderheit von KI-Systemen Rechnung tragen. Ziel ist es, die kontinuierliche Sicherheit und Leistung der KI-Systeme im realen Einsatz zu gewährleisten und auf unerwartete Verhaltensweisen oder Leistungsabfälle schnell reagieren zu können.

Für KI-Medizinprodukte bedeutet dies eine erweiterte Überwachung von Aspekten wie:

• Daten-Drift: Die Leistung von KI-Modellen kann sich im Laufe der Zeit verschlechtern, wenn sich die Eingangsdaten ändern oder von den Trainingsdaten abweichen. Hersteller müssen Mechanismen zur Erkennung und Behebung von Daten-Drift implementieren.
• Performance-Monitoring: Die kontinuierliche Überwachung der klinischen Leistung und Sicherheit des KI-Systems im Feld ist entscheidend. Dies umfasst die Erfassung und Analyse von Rückmeldungen von Anwendern und Patienten.
• Unerwartete Ausgaben: KI-Systeme können in seltenen Fällen unerwartete oder fehlerhafte Ausgaben produzieren. Ein robustes PMS-System muss in der Lage sein, solche Vorfälle zu erkennen und zu melden.
• Berichterstattung über Grundrechtsverletzungen: Die KI-Verordnung erweitert die Meldepflichten um Vorfälle, die zu einer Verletzung von Grundrechten führen könnten, selbst wenn kein direkter Patientenschaden vorliegt.

Hersteller müssen ein System zur Erfassung, Analyse und Meldung von schwerwiegenden Vorkommnissen und Korrekturmaßnahmen im Feld etablieren. Dies erfordert oft den Einsatz spezialisierter Tools und Prozesse, um die großen Mengen an Daten, die von KI-Systemen generiert werden, effektiv zu verwalten. Eine effektive Post-Market Surveillance ist der Schlüssel zur langfristigen Sicherheit und Akzeptanz Ihrer KI-Medizinprodukte.

Zeitplan und Übergangsfristen: Was Sie jetzt wissen müssen

Die EU-KI-Verordnung ist am 1. August 2024 in Kraft getreten, doch die vollständige Anwendbarkeit der einzelnen Bestimmungen erfolgt gestaffelt. Dies gibt Herstellern eine Übergangszeit, um ihre Produkte und Prozesse an die neuen Anforderungen anzupassen. Die wichtigsten Fristen für Hochrisiko-KI-Systeme, zu denen die meisten Medizinprodukte gehören, sind:

• August 2024: Inkrafttreten der Verordnung.
• August 2026: Beginn der Anwendung von Vorschriften für KI-Modelle mit allgemeinem Verwendungszweck.
• August 2027: Beginn der Anwendung der zentralen Einstufungsvorschriften und Anforderungen an Hochrisiko-KI-Systeme (gemäß Artikel 6 Absatz 1 KI-VO). Dies ist die wichtigste Frist für Medizinproduktehersteller, da ab diesem Zeitpunkt die umfassenden Compliance-Anforderungen gelten.

Diese Übergangsfristen sollten nicht als Aufschub, sondern als wertvolle Zeit für die Vorbereitung verstanden werden. Hersteller sollten bereits jetzt damit beginnen, ihre internen Prozesse zu überprüfen, ihre QMS anzupassen, ihre Daten-Governance zu stärken und die notwendige technische Dokumentation vorzubereiten. Die frühzeitige Zusammenarbeit mit Benannten Stellen und Rechtsexperten ist entscheidend, um die Compliance sicherzustellen und Verzögerungen bei der Marktzulassung zu vermeiden. Wer jetzt handelt, sichert sich einen Vorsprung im Wettbewerb.

Fazit: Chancen nutzen, Risiken minimieren

Die EU-KI-Verordnung stellt eine signifikante Veränderung für die Medizintechnikbranche dar, insbesondere für Hersteller von KI-basierten Medizinprodukten. Die neuen Anforderungen sind umfassend und komplex, bieten aber gleichzeitig die Chance, das Vertrauen in diese innovativen Technologien zu stärken und die Patientensicherheit auf ein neues Niveau zu heben. Die erfolgreiche Navigation durch diesen neuen Rechtsrahmen erfordert nicht nur technisches Know-how, sondern auch ein tiefes Verständnis der rechtlichen Implikationen.

Es ist unerlässlich, dass Hersteller ihre Produkte und Prozesse proaktiv an die Vorgaben der KI-Verordnung anpassen und die Wechselwirkungen mit der MDR genau verstehen. Dies beinhaltet eine sorgfältige Risikobewertung, die Anpassung des Qualitäts- und Risikomanagements, die Sicherstellung der Datenqualität und -governance sowie die Erstellung einer umfassenden technischen Dokumentation. Die Zusammenarbeit mit erfahrenen Rechtsexperten und spezialisierten Benannten Stellen ist dabei von unschätzbarem Wert.

Die Zukunft der Medizintechnik ist untrennbar mit der Künstlichen Intelligenz verbunden. Wer die regulatorischen Herausforderungen meistert, wird nicht nur die Marktzulassung sichern, sondern auch einen entscheidenden Beitrag zur Weiterentwicklung der Gesundheitsversorgung leisten. Nutzen Sie die Chancen der KI-Verordnung, um Ihre Innovationen sicher und erfolgreich auf den Markt zu bringen.

„Ihre Zukunft in der Medizintechnik beginnt mit rechtlicher Klarheit.“