Symposium: Von der KI-Idee in den AI-lltag
Künstliche Intelligenz (KI) zieht im Galopp ins Gesundheitswesen ein. Auch in Krankenhausapotheken lassen sich viele Aufgaben mithilfe von KI erleichtern. Doch noch fehlt es an Leitlinien und klarer rechtlicher Orientierung, wie das Roche-Satellitensymposium auf dem ADKA-Jahreskongress im Juni 2026 in Düsseldorf zeigte. Unter dem Titel „Von der KI-Idee in den AI-lltag“ gab es neben grundsätzlicher Einordnung auch erfrischende Blicke auf die tägliche Praxis.
„Wir haben im Prinzip keinen Bereich in der Krankenhausapotheke, der nicht von künstlicher Intelligenz profitieren kann“, sagt Professor Martin Hug, leitender Klinikapotheker am Universitätsklinikum Freiburg. Die gesamte Trias aus Logistik, Herstellung und klinisch-pharmazeutischen Dienstleistungen biete Anknüpfungspunkte für KI. „Angesichts zunehmender Datenmengen und steigendem Zeit- und Leistungsdruck liegt ihr Einsatz geradezu auf der Hand“, betont Professor Hug.
Doch so naheliegend die Anwendungen, so komplex ihre Umsetzung: Wenn beispielsweise eine Klinik eine selbstentwickelte KI einsetzt, um bestimmte Abläufe in der Klinikapotheke zu vereinfachen, dann gilt sie Rahmen des AI-Acts der EU als Anbieter und nicht als Nutzer. „Dann hat sie regulatorische Pflichten wie kommerzielle Hersteller von Medizinprodukten“, sagt Dr. Damian Martus vom Universitätsklinikum Heidelberg. Zu einem Produkt höheren Risikos werde solch eine selbstentwickelte KI, sobald sie gemäß ihrer Zweckbestimmung Therapieentscheidungen direkt beeinflusse.
KI-gestützte Medizinprodukte: Große Unterschiede zwischen der EU und den USA
Solch ein regulatorischer Hintergrund bewog den US-Anbieter von OpenEvidence im April 2026 vermutlich dazu, seine medizinisch-pharmazeutische KI-Wissensplattform vom EU-Markt zu nehmen. Weitere Unternehmen könnten folgen, glaubt Dr. Damian Martus. Hängt sich die EU damit von fortschrittlichen Entwicklungen ab? Der Klinikapotheker verneint. Bei näherer Betrachtung sehe man, dass US-Produkte ungleich weniger geprüft, geschweige denn überwacht sind. Nur etwa jedes zehnte von der FDA zugelassene KI-gestützte Medizinprodukt sei umfangreich validiert worden. Oft finde nach der Zulassung keine weitere Überwachung statt. Genau hier liegt aus Sicht von Dr. Martus eine Chance für Europa: KI von Anfang an so entwickeln und auf den Markt bringen, dass sie wichtige Sicherheitsanforderungen erfüllt.
Wie aufwändig der Weg zum zugelassenen KI-Medizinprodukt ist, das zeigte Luca Pizzoni vom Tech-Unternehmen deepeye Medical. Als Zweitmeinungstool unterstützt diese KI die Augenärzte dabei, in der Behandlung der feuchten Makuladegeneration die Krankheitsaktivität und den Behandlungsbedarf des Patienten einzuschätzen. „Für uns als Entwickler ist es schon ein riesiger Schritt, wenn der Algorithmus funktioniert und namhafte Fachvertreter von der Idee überzeugt sind“, berichtete Pizzoni. Doch dann folge der „AI Chasm“, der KI-Abgrund eines jeden Start-ups: Auf dem Weg zum EU-Medizinprodukt brauche es in der Regel ein Kapital von über einer Million Euro und etwa 1,5 Jahre Geduld – deepeye konnte diese Hürde mit Hilfe von Industriesponsoren nehmen.
Zwischen Alltagsgebrauch und Regulatorik
Die abschließende Diskussion beim Roche-Symposium gab einen erfrischenden Praxischeck: Berufserfahrene Medizinerinnen und Mediziner werden ein Programm wie deepeye vermutlich, wie beabsichtigt, als Zweitmeinungsprogramm nutzen. Doch wären jüngere nicht verführt, es direkt als Entscheidungsprogramm einzusetzen und verlören wichtige Basiskompetenzen? Wo genau verläuft die Grenze zum Medizinprodukt, wenn Klinikapotheken Aufgaben automatisieren? Und ist es nicht urmenschlich, ‚mal eben schnell‘ die KI zu befragen und sich von ihr beeinflussen zu lassen?
Die Entwicklung ist dynamisch, darin waren sich die Teilnehmenden einig. „Ich bin gespannt, was die nächsten fünf Jahre bringen“, sagte Moderator Martin Hug. „Vielleicht treffen wir dann wieder zusammen“, so der Pharmazeut. „Vielleicht sind wir mit Blick auf den Fachkräftemangel froh, dass wir die KI haben. Und sagen: Alles ist gut.“
Eine bessere Versorgung von Patienten mit feuchter altersbedingter Makuladegeneration (nAMD) – das möchte das Münchner Health-Tech-Unternehmen deepeye Medical mithilfe von Künstlicher Intelligenz ermöglichen. Technologieexperte Luca Pizzoni erklärt die Hintergründe.
Eine kleine Spritze Arzneimittel ins Auge als Standardtherapie bei nAMD erscheint vielen Patienten als psychologisch unangenehm. deepeye Medical hat ein KI-gestütztes Zweitmeinungstool entwickelt, das helfen soll, die Behandlung gezielter zu steuern. Wie kamen Sie darauf?
Bei der Behandlung der nAMD gibt es in Deutschland noch Luft nach oben: Bis zu jeder zweite Patient bricht die Therapie mit einem VEGF-Hemmer im ersten Behandlungsjahr ab. Und das, obwohl die Sehkraft erheblich beeinträchtigt werden kann! Gleichzeitig wissen wir, dass durch qualifizierte Zweitmeinungen bessere Behandlungsergebnisse erzielt werden können: Bei Patienten, für deren Netzhaut-Scans eine unabhängige, ärztliche Zweitmeinung über das telemedizinische Portal der Augenärzte am St. Franziskus-Hospital eingeholt worden war, zeigte sich im Verlauf ein deutlich besserer Visus als in üblichen Versorgungsstudien. deepeye Medical wollte diesen Ansatz durch künstliche Intelligenz skalieren: Wir glauben, dass Patienten eher bereit sind, sich diesem dauerhaften Eingriff zu unterziehen, wenn sie ihren Krankheitsverlauf mithilfe der KI-Auswertung veranschaulicht bekommen und ein stabileres Therapieergebnis haben.
Heute ist deepeye® TPS nAMD ein CE-gekennzeichnetes Produkt. Wie funktioniert es?
Ausgehend vom jeweiligen Netzhaut-Scan (OCT) bewertet unsere KI die aktuelle Krankheitsaktivität des Patienten und prognostiziert den individuellen Behandlungsbedarf in den kommenden zwölf Monaten. So werden die Spritzintervalle gezielter bestimmt.
Für das Training unserer KI konnten wir auf fast eine Million OCT-Volumenscans aus mehr als 70 Augenarztpraxen und mehreren klinischen Studien zurückgreifen. Die Vorhersage beruht allerdings nur auf den anonymisierten Daten von jenen Patienten, von denen es mindestens einen einjährigen Datenverlauf gibt, manchmal auch bis zu 10+ Jahre. Dadurch ist eine gute Vorhersagefähigkeit gegeben.
Was passiert, wenn der Behandler und die KI zu unterschiedlichen Schlüssen kommen?
Dann können sie die Analyse der KI überprüfen: Denn unsere KI zeigt nicht nur die Krankheitsaktivität und den zu erwartenden Behandlungsbedarf auf. Sie zeigt auch die zugrunde liegenden Biomarker und relevanten Netzhautbereiche an. Ärzte können also nachvollziehen, warum die KI zu einer bestimmten Empfehlung kommt und dann selbst entscheiden. Für uns ist diese Erklärbarkeit das A und O eines guten KI-Medizinprodukts.
Worauf sollte man grundsätzlich achten, wenn man die Qualität eines KI-gestützten medizinischen Tools beurteilen möchte?
Man sollte schauen, wofür genau das Produkt zugelassen worden ist. Bei deepeye geht die behördliche Zulassung beispielsweise über die Quantifizierung von Biomarkern hinaus und gilt für die prädiktive Therapieplanung und die Unterstützung von Behandlungsentscheidungen für die Anti-VEGF-Therapie sowie Patientenaufklärung. Eine weitere Besonderheit ist, dass unser Tool als Therapieassistent gedacht ist: Wir möchten Ärzte befähigen, effizienter und effektiver zu behandeln, und sie nicht ersetzen.
Außerdem ist wichtig, ob ein Produkt in Übereinstimmung mit den Anforderungen der EU-KI-Verordnung entwickelt worden ist und weitere ethische Richtlinien erfüllt. Wir verarbeiten beispielsweise nur anonymisierte OCTs und löschen sie sofort nach der KI-Analyse. Sie finden solche Informationen in der KI-Lizenzvereinbarung.
Was gilt es hinsichtlich des Trainings der KI zu bedenken?
Fragen Sie nach der Ground Truth einer KI und ihrer Generalisierbarkeit: Wird eine KI wie deepeye mit Daten an einer Klinik aus Deutschland trainiert, dann beziehen sich diese überwiegend auf kaukasische nAMD-Patienten im Alter von 70 bis 85 Jahren. Die verwendeten Netzhaut-Scans stammen häufig aus einem Spectralis-OCT-Gerät von Heidelberg Engineering und wurden häufig von den gleichen zwei bis drei medizinischen Fachangestellten gemacht. Von Generalisierbarkeit sprechen wir, wenn eine KI dann auch in anderen Settings – wir sagen „Domänen“ – verlässlich funktioniert. Also z.B. an einer niedergelassenen Praxis in Frankreich mit einem ZEISS CIRRUS-OCT und für die dortige Ophthalmologin.
Und was ist die Ground Truth?
Eine KI kann nur so gut sein wie ihr Trainingsdatensatz: Deshalb sind die Personen, die den Trainingsdatensatz annotieren, der Schlüssel zur KI-Leistung. Die Übereinstimmung zwischen zwei Fachärzten für Augenheilkunde in Bezug z.B. auf die Einschätzung der CNV-Aktivität bei einem OCT liegt bei rund 75% laut der ORCA-Studie. Daher lassen wir in unserem Fall zertifizierte Netzhautspezialisten in sogenannten Reading Centern die Daten annotieren. Sie segmentieren die Biomarker in den OCTs und beurteilen, ob die Krankheit aktiv ist. Denn eine KI kann die Qualität ihrer Ground Truth niemals übertreffen.
Künstliche Intelligenz (KI) ist im Klinikalltag längst angekommen – oft, ohne dass die Beschäftigten es bewusst wahrnehmen. Professor Martin Hug, Leiter der Apotheke des Universitätsklinikums Freiburg, sieht großes Potenzial in der Arzneimittelinformation, der Logistik und der Verknüpfung klinischer Systeme. Gleichzeitig warnt er davor, fachliche Kompetenz, Verantwortung und technologische Unabhängigkeit aus der Hand zu geben.
Herr Professor Hug, wo begegnet Ihnen künstliche Intelligenz heute bereits im Klinikalltag?
Wir haben am Universitätsklinikum Freiburg an vielen Stellen Kontakt mit künstlicher Intelligenz oder Large Language Models. Manchmal ist uns das gar nicht bewusst. Schon wenn Sie eine Frage in eine Suchmaschine eingeben, erhalten Sie heute häufig eine KI-generierte Antwort, die Ihre Anfrage einordnet.
Damit ist allerdings auch schon eines der wesentlichen Probleme verbunden: Die Validität der Antwort lässt sich oft nur schwer beurteilen. Im besten Fall wird eine Quelle angegeben. Dann muss ich aber noch immer prüfen, ob die zitierte Passage tatsächlich dort steht, ob sie richtig wiedergegeben wurde und ob die Quelle noch aktuell ist. Gerade bei rechtlichen Vorgaben reicht es nicht, wenn eine Antwort nur überzeugend klingt.
Wofür nutzen Sie KI speziell in der Krankenhausapotheke?
Vor allem bei der Recherche und in der Arzneimittelinformation. Wir erhalten Fragen zu Wechselwirkungen, Höchstdosen oder kumulativen Dosen. Es geht auch darum, ob ein Medikament verordnet werden darf, ob ein Zusatzentgelt abgerechnet werden kann oder ob eine Therapie für das Krankenhaus wirtschaftlich darstellbar ist. Dann reicht es nicht, wenn mir das System sagt: “Ja, das kannst du machen”. Dann brauche auch die zugehörige rechtliche Grundlage.
Und spätestens, wenn es um proprietäre Informationen geht, ist eine klare Grenze erreicht: Vertrauliche Informationen dürfen nicht einfach in öffentliche Systeme eingegeben werden. Wir wollen den großen KI-Anbietern nicht auch noch unser „Tafelsilber“ überlassen.
Sie sorgen sich um Datenabfluss über KI-Systeme?
Diese Sorge ist berechtigt: Mit jeder Frage geben wir einen Teil unseres Denkens preis. Die Anbieter erfahren, welche Probleme uns beschäftigen und welche Informationen für uns relevant sind. Deshalb ist es so wichtig, zu wissen, was unter der Haube eines KI-Systems liegt. Die meisten großen Large Language-Modelle werden außerhalb Europas entwickelt und betrieben. Selbst Anwendungen, die nach außen wie europäische Lösungen wirken, greifen möglicherweise im Hintergrund auf Dienste dieser US-amerikanischen oder chinesischen Anbieter zurück. Es besteht also die Gefahr, dass wir in technologische und geopolitische Abhängigkeiten geraten. Ein Krankenhaus muss aber auch dann arbeitsfähig bleiben, wenn ein externer Dienst ausfällt. Wir müssen uns also um lokale und regionale Lösungen bemühen, was viele Maximalversorger bereits tun.
Wo könnte KI in den kommenden Jahren besonders nützlich für die Arbeit von Klinikapotheken werden?
Das größte Potenzial sehe ich in der Logistik und in der Verknüpfung unserer Systeme. Heute bekommen wir immer noch handschriftliche Bestellungen per Fax. Manchmal werden Präparate bestellt, die im Kliniksortiment eigentlich vorhanden ist, aber unter einem anderen Namen, was die Kolleginnen und Kollegen auf Station nicht wissen. Ein KI-System könnte diese Zuordnung automatisch vornehmen.
Auch kaufmännisch und buchhalterisch werden wir in den nächsten Jahren auf eine neue Ebene kommen: Heute unterschreiben wir noch Einzahlungs- und Auszahlungsanordnungen per Hand, setzen den Stempel drauf, scannen sie ein und verschicken sie mit der Hauspost …
Daneben könnten wir die Versorgung insbesondere von Krebspatienten weiter verbessern: Hier liegen zwar viele Daten vor, aber sie befinden sich in verschiedenen Informationssystemen, die nicht richtig miteinander sprechen. KI ist wie gemacht dafür, dieses babylonische Sprachgewirr aufzulösen.
Es braucht also vor allem eine stärkere Vernetzung?
Ja, und gerne auch mit pharmazeutischen Unternehmen, zum Beispiel beim Thema ‚unerwünschte Arzneimittelwirkungen‘ (UAW). Würden Beobachtungen aus verschiedenen Kliniken automatisch zusammengeführt und analysiert, könnten Signale früher sichtbar werden. Eine Herzrhythmusstörung nach einer Medikamentengabe mag im Einzelfall wie Zufall wirken. In der Gesamtschau könnte sich jedoch eine unerwünschte Arzneimittelwirkung zeigen. Außerdem sollten die pharmazeutischen Unternehmen es erfahren, wenn Präparate im Klinikbetrieb regelmäßig höher dosiert werden als vorgesehen. Auch das erlebe ich in der Praxis.
Welche praktischen Hürden sehen Sie bei der Einführung von KI-Systemen in Kliniken?
Das Hauptproblem ist nicht der Mangel an Ideen, sondern die Umsetzung. Es braucht Menschen, die solche Projekte verantworten. Aber selbst, wenn eine Klinik jetzt KI-Officer einsetzt – er oder sie braucht auch das Mandat, um klinikweite Entscheidungen durchsetzen zu können.
Und dann sind wir wieder beim Thema Datenschutz. Der ist wichtig, bremst aber sinnvolle KI-Entwicklungen allzu oft aus. Dabei ist die häufigste Datenschutzverletzung immer noch der Mensch – und eines der riskantesten Systeme die Faxmaschine.
In welchen Fällen sind Sie selbst besonders vorsichtig?
Bei allen Aussagen, die direkte Folgen für Patientinnen und Patienten haben. Ein KI-System kann überzeugend formulieren und trotzdem falsch liegen. Wenn es unbegründet vor einer Wechselwirkung warnt, dann wird womöglich eine wirksame Therapie verhindert. Umgekehrt kann eine übersehene Wechselwirkung genauso Schaden verursachen.
Die Plausibilitätsprüfung und Entscheidung müssen deshalb beim Menschen bleiben. Mein Vorteil ist, dass ich aus einer Zeit komme, in der solche KI-Systeme nicht verfügbar waren. Ich kann einschätzen, ob eine Antwort zu meinem bisherigen Wissen passt und ob ein Restrisiko besteht. Auf dieses Bauchwissen greife ich zurück, wenn ich am Telefon um eine Akut-Einschätzung oder -Beratung gebeten werde.
Mit Blick auf jüngere Kolleginnen und Kollegen frage ich mich, wie sich diese Fähigkeit entwickelt, wenn uns KI-Systeme nun immer mehr Entscheidungen abnehmen. Wir müssen nicht nur das richtige Prompten vermitteln. Wir müssen auch dafür sorgen, dass sich fachliches Wissen und ein eigenes Urteilsvermögen entwickeln.
Interaktionsprüfungen, Medikationsanalysen oder eine wissenschaftliche Recherche – künstliche Intelligenz (KI) kann viele Aufgaben in Krankenhausapotheken erleichtern. Doch ab wann steht man dabei im Feld des Medizinprodukterechts oder des AI-Acts der EU? Eine nicht immer einfach zu beantwortende Frage. Dr. rer. nat. Damian Martus, Apotheker am Universitätsklinikum Heidelberg, über eine Regulatorik im Übergangsstadium.
OpenEvidence, eine KI-gestützte medizinische Wissens- und Rechercheplattform aus den USA, wurde im April 2026 vom EU-Markt genommen. Was ist passiert?
OpenEvidence ist ein KI-basiertes Sprachprogramm, mit dem medizinisches Fachpersonal auf große medizinische Literatur-Datenbanken zurückgreifen kann. Vermutlich ist es für KI-gestützte Literaturrecherche entwickelt worden, theoretisch ist jedoch auch eine KI-gestützte Diagnosestellung und Therapieentscheidungsunterstützung (Clinical Decision Support) möglich. Sobald aber ein Produkt oder eine Software zur klinischen Entscheidungsunterstützung genutzt wird, erfüllt sie einen medizinischen Zweck und wird auf europäischer Ebene als Medizinprodukt gemäß Medizinprodukteverordnung (MDR) eingestuft. Dann braucht es die Formulierung einer präzisen Zweckbestimmung des Produkts sowie eine entsprechende Validierung gegen diese. Das fordert übrigens auch der AI-Act der EU.
Und OpenEvidence hatte keine Zweckbestimmung?
Genau, die Anbieter haben ihr Produkt in der EU ohne Zweckbestimmung und entsprechende Validierung zur Verfügung gestellt und haben meines Wissens auch keine Sicherheitsdaten erhoben. Ein Einsatz von OpenEvidence zur klinischen Entscheidungsunterstützung barg daher, vor allem bei direktem Patientenbezug, ein erhebliches Risiko.
Das klingt nach vielen Grauzonen in der täglichen Praxis. Wo genau läuft die Trennlinie zwischen einfachem KI-Tool und Medizinprodukt?
In meinen Augen sind vor allem die in der MDR-geforderte Zweckbestimmung des jeweiligen Produkts und dann die Validierung gegen diese Zweckbestimmung relevant. Die Zweckbestimmung, welche das grundlegende Kriterium für die Klassifizierung u.a. von Software – und hierüber sprechen wir bei einem Großteil der KI-basierten Produkte – darstellt, muss klar, eindeutig und ohne Interpretationsspielraum formuliert sein. Gemäß der MDCG 2019-11 Leitlinie der „Koordinierungsgruppe Medizinprodukte“ muss die Software selbst einen medizinischen Zweck erfüllen, um als (KI)-Medizinproduktesoftware klassifiziert zu werden. Wo jedoch ein medizinischer Zweck beginnt und aufhört, ist immer wieder Bestandteil reger Diskussionen.
Bitte geben Sie Beispiele …
Wenn eine Klinik ein KI-Tool nutzt, um die Verbrauchsdaten von Medikamenten auf einer Station zu erfassen und damit Bestellprozesse zu optimieren – liegt dann ein medizinischer Zweck vor? Ich würde sagen, nein. Die Zweckbestimmung ist eher lagerlogistischer Natur.
Aber wie sieht es aus mit einem KI-Tool, welches ausgehend von der Leber- und Nierenfunktion des Patienten Dosisempfehlungen zu Medikamenten ableitet? Das ist eine klare medizinische Zweckbestimmung. Ein solches Produkt muss als KI-basiertes Medizinprodukt klassifiziert werden – mit allen regulatorischen und technischen Anforderungen, die mit einer Medizinprodukte-Klassifizierung gemäß MDR einhergehen.
Welche Implikationen hat der europäische AI-Act für Klinikapotheken?
Der EU-AI-Act wurde verabschiedet, um einen einheitlichen Rahmen für den Einsatz von KI-Systemen in der EU zu schaffen und richtet sich hierbei breit an Anbieter und Betreiber. Er spricht zahlreiche Aspekte an, etwa den Umgang mit Hochrisiko-KI-Medizinprodukten, die Pflichten von Herstellern, Anbietern sowie Betreibern von KI-Tools, Transparenz- sowie Validierungsanforderungen oder Post-Market-Untersuchungen.
Ein Krankenhaus, welches KI-gestützte Produkte nutzt, ist per definitionem ein Betreiber von KI-Produkten. Es muss nicht nur Anforderungen an Vigilanz und Datenschutz erfüllen, es muss auch einen zweckbestimmungsgemäßen Gebrauch sicherstellen: Gemäß Artikel 4 des AI-Acts muss der Betreiber den Schulungsbedarf aller Mitarbeiter ermitteln, zielgerichtete Schulungskonzepte erstellen und so dafür Sorge tragen, dass seine Mitarbeiter im beruflichen Kontext eine ausreichende technische, rechtliche und ethische KI-Kompetenz entwickeln. Wer etwa KI-gestützte Systeme zur Arzneimittelinformation, Interaktionsprüfung, Medikationsanalyse oder Dokumentation nutzt, muss die Limitationen und Risiken dieser Systeme kennen.
Was ist, wenn eine Klinik sich ein eigenes KI-Programm schreibt?
Dann gilt sie laut AI-Act als Anbieter. Egal, ob sie das KI-System entgeltlich oder unentgeltlich entwickelt, sie hat die gleichen Pflichten wie andere Anbieter von KI-gestützten Anwendungen.
Manövriert sich die EU durch solch eine Regulatorik ins Abseits? Wollen wir wirklich riskieren, dass sich weitere Anbieter vom EU-Markt zurückziehen?
Kurzfristig mag unsere umfassende Regulatorik hinderlich erscheinen, gerade bei viel genutzten Tools wie beispielsweise Open Evidence. Auch die Gesundheitssparte von ChatGPT (ChatGPT Health) ist vermutlich aufgrund erwähnter regulatorischer Hürden zum gegenwertigen Zeitpunkt in der EU nicht nutzbar.
Langfristig sehe ich in einer klaren Regulatorik, vor allen in Bezug auf Validierung und Sicherheitsdaten, aber eine große Chance. Wir sehen am Beispiel der USA, dass Quantität nicht gleich Qualität bedeutet. Zwar sind dort im Vergleich zu Europa mehr KI-gestützte Medizinprodukte marktverfügbar. Allerdings ist nur etwa jedes zehnte von der FDA zugelassene KI-unterstützte Medizinprodukt umfangreich validiert und bei etwa jedem viertem sind keine umfassenden Leistungsstudien durchgeführt worden1. Dies macht eine strenge fortlaufende Überwachung über die Lebensdauer des Produkts hinweg notwendig, weil die Gefahr besteht, dass unerwartete und riskante Leistungsänderungen bei einer breiten Anwendung auftreten.
Wir haben also nichts gewonnen, wenn wir in der EU zwar Zugang zu vielen KI-basierten Produkten haben, diese aber aufgrund mangelnder Validierungs- und Leistungsdaten und damit einhergehender Sicherheitsbedenken nicht gefahrlos einsetzen können.
Und deshalb könnte die strenge Gesetzgebung eine Chance sein?
Ja, ich halte eine klare Regulatorik, vor allen in Bezug auf Validierung und Sicherheitsdaten für essenziell, um KI-basierte Produkte in der medizinischen und pharmazeutischen Praxis sicher nutzbar zu machen. Es ist eine Chance, eigene europäische KI-basierte Medizinprodukte zu entwickeln: gemäß der MDR validiert, mit Sicherheits-sowie Leistungsstudien versehen, datenschutzkonform, mit europäischen Leitlinien angelernt, auf europäischen Servern sitzend und mit strenger Post-Market-Überwachung.
Wie realistisch ist das, nicht zuletzt mit Blick auf die Geschwindigkeit der KI-Entwicklung?
Aktuell tut sich in Bezug auf die doch noch recht starre Regulation KI-basierter Medizinprodukte einiges. Viele europäische Normen und Richtlinien werden momentan über- oder erarbeitet. Gleichzeitig entstehen europäische Leitlinien zum Einsatz von KI im Medizinprodukte- und Arzneimittelbereich. Hier wird also voraussichtlich deutlich mehr Klarheit geschaffen. Man darf gespannt sein, wie viele KI-gestützte Medizinprodukte europäischer Hersteller in der kommenden Zeit marktverfügbar werden.
Derzeit gibt es auf europäischer Ebene keine Verordnungen, Normen oder Richtlinien, die speziell den Einsatz von KI in Medizinprodukten regeln. Auch die EU-Medizinprodukteverordnung (MDR)1 geht in ihrer derzeitigen Fassung nicht explizit auf KI-gestützte Medizinprodukte ein; es gelten die gleichen regulatorischen und technischen Anforderungen wie für andere Medizinprodukte auch2. Einige Normen und Leitlinien sind aktuell auf EU-Ebene in der Überarbeitung beziehungsweise Entwicklung, um zukünftig beispielsweise das Zusammenspiel zwischen MDR und Europäischer KI-Verordnung (AI-Act) zu regeln3. Mit dem AI-Act gilt in der EU seit August 2024 die erste umfassende Verordnung zur Schaffung eines einheitlichen Rahmens für den Einsatz von KI-Systemen in der EU4. In Europa erfolgt die Registrierung und Überwachung von Medizinprodukten einschließlich KI-gestützter Systeme künftig über die Datenbank EUDAMED (European Database on Medical Devices), welche in insgesamt 6 Modulen Angaben bspw. zur Produktkennzeichnung oder zur klinischen Prüfung des Herstellers öffentlich einsehbar macht und so den gesamten Produktlebenszyklus eines Medizinprodukts abbildet5. Auch im Rahmen der EU-Digital-Omnibus-Verordnung vom November 2025 werden derzeit u.a. Leitlinien für den Einsatz von KI bei Medizinprodukten und Arzneimitteln erarbeitet6.
- MDR-Verordnung: Verordnung (EU) 2017/745 (Medical Device Regulation). KI-Anwendungen fallen in der MDR unter die allgemeinen Regularien für Software als Medizinprodukt (Software as a Medical Device – SaMD).
- MDCG-Leitlinien: Die Anforderungen werden u. a. durch die Medical Device Coordination Group (MDCG) präzisiert (z. B. MDCG 2019-11 zur Qualifizierung und Klassifizierung von Software).
- Harmonisierungsbestrebungen: Die EU-Kommission hat Standardisierungsorganisationen wie CEN/CENELEC damit beauftragt, harmonisierte Normen zu entwickeln, die die Lücke an der Schnittstelle zwischen MDR (Patientensicherheit/Klinische Bewertung) und AI-Act (technische KI-Zuverlässigkeit) schließen.
- AI-Act: Verordnung (EU) 2024/1689 (KI-Verordnung). Der sogenannte "AI-Act" ist am 1. August 2024 in Kraft getreten und stellt das weltweit erste umfassende KI-Regelwerk dar.
- EUDAMED-Datenbank: Die Errichtung, der Betrieb sowie die Pflege der EUDAMED sind rechtlich in Artikel 33 der MDR (EU) 2017/745 verankert. Die 6 Module umfassen: Akteurs-Registrierung, UDI/Produktregistrierung, Benannte Stellen/Zertifikate, Klinische Prüfungen, Vigilanz und Marktüberwachung.
- EU-Digital-Omnibus-Verordnung: Die Europäische Kommission veröffentlichte am 19. November 2025 das sogenannte "Digital Simplification Package", welches den "Digital Omnibus on AI" (Vorschlag COM (2025) 836) enthält. Dieses Paket zielt darauf ab, die aktuell teils überlappenden Regelungen der digitalen Gesetzgebung (wie dem AI-Act) in der Praxis zu vereinfachen und sektorspezifische Implementierungsleitlinien – etwa für Medizinprodukte – zu schaffen.