GxP-AI: Was die gemeinsamen FDA/EMA-Prinzipien für die klinische Forschung bedeuten
by 21Stable Team
Es gibt regulatorische Dokumente, die Wellen schlagen. Und es gibt jene, die das Spielfeld neu vermessen. Die am **14. Januar 2026** gemeinsam von der U.S. Food and Drug Administration (FDA) und der European Medicines Agency (EMA) publizierten **„Guiding Principles of Good AI Practice (GxP-AI) in Drug Development"** gehören zur zweiten Kategorie [1]. Dass die beiden mächtigsten Arzneimittelregulierer der Welt ein gemeinsames Framework veröffentlichen, ist präzedenzlos – und signalisiert unmissverständlich: Künstliche Intelligenz ist kein regulatorisches Experimentierfeld mehr. Sie ist eine **validierungspflichtige GxP-Disziplin**.
Zehn Prinzipien, eine Botschaft: Vertrauen durch Governance
Die zehn Prinzipien spannen einen Bogen über den gesamten KI-Lebenszyklus – von der Konzeption über Entwicklung und Deployment bis zur Post-Market-Überwachung. Die Kernbotschaft: Wenn ein KI-System Entscheidungen beeinflusst, die in regulatorische Evidenz einfließen, muss es denselben **Qualitäts-, Dokumentations- und Validierungsstandards** genügen wie jedes andere GxP-relevante Werkzeug auch [2].
Im Einzelnen fordern die Prinzipien: (1) menschenzentriertes Design – KI soll klinische Expertise ergänzen, nicht ersetzen; (2) risikobasierte Governance mit Validierungsintensität proportional zum Schadenspotenzial; (3) Konformität mit bestehenden rechtlichen, ethischen und technischen GxP-Standards; (4) einen klar definierten *Context of Use* innerhalb etablierter Arbeitsabläufe; (5) multidisziplinäre Teams aus KI-Spezialisten, Klinikern, Biostatistikern und Regulatory-Affairs-Experten; (6) durchgängige Daten-Governance mit vollständiger Nachvollziehbarkeit von Datenquellen und Verarbeitungsschritten; (7) robustes, erklärbares Modelldesign auf Basis zweckgeeigneter Daten; (8) Performance-Evaluation, die sowohl technische Genauigkeit als auch **Mensch-Maschine-Interaktion** umfasst; (9) Lebenszyklus-Management mit kontinuierlichem Monitoring auf Model-Drift; und (10) klare, verständliche Kommunikation von Outputs, Limitationen und Risiken gegenüber Sponsoren, Prüfärzten und Regulierungsbehörden [2].
Entscheidend ist: Diese Prinzipien schaffen **kein neues Gesetz**. Sie klären, wie Regulierer KI bewerten werden, wenn sie Bestandteil regulatorischer Einreichungen ist. Wer sie ignoriert, riskiert nicht primär rechtliche Sanktionen – sondern **Ablehnung im Zulassungsverfahren**.
Von einmaliger Validierung zu kontinuierlichem Monitoring
Ein Paradigmenwechsel verbirgt sich in Prinzip 8 und 9: der Abschied von der statischen Softwarevalidierung. Traditionelle GxP-Validierung war ein punktuelles Ereignis – validieren, freigeben, betreiben. KI-Systeme folgen dieser Logik nicht. Modelle driften, Datenverteilungen verschieben sich, ein Algorithmus mit exzellenter Baseline-Performance kann innerhalb von zwölf Monaten klinisch unbrauchbar werden [3].
Die FDA/EMA-Prinzipien fordern deshalb **prospektives Drift-Monitoring** und Revalidierung bei Performance-Abweichungen. Für klinische Studien heißt das: Wer KI zur Patientenselektion, Risikostratifizierung oder Endpunktbewertung einsetzt, muss dokumentierte Prozesse zur kontinuierlichen Überwachung vorhalten – und zwar über die gesamte Studiendauer hinweg. Dies korrespondiert mit Erkenntnissen aus einer umfassenden Übersichtsarbeit in *npj Digital Medicine*, die 94 Publikationen zu Bias und Fairness in Healthcare-KI analysierte. Eine darin zitierte systematische Evaluation von 48 Studien durch Kumar et al. identifizierte bei **50 % ein hohes Bias-Risiko** – häufig aufgrund fehlender externer Validierung und unzureichender Subgruppenanalysen [4].
Was Sponsoren und CROs jetzt tun müssen
Die praktische Implikation ist klar: Unternehmen, die KI in der klinischen Entwicklung einsetzen, sollten jetzt ein **KI-Inventar** erstellen. Welche Modelle sind wo im Einsatz – in der Protokollerstellung, der Site-Selektion, im Datenmanagement, in der Sicherheitsbewertung? Für jedes System muss der *Context of Use* dokumentiert, die Risikobewertung durchgeführt und eine Validierungsstrategie definiert werden.
Die MRCT Center/WCG Clinical Task Force hat diesen Bedarf früh erkannt und 2025 das **„Framework for Review of Clinical Research Involving Artificial Intelligence"** veröffentlicht, das IRBs bei der ethischen Bewertung KI-gestützter Studiendesigns unterstützt [5]. Seit Februar 2026 arbeitet die Task Force an operationalisierbaren Leitfäden für die KI-Nutzung in der Studienadministration – von der Rekrutierung bis zur statistischen Analyse [5].
Die ethische Dimension: Human Oversight als Designprinzip
Dass die FDA/EMA-Prinzipien das menschenzentrierte Design an die erste Stelle setzen, ist kein Zufall. Eine systematische qualitative Analyse von Capps et al. (2025) im *Royal Society Open Science* identifizierte die **Spannung zwischen algorithmischer Effizienz und menschlicher Rechenschaftspflicht** als zentrales ethisches Dilemma [6]. Die Autoren argumentieren, dass *Meaningful Human Control* – also substantielle, nicht nur pro-forma-mäßige menschliche Aufsicht – ein nicht verhandelbares Element vertrauenswürdiger KI in der klinischen Forschung darstellt [6].
Eine systematische Übersichtsarbeit von Hou et al. (2025) über 19 qualitative Studien in *Nursing Ethics* bestätigt diesen Befund: Die Implementierung von KI im Gesundheitswesen scheitert weniger an technischen Hürden als an ungeklärten Verantwortlichkeitsstrukturen und mangelndem Vertrauen des klinischen Personals [7]. Die FDA/EMA-Prinzipien adressieren diese Lücke, indem sie menschliche Aufsicht nicht als nachträgliches Add-on, sondern als **architektonische Anforderung** definieren.
Fazit
Die GxP-AI-Prinzipien markieren einen regulatorischen Wendepunkt. Sie harmonisieren erstmals die Erwartungen von FDA und EMA und schaffen einen globalen Referenzrahmen für vertrauenswürdige KI in der Arzneimittelentwicklung. Für Sponsoren und CROs lautet die Konsequenz: KI-Governance muss jetzt aufgebaut werden – nicht als Compliance-Übung, sondern als **strategische Investition in regulatorische Glaubwürdigkeit**. Diejenigen, die ihre KI-Systeme heute nach diesen Prinzipien dokumentieren, validieren und überwachen, werden morgen die Zulassungsverfahren dominieren.
---
Key Findings
On January 14, 2026, the FDA and EMA jointly published **"Guiding Principles of Good AI Practice (GxP-AI) in Drug Development"** [1] – the first joint regulatory framework for artificial intelligence in drug development. The ten principles establish that AI systems influencing regulatory evidence must meet the **same GxP standards** as any other validated tool: documentation, traceability, risk-based validation, human oversight, and lifecycle monitoring [2].
The principles introduce a paradigm shift from one-time software validation to **continuous lifecycle management** [3]. AI models degrade over time – data distributions shift, performance drifts. Sponsors must implement prospective drift monitoring and revalidation protocols, a requirement that aligns with evidence from a systematic review in *npj Digital Medicine* showing that **50% of healthcare AI studies carry high risk of bias** due to insufficient external validation [4].
The **MRCT Center and WCG Clinical Task Force** has operationalized these requirements through its 2025 *Framework for Review of Clinical Research Involving Artificial Intelligence*, providing IRBs with structured assessment tools for AI-augmented trial protocols [5]. Since February 2026, the task force has expanded to developing guidance for AI use in trial administration, from recruitment to statistical analysis.
An ethical analysis by Capps et al. (2025) in *Royal Society Open Science* reinforces that *Meaningful Human Control* – substantive, not pro-forma oversight – is a non-negotiable requirement for trustworthy clinical AI [6]. A systematic review of 19 qualitative studies in *Nursing Ethics* corroborates that AI implementation failures stem less from technical barriers than from **unresolved accountability structures** and insufficient clinician trust [7].
The bottom line: The GxP-AI principles are nonbinding guidance today but will shape submission and inspection expectations tomorrow. Sponsors who build AI governance now – documentation, validation, drift monitoring – invest in regulatory credibility that will define competitive advantage in the coming decade.