FDA und EMA definieren KI-Ethik für klinische Forschung: Die 10 Prinzipien und was sie für Sponsoren bedeuten
by 21Stable Team
Am 14. Januar 2026 veröffentlichten die US-amerikanische FDA und die Europäische Arzneimittelagentur (EMA) ein gemeinsames Dokument: die **"Guiding Principles of Good AI Practice in Drug Development"** – zehn Prinzipien, die den Einsatz künstlicher Intelligenz über den gesamten Arzneimittel-Lebenszyklus regulieren sollen.[1] Für klinische Forscher und Biostatistiker markiert dies einen Wendepunkt: KI in klinischen Studien ist kein experimentelles Werkzeug mehr, sondern unterliegt nun transparenten, regulatorisch verankerten Erwartungen.
Die 10 Prinzipien: Ein ethischer Kompass für KI in klinischen Studien
Die gemeinsam erarbeiteten Prinzipien sind zwar nicht rechtsverbindlich, aber strategisch richtungsweisend – beide Behörden erwarten, dass Sponsoren sie internalisieren:[1,2]
Warum dieser Schritt jetzt erfolgte
Die Dringlichkeit ist durch empirische Evidenz belegt. Sharma et al. (2026) zeigten in einem systematischen Review von 18 KI-Studien in Clinical Decision Support Systems: Modelle leiden unter **demografischer Signal-Leakage, Proxy-Targets und Subgruppen-Disparitäten**, die scheinbare Performance künstlich aufblähen.[3] Die häufigsten Bias-Quellen umfassten temporale und Label-Leakage, spurious site confounding und ungleiche Fehlerraten zwischen demografischen Subgruppen.
Parallel dokumentierte eine Studie zur LLM-basierten Patientenrekrutierung in klinischen Studien, dass Large Language Models bei der Beurteilung der Studieneignung **systematisch gegen wohnungslose Patienten diskriminieren** – mit einem Eligibility-Shift von −0.121 gegenüber anderen soziodemografischen Gruppen.[4] Die Autoren warnen: Ohne explizite Bindung an formale Ein- und Ausschlusskriterien reproduzieren KI-Modelle sozioökonomische Ungleichheiten.
EU AI Act: Vom Prinzip zur Pflicht
Während die FDA-EMA-Prinzipien empfehlenden Charakter haben, wird der **EU AI Act** ab August 2026 für Hochrisiko-KI-Systeme – darunter KI in klinischen Prüfungen – rechtsverbindlich.[5] Die Anforderungen decken sich weitgehend mit den 10 Prinzipien: Risikomanagement, Daten-Governance, technische Dokumentation, menschliche Aufsicht und Post-Market-Monitoring werden Pflicht. Für globale Studien bedeutet dies: Ein einziges KI-Governance-System muss beide Regime abdecken.
Die gute Nachricht: FDA und EMA haben ihre Anforderungen bewusst harmonisiert. Sponsoren können ein integriertes Compliance-Paket entwickeln, das sowohl die FDA-Anforderungen an **Context-of-Use Credibility Evidence** als auch die **KI-Act-Pflichten zu Risikomanagement und Dokumentation** erfüllt.[2]
Praktische Konsequenzen für klinische Forscher
Fazit
Die gemeinsamen FDA-EMA-Prinzipien und der EU AI Act definieren einen neuen Standard für KI-Ethik in der klinischen Forschung. Der Paradigmenwechsel ist klar: KI ist kein Forschungsaccessoire, sondern **regulierte Studieninfrastruktur mit dokumentierten Validitätsnachweisen**. Wer jetzt KI-Governance in SOPs und Statistical Analysis Plans integriert, ist für den August 2026 gerüstet – und vermeidet, dass KI-gestützte Studienergebnisse im regulatorischen Review scheitern.
---
Key Findings
On January 14, 2026, the FDA and EMA jointly issued **"Guiding Principles of Good AI Practice in Drug Development"** – a landmark document that defines regulatory expectations for AI across the entire drug lifecycle, including clinical trials.[1,2] While nonbinding, these 10 principles functionally establish a "Good AI Practice" layer analogous to GCP for AI-mediated trial processes.
The 10 principles span human-centric design, risk-based governance, multidisciplinary accountability, data representativeness, transparency (no black boxes for pivotal decisions), context-of-use validation, lifecycle monitoring for drift and bias, reproducibility, security/privacy, and early regulator engagement.[1,2]
Why now: Empirical evidence underscores the urgency. Sharma et al. (2026) reviewed 18 AI-CDSS studies and identified systematic bias sources including demographic signal leakage, proxy targets, and subgroup error disparities that artificially inflate performance metrics.[3] The most common mitigation strategies – reweighting, fairness-aware selection, data augmentation, and site-specific recalibration – were inconsistently applied, with post-deployment monitoring rarely reported.
In a complementary JAMIA study, LLM-based clinical trial screening exhibited a **−0.121 eligibility shift against homeless patients**, demonstrating that AI models echo socioeconomic inequities even when explicitly constrained to protocol criteria.[4]
EU AI Act enforcement begins August 2026: high-risk AI systems, including AI in clinical trials, must comply with mandatory requirements for risk management, data governance, technical documentation, human oversight, and post-market monitoring.[5] For global trials, sponsors need a single AI governance framework satisfying both FDA credibility expectations and EU AI Act obligations.
Implications for clinical researchers: (1) Embed AI credibility plans in Statistical Analysis Plans. (2) Document training data provenance and population gaps. (3) Report subgroup-specific AI performance metrics, not just pooled AUC. (4) Engage ethics committees early on AI transparency in informed consent.
The regulatory paradigm is clear: AI in clinical research is no longer experimental – it is regulated trial infrastructure requiring documented evidence of validity, fairness, and ongoing monitoring.
---