Künstliche Intelligenz in klinischen Studien: Die unsichtbare Revolution ohne Reporting-Standards
by 21Stable Team
Künstliche Intelligenz (KI) durchdringt die klinische Forschung mit einer Geschwindigkeit, die die regulatorische Infrastruktur überfordert. Algorithmen rekrutieren Probanden, stratifizieren Risikogruppen, analysieren Bilddaten und prognostizieren Endpunkte – oft ohne dass Leser einer publizierten Studie erkennen können, ob und wie KI eingesetzt wurde. Dieses Transparenzdefizit ist kein theoretisches Problem: Es untergräbt die Reproduzierbarkeit von Studienergebnissen und erschwert die ethische Bewertung klinischer Evidenz.
CONSORT und SPIRIT 2025: Eine verpasste Chance
Die im Juli 2025 aktualisierten CONSORT- und SPIRIT-Leitlinien – die internationalen Standards für die Berichterstattung randomisierter kontrollierter Studien – enthalten keinerlei Empfehlungen zur Offenlegung KI-basierter Methoden [1]. Weder die Nutzung maschineller Lernverfahren zur Endpunktmodellierung noch der Einsatz generativer KI zur Patientenselektion finden Erwähnung. Angesichts der Tatsache, dass eine Scoping-Review 118 onkologische KI-Studien (2016–2021) identifizierte – von denen nur 5% ethnische Demographiedaten berichteten [2] – ist dieses Schweigen bemerkenswert.
Die Konsequenz: Proprietäre Algorithmen operieren im methodischen Blindflug. Prüfstatistiker und Ethikkommissionen können weder die Validität KI-generierter Stratifizierungsentscheidungen beurteilen noch die Fairness automatisierter Rekrutierungsprozesse auditieren. Hier entsteht ein Rechenschaftsdefizit, das in Widerspruch zu den Grundprinzipien der Guten Klinischen Praxis (GCP) steht.
ALTAI als Brückenkonzept: Governance statt Verbote
Einen praktikablen Lösungsweg demonstriert das EU-geförderte AI-PROGNOSIS-Projekt, das den Assessment List for Trustworthy Artificial Intelligence (ALTAI)-Framework über den gesamten KI-Lebenszyklus implementierte [3]. Die sieben ALTAI-Anforderungen – menschliche Aufsicht, technische Robustheit, Datenschutz-Governance, Transparenz, Fairness, gesellschaftliches Wohlergehen und Rechenschaftspflicht – wurden systematisch auf Design-, Validierungs- und Deployment-Phasen abgebildet. Eine interne Umfrage unter den beteiligten Entwicklern (n=10) zeigte dabei ein aufschlussreiches Muster: Technische Genauigkeit und Data Governance erhielten höchste Priorität, während gesellschaftliche Auswirkungen als am wenigsten relevant eingestuft wurden [3]. Diese Diskrepanz zwischen Entwicklerwahrnehmung und ethischer Norm spiegelt ein strukturelles Defizit wider, das durch verpflichtende Governance-Checkpoints adressiert werden muss.
Fairness im Praxistest: Was funktioniert bereits
Dass algorithmische Fairness kein unerreichbares Ideal ist, belegt eine Analyse aus fünf randomisierten Phase-III-Studien der NRG Oncology Group (n=5708) [4]. Ein multimodales KI-System (MMAI) zur Prognose von Fernmetastasen und prostatakarzinomspezifischer Mortalität wurde stratifiziert nach ethnischer Herkunft validiert. Die prognostische Performance war in der afroamerikanischen Subgruppe (n=948, 16.6%) mit den nicht-afroamerikanischen Teilnehmern vergleichbar – mit konsistenten Subdistribution-Hazard-Ratios von 1.2 (95%-KI: 1.0–1.3) bzw. 1.4 (95%-KI: 1.3–1.5) für den DM-MMAI-Algorithmus [4]. Die Studie demonstriert, dass systematische Fairness-Validierung in großen, diversen Kohorten machbar ist und Bias nicht zwangsläufig auftreten muss.
Fazit
Die Integration von KI in klinische Studien ist längst Realität, die regulatorische Begleitung hinkt jedoch hinterher. CONSORT und SPIRIT 2025 haben eine historische Gelegenheit verpasst, Transparenzstandards für KI-gestützte Methoden zu etablieren. Frameworks wie ALTAI bieten eine pragmatische Governance-Struktur, müssen aber von freiwilliger Anwendung zu verpflichtenden Reporting-Elementen weiterentwickelt werden. Die Onkologie mit ihren datenintensiven, multimodalen Studienprotokollen ist das natürliche Testfeld für diese Standards.
---
Key Findings
The July 2025 update of CONSORT and SPIRIT guidelines – the international gold standards for randomized controlled trial reporting – contains zero recommendations for disclosing AI-based methods [1]. This omission is striking given that a scoping review identified 118 oncology AI studies (2016–2021), of which only 5% reported racial/ethnic demographic data in training or validation datasets [2].
The EU-funded AI-PROGNOSIS project demonstrated the systematic application of the ALTAI (Assessment List for Trustworthy Artificial Intelligence) framework across the complete AI lifecycle [3]. A developer survey (n=10) revealed a notable priority gap: technical accuracy and data governance were rated highest, while societal impact was rated lowest – highlighting structural deficits in ethical awareness during AI development [3].
A validation study across five NRG Oncology phase III trials (n=5,708) demonstrated that algorithmic fairness in multimodal AI can be achieved prospectively [4]. The DM-MMAI algorithm showed consistent prognostic performance for distant metastasis in African American (sHR 1.2, 95% CI 1.0–1.3, p=0.007) and non-African American subgroups (sHR 1.4, 95% CI 1.3–1.5, p<0.001) – providing evidence that bias is not inevitable when diverse cohorts and rigorous validation are prioritized [4].
The path forward: Mandatory AI reporting elements must be integrated into the next CONSORT/SPIRIT revisions. Oncology, with its data-intensive multimodal trial designs, is positioned as the natural testing ground for these essential standards.