Clinical AI Fairness: Die Evidenzlücke zwischen technischer Fairness und klinischer Realität

Fairness in klinischer KI ist kein rein technisches Problem. Diese Einsicht mag banal klingen – doch eine im Juni 2025 in *npj Digital Medicine* publizierte Evidence-Gap-Analyse von Ning et al. zeigt, wie tief die Kluft zwischen Fairness-Forschung und klinischer Anwendung tatsächlich ist[1]. Die systematische Auswertung von 375 Studien zur KI-Fairness im Gesundheitswesen offenbart vier strukturelle Defizite, die für die klinische Forschung unmittelbar relevant sind.

Die vier Evidenzlücken

1. Medizinische Fachbereiche sind massiv unterrepräsentiert. Die Fairness-Forschung konzentriert sich auf Radiologie, Dermatologie und Ophthalmologie – bildgebungsintensive Disziplinen, in denen Bias vergleichsweise einfach zu messen ist. Fachbereiche mit komplexeren Datenstrukturen – Onkologie, Psychiatrie, Intensivmedizin – sind in der Fairness-Literatur kaum vertreten[1].

2. Bias-relevante Attribute werden zu eng gefasst. Die überwältigende Mehrheit der Studien untersucht Bias entlang von Geschlecht und Ethnizität. Sozioökonomischer Status, Versicherungsstatus, Sprachbarrieren oder geografische Herkunft – Faktoren, die in der klinischen Realität oft stärker mit Outcome-Unterschieden korrelieren als demografische Kategorien – werden systematisch vernachlässigt[1].

3. Group Fairness dominiert, individuelle Fairness fehlt. Fast alle evaluierten Fairness-Metriken messen Gleichheit auf Gruppenebene („gleiche False-Negative-Rate für Männer und Frauen"). Individuelle Fairness – die Frage, ob zwei klinisch ähnliche Patienten unabhängig von Gruppenzugehörigkeit die gleiche KI-Entscheidung erhalten – wird in weniger als 5 % der Studien adressiert[1].

4. Clinician-in-the-Loop fehlt. Nur ein Bruchteil der Studien integriert klinische Expertise in die Fairness-Bewertung. Dabei ist Fairness kontextabhängig: Was in der Dermatologie ein Bias ist (unterschiedliche diagnostische Genauigkeit nach Hautton), kann in der Hepatologie eine andere Ursache haben – etwa wenn der MELD-Score Kreatinin-Referenzwerte verwendet, die geschlechtsspezifische Unterschiede in der Muskelmasse ignorieren und Frauen systematisch benachteiligen[1].

Warum das für klinische Studien relevant ist

Die Evidenzlücken sind kein akademisches Problem. Sie haben direkte Konsequenzen für die klinische Forschung:

Der Brückenschlag: Das MRCT/WCG IRB-Framework

Dass die Lücke zwischen technischer Fairness und klinischer Governance erkannt wurde, zeigt das am 24. Juni 2025 veröffentlichte **Framework for Review of Clinical Research Involving AI** – entwickelt vom MRCT Center und WCG in Zusammenarbeit mit einer multi-stakeholder Task Force aus Bioethik, KI-Forschung und regulatorischen Experten[2].

Das Framework bietet Institutional Review Boards (IRBs) erstmals ein strukturiertes Werkzeug, um KI-spezifische ethische Risiken in Forschungsprotokollen zu bewerten. Die Kernkomponenten:

Die praktische Integration: Was IRBs jetzt anders machen müssen

Die Kombination aus Nings Evidenzlücken-Analyse und dem MRCT/WCG-Framework ergibt ein klares Handlungsprogramm für Ethikkommissionen:

Fazit

Die Evidenzlücken-Analyse von Ning et al. ist ein Weckruf: Die KI-Fairness-Forschung hat sich in technischen Metriken verloren, während die klinische Realität komplexere Antworten verlangt. Das MRCT/WCG-Framework ist ein erster Schritt, diese Lücke zu schließen – indem es IRBs ein praktisches Instrument gibt, um Fairness nicht als abstraktes Prinzip, sondern als operationalisierbare Anforderung in Forschungsprotokollen zu verankern.

Für die klinische Forschung bedeutet das: Fairness wird von einem Nice-to-have zu einem regulatorisch prüfbaren Kriterium. Wer heute KI in klinischen Studien einsetzt, sollte seine Fairness-Strategie nicht an demografischen Minimalstandards, sondern an der klinischen Realität der Zielpopulation ausrichten.

---

Key Findings

A systematic evidence gap analysis published in *npj Digital Medicine* by Ning et al. (June 2025) reviewed 375 AI fairness studies in healthcare and identified four structural deficits with direct implications for clinical research[1].

The Four Evidence Gaps

1. Medical specialties are massively underrepresented. Fairness research concentrates on imaging-heavy disciplines (radiology, dermatology, ophthalmology) where bias is comparatively easy to measure. Complex data domains – oncology, psychiatry, critical care – are virtually absent from the fairness literature[1].

2. Bias-relevant attributes are too narrowly defined. The overwhelming majority of studies examine bias along gender and ethnicity. Socioeconomic status, insurance status, language barriers, and geographic origin – factors that often correlate more strongly with outcome disparities in clinical reality – are systematically neglected[1].

3. Group fairness dominates; individual fairness is missing. Nearly all evaluated fairness metrics measure equality at the group level (e.g., "equal false-negative rate for men and women"). Individual fairness – whether two clinically similar patients receive the same AI decision regardless of group membership – is addressed in fewer than 5% of studies[1].

4. Clinician-in-the-loop is absent. Only a fraction of studies integrate clinical expertise into fairness assessment. Yet fairness is context-dependent: what constitutes bias in dermatology (differential diagnostic accuracy by skin tone) may have entirely different causes in hepatology – for example, when the MELD score uses creatinine reference values that ignore sex-specific differences in muscle mass, systematically disadvantaging women[1].

Why This Matters for Clinical Trials

The Bridge: The MRCT/WCG IRB Framework

Published on June 24, 2025, the **Framework for Review of Clinical Research Involving AI** – developed by the MRCT Center and WCG with a multi-stakeholder task force – provides IRBs with the first structured tool to assess AI-specific ethical risks in research protocols[2].

Core components:

Practical Integration: What IRBs Must Do Differently Now

Conclusion

Ning et al.'s evidence gap analysis is a wake-up call: AI fairness research has become lost in technical metrics while clinical reality demands more complex answers. The MRCT/WCG framework is a first step toward closing this gap – by giving IRBs a practical tool to embed fairness not as an abstract principle but as an operationalizable requirement in research protocols.

For clinical research, this means: fairness is evolving from a nice-to-have to a regulatorily auditable criterion. Anyone deploying AI in clinical trials today should align their fairness strategy not with demographic minimum standards but with the clinical reality of their target population.

---

References