Die ethische Governance von KI in der klinischen Forschung steckt in einem Paradox: Noch nie gab es so viele Leitlinien, Prinzipienkataloge und Fairness-Checklisten – und noch nie war die Kluft zwischen diesen abstrakten Prinzipien und der klinischen Realität so offensichtlich. Eine im Juni 2026 in *Frontiers in Digital Health* publizierte multi-methodische Studie aus dem EU-geförderten **EuCanImage**-Projekt fordert nun einen fundamentalen Perspektivwechsel: weg von dekontextualisierten Ethik-Prinzipien, hin zu einer **eingebetteten, interdisziplinären Ethik-Praxis**, die den gesamten KI-Entwicklungszyklus durchzieht[1].
Das Prinzipien-Paradox
Die Diagnose der EuCanImage-Forscher um Abadía und Goisauf ist präzise: Hochrangige ethische Prinzipien wie „Trustworthiness", „Fairness" oder „Accountability" drohen wirkungslos zu werden, wenn sie nicht in spezifische klinische, technologische und soziale Kontexte eingebettet sind[1]. Ein Prinzip wie „Explainability" klingt universell – doch was ein Radiologe unter einer erklärbaren KI-Entscheidung versteht, unterscheidet sich fundamental von den Anforderungen eines Onkologen, der eine KI-gestützte Therapieempfehlung bewertet.
Die Studie, die systematische Literaturreviews mit qualitativen Interviews und Stakeholder-Workshops kombiniert, identifiziert **vier Dimensionen vertrauenswürdiger KI**, die in der Praxis regelmäßig scheitern:
**Explainability & Interpretability:** Technische Erklärbarkeit (Feature Importance, Saliency Maps) ist nicht gleichbedeutend mit klinischer Nachvollziehbarkeit. Kliniker benötigen keine mathematischen Herleitungen, sondern kontextualisierte Begründungen, die in bestehende klinische Entscheidungsprozesse integrierbar sind[1].**Trust & Trustworthiness:** Vertrauen in KI ist kein statischer Zustand, sondern ein **relationaler, ko-konstruierter Prozess** zwischen Entwicklern, Klinikern, Patienten und Institutionen. Es entsteht nicht durch Zertifizierung, sondern durch wiederholte, kontextspezifische Interaktion[1].**Responsibility & Accountability:** Wer haftet, wenn eine KI-gestützte Therapieentscheidung zu einem Adverse Event führt? Die Studie zeigt, dass existierende Verantwortungsmodelle die verteilte Natur klinischer KI-Entscheidungen nicht adäquat abbilden[1].**Justice & Fairness:** Fairness-Metriken, die ausschließlich auf demografischen Kategorien basieren, übersehen die komplexen sozioökonomischen und kulturellen Determinanten gesundheitlicher Ungleichheit[1].Die empirische Evidenz: Was Kliniker wirklich brauchen
Der entscheidende Beitrag der EuCanImage-Studie liegt in ihrer empirischen Fundierung. Statt normative Prinzipien zu postulieren, haben die Forscher durch Interviews und Workshops mit Entwicklern, Radiologen und Onkologen untersucht, wie ethische Bedenken in der Praxis tatsächlich entstehen – und wie sie durch institutionelle, klinische und soziotechnische Dynamiken geformt werden[1].
Drei zentrale empirische Befunde:
Praktische Intelligibilität schlägt technische Transparenz: Kliniker priorisieren Formen der Erklärbarkeit, die klinisches Urteilsvermögen und professionelle Rechenschaftspflicht unterstützen – nicht detaillierte technische Spezifikationen. Eine KI, die sagt „Diese Läsion ist mit 94% Wahrscheinlichkeit maligne, basierend auf Texturmerkmalen, die in 12.000 ähnlichen Fällen mit Malignität assoziiert waren", ist klinisch wertvoller als eine, die 47 Saliency-Map-Parameter ausgibt[1].Vertrauen entwickelt sich innerhalb bestehender professioneller Praktiken – nicht als deren Ersatz. KI wird nicht als neutrales Werkzeug wahrgenommen, sondern als soziotechnischer Akteur, der klinische Umgebungen formt und gleichzeitig von ihnen geformt wird[1].Ethische Probleme sind keine technischen Bugs. Sie lassen sich nicht durch bessere Algorithmen allein lösen. Sie erfordern eine kontinuierliche interdisziplinäre Auseinandersetzung, die normative Annahmen in Daten, Modellen und Deployment-Strategien hinterfragt[1].Die ethisch-rechtliche Dimension: Informed Consent unter KI-Bedingungen
Parallel zur EuCanImage-Studie hat eine im Mai 2025 in *Current Oncology Reports* publizierte systematische Übersichtsarbeit die ethischen, rechtlichen und Informed-Consent-Herausforderungen KI-gestützter Therapieentscheidungen in der Onkologie untersucht[2]. Die PRISMA-konforme Analyse von Studien zwischen 2015 und 2025 identifiziert drei kritische Lücken:
Transparenzdefizit bei KI-gestützten Entscheidungen: Patienten verstehen oft nicht, dass eine Therapieempfehlung teilweise auf einem Algorithmus basiert – und nicht ausschließlich auf klinischer Expertise.Dynamische Einwilligung: Traditionelle Informed-Consent-Modelle gehen von statischen Informationen aus. KI-Systeme, die kontinuierlich lernen, erfordern jedoch eine dynamische, iterative Einwilligung, die Patienten über Modell-Updates und deren Implikationen informiert.Haftungsdiffusion: Wenn ein KI-System eine Therapie empfiehlt, die sich als suboptimal erweist, ist die Verantwortungskette unklar – verteilt zwischen Entwickler, validierendem Kliniker und implementierender Institution[2].Der Weg nach vorn: Embedded Ethics als Entwicklungsparadigma
Die EuCanImage-Studie schlägt einen **strukturierten Multi-Stakeholder-Entwicklungspfad** vor, der Ethik nicht als nachträgliches Audit, sondern als integralen Bestandteil des gesamten KI-Lebenszyklus verankert[1]. Konkret bedeutet das:
**Ethik-Expertise von Beginn an einbinden:** Sozial- und Geisteswissenschaftler (SSH) sollten nicht erst bei der Deployment-Evaluation, sondern bereits in der Design- und Trainingsphase Teil des Entwicklungsteams sein.**Kontextspezifische statt universelle Prinzipien:** Statt generischer Fairness-Checks sollten ethische Bewertungen die spezifischen klinischen Workflows, institutionellen Strukturen und Patientenpopulationen des Einsatzgebiets berücksichtigen.**Iterative Stakeholder-Engagements:** Regelmäßige Workshops mit Klinikern, Patientenvertretern und Entwicklern – nicht als einmalige Konsultation, sondern als kontinuierlicher Dialog.**Machtverhältnisse thematisieren:** Ethische KI-Entwicklung muss die realen Machtasymmetrien zwischen Technologieentwicklern, Klinikern und Patienten adressieren – nicht ignorieren[1].Was das für die klinische Forschung bedeutet
Für Studien, die KI-gestützte Entscheidungssysteme einsetzen, ergeben sich aus diesen Erkenntnissen konkrete Implikationen:
Studienprotokolle müssen ethische KI-Governance explizit adressieren – nicht als generischen Verweis auf „Fairness", sondern als operationalisierten Prozess mit definierten Verantwortlichkeiten.Informed-Consent-Dokumente müssen KI-spezifische Informationen enthalten: Welche Daten verarbeitet das System? Wie wurde es trainiert? Welche Limitationen sind bekannt? Wer trägt die Verantwortung bei abweichenden Empfehlungen?Ethikkommissionen benötigen KI-spezifische Bewertungskompetenz – ein Punkt, den das MRCT/WCG-Framework vom Juni 2025 adressiert, aber der in der Breite noch nicht umgesetzt ist[3].Fazit
Die EuCanImage-Studie markiert einen Wendepunkt in der KI-Ethik-Debatte: Sie zeigt empirisch, dass der gegenwärtige prinzipiengetriebene Ansatz scheitert – nicht weil die Prinzipien falsch sind, sondern weil sie ohne Kontext, ohne Interdisziplinarität und ohne Einbettung in klinische Realitäten wirkungslos bleiben. Embedded Ethics ist kein neues Schlagwort, sondern die einzig tragfähige Antwort auf ein Governance-Versagen, das Patienten und Kliniker gleichermaßen betrifft.
---
Key Findings
A multi-method empirical study from the EU-funded **EuCanImage** project, published in *Frontiers in Digital Health* (June 2026), challenges the dominant principle-driven approach to AI ethics in oncology and radiology[1].
The Principle Paradox
High-level ethical principles – trustworthiness, fairness, accountability – risk becoming ineffective when not grounded in specific clinical, technological, and social contexts. The study identifies **four dimensions of trustworthy AI** that consistently fail in practice:
**Explainability & Interpretability:** Technical explainability (feature importance, saliency maps) does not equal clinical intelligibility. Clinicians need contextualized justifications that integrate into existing decision-making workflows, not mathematical derivations[1].**Trust & Trustworthiness:** Trust in AI is not a static property but a **relational, co-constructed process** among developers, clinicians, patients, and institutions. It emerges through repeated, context-specific interaction – not through certification[1].**Responsibility & Accountability:** Existing accountability models fail to capture the distributed nature of clinical AI decisions. When an AI-supported therapy recommendation leads to an adverse event, the responsibility chain remains unclear[1].**Justice & Fairness:** Fairness metrics based solely on demographic categories overlook the complex socioeconomic and cultural determinants of health inequality[1].Empirical Evidence: What Clinicians Actually Need
Through literature reviews, qualitative interviews, and stakeholder workshops, the study found:
Practical intelligibility trumps technical transparency: Clinicians prioritize forms of explainability that support clinical judgment and professional accountability – not detailed technical specifications[1].Trust develops within existing professional practices, not as their replacement. AI is perceived not as a neutral tool but as a socio-technical actor that shapes and is shaped by clinical environments[1].Ethical problems are not technical bugs. They cannot be solved by better algorithms alone. They require continuous interdisciplinary engagement that interrogates normative assumptions embedded in data, models, and deployment strategies[1].The Legal Dimension: Informed Consent Under AI Conditions
A parallel systematic review in *Current Oncology Reports* (2025) examined ethical, legal, and informed consent challenges of AI-driven therapeutic decision-making in oncology[2]. Key findings:
Transparency deficit: Patients often do not understand that a therapy recommendation is partially algorithm-based.Dynamic consent: Traditional static consent models are inadequate for continuously learning AI systems.Liability diffusion: When AI recommends suboptimal therapy, the responsibility chain – developer, validating clinician, implementing institution – remains ambiguous[2].The Path Forward: Embedded Ethics as a Development Paradigm
The EuCanImage study proposes a **structured multi-stakeholder development pathway** that embeds ethics throughout the entire AI lifecycle[1]:
**Integrate SSH expertise from the start:** Social sciences and humanities researchers should be part of the development team from the design phase, not just at deployment evaluation.**Context-specific rather than universal principles:** Ethical assessments must account for specific clinical workflows, institutional structures, and patient populations.**Iterative stakeholder engagement:** Regular workshops with clinicians, patient representatives, and developers – not as one-off consultations but as continuous dialogue.**Address power relations:** Ethical AI development must confront real power asymmetries between technology developers, clinicians, and patients[1].Implications for Clinical Research
Study protocols must explicitly address ethical AI governance as an operationalized process with defined responsibilities.Informed consent documents must include AI-specific information: what data the system processes, how it was trained, known limitations, and who bears responsibility for divergent recommendations.Ethics committees need AI-specific assessment competence – a gap partially addressed by the MRCT/WCG framework (June 2025) but not yet widely implemented[3].Conclusion
The EuCanImage study marks a turning point: it empirically demonstrates that the current principle-driven approach to AI ethics fails – not because the principles are wrong, but because they remain ineffective without context, interdisciplinarity, and embedding in clinical realities. Embedded Ethics is not a new buzzword but the only viable response to a governance failure that affects patients and clinicians alike.
---
References
Abadía M, Goisauf M, et al. (2026). Beyond the algorithm: embedding ethics for trustworthy AI in radiology and oncology. *Frontiers in Digital Health*, 8:1756256. https://doi.org/10.3389/fdgth.2026.1756256Fountzilas E, Adamos VA, Gousia B, et al. (2025). Artificial Intelligence and Decision-Making in Oncology: A Review of Ethical, Legal, and Informed Consent Challenges. *Current Oncology Reports*, 27:1698. https://doi.org/10.1007/s11912-025-01698-8MRCT Center & WCG. (2025, June 24). Framework for Review of Clinical Research Involving AI. https://mrctcenter.org/resource/framework-for-review-of-clinical-research-involving-ai/