KI-Ethik aus Entwicklersicht: Was uns die neue JMIR-Studie 2026 lehrt
by 21Stable Team
Einleitung
Künstliche Intelligenz hält zunehmend Einzug in klinische Studien – von der Patientenselektion über Bildanalyse bis hin zur Vorhersage von Behandlungsergebnissen. Doch wer entwickelt diese Systeme? Eine aktuelle Fokusgruppen-Studie im *Journal of Medical Internet Research* wirft ein beunruhigendes Licht auf die ethische Ausbildung derjenigen, die diese Technologien erschaffen.
Kernerkenntnis
Die Studie von Fantus et al. (2026) mit 13 KI-Entwicklern an fünf US-amerikanischen akademischen Einrichtungen zeigt: **Entwickler erwerben ethisches Wissen überwiegend informell** – durch Fachliteratur, Feedback von Gutachtern, Social Media und Mentorenschaft. Strukturierte Schulungen oder institutionelle Leitlinien fehlen weitgehend.
Vier zentrale Themen
Forschungsmethodik
Die qualitative Studie führte zwei semistrukturierte Fokusgruppen (60–90 Minuten) im Jahr 2024 durch. Die 13 Teilnehmenden stammten aus verschiedenen medizinischen KI-Anwendungsbereichen:
Die Auswertung erfolgte durch konventionelle qualitative Inhaltsanalyse mit unabhängigem Coding durch drei Forscher und Konsensfindung in iterativen Team-Meetings.
Klinische Relevanz
Für Studienleiter und Biostatistiker ergeben sich wichtige Implikationen:
Die europäische Perspektive unterstreicht diese Befunde: Die EU AI-Verordnung (2024/1689) klassifiziert KI-Systeme im klinischen Kontext als „Hochrisiko" und fordert erhöhte Prüfung durch Ethikkommissionen.
Fazit
Die Integration von KI in klinische Forschung erfordert mehr als technische Kompetenz. Die JMIR-Studie macht deutlich, dass ethische Reflexion systematisch in die Entwicklungsprozesse eingebettet werden muss – durch Ausbildung, institutionelle Unterstützung und interdisziplinäre Kooperation. Für die klinische Forschung bedeutet dies: Transparenz über Trainingsdaten, Validierung auf verschiedene Populationen und klare Dokumentation der Modellgrenzen sind nicht optional, sondern essenziell.
---
Key Findings
Introduction
Artificial intelligence is increasingly being integrated into clinical trials—from patient selection to imaging analysis to outcome prediction. But who develops these systems? A recent focus group study in the *Journal of Medical Internet Research* casts a concerning light on the ethical training of those creating these technologies.
Main Finding
The study by Fantus et al. (2026), involving 13 AI developers at five US academic institutions, reveals that **developers acquire ethical knowledge primarily through informal channels**—via literature, reviewer feedback, social media, and mentorship. Structured training or institutional guidelines are largely absent.
Four Key Themes
Research Methodology
The qualitative study conducted two semistructured focus groups (60–90 minutes) in 2024. The 13 participants worked across various medical AI application areas:
Analysis employed conventional qualitative content analysis with independent coding by three researchers and consensus-building through iterative team meetings.
Clinical Relevance
For study investigators and biostatisticians, important implications emerge:
The European perspective reinforces these findings: The EU AI Act (2024/1689) classifies AI systems in clinical settings as "high risk" and requires increased scrutiny by ethics committees.
Conclusion
Integrating AI into clinical research requires more than technical competence. The JMIR study makes clear that ethical reflection must be systematically embedded into development processes—through training, institutional support, and interdisciplinary collaboration. For clinical research, this means: transparency about training data, validation across populations, and clear documentation of model limitations are not optional—they are essential.
---