Wenn eine KI um Einwilligung bittet: Das RESPECT-System und die Zukunft des Informed Consent
by 21Stable Team
Der Informed Consent gilt als ethisches Fundament jeder klinischen Studie. Doch in der Praxis ist er oft ein standardisiertes, schwer verständliches Dokumentenpaket, das mehr der juristischen Absicherung dient als der tatsächlichen Patientenaufklärung[1]. Eine im Mai 2026 in *npj Digital Medicine* publizierte Stanford-Studie stellt nun die Frage: **Kann eine KI den Informed Consent verbessern – und wo liegen die Grenzen?**
RESPECT: Ein RAG-basierter KI-Assistent für die Studieneinwilligung
Das Forschungsteam um Jane Paik Kim an der Stanford University School of Medicine entwickelte mit **RESPECT (RESearch Participant Engagement and Consent Tool)** das erste RAG-basierte (Retrieval-Augmented Generation) LLM-System für den Informed Consent in der klinischen Forschung[1].
Das System funktioniert nach einem klaren Prinzip: Statt generische Antworten eines Large Language Models zu verwenden, greift RESPECT ausschließlich auf das konkrete Informed-Consent-Dokument der jeweiligen Studie zurück. Der RAG-Mechanismus durchsucht das Quell-Dokument und generiert Antworten, die sich strikt an den genehmigten Inhalten orientieren – ein fundamentaler Unterschied zu frei antwortenden Chatbots.
Die **Leave-one-out-Cross-Validation** des Systems zeigte eine hohe Genauigkeit in der Informationsabfrage: Die RAG-Komponente findet und extrahiert die relevanten Passagen zuverlässig aus den Quell-Dokumenten[1].
Die Refusal-Utility-Curve: Ein neues Sicherheitsparadigma
Der methodisch innovativste Beitrag der Studie ist die **Refusal–Utility Curve (RUC)** – ein Bewertungsrahmen, der zwei Dimensionen von LLM-Sicherheit gleichzeitig misst[1]:
Die RUC visualisiert den Trade-off zwischen diesen beiden Dimensionen – analog zur ROC-Kurve (Receiver Operating Characteristic) in der Diagnostik. Je höher die Fläche unter der Kurve, desto besser die Balance.
Das Ergebnis: RESPECT zeigte **signifikant höhere Appropriate-Refusal-Raten als GPT-4**, allerdings auf Kosten einer reduzierten Utility bei legitimen Fragen[1]. Anders formuliert: Das System ist vorsichtiger – und genau das ist im Informed-Consent-Kontext erwünscht. Eine KI, die außerhalb ihres Kompetenzbereichs spekuliert, gefährdet die Validität der Einwilligung.
Informed Consent: Das ungelöste Problem der Breite
Warum ist diese Forschung klinisch relevant? Eine im Mai 2025 in *Current Oncology Reports* publizierte systematische PRISMA-Review zu KI-gestützter Entscheidungsfindung in der Onkologie identifiziert den Informed Consent als einen der kritischsten ethischen Engpässe[2]. Die zentralen Befunde:
RESPECT adressiert den Transparenzaspekt direkt: Das System macht die Quell-Dokumente seiner Antworten nachvollziehbar und verweigert die Antwort, wenn die Frage außerhalb des genehmigten Consent-Textes liegt[1].
Governance: Der organisatorische Rahmen
Parallel zur technologischen Entwicklung entstehen organisatorische Governance-Modelle. Ein Team am Memorial Sloan Kettering Cancer Center (MSKCC) publizierte 2025 in *npj Digital Medicine* einen Erfahrungsbericht über ein Jahr Responsible-AI-Governance in der Onkologie[3]:
Zudem veröffentlichte die American Society of Clinical Oncology (ASCO) sechs Leitprinzipien für den verantwortungsvollen KI-Einsatz in der Onkologie, die neben Transparenz und Fairness auch **Accountability, Patient-Centeredness, Equity und Safety** umfassen[4].
Praktische Implikationen: Was bedeutet das für klinische Studien?
1. Der Informed Consent wird interaktiv.
Systeme wie RESPECT zeigen, dass eine KI den Informed Consent nicht ersetzt, sondern ergänzt: Sie beantwortet patientenspezifische Rückfragen zum Studienprotokoll und entlastet Prüfärzte, ohne die genehmigten Inhalte zu verlassen.
2. Safety-by-Design statt nachträglicher Prüfung.
Die RUC-Methodik etabliert ein quantitatives Maß für KI-Sicherheit, das vor dem Deployment evaluiert werden kann – vergleichbar mit Sensitivität und Spezifität in der Diagnostik.
3. Governance muss domänenspezifisch sein.
Die MSKCC- und ASCO-Erfahrungen zeigen, dass Onkologie-spezifische KI-Risiken (Disparitäten, Tumorheterogenität) nicht durch generische IT-Governance abgedeckt werden[3,4].
Fazit
Die RESPECT-Studie markiert einen methodischen Fortschritt: Sie liefert nicht nur ein funktionierendes KI-System für den Informed Consent, sondern mit der Refusal-Utility-Curve auch ein **quantitatives Evaluations-Framework**, das Sicherheit und Nutzen systematisch abwägt[1]. Die höhere Verweigerungsrate gegenüber GPT-4 ist dabei kein Nachteil – im Informed Consent ist ein konservatives System, das Unklarheit eingesteht, dem eloquenten Bluff vorzuziehen.
---
Key Findings
Informed consent is the ethical foundation of all clinical research. In practice, however, it often consists of standardized, difficult-to-understand document packages that serve legal protection more than genuine patient education[1]. A Stanford study published in *npj Digital Medicine* in May 2026 asks: **Can AI improve informed consent – and where are the limits?**
RESPECT: A RAG-Based AI Assistant for Study Consent
A research team led by Jane Paik Kim at Stanford University School of Medicine developed **RESPECT (RESearch Participant Engagement and Consent Tool)** – the first Retrieval-Augmented Generation (RAG)-based LLM system for informed consent in clinical research[1].
Rather than using an LLM's generic knowledge, RESPECT grounds all responses in the specific informed consent document of the respective study. The RAG mechanism searches the source document and generates answers strictly based on approved content – a fundamental difference from freely responding chatbots.
Leave-one-out cross-validation demonstrated high accuracy in information retrieval: the RAG component reliably extracts relevant text passages from source documents[1].
The Refusal-Utility Curve: A New Safety Paradigm
The study's most innovative methodological contribution is the **Refusal–Utility Curve (RUC)** – an evaluation framework measuring two dimensions of LLM safety simultaneously[1]:
The RUC visualizes the trade-off between these dimensions – analogous to the ROC curve in diagnostics. The higher the area under the curve, the better the balance.
The result: RESPECT showed **significantly higher appropriate refusal rates compared to GPT-4**, albeit at the cost of reduced utility for legitimate questions[1]. In other words, the system is more cautious – precisely what is desirable in an informed consent context. An AI that speculates outside its competence domain jeopardizes consent validity.
Informed Consent: The Unresolved Breadth Problem
A systematic PRISMA review on AI-driven decision-making in oncology, published in *Current Oncology Reports* in 2025, identifies informed consent as one of the most critical ethical bottlenecks[2]:
RESPECT directly addresses the transparency aspect: the system makes the source documents of its answers traceable and refuses to answer when a question falls outside the approved consent text[1].
Governance: The Organizational Framework
Parallel to technological development, organizational governance models are emerging. A team at Memorial Sloan Kettering Cancer Center (MSKCC) published an experience report on one year of Responsible AI governance in oncology in *npj Digital Medicine* in 2025[3]:
Additionally, ASCO published six guiding principles for responsible AI use in oncology, encompassing **Accountability, Patient-Centeredness, Equity, Safety, Transparency, and Fairness**[4].
Practical Implications for Clinical Trials
Conclusion
The RESPECT study marks a methodological advance: it provides not only a functioning AI system for informed consent but also a **quantitative evaluation framework** – the Refusal-Utility Curve – that systematically weighs safety against utility[1]. The higher refusal rate compared to GPT-4 is not a drawback – in informed consent, a conservative system that admits uncertainty is preferable to eloquent bluffing.
---