National Academy of Medicine startet historische Initiative zum Schutz von Patienten in der KI-Ära

Washington, D.C. — In einem entscheidenden Schritt für die Zukunft des amerikanischen Gesundheitswesens hat die National Academy of Medicine (NAM) am 4. März 2026 offiziell ihre Initiative „Patientensicherheit in der Ära der KI“ (Patient Safety in the Era of AI) gestartet. Dieses umfassende nationale Programm zielt darauf ab, das transformative Potenzial der künstlichen Intelligenz (KI) zu nutzen, um Patientenschäden zu minimieren und gleichzeitig strenge Schutzplanken für den Einsatz von KI im klinischen Umfeld zu etablieren.

Die Initiative stellt eine bedeutende Weiterentwicklung des langjährigen Engagements der NAM für die Qualität im Gesundheitswesen dar und baut direkt auf dem Erbe ihres wegweisenden Berichts aus dem Jahr 2000, To Err Is Human, auf. Während dieser Bericht die Patientensicherheit erstmals zu einer nationalen Priorität erhob, erfordert die aktuelle Landschaft – dominiert von der schnellen Integration generativer KI (Generative AI), prädiktiver Analytik und automatisierter Entscheidungsfindung – einen grundlegend neuen strategischen Ansatz.

Am 3. März 2026 kam eine hochrangige Lenkungsgruppe (Steering Group) in Washington, D.C., zusammen, um das Vorhaben einzuleiten. Die Gruppe brachte eine vielfältige Koalition aus Krankenhausvorständen, Patientenvertretern, Technologieführern und Politikexperten zusammen. Ihr Mandat ist klar, aber ehrgeizig: die Ausarbeitung einer nationalen Strategie, die KI nicht nur als Werkzeug für Effizienz nutzt, sondern als primären Mechanismus zur Schließung der „Null-Schaden“-Lücke (Zero Harm Gap) im US-Gesundheitswesen.

Ein neues Kapitel in der klinischen Sicherheit

Seit über zwei Jahrzehnten kämpft die Gesundheitsbranche darum, vermeidbare medizinische Fehler auszumerzen. Die neue Initiative der NAM geht von der Prämisse aus, dass KI die erste tragfähige technische Lösung bietet, um die kognitiven und systemischen Einschränkungen zu überwinden, die zu solchen Fehlern führen. Durch die Analyse riesiger Datensätze, um Risiken vorherzusehen, bevor sie eintreten, könnten KI-Systeme theoretisch als hochwirksames Sicherheitsnetz für Kliniker dienen.

Die Integration dieser Technologien bringt jedoch eigene Risiken mit sich, darunter algorithmische Voreingenommenheit (Bias), mangelnde Transparenz und das Potenzial für „Halluzinationen“ in generativen Modellen. Die Initiative versucht, diese Faktoren auszubalancieren und sicherzustellen, dass die Einführung von Gesundheits-KI sowohl aggressiv in ihrem Streben nach Sicherheit als auch konservativ in ihrem Risikomanagement ist.

Gianrico Farrugia, M.D., Präsident und CEO der Mayo Clinic und Co-Vorsitzender der Lenkungsgruppe, betonte während des Starts die Tragweite des Augenblicks. „Heute markiert einen entscheidenden Moment auf unserem nationalen Weg zu einer sichereren Versorgung“, erklärte Farrugia. „Ich bin davon überzeugt, dass neue KI-Werkzeuge die Verbesserungen der Patientensicherheit deutlich steigern können, und das in großem Maßstab. Aber um dieses Versprechen einzulösen, bedarf es einer bewussten, sektorübergreifenden Zusammenarbeit und einer durchdachten Strategie.“

Strategische Säulen und Führungsstruktur

Die Initiative ist so strukturiert, dass sie der vielschichtigen Natur des KI-Einsatzes gerecht wird. Sie wird nicht bloß einen statischen Bericht erstellen, sondern sich an einem dynamischen Prozess der Ausarbeitung strategischer Bereiche beteiligen, öffentliches Feedback einholen und Politikempfehlungen iterativ weiterentwickeln. Das Führungsteam spiegelt diesen sektorübergreifenden Ansatz wider und stellt sicher, dass die Stimmen der Patienten das gleiche Gewicht haben wie die von Technologen und Krankenhausadministratoren.

Die Lenkungsgruppe wird von drei Co-Vorsitzenden geleitet, welche die kritischen Säulen des Ökosystems im Gesundheitswesen repräsentieren: klinische Versorgung, Patientenvertretung und Systemverwaltung.

Tabelle 1: Leitung der Lenkungsgruppe und Schwerpunktbereiche

Wright Lassiter, Präsident und CEO von CommonSpirit Health, formulierte die Einführung von KI nicht als Option, sondern als ethischen Imperativ. „Patientensicherheit ist der ideale Anwendungsfall für Gesundheits-KI“, notierte Lassiter. „Sie nicht einzuführen, birgt das Risiko, bestehende Sicherheits- und Gerechtigkeitslücken zu vergrößern, von denen wir bereits wissen, wie man sie schließt.“

Der Fahrplan zu einer nationalen Strategie

Die NAM hat einen mehrphasigen Fahrplan für die Initiative skizziert. Zunächst wird die Lenkungsgruppe „Entwurfsdomänen“ für eine patient safety strategy entwickeln. Diese Domänen werden voraussichtlich Bereiche wie algorithmische Governance, Schulung der Belegschaft, Datentransparenz und Haftungsrahmen abdecken.

Nach der Entwurfsphase wird die Initiative eine Phase für öffentliche Kommentare eröffnen. Diese Transparenz soll Vertrauen schaffen – ein Gut, das durch die undurchsichtige Natur von „Black-Box“-KI-Algorithmen etwas erodiert ist. Das Endergebnis wird ein kohärenter nationaler strategischer Ansatz sein, der Gesundheitssystemen umsetzbare Richtlinien für die Beschaffung, den Einsatz und die Überwachung von KI-Werkzeugen bietet.

Die Initiative wird von einer starken Koalition von Geldgebern unterstützt, was sicherstellt, dass sie über die Ressourcen verfügt, um unabhängig von spezifischen Unternehmensinteressen zu agieren. Zu den Finanzierungspartnern gehören die Elevance Health Foundation, die Association for the Advancement of Medical Instrumentation (AAMI), die California Health Care Foundation und Premier, Inc.

Parallel zur strategischen Arbeit der NAM hat die Elevance Health Foundation einen „Patient Safety Prize“ ins Leben gerufen. Dieser Wettbewerb lädt Innovatoren ein, transformative KI-Lösungen einzureichen, die in der Lage sind, die Sicherheitsergebnisse für gefährdete Bevölkerungsgruppen zu verbessern, wodurch ein unmittelbarer Anreiz für marktgetriebene Lösungen geschaffen wird, die die politische Arbeit der NAM ergänzen.

Navigieren in der gesetzgebenden Landschaft

Die Initiative der NAM erfolgt in einer Zeit intensiver gesetzgeberischer Aktivitäten in Bezug auf künstliche Intelligenz. Wie Rechtsanalysten Anfang 2026 berichteten, haben staatliche Gesetzgeber in den USA eine Rekordzahl an KI-fokussierten Gesetzesentwürfen eingebracht. Die International Association of Privacy Professionals (IAPP) stellte in einer Analyse vom März 2026 fest, dass sich staatliche Gesetzgeber zunehmend von breiten Sammelverordnungen zugunsten gezielter, sektorspezifischer Gesetze wegbewegen.

Wichtige Trends in der staatlichen KI-Gesetzgebung (Sitzungsperiode 2026):

• Sektorspezifischer Fokus: Ein Trend hin zu separaten Gesetzentwürfen für das Gesundheitswesen, die psychische Gesundheit und Beschäftigung, anstatt allgemeingültiger KI-Gesetze.
• Chatbot-Transparenz: Vorschriften, die verlangen, dass KI-Systeme offenlegen, dass sie nicht menschlich sind, insbesondere bei Interaktionen mit Patienten.
• Algorithmische Rechenschaftspflicht: Wachsende Forderungen nach „Folgenabschätzungen“, um sicherzustellen, dass KI nicht aufgrund von Rasse, Geschlecht oder sozioökonomischem Status diskriminiert.
• Regulierung von Frontier-Modellen: Bundesstaaten wie Kalifornien und Illinois führen strenge Berichtspflichten für die leistungsfähigsten „Frontier“-KI-Modelle ein.

Dieses fragmentierte gesetzgeberische Umfeld unterstreicht die Notwendigkeit der nationalen Initiative der NAM. Während Bundesstaaten böswillige Akteure bestrafen oder Offenlegungspflichten anordnen können, fehlt ihnen die medizinische Expertise, um zu definieren, was „sichere“ klinische KI ausmacht. Die NAM zielt darauf ab, diese Lücke zu füllen, indem sie klinische Standards etabliert, die die künftige Gesetzgebung informieren und die unterschiedlichen Regeln auf Bundesstaatsebene in einen kohärenten Rahmen für die Patientensicherheit harmonisieren können.

Das menschliche Element in einer automatisierten Zukunft

Ein zentrales Thema des Starts war die Bewahrung des menschlichen Elements im Gesundheitswesen. Sue Sheridan, Co-Vorsitzende und CEO von Patients for Patient Safety US, hob hervor, dass KI zwar oft in technischen Begriffen diskutiert wird, ihr letztendlicher Wert jedoch in der Stärkung der Patienten liegt.

„Künstliche Intelligenz gestaltet bereits die Erbringung von Pflegeleistungen neu und verbessert Diagnosen, aber sie demokratisiert auch Informationen, stärkt Patienten und nutzt die Autonomie der Patienten“, erklärte Sheridan. Ihre Kommentare spiegeln einen wachsenden Konsens wider, dass KI Kliniker nicht ersetzen, sondern die Patienten-Anbieter-Beziehung ergänzen sollte, indem sie administrative Lasten entfernt und die Wahrscheinlichkeit menschlicher Fehler verringert.

Die Initiative plant auch, die „Vertrauenslücke“ zu adressieren. Da KI-Systeme autonomer werden – und potenziell Diagnosen stellen oder Behandlungen empfehlen, ohne dass eine sofortige menschliche Aufsicht erfolgt –, müssen Patienten darauf vertrauen können, dass diese Systeme in ihrem besten Interesse handeln. Die Strategie der NAM wird voraussichtlich Protokolle für eine „Human-in-the-Loop“-Verifizierung enthalten, um sicherzustellen, dass kritische medizinische Entscheidungen immer eine Ebene menschlicher Rechenschaftspflicht behalten.

Ausblick

Während die Initiative „Patient Safety in the Era of AI“ voranschreitet, wird sie vor erheblichen Herausforderungen stehen. Das Tempo der KI-Entwicklung übertrifft derzeit die Geschwindigkeit des wissenschaftlichen Konsenses. Heute veröffentlichte Werkzeuge könnten in sechs Monaten veraltet sein, was die Erstellung dauerhafter Sicherheitsstandards erschwert.

Der Konsens unter den Teilnehmern in Washington war jedoch, dass Abwarten keine Option ist. Da KI bereits in den Back-Offices von Krankenhäusern und in Diagnosezentren für Bildgebung eingesetzt wird, befindet sich das Gesundheitssystem bereits in der „KI-Ära“. Die Initiative der NAM ist ein Versuch sicherzustellen, dass diese Ära nicht durch unvorhergesehene algorithmische Schäden, sondern durch eine historische Reduzierung medizinischer Fehler definiert wird.

Die Lenkungsgruppe wird ihre Arbeit das ganze Jahr 2026 über fortsetzen, wobei in den kommenden Monaten öffentliche Updates und Beteiligungsmöglichkeiten erwartet werden. Für die Technologiebranche, Gesundheitsdienstleister und Patienten gleichermaßen wird das Ergebnis dieser Initiative voraussichtlich die Spielregeln für das nächste Jahrzehnt der digitalen Gesundheit definieren.

Auswirkungen auf die Branche

Für KI-Entwickler und Unternehmen für Gesundheitstechnologie signalisiert der Start der NAM einen Wandel hin zu strengeren Validierungsanforderungen. Die Ära von „schnell handeln und Dinge kaputt machen“ ist mit der klinischen Medizin unvereinbar. Unternehmen sollten damit rechnen, dass künftige Beschaffungsrichtlinien großer Gesundheitssysteme mit den aus dieser Initiative hervorgehenden Standards übereinstimmen werden.

Umsetzbare Erkenntnisse für Entwickler von Gesundheits-KI:

• Priorisierung der Erklärbarkeit: Systeme, die ihre Logik nicht erklären können, werden voraussichtlich an den kommenden Sicherheitsstandards scheitern.
• Gerechtigkeits-Audits: Entwickler müssen proaktiv auf Voreingenommenheit testen, da „Gerechtigkeitslücken“ ein Hauptfokus der NAM-Leitung sind.
• Kollaboratives Design: Isoliert entwickelte Lösungen haben geringere Erfolgsaussichten als solche, die gemeinsam mit Klinikern und Patientenvertretern entworfen wurden.

Der Start dieser Initiative bestätigt, dass 2026 das Jahr ist, in dem Gesundheits-KI von einer Neuheit zu einer regulierten, kritischen Infrastruktur wird. Die National Academy of Medicine hat ihre Flagge gehisst und signalisiert, dass die Sicherheit des Patienten der Nordstern in einer sich schnell digitalisierenden Welt bleiben muss.