Ermittlung zeigt: Tumbler Ridge-Attentäter hatte ein zweites ChatGPT-Konto, das OpenAI nicht entdeckt hat

Untersuchung deckt kritische Sicherheitslücke in OpenAIs Detektionssystemen nach Tragödie in Tumbler Ridge auf

Eine beunruhigende neue Dimension ist in der Untersuchung des verheerenden Amoklaufs in Tumbler Ridge, British Columbia, ans Licht gekommen. Enthüllungen, die diese Woche bestätigt wurden, deuten darauf hin, dass der Täter, der 18-jährige Jesse Van Rootselaar, erfolgreich ein zweites ChatGPT-Konto unterhielt, das von der Sicherheitsinfrastruktur von OpenAI völlig unentdeckt blieb. Diese Entdeckung hat einen Sturm der Kritik an der Wirksamkeit von KI-Sicherheitsprotokollen (AI Safety) ausgelöst und sofortige Forderungen kanadischer Beamter nach legislativen Maßnahmen nach sich gezogen.

Das Geständnis von OpenAI, dass ihre Systeme es versäumten, das zweite Konto des Schützen zu markieren – welches erstellt wurde, nachdem ihr Primärkonto wegen der Erzeugung gewalttätiger Inhalte gesperrt worden war –, hat den Diskurs über die Governance von Künstlicher Intelligenz (KI) grundlegend verändert. Es wirft dringende Fragen über die Fähigkeit führender KI-Labore auf, ihre eigenen Richtlinien für die akzeptable Nutzung durchzusetzen und zu verhindern, dass böswillige Akteure Sperren umgehen, um weiterhin leistungsstarke generative Modelle (Generative AI) zu nutzen.

Ein Versagen der Erkennung von Wiederholungstätern

Der Kern der Kontroverse liegt in einem erheblichen Versäumnis innerhalb der Benutzerverwaltungs- und Sicherheitsdurchsetzungssysteme von OpenAI. Laut Details aus einer internen Untersuchung und anschließender Kommunikation mit kanadischen Regierungsbeamten war der Schütze in der Lage, eine im Juni 2025 verhängte Sperre zu umgehen.

Die ursprüngliche Sperre wurde ausgelöst, nachdem Van Rootselaars erstes Konto Inhalte generiert hatte, die gegen die Richtlinien von OpenAI bezüglich der „Förderung gewalttätiger Aktivitäten“ verstießen. Berichte deuten darauf hin, dass diese Interaktionen detaillierte Szenarien mit Waffengewalt beinhalteten. Zu diesem Zeitpunkt stellten die Vertrauens- und Sicherheitsteams von OpenAI jedoch fest, dass der Inhalt nicht die Schwelle für eine „glaubwürdige oder unmittelbar bevorstehende Planung“ von realer Gewalt erreichte, weshalb keine Meldung an die Royal Canadian Mounted Police (RCMP) erfolgte.

Das kritische Versagen ereignete sich im Nachgang dieser Sperre. Trotz der Suspendierung ihrer primären Zugangsdaten richtete die Schützin ein zweites aktives Konto ein. Das System von OpenAI zur „Erkennung von Wiederholungstätern“ (Repeat Violator Detection) – das speziell dafür entwickelt wurde, gesperrte Benutzer an der Rückkehr auf die Plattform zu hindern – schaffte es nicht, dieses neue Konto mit der gesperrten Identität zu verknüpfen.

Ann O’Leary, Vizepräsidentin für globale Politik bei OpenAI, gab in einem Brief an Beamte zu, dass das Unternehmen die Existenz dieses zweiten Kontos erst entdeckte, nachdem die Identität der Schützin nach der Tragödie vom 10. Februar von den Strafverfolgungsbehörden öffentlich bekannt gegeben wurde. Die Unfähigkeit des Systems, das neue Konto mit der gesperrten Identität abzugleichen, deutet auf Lücken beim digitalen Fingerprinting, IP-Tracking oder bei Verhaltensanalyseprotokollen hin, die in der modernen Cybersicherheit Standard sind.

Technische Analyse: Wie die Sperrumgehung erfolgte

Für Experten der Cybersicherheit und KI-Sicherheit (AI Safety) unterstreicht der Vorfall in Tumbler Ridge die immense Herausforderung, den Zugang zu weit verbreiteten KI-Tools zu kontrollieren. Obwohl OpenAI die spezifischen technischen Vektoren, die zur Umgehung der Erkennung genutzt wurden, nicht offengelegt hat, deutet der Vorfall auf Einschränkungen in der Art und Weise hin, wie KI-Plattformen die Identitätsverifizierung verwalten.

Das Versagen legt nahe, dass die Erkennungsmechanismen stark auf statischen Identifikatoren basierten – wie E-Mail-Adressen oder Telefonnummern – anstatt auf robusteren, dynamischen Signalen wie Gerätetelemetrie oder Verhaltensbiometrie. Wenn ein Benutzer einfach die Zugangsdaten wechselt und von einem anderen Netzwerk oder Gerät auf die Plattform zugreift, können Standard-Sperren leicht umgangen werden.

Die „Sicherheitslücke“ in KI-Plattformen:

Identitätsauflösung: Die meisten KI-Dienste für Endverbraucher erfordern keine KYC-Verifizierung (Know Your Customer), was es schwierig macht, eine biologische Person dauerhaft zu sperren, anstatt nur ein digitales Handle.
Verhaltensdrift: Das zweite Konto löste wahrscheinlich nicht sofort dieselben Gewaltfilter aus wie das erste, was es dem Benutzer ermöglichte, unter dem Radar zu bleiben, während er potenziell seine Pläne verfeinerte oder sich in weniger offensichtlich verletzendem Verhalten engagierte.
Isolierte Daten: Die Trennung zwischen den Daten des gesperrten Kontos und dem neuen Registrierungsfluss deutet darauf hin, dass Sicherheitssignale nicht effektiv über die Benutzerdatenbank hinweg verbreitet wurden.

Kanadische Regierung fordert Rechenschaftspflicht

Die politischen Auswirkungen waren schnell und heftig. Kanadas Minister für künstliche Intelligenz und digitale Innovation, Evan Solomon, hat öffentlich seine tiefe Enttäuschung über den Umgang von OpenAI mit der Situation zum Ausdruck gebracht. Nach einem angespannten Treffen mit OpenAI-Führungskräften in Ottawa bezeichnete Minister Solomon die ersten Reaktionen des Unternehmens als unzureichend, da „konkrete Vorschläge“ für systemische Veränderungen fehlten.

Minister Solomon hat sich lautstark für die Notwendigkeit eines Paradigmenwechsels in der Interaktion von KI-Unternehmen mit Strafverfolgungsbehörden ausgesprochen. Die Regierung drängt nun auf strengere Vorschriften, die eine Meldepflicht vorschreiben würden, wenn Benutzer Inhalte generieren, die ein Risiko für die öffentliche Sicherheit darstellen, selbst wenn diese die Schwelle der „unmittelbaren Bedrohung“ nicht erreichen, die zuvor die Entscheidungen von OpenAI leitete.

„Die Kanadier verdienen mehr Klarheit darüber, wie Entscheidungen bei der menschlichen Überprüfung getroffen werden“, erklärte Solomon und betonte, dass der derzeitige Selbstregulierungsansatz den Schutz der Öffentlichkeit verfehle. Der Minister hat explizit mit neuen Gesetzen gedroht, die potenziell Änderungen an Rahmenwerken wie dem Gesetzentwurf C-27 (Bill C-27) beschleunigen könnten, um KI-Unternehmen zu zwingen, eine größere Haftung für die generierten Inhalte und die auf ihren Plattformen gehosteten Benutzer zu übernehmen.

Die Forderungen der Regierung umfassen:

Direkte Kanäle zur Strafverfolgung: Einrichtung dedizierter 24/7-Kontaktstellen für die kanadische Polizei, um Datenanfragen und Gefahrenmeldungen zu beschleunigen.
Niedrigere Meldeschwellen: Überarbeitung der Kriterien dafür, wann das Verhalten eines Benutzers ein Einschreiten der Polizei rechtfertigt, weg von der „unmittelbaren Bedrohung“ hin zum „Risiko eines schweren Schadens“.
Prüfbarkeit: Ermöglichung einer externen Überprüfung von Sicherheitsprotokollen und Erkennungsraten von Sperrumgehungen.

OpenAIs Reaktion und Protokollüberholung

Als Reaktion auf den wachsenden Druck hat sich OpenAI zu einer Reihe von „sofortigen Schritten“ verpflichtet, um die durch die Untersuchung identifizierten Lücken zu schließen. In ihrer Korrespondenz mit Minister Solomon skizzierte Ann O’Leary neue Protokolle, die darauf abzielen, den Kreislauf gefährlicher Benutzer zu durchbrechen.

Das Unternehmen hat erklärt, dass nach seinem neuen Protokoll für die Weiterleitung an Strafverfolgungsbehörden – das im Gefolge der Tragödie entwickelt wurde – die Aktivitäten des Schützen im Juni 2025 der RCMP gemeldet worden wären. Dieses Eingeständnis, obwohl es Fortschritte demonstrieren soll, wurde von den Familien der Opfer und Beamten als tragischer „schwacher Trost“ aufgenommen, da es bestätigt, dass die Tragödie mit strengeren Richtlinien zu einem früheren Zeitpunkt möglicherweise vermeidbar gewesen wäre.

OpenAI verspricht zudem, seine technischen Systeme zu verbessern, um wiederkehrende Täter besser zu identifizieren. Dies beinhaltet die „Priorisierung der Identifizierung von Tätern mit dem höchsten Risiko“ und die Verfeinerung der automatisierten Systeme, die auf Richtlinienverstöße scannen. Das Unternehmen hat versprochen, eng mit den kanadischen Behörden zusammenzuarbeiten, um die von ihren automatisierten Systemen verwendeten „Schwellenwerte regelmäßig zu bewerten“, und erkennt an, dass der kanadische Kontext besondere Aufmerksamkeit erfordert.

Die folgende Tabelle skizziert die entscheidenden Unterschiede zwischen den Protokollen, die während der Aktivitäten des Schützen in Kraft waren, und den vorgeschlagenen Erweiterungen.

Vergleich der Sicherheitsprotokolle: Vor und nach dem Vorfall

Die folgende Tabelle stellt den Umgang mit den Konten des Schützen den neuen Verpflichtungen von OpenAI gegenüber.

Protokollaspekt	Umgang mit dem Schützen (2025-2026)	Neue Protokollverpflichtungen (nach dem Vorfall)
Auslöser für gewalttätige Inhalte	Intern markiert; gesperrt, aber als „nicht unmittelbar“ eingestuft.	Schwelle gesenkt; „Risiko eines schweren Schadens“ löst nun Überprüfung aus.
Weiterleitung an Strafverfolgung	Keine Meldung an RCMP trotz Szenarien mit Waffengewalt.	Obligatorische Meldung an Strafverfolgungsbehörden bei ähnlichen Inhalten.
Erkennung von Sperrumgehung	Zweites Konto eines gesperrten Nutzers wurde nicht erkannt.	Verbessertes System für „Wiederholungstäter“ mit besserem Identitätsabgleich.
Zusammenarbeit mit der Polizei	Ad-hoc; angewiesen auf Standard-Rechtsanfragekanäle.	Dedizierte direkte 24/7-Kontaktstelle für die kanadische Polizei.
Interne Sichtbarkeit	Isoliert; zweites Konto wurde als neuer, unbelasteter Nutzer behandelt.	Integrierte Historie; frühere Sperren informieren die Risikobewertung neuer Konten.

Auswirkungen auf die KI-Branche

Der Fall Tumbler Ridge schickt sich an, zu einem Wendepunkt für die KI-Sicherheit zu werden, vergleichbar damit, wie frühe Tragödien in den sozialen Medien die Gesetze zur Inhaltsmoderation geprägt haben. Er stellt die branchenweite Annahme in Frage, dass „Vertrauen und Sicherheit“ lediglich eine Kundendienstfunktion und kein Erfordernis der öffentlichen Sicherheit sei.

Für Creati.ai und die breitere KI-Gemeinschaft dient dies als eindringliche Erinnerung an den „Dual-Use“-Charakter dieser Technologien. Da Modelle immer leistungsfähiger werden, müssen sich die Mechanismen zur Kontrolle ihres Missbrauchs parallel dazu entwickeln. Das Vertrauen auf automatisierte Filter, die nach bestimmten Schlüsselwörtern suchen, ist offensichtlich unzureichend; Sicherheit erfordert eine ganzheitliche Sicht auf das Benutzerverhalten und ein robustes Identitätsmanagement.

Darüber hinaus unterstreicht dieser Vorfall die Haftungsrisiken für KI-Entwickler. Wenn eine Plattform über die gewalttätigen Tendenzen eines Benutzers informiert ist (via Sperre), es aber versäumt, ihn am erneuten Zugriff auf den Dienst zu hindern, wird das Argument für Fahrlässigkeit stärker. Dies könnte zu einer Welle von Rechtsstreitigkeiten und strengen Compliance-Anforderungen führen, die die Betriebslandschaft für alle in Kanada und weltweit tätigen KI-Unternehmen grundlegend verändern werden.

Während die RCMP ihre Ermittlungen fortsetzt und die Familien der Opfer trauern, bleibt der Fokus darauf gerichtet, sicherzustellen, dass die digitalen Schlupflöcher, durch die Jesse Van Rootselaar schlüpfen konnte, dauerhaft geschlossen werden. Die Ära von „Move fast and break things“ (schnell handeln und Dinge aufbrechen) in der KI-Entwicklung scheint endgültig vorbei zu sein, ersetzt durch ein neues Mandat für Rechenschaftspflicht, Transparenz und eine rigorose Durchsetzung von Sicherheitsmaßnahmen.