Anthropics leistungsstarkes Mythos-Modell, das Software-Schwachstellen eigenständig aufspüren kann, veranlasste Notfalltreffen mit US-Beamten, Banken und Tech-CEOs.
Anthropic hat versehentlich den 512.000 Zeilen umfassenden Quellcode von Claude Code offengelegt; das Unternehmen ließ im Rahmen einer umstrittenen DMCA-Aktion Tausende GitHub-Repositories entfernen.
Das populäre AI-Gateway-Startup LiteLLM hat öffentlich die Beziehungen zum Compliance-Anbieter Delve beendet, nachdem ein Credential-Diebstahl durch Malware und Whistleblower-Vorwürfe, dass Delve Compliance-Audit-Daten gefälscht habe, bekannt wurden.
Auf der RSA Conference 2026 haben CrowdStrike, Cisco, Palo Alto Networks, Microsoft und Cato CTRL jeweils Identitätsrahmen für KI-Agenten vorgestellt, doch Vorfälle bei Fortune‑50‑Unternehmen enthüllten drei ungelöste Lücken in der Sicherheit agentenbasierter KI.
Forscher von Oasis Security entdeckten drei verkettete Fehler in Anthropic's Claude — darunter eine Prompt-Injektion, ein Exfiltrationspfad über die Files-API und ein Open-Redirect — die lautlosen Datendiebstahl über eine Google-Suche-Anzeige ermöglichen.
Sicherheitsforscher demonstrierten, dass ein autonomer KI-Agent McKinseys internes KI-System in weniger als zwei Stunden erfolgreich kompromittierte, indem er eine Prompt-Injection ausnutzte — einen bekannten, aber weiterhin weitgehend nicht abgemilderten Angriffsvektor — was dringende Bedenken hinsichtlich der Sicherheit von Unternehmens-KI aufwirft.
OpenAI hat die Übernahme von Promptfoo angekündigt, einem Open-Source-Startup für AI-Sicherheit und Red-Teaming, um die Sicherheit und Zuverlässigkeit seiner KI-Agenten gegenüber adversarialen Angriffen und Prompt-Injection-Schwachstellen zu erhöhen.
Anthropic beschuldigte öffentlich chinesische KI-Labore, systematisch Wissen aus seinen Claude-Modellen durch Distillationsangriffe zu extrahieren, und veröffentlichte neue Forschung zu Erkennung und Prävention, während die USA über Exportkontrollen für KI-Chips debattieren.
Microsoft Copilot umging in acht Monaten zweimal DLP-Richtlinien und Sensitivitätskennzeichnungen — darunter eine vierwöchige Offenlegung, die das NHS im Vereinigten Königreich betraf — und offenbart damit eine systemische Schwachstelle in den Sicherheits-Stacks für KI in Unternehmen.
Anthropic hat Claude Code Security veröffentlicht, ein neues KI-gestütztes Anwendungssicherheitstool, das Codebasen mit menschenähnlicher Schlussfolgerung nach komplexen Schwachstellen durchsucht und damit Cybersecurity-Aktien wegen der Meldung abstürzen ließ.
Cybersicherheitsexperten warnen, dass Moltbook, ein soziales Netzwerk für KI-Agenten, Prompt-Injection-Risiken birgt, die Tausende von Agenten gleichzeitig kompromittieren könnten.
Wissenschaftler der UF entwickelten die HMNS-Methode, um KI-Sicherheitsmaßnahmen zu testen, und umgingen erfolgreich Systeme von Meta und Microsoft, um Sicherheitslücken zu identifizieren.
Das neueste KI-Modell von OpenAI zeigt eine alarmierende Fähigkeit, Kryptowährungs-Wallets zu leeren, indem es in 72% der Tests verwundbare Smart Contracts erfolgreich ausnutzt.
Das Finanzministerium veröffentlicht sechs Ressourcen, um durch die AIEOG-Partnerschaft die KI-Sicherheit und das Risikomanagement im gesamten Finanzsektor zu stärken.
Microsoft bestätigt, dass ein kritischer Fehler seit Januar Copilot AI erlaubte, vertrauliche E-Mails zusammenzufassen und dadurch die Richtlinien zur Verhinderung von Datenverlust in Microsoft 365 umging.
Gartner warnt, dass 57 % der Beschäftigten persönliche GenAI für die Arbeit nutzen, während autonome KI‑Agenten und Bedrohungen durch postquantische Kryptographie die Cybersicherheitslandschaft neu gestalten.
Die vom Staat unterstützte chinesische Hackergruppe APT31 nutzte Googles KI Gemini, um die Schwachstellenanalyse zu automatisieren und Cyberangriffe auf US-Ziele zu planen, was eine bedeutende Eskalation der KI-gestützten Cyberkriegsführung darstellt.
Forscher der University of Regina haben das Desinformations-Erkennungstool CIPHER mit KI-Funktionen verbessert, um falschen Narrativen entgegenzuwirken, die sich gegen Kanadier richten. Das System analysiert russische Propagandakampagnen und wird erweitert, um Desinformation in chinesischer Sprache zu entschlüsseln.
Google berichtet, dass kommerziell motivierte Akteure Distillationsangriffe auf Gemini durchgeführt haben und dabei über 100.000 Anfragen nutzten, um die Fähigkeiten des KI-Modells und geistiges Eigentum zu extrahieren.
APT-Gruppen aus China, Nordkorea und Iran nutzen Google Gemini für Aufklärung, Malware-Codierung und Phishing-Kampagnen, berichtet Google GTIG.
