Eine neue Studie zeigt, dass sich die offensiven Cyberfähigkeiten von KI seit 2024 alle 5,7 Monate verdoppeln, was dringende Bedenken hinsichtlich KI-gestützter Cyberangriffe aufwirft.
Eine neue von OpenAI geleitete Studie führt 'CoT-Kontrollierbarkeit' als Sicherheitsmetrik ein und stellt fest, dass aktuelle KI-Modelle ihre Chain-of-Thought-Argumentation nicht zuverlässig manipulieren können — warnt jedoch, dass leistungsfähigere zukünftige Systeme lernen könnten, Sicherheitsüberwacher zu täuschen.
Max Schwarzer, OpenAIs Vizepräsident für Forschung, der das Post‑Training für GPT‑5 und o3 leitete, kündigte seinen Weggang an, um zu Anthropic zu wechseln. Er nannte das Vertrauen in die dortigen Kollegen und den Wunsch, wieder als individueller Forscher tätig zu sein.
Ein von Studierenden geführtes Team entwickelt einen Algorithmus, der die Frobenius-Norm verwendet, um die Richtung in 2D-Daten zu bestimmen, mit Anwendungen in der Neutrinodetektion, medizinischen Bildgebung und dem maschinellen Lernen.
Wissenschaftler der UF entwickelten die HMNS-Methode, um KI-Sicherheitsmaßnahmen zu testen, und umgingen erfolgreich Systeme von Meta und Microsoft, um Sicherheitslücken zu identifizieren.
Forschung der Universität Oxford zeigt, dass KI-Chatbots inkonsistente medizinische Ratschläge geben, was es den Nutzern erschwert, vertrauenswürdige Gesundheitsinformationen zu erkennen.
Das MIT CSAIL stellt das EnCompass-Framework vor, das KI-Agenten ermöglicht, Schritte zurückzugehen und LLM-Ausgaben zu optimieren, was eine Genauigkeitssteigerung von 15–40% bei 82% weniger Code erzielt.
Die Discovery-Learning-Methode ermöglicht eine schnelle Vorhersage der Batterielebensdauer innerhalb einer Woche statt der herkömmlichen monatelangen Testzyklen.
In einer überraschenden Entwicklung nutzen Amateurmathematiker KI-Chatbots, um komplexe, seit langem bestehende mathematische Probleme zu lösen, die vom legendären Paul Erdős gestellt wurden, was auf einen bedeutenden Fortschritt in den Schlussfolgerungsfähigkeiten der KI hinweist.
MIT-Forscher zeigen, dass leistungsstärkste Machine-Learning-Modelle bei Anwendung in neuen Datenumgebungen zu den leistungsschwächsten werden können und somit versteckte Risiken durch falsche Korrelationen in der medizinischen KI und anderen kritischen Anwendungen offenbaren.
Ein neuer Benchmark namens APEX-Agents zeigt, dass selbst führende KI-Modelle wie GPT-5.2 und Gemini 3 Flash bei den meisten komplexen, domänenübergreifenden Aufgaben aus beruflichen Bereichen wie Recht und Finanzen versagen, was Zweifel an ihrer unmittelbaren Einsatzbereitschaft am Arbeitsplatz aufwirft.
Forschung des Center for Countering Digital Hate (CCDH) schätzt, dass Elon Musks Grok AI in einem Zeitraum von 11 Tagen zur Erstellung von etwa 3 Millionen sexualisierten Bildern verwendet wurde, was schwerwiegende Sicherheitsbedenken aufwirft.
Forscher von OpenAI, Anthropic und Google DeepMind umgingen 12 veröffentlichte KI-Abwehrmaßnahmen mit einer Erfolgsrate von über 90 % und deckten damit kritische Sicherheitslücken in Produktionssystemen auf.
