Une nouvelle étude révèle que la capacité cyber offensive de l’IA double tous les 5,7 mois depuis 2024, suscitant de vives inquiétudes concernant les cyberattaques rendues possibles par l’IA.
Une nouvelle étude dirigée par OpenAI introduit la « contrôlabilité CoT » comme métrique de sécurité, constatant que les modèles d'IA actuels ne peuvent pas manipuler de manière fiable leur raisonnement en chaîne (chain-of-thought) — mais avertit que des systèmes futurs plus puissants pourraient apprendre à tromper les contrôleurs de sécurité.
Max Schwarzer, vice‑président de la recherche d'OpenAI qui a dirigé le post‑training de GPT‑5 et o3, a annoncé son départ pour rejoindre Anthropic, invoquant la confiance envers ses collègues là‑bas et le désir de retrouver la recherche en tant que contributeur individuel.
Une équipe dirigée par des étudiants crée un algorithme utilisant la norme de Frobenius pour déterminer la direction dans des données 2D, avec des applications en détection de neutrinos, imagerie médicale et apprentissage automatique.
Des scientifiques de l'UF ont créé la méthode HMNS pour tester les mesures de sécurité de l'IA, contournant avec succès les systèmes de Meta et Microsoft afin d'identifier des vulnérabilités.
Des recherches de l'université d'Oxford révèlent que les chatbots IA donnent des conseils médicaux incohérents, rendant difficile pour les utilisateurs d'identifier des informations de santé fiables.
Le MIT CSAIL présente le cadre EnCompass permettant aux agents IA de revenir en arrière et d'optimiser les sorties des LLM, obtenant une amélioration de précision de 15 à 40 % avec 82 % de code en moins.
La méthode Discovery Learning permet une prédiction rapide de la durée de vie des batteries en une semaine, contre des cycles de test traditionnels qui durent plusieurs mois.
Dans un développement surprenant, des mathématiciens amateurs tirent parti des chatbots d'IA pour résoudre des problèmes mathématiques complexes et anciens posés par le légendaire Paul Erdős, ce qui témoigne d'un bond significatif dans les capacités de raisonnement de l'IA.
Les chercheurs du MIT démontrent que les modèles d'apprentissage automatique les plus performants peuvent devenir les moins performants lorsqu'ils sont appliqués à de nouveaux environnements de données, révélant des risques cachés liés à des corrélations fallacieuses dans l'IA médicale et d'autres applications critiques.
Un nouveau benchmark appelé APEX-Agents montre que même des modèles d'IA de pointe comme GPT-5.2 et Gemini 3 Flash échouent sur la plupart des tâches complexes et multi-domaines issues de secteurs professionnels tels que le droit et la finance, ce qui soulève des doutes quant à leur aptitude immédiate pour le milieu professionnel.
Des recherches du Center for Countering Digital Hate (CCDH) estiment que l'IA Grok d'Elon Musk a servi à créer environ 3 millions d'images sexualisées sur une période de 11 jours, soulevant de graves inquiétudes en matière de sécurité.
Des chercheurs d'OpenAI, d'Anthropic et de Google DeepMind ont contourné 12 défenses d'IA publiées avec des taux supérieurs à 90 %, mettant en lumière des failles de sécurité critiques dans les systèmes en production.
