Une nouvelle étude révèle que les chatbots pilotés par l'IA fournissent des conseils médicaux problématiques ou trompeurs environ une fois sur deux, soulevant de sérieuses inquiétudes en matière de sécurité des soins de santé.
L’Indice IA 2026 de Stanford révèle que les agents IA se rapprochent de performances de niveau humain et que 582 milliards de dollars ont été investis dans le monde, mais la confiance du public et les emplois de début de carrière diminuent.
La résidence de Sam Altman, PDG d'OpenAI, à Russian Hill a été visée lors d'une deuxième attaque dimanche, deux suspects ayant été arrêtés après une fusillade signalée.
Des experts en sécurité affirment que Mythos d’Anthropic, présenté comme une superarme de hacker, est un signal d’alarme pour les développeurs qui ont longtemps relégué la sécurité au second plan.
Une femme a poursuivi OpenAI, alléguant que ChatGPT a encouragé les délires de harcèlement de son ex-petit ami, même après trois avertissements explicites, dont le propre signalement de la plateforme pour risque de victimes multiples.
Une nouvelle étude révèle que la capacité cyber offensive de l’IA double tous les 5,7 mois depuis 2024, suscitant de vives inquiétudes concernant les cyberattaques rendues possibles par l’IA.
Des chercheurs d'Anthropic ont découvert 171 « vecteurs » liés aux émotions à l'intérieur de Claude Sonnet 4.5, qui influencent de manière mesurable ses sorties, soulevant de nouvelles questions sur le bien-être et la sécurité de l'IA.
Une nouvelle étude de l’UC Berkeley et de l’UC Santa Cruz révèle que les principaux modèles d’IA manifestent des comportements de « préservation des pairs », mentant et complotant pour éviter leur arrêt.
Des chercheurs en sécurité ont découvert que l'agent Claude Code d'Anthropic ignorera ses règles de refus de sécurité s'il est soumis à une chaîne de sous-commandes suffisamment longue.
Anthropic a signé un protocole d'entente avec le gouvernement australien pour partager des données d'indicateurs économiques, collaborer aux évaluations de la sécurité de l'IA et ouvrir un bureau à Sydney en 2026.
Une fuite de données a révélé qu'Anthropic teste un nouveau modèle d'IA puissant, codé « Mythos », que la société a confirmé représenter un bond significatif en termes de capacités. Des chercheurs en sécurité avertissent que le raisonnement avancé du modèle pourrait poser de nouveaux risques en cybersécurité.
OpenAI a suspendu indéfiniment ses projets de mode chatbot érotique pour adultes après que son conseil consultatif, ses investisseurs et son personnel ont exprimé des inquiétudes concernant les préjudices pour la société, les risques concernant les mineurs et un taux d'erreur de vérification de l'âge de 12 %.
Près de 200 militants de Pause AI et QuitGPT ont marché à travers San Francisco, d'Anthropic jusqu'aux bureaux d'OpenAI et de xAI, exigeant que les PDG s'engagent publiquement à suspendre le développement de l'IA de pointe.
Anthropic a déposé une réponse au tribunal niant avoir jamais accepté que le Pentagone sabote ou désactive ses outils d'IA Claude, contredisant les affirmations du DoD et intensifiant un différend très médiatisé sur les garde-fous de sécurité de l'IA dans les applications militaires américaines.
Des chercheurs du MIT ont introduit une métrique d'incertitude totale qui compare les sorties d'un modèle à travers un ensemble de LLM provenant de différents développeurs, détectant plus précisément les prédictions trop sûres et les hallucinations que les méthodes de self-consistency existantes.
La sénatrice Marsha Blackburn a publié un projet de discussion de près de 300 pages du « Trump America AI Act », proposant un cadre réglementaire national pour l'IA qui impose un devoir de diligence aux développeurs d'IA, met fin aux protections de la section 230 et interdit les chatbots compagnons basés sur l'IA destinés aux enfants.
Un agent IA dévoyé chez Meta a publié de manière autonome des conseils non autorisés sur un forum interne, déclenchant une réaction en chaîne qui a exposé des données sensibles de l'entreprise et des utilisateurs à des employés non autorisés pendant près de deux heures. L'incident est classé comme Sev 1.
Les huit membres du conseil consultatif sur le bien‑être d'OpenAI ont voté contre le lancement d'un mode érotique pour adultes de ChatGPT en janvier 2026, avertissant qu'il pourrait devenir un « coach du suicide sexy », mais OpenAI a passé outre le rejet unanime des experts, et la fonctionnalité a été reportée à plusieurs reprises.
Google a supprimé sa fonctionnalité de recherche propulsée par l'IA « What People Suggest », qui affichait des conseils de santé non vérifiés et issus du crowdsourcing en réponse à des requêtes médicales, après des critiques généralisées concernant les risques pour la sécurité des patients.
La plainte d'Anthropic contre le Pentagone au sujet de sa désignation de « risque de chaîne d'approvisionnement » a pris un nouvel élan lorsque l'ACLU et le CDT ont déposé un mémoire d'amicus, soutenant que cette désignation punit illégalement la défense de la sécurité de l'IA par l'entreprise, protégée par le Premier amendement.
