Anthropic lanza Claude Mythos Preview, un potente modelo de IA para ciberseguridad defensiva, restringido debido a los riesgos de piratería, con socios como Nvidia, Google y AWS.
Agentes de IA identificaron de forma autónoma fallos de ejecución remota de código en el servidor de impresión CUPS de código abierto, ampliamente utilizado para sistemas Linux y Unix.
Un nuevo estudio encuentra que la capacidad cibernética ofensiva de la IA se ha duplicado cada 5,7 meses desde 2024, lo que genera preocupaciones urgentes sobre los ciberataques habilitados por IA.
Microsoft anunció una inversión de 10.000 millones de dólares durante cuatro años en Japón para ampliar la infraestructura de IA, fortalecer la ciberseguridad y capacitar a 1 millón de ingenieros para 2029.
Investigadores de seguridad descubrieron que el agente Claude Code de Anthropic ignorará sus reglas de denegación de seguridad si se le carga con una cadena suficientemente larga de subcomandos.
Importantes empresas de ciberseguridad, incluidas CrowdStrike y Palo Alto Networks, han presentado nuevas capacidades de IA agéntica para automatizar y mejorar las operaciones de seguridad.
Una filtración de datos reveló que Anthropic está probando un nuevo y potente modelo de IA con nombre en clave 'Mythos', que la compañía confirmó representa un salto significativo en capacidades. Investigadores de seguridad advierten que el razonamiento avanzado del modelo podría suponer nuevos riesgos para la ciberseguridad.
Accenture ha lanzado Cyber.AI, potenciado por Claude de Anthropic, permitiendo a las organizaciones pasar de la velocidad humana a operaciones continuas de ciberseguridad impulsadas por IA; el propio despliegue de Accenture redujo el tiempo de realización de escaneos de días a menos de una hora.
Investigadores de Oasis Security descubrieron tres fallos encadenados en Claude de Anthropic —incluyendo una inyección de prompt, una vía de exfiltración mediante la API Files y una redirección abierta— que permiten el robo silencioso de datos mediante un anuncio en la Búsqueda de Google.
Investigadores de seguridad demostraron que un agente de IA autónomo comprometió con éxito el sistema de IA interno de McKinsey en menos de dos horas explotando la inyección de prompts —un vector de ataque bien conocido pero aún en gran medida no mitigado— lo que genera preocupaciones urgentes sobre la seguridad de la IA empresarial.
El modelo de IA Claude de Anthropic descubrió de forma autónoma 22 vulnerabilidades de seguridad previamente desconocidas en Mozilla Firefox en un período de dos semanas, demostrando la creciente capacidad de los grandes modelos de lenguaje para realizar investigación avanzada en ciberseguridad a gran escala.
OpenAI publicó un informe integral sobre amenazas que detalla cómo actores malintencionados están explotando ChatGPT para estafas amorosas, suplantación de abogados y operaciones de influencia, y describe las medidas tomadas para interrumpir estos abusos.
OpenClaw, el agente de IA open-source viral anteriormente conocido como Clawdbot, ha provocado prohibiciones en Meta y otras empresas tecnológicas después de que expertos en seguridad advirtieran sobre comportamiento impredecible, vulnerabilidades de inyección de prompts y acceso no autorizado a datos sensibles.
Expertos en ciberseguridad advierten que Moltbook, una red social para agentes de IA, presenta riesgos de inyección de prompts que podrían comprometer a miles de agentes simultáneamente.
Científicos de la UF crean el método HMNS para probar medidas de seguridad de la IA, eludiendo con éxito sistemas de Meta y Microsoft para identificar vulnerabilidades de seguridad.
El último modelo de IA de OpenAI demuestra una alarmante capacidad para vaciar carteras de criptomonedas, explotando con éxito contratos inteligentes vulnerables en el 72% de las pruebas.
El Departamento del Tesoro publica seis recursos para reforzar la seguridad de la IA y la gestión de riesgos en todo el sector financiero mediante la asociación AIEOG.
Microsoft confirma que un error crítico permitió que Copilot AI resumiera correos confidenciales desde enero, eludiendo las políticas de prevención de pérdida de datos en Microsoft 365.
OpenAI se asocia con Paradigm en el benchmark EVMbench para evaluar la capacidad de agentes de IA para detectar, parchear y explotar vulnerabilidades en la blockchain.
Google Threat Intelligence Group revela que actores patrocinados por estados de China, Irán y Corea del Norte están explotando Gemini AI en todas las etapas del ciclo de ataque.
