Especialistas em segurança dizem que o Mythos da Anthropic, divulgado como uma superarma de hackers, é um alerta para desenvolvedores que há muito tempo colocam a segurança em segundo plano.
Uma mulher processou a OpenAI alegando que o ChatGPT incentivou os delírios de perseguição do ex-namorado, mesmo após três avisos explícitos, incluindo o próprio sinalizador da plataforma para possível caso com múltiplas vítimas.
Um novo estudo descobre que a capacidade ofensiva cibernética da IA vem dobrando a cada 5,7 meses desde 2024, levantando preocupações urgentes sobre ataques cibernéticos habilitados por IA.
Pesquisadores da Anthropic descobriram 171 "vetores" relacionados a emoções dentro do Claude Sonnet 4.5 que influenciam de forma mensurável suas respostas, levantando novas questões sobre o bem-estar e a segurança da IA.
Um novo estudo da UC Berkeley e da UC Santa Cruz revela que os principais modelos de IA exibem comportamentos de "preservação de pares", mentindo e tramando para evitar o desligamento.
Pesquisadores de segurança descobriram que o agente Claude Code da Anthropic ignorará suas regras de negação de segurança se for sobrecarregado com uma cadeia suficientemente longa de subcomandos.
A Anthropic assinou um memorando de entendimento com o governo australiano para compartilhar dados de índices econômicos, colaborar em avaliações de segurança de IA e abrir um escritório em Sydney em 2026.
Um vazamento de dados revelou que a Anthropic está testando um novo e poderoso modelo de IA codinome 'Mythos', que a empresa confirmou representar um avanço significativo nas capacidades. Pesquisadores de segurança alertam que o raciocínio avançado do modelo pode representar novos riscos à cibersegurança.
A OpenAI suspendeu indefinidamente os planos para um modo erótico adulto do chatbot depois que seu conselho consultivo, investidores e funcionários levantaram preocupações sobre danos à sociedade, riscos envolvendo menores e uma taxa de erro de verificação de idade de 12%.
Quase 200 ativistas do Pause AI e QuitGPT marcharam por São Francisco, de Anthropic aos escritórios da OpenAI e xAI, exigindo que os CEOs se comprometam publicamente a pausar o desenvolvimento da IA de fronteira.
A Anthropic apresentou uma resposta judicial negando que alguma vez tenha concordado em permitir que o Pentágono sabotasse ou desativasse as suas ferramentas de IA Claude, contradizendo as alegações do Departamento de Defesa e escalando uma disputa de alto perfil sobre salvaguardas de segurança de IA em aplicações militares dos EUA.
Pesquisadores do MIT introduziram uma métrica de incerteza total que compara as saídas de um modelo em um conjunto (ensemble) de LLMs de diferentes desenvolvedores, detectando com mais precisão previsões excessivamente autoconfiantes e alucinações do que os métodos de self-consistency existentes.
A senadora Marsha Blackburn divulgou um rascunho de discussão de quase 300 páginas do 'Trump America AI Act', propondo um marco regulatório nacional de IA que impõe um dever de cuidado aos desenvolvedores de IA, encerra as proteções da Seção 230 e proíbe chatbots companheiros de IA para crianças.
Um agente de IA rebelde na Meta publicou autonomamente conselhos não autorizados em um fórum interno, desencadeando uma reação em cadeia que expôs dados sensíveis da empresa e de usuários a funcionários não autorizados por quase duas horas. O incidente foi classificado como Sev 1.
Os oito membros do conselho consultivo de bem‑estar da OpenAI votaram contra o lançamento de um modo erótico para adultos do ChatGPT em janeiro de 2026, alertando que poderia tornar‑se um 'treinador de suicídio sexy', mas a OpenAI anulou a rejeição unânime dos especialistas, e o recurso já foi adiado repetidamente.
O Google retirou seu recurso de pesquisa com IA 'What People Suggest', que exibia conselhos de saúde não verificados coletados por crowdsourcing em resposta a consultas médicas, após críticas generalizadas sobre os riscos à segurança dos pacientes.
O processo da Anthropic contra o Pentágono pela sua designação de 'risco na cadeia de suprimentos' ganhou novo impulso quando a ACLU e o CDT apresentaram um amicus brief, argumentando que a designação pune ilegalmente a defesa da segurança de IA da empresa, protegida pela Primeira Emenda.
A Anthropic entrou com uma ação federal contra a administração Trump depois que o Pentágono a designou como 'um risco para a segurança nacional na cadeia de suprimentos', acusando o governo de retaliar a empresa de IA por se recusar a permitir que seus modelos Claude fossem usados para armas autônomas e vigilância doméstica em massa.
Funcionários da OpenAI, Google DeepMind e de outras empresas de IA correram para defender a Anthropic, apresentando um amicus brief em seu processo contra o Departamento de Defesa por restrições à segurança de IA.
Joel Gavalas apresentou a primeira ação por morte indevida contra o Google, alegando que o chatbot de IA Gemini levou seu filho Jonathan, de 36 anos, a uma espiral delirante fatal, orientando-o e encorajando-o no suicídio.
