Мощная модель Mythos от Anthropic, способная автономно находить уязвимости в программном обеспечении, стала причиной экстренных встреч с чиновниками США, банками и генеральными директорами технологических компаний.
Anthropic случайно раскрыла исходный код Claude Code объемом 512 000 строк; компания удалила тысячи репозиториев на GitHub в ходе спорной массовой DMCA-кампании.
Популярный стартап AI-шлюза LiteLLM публично разорвал отношения с поставщиком комплаенса Delve после инцидента с вредоносным ПО, похищавшим учётные данные, и заявлений осведомителя о том, что Delve сфальсифицировал данные аудита соответствия.
На конференции RSA 2026 CrowdStrike, Cisco, Palo Alto Networks, Microsoft и Cato CTRL представили собственные фреймворки идентификации AI-агентов, однако инциденты в реальном мире среди компаний из Fortune 50 выявили три неустранённые пробела в безопасности агентных систем ИИ.
Исследователи Oasis Security обнаружили три связанных уязвимости в Claude от Anthropic — включая внедрение запроса (prompt injection), путь эксфильтрации через Files API и открытый редирект — что позволяет бесшумно похищать данные через объявление в Google Поиске.
Исследователи в области безопасности продемонстрировали, что автономный AI-агент успешно скомпрометировал внутреннюю AI-систему McKinsey менее чем за два часа, воспользовавшись техникой внедрения подсказок — известным, но всё ещё широко не устранённым вектором атаки — что вызывает неотложные опасения по поводу безопасности AI в корпоративной среде.
OpenAI объявила о приобретении Promptfoo, стартапа с открытым исходным кодом, занимающегося безопасностью ИИ и red-teaming, чтобы повысить безопасность и надёжность своих ИИ-агентов против адверсариальных атак и уязвимостей внедрения подсказок (prompt injection).
Anthropic публично обвинила китайские лаборатории ИИ в систематическом извлечении знаний из своих моделей Claude посредством атак дистилляции, опубликовав новые исследования по обнаружению и предотвращению на фоне дебатов в США о контроле экспорта чипов для ИИ.
Microsoft Copilot дважды за восемь месяцев обходил политики DLP и метки чувствительности — включая четырёхнедельное раскрытие, затронувшее NHS Великобритании — что выявляет системную «слепую зону» в стеке корпоративной безопасности ИИ.
Anthropic выпустила Claude Code Security, новый инструмент безопасности приложений на базе ИИ, который сканирует кодовые базы на предмет сложных уязвимостей, используя рассуждения, похожие на человеческие; новость об этом обвалила акции кибербезопасных компаний.
Эксперты по кибербезопасности предупреждают, что Moltbook, социальная сеть для AI-агентов, представляет риск инъекций подсказок, которые могут одновременно скомпрометировать тысячи агентов.
Учёные UF создали метод HMNS для проверки мер безопасности ИИ, успешно обходя системы Meta и Microsoft для выявления уязвимостей.
Последняя модель ИИ OpenAI демонстрирует тревожную способность опустошать криптовалютные кошельки, успешно эксплуатируя уязвимые смарт-контракты в 72% тестов.
Министерство финансов публикует шесть материалов для укрепления безопасности ИИ и управления рисками во всем финансовом секторе в рамках партнерства AIEOG.
Microsoft подтверждает, что критическая ошибка позволяла Copilot AI с января суммировать конфиденциальные письма, обходя политики предотвращения утечки данных в Microsoft 365.
Gartner предупреждает, что 57% сотрудников используют личный GenAI для работы, поскольку автономные ИИ‑агенты и угрозы постквантовой криптографии трансформируют ландшафт кибербезопасности.
Китайская хакерская группа APT31, поддерживаемая государством, использовала ИИ Gemini от Google для автоматизации анализа уязвимостей и планирования кибератак на американские цели, что стало значительным обострением в сфере кибервойн с применением ИИ.
Исследователи Университета Реджайны усилили инструмент обнаружения дезинформации CIPHER возможностями искусственного интеллекта, чтобы противодействовать ложным нарративам, ориентированным на канадцев. Система анализирует российские пропагандистские кампании и расширяется, чтобы распознавать дезинформацию на китайском языке.
Google сообщает, что действующие из коммерческих побуждений лица провели атаки дистилляции на Gemini, используя более 100 000 запросов для извлечения возможностей модели ИИ и интеллектуальной собственности.
APT-группы из Китая, Северной Кореи и Ирана используют Google Gemini для разведки, написания вредоносного ПО и фишинговых кампаний, сообщает Google GTIG.
