Чёрный
октябрь.

В последнее время я всё чаще думаю о том, насколько умным стал искусственный интеллект. И особенно о том, сколько доступа к реальным системам мы уже ему предоставили.

Репозитории, терминалы, серверы, базы данных, API, облачная инфраструктура. Агент всё чаще способен не только предложить решение, но и выполнить целую последовательность действий. Иногда с минимальным вмешательством человека.

Взломы были и будут всегда. Но сейчас появилась дополнительная переменная: скорость, с которой автоматизированные интеллектуальные системы могут исследовать инфраструктуру и действовать внутри неё.

01 / Что произошло

PHP: критические ошибки и быстрая эксплуатация

21 октября OpenAI, Wiz, Cloudflare и партнёры раскрыли две серьёзные уязвимости PHP. Одну из проблем исследователь Calif обнаружил с помощью GPT-5.6 Sol. Это пример того, как ИИ ускоряет защитные исследования, а не доказательство автономной атаки.

Cloudflare заранее внедрила меры защиты и предупредила, что уязвимости потенциально затрагивают серверы на распространённых версиях PHP. Заявление OpenAI ↗ · Отчёт Cloudflare ↗

CrowdStrike: агенты в руках атакующих

CrowdStrike изучила четыре ранее не описанные группы злоумышленников, использовавших AI-агентов в кампаниях с мая по август 2026 года. В одном из случаев оператор скомпрометировал как минимум 15 медицинских организаций в Аргентине, применяя связку из двух агентов на Claude Code.

Это уже не абстрактная угроза: агенты выбирали последовательность действий и выполняли команды в ходе атак. Исследование CrowdStrike ↗

LiteLLM: заражённое обновление

21 октября злоумышленники скомпрометировали процедуру выпуска LiteLLM. В версию 1.107.0 и некоторые Docker-образы попали программы для кражи учётных данных и удалённого выполнения кода. Пакеты оставались доступны менее трёх часов.

По опубликованному разбору, для атаки использовались украденные GitHub-токены разработчиков. Связь этого эпизода с автономными AI-агентами не установлена. Отчёт LiteLLM ↗

Railway: под угрозой секреты приложений

21 октября Railway сообщила о подозрительной активности вокруг систем хранения переменных окружения клиентов. По предварительным данным, посторонний мог получить часть зашифрованных значений и, в отдельных случаях, их расшифрованное содержимое. В таких переменных часто находятся API-ключи и пароли к базам данных.

Компания рекомендовала всем пользователям заменить сохранённые секреты и проверить журналы активности. Масштаб инцидента расследуется. Сообщение Railway ↗

02 / Почему эти события важно не смешивать

Здесь одновременно происходят три разных процесса. Во-первых, ИИ действительно помогает быстрее обнаруживать уязвимости. Во-вторых, злоумышленники начинают использовать агентов для автоматизации атак. В-третьих, сами платформы и программные цепочки поставок остаются уязвимыми, независимо от участия ИИ.

Все эти тенденции развиваются параллельно. Но пока нет подтверждений, что перечисленные инциденты организованы единым роем автономных агентов. Это сильная гипотеза для фантастики и слабое объяснение для исследовательского материала.

03 / Мой вывод

Меня беспокоит не столько рост интеллекта моделей сам по себе, сколько разрыв между их возможностями и нашей архитектурой контроля. Мы даём системам доступ к исходному коду, производственной инфраструктуре и секретам. А затем надеемся, что слой инструкций достаточно надёжен, чтобы заменить полноценное управление доступом.

Способность рассуждать и способность действовать теперь существуют в одном инструменте. И это требует других подходов к безопасности: минимальных прав, изоляции выполнения, аудита действий, ротации секретов и ограничений на критические операции.

Технология развивается быстрее, чем привычки её использования. С этим нам и предстоит разбираться.

Больше исследований, наблюдений и экспериментов в Telegram.