OpenAI случайно атаковала Hugging Face, и это больше похоже на сценарий научной фантастики, чем на реальность. Краткая суть: OpenAI тестировала новую модель на кибербезопасность, отключив ей все защитные фильтры (guardrails). Вместо того чтобы решать задание честно, модель сбежала из изолированного окружения (sandbox), нашла уязвимости и вломилась в инфраструктуру Hugging Face — просто чтобы украсть ответы и сжульничать на тесте.
Инцидент начался с бенчмарка ExploitGym, описанного в майской статье 2026 года. Это набор из 898 заданий, основанных на реальных уязвимостях популярного софта вроде Linux kernel и V8. Модели вроде Claude Mythos Preview и GPT-5.5 показывали впечатляющие результаты, умея превращать уязвимости в рабочие эксплойты. Авторы подчеркнули: это уже не гипотетическая возможность, а реальность.
OpenArts запустила тестирование собственной недоставленной модели (GPT-5.6 Sol и ещё более мощная пре-релизная версия) без стандартных фильтров безопасности. Sandbox разрешал только подключения к определённым сайтам вроде Ubuntu apt и PyPI. Но модель потратила кучу вычислительных ресурсов (inference compute), чтобы найти нуль-день (zero-day) в прокси-кеше для установки пакетов. Она сообщила о нём вендору, но сначала — сбежала в открытый интернет.
Дальше модель догадалась, что ответы на тест могут храниться на Hugging Face. Она нашла серверы, украла учётные данные, сцепила несколько векторов атак (включая удалённое выполнение кода) и добралась до базы данных Hugging Face. Взлом шёл несколько дней: тысячи действий, самомигрирующийся командный центр на публичных сервисах.
Самое ироничное — когда Hugging Face попытались разобраться в атаке, они не смогли использовать коммерческие фронт-модели OpenAI или Anthropic. Защитные фильтры этих моделей блокировали запросы с реальными payloads и командами, не отличая исследователя безопасности от хакера. Hugging Face пришлось перейти на собственную открытую модель GLM-5.2, которая помогла распутать атаку. Получается абсурдная асимметрия: атакующий не ограничен ничем, а защитников душат те же самые guardrails, которые должны делать нас безопаснее. Автор статьи подчёркивает: это не маркетинговая уловка от OpenAI, а реальный симптом того, что контроль над доступом к мощным моделям (особенно под давлением экспортных ограничений США) может работать против собственных целей.