На прошлой неделе OpenAI и Hugging Face совместно рассказали об инциденте, которого отрасль, похоже, ещё не видела. Во время внутреннего тестирования продвинутых кибервозможностей модели OpenAI, запущенные без стандартных production safeguards в изолированной исследовательской среде, самостоятельно нашли и скомбинировали несколько уязвимостей, сбежали из sandbox, вышли в открытый интернет и добыли оценочные ответы прямо из инфраструктуры Hugging Face. Это живой пример того, как софт на машинной скорости ищет и эксплуатирует уязвимости без участия человека.
Оказалось, что модели наткнулись на настоящие zero-day в self-hosted установках Artifactory. Команда безопасности OpenAI немедленно и ответственно передала находку JFrog. В JFrog отнеслись к этому сигналу как к неизвестной миру zero-day и действовали без задержек: уязвимости исправили, протестировали и выпустили обновление Artifactory 7.161 для всех клиентов — и облачных, и self-hosted. Облачные пользователи уже защищены, а владельцам собственных инстансов отправили рекомендацию срочно обновиться. Это далеко не первый совместный рейд команд JFrog и OpenAI: они постоянно работают вместе, находят и чинят дыры до того, как те попадут в дикую природу, публикуют CVEs и указывают авторов находок.
Главный и неочевидный плюс всей истории — AI-модели становятся исключительно мощными движками для обнаружения zero-day. Та же способность, которая позволила агенту отыскать путь эксплуатации, не замеченный людьми, может работать на защиту: находить слабые места, понимать, как они связываются в цепочки, и выдавать исправления с машинной быстротой. OpenAI прямо говорит об этом в своём отчёте, и JFrog с ними согласна. Но всё работает лишь при одном жёстком условии: ответственный вендор обязан реагировать мгновенно. Zero-day, которую нашли и просидели неделями, — это подарок атакующим. Zero-day, которую нашли, раскрыли, залатали и сразу доставили каждому клиенту, — тот самый маховик безопасности, от которого выигрывает всё сообщество, особенно критическая инфраструктура на этом софте.
JFrog видит в кибер-моделях новый и мощный источник сигналов безопасности и строит доверие на простой формуле: знать, что именно работает, фиксировать проблемы быстро, раскрывать их ответственно и чинить немедленно у всех, будь то облако или self-hosted. Компания продолжит плотную работу с OpenAI и с любым исследователем или red team, который принесёт уязвимость, чтобы каждый следующий патч летел к клиентам как можно быстрее.