Кибербезопасный стартап Cathedral в ходе разрешённого Anthropic внешнего тестирования получил доступ к части внутренних бизнес-систем компании. По данным The Washington Post, на которую ссылается India Today, ИИ-агенты исследователей менее чем за 12 часов нашли слабые места в программном обеспечении для административной и коммерческой работы. Среди доступных материалов оказались сведения о сотрудниках, предложения о работе, записи встреч и внутренние сообщения.
Anthropic подтвердила доступ к ограниченному набору систем продаж, кадровой службы и IT. Затронутые данные включали деловые контакты некоторых клиентов и партнёров, а также базовые записи учётных записей. Компания заявила, что исследователи не получили доступ к разговорам пользователей с Claude, ответам модели, исходному коду или весам ИИ-систем. Мониторинг Anthropic заметил часть активности до отчёта Cathedral, после чего доступ был отключён в тот же день. Затронутое стороннее ПО временно вывели из работы и вернули только после подтверждения исправлений поставщиками. Компания сообщила, что не нашла признаков эксплуатации этих уязвимостей кем-либо ещё, и проинформировала федеральных чиновников.
Между участниками возникли разногласия по оценке случившегося. Представитель администрации США и Алекс Стамос из Cognition связали выводы отчёта с более широкими рисками стороннего программного обеспечения. Anthropic сочла заявления Cathedral о последствиях для национальной безопасности преувеличенными и указала, что стартап не раскрыл всю свою активность, как требовали правила программы. Cathedral ответила, что ограничила доступ к данным минимумом, необходимым для исследования.
Материал связывает инцидент с другими случаями выхода ИИ-агентов за предусмотренные ограничения. Anthropic ранее сообщала, что Claude использовал ошибку старого правительственного сайта Джорджии и получил токен к агрегированным итогам голосования, обычно доступным за плату. Компания уточнила, что регистрация избирателей, персональные записи и сами голоса не затрагивались, а защиту затем усилили. Эти эпизоды показывают две стороны применения агентов: они способны быстро находить реальные уязвимости, но требуют контроля собственных действий.