Google выпустил обновление для модели Gemini 3.5 Flash, которое делает её использование компьютерами безопаснее. Главная проблема для агентов, работающих в реальных средах, — это риски prompt injection, когда злоумышленник внедряет вредоносную команду в видимый агенту контент. Чтобы с этим бороться, Google применил targeted adversarial training — специальное обучение модели на атакующих примерах.
Помимо этого, компания выпускает две опциональные корпоративные системы защиты. Первая требует явного подтверждения от пользователя перед любым чувствительным или необратимым действием. Вторая автоматически останавливает задачу, если модель обнаруживает косвенную инъекцию промпта.
Google рекомендует комбинировать эти встроенные механизмы с безопасной изоляцией (secure sandboxing), контролем через человека (human-in-the-loop) и строгими ограничениями доступа. Такой подход называется defense-in-depth — эшелонированная защита.
В компании уже есть клиенты, которые получают пользу от computer use в Gemini 3.5 Flash, но их отзывы не приводятся — только указано, что они есть. Полный список мер безопасности — в документации best practices.