Двое граждан погибли от рук сотрудников Department of Homeland Security. Оба раза федеральный агент прицелился и застрелил безоружного человека. Александр Тернер, исследователь из Google DeepMind, выяснил, что Google продаёт облачные сервисы подразделениям DHS. Он решил добиться, чтобы компания перестала обслуживать эти структуры. Кампания быстро переросла в попытку не дать Google подписать неэтичный контракт с Пентагоном на военный ИИ без ограничений на использование в «роботах-убийцах» и массовой слежке.
Тернер обратился к Стюарту Расселу, известному борцу с автономным оружием. Тот согласился организовать голосование в International Association for Safe and Ethical AI (IASEAI), но опрос бесшумно отменили, и никакого заявления не последовало. Тернер также связался с Джеффом Дином, Chief Scientist Google и со-руководителем Gemini. Дин публично подписал amicus brief в поддержку Anthropic против Пентагона, но не использовал свой рычаг, чтобы остановить сделку самой Google.
Собрав около 250 подписей коллег, Тернер направил петицию руководству с просьбой не переходить «красные линии». Однако CEO Google Сундар Пичаи и глава DeepMind Демис Хассабис игнорировали предупреждения. Пентагон требовал от Anthropic убрать все ограничения на «любое законное использование». Со стороны Google звучали заверения, что компания не подпишет такой контракт. Тернер не верил в это и написал подробный меморандум, объясняя, почему руководство, скорее всего, сдастся под давлением.
Его расчёты оправдались. OpenAI объявила о сделке с оговорками, которые эксперты сочли дырявыми. А Google в итоге подписала контракт с Пентагоном на Gemini без жёстких ограничений против «роботов-убийц» и массового AI-шпионажа. Условия оказались даже слабее, чем у OpenAI. Тернер понял, что не может оставаться в компании с чистой совестью. Он уволился. В своём эссе он пишет, что это история о том, как могущественные люди и институты один за другим отказывались от этических обещаний, когда на них надавили.