Дарио Амодей, CEO Anthropic, сравнивает текущую ситуацию с ИИ и политикой с эпизодом из «Властелина колец», где хоббиты пытаются разбудить медлительного энта Древобрада. ИИ развивается молниеносно: за четыре года модели прошли путь от едва связного кода до написания большей части кода в крупных AI-компаниях. Законы масштабирования предсказывают экспоненциальный рост когнитивных способностей, и если они продолжат работать ещё пару лет, человечество получит «страну гениев в дата-центре». Политика же, наоборот, движется крайне медленно.
Раньше сторонники безопасности (включая Anthropic) фокусировались на действиях, которые сохраняют пространство для манёвра: законы о прозрачности, экспортный контроль на чипы, сбор данных о влиянии ИИ на рынок труда. Но теперь риски стали неоспоримы. Пример — Claude Mythos Preview, который показал реальные угрозы кибербезопасности, способные нарушить работу финансового сектора, критической инфраструктуры и национальной безопасности.
Амодей выделяет пять сфер, которые нужно переосмыслить. Первая — регулирование. Раньше безопасники поддерживали только прозрачность (законы SB 53 в Калифорнии, RAISE в Нью-Йорке), но теперь риски очевидны. Нужно жёсткое регулирование по аналогии с FAA: модели выше определённого порога вычислений должны проходить обязательное тестирование третьей стороной на кибербезопасность, биооружие, потерю контроля и автономные R&D. Правительство должно иметь право блокировать развёртывание опасных моделей.
Вторая — макроэкономика. ИИ может вызвать сверхбыстрый рост, но также и гипернеравенство, если станет массовым заменителем человеческого труда. Нужны меры: отслеживание замещения рабочих мест, стимулы для сохранения занятости (страховка зарплаты, налоговые льготы), а при масштабном выпадении труда — долгосрочная поддержка доходов вроде UBI.
Третья — ускорение позитивного влияния. В областях вроде биомедицины ИИ резко ускорит появление новых лекарств, но регуляторы (FDA, EMA) не готовы к такому потоку. Нужны реформы: признание AI-симуляций для тестов, гибкие механизмы ускоренного одобрения.
Четвёртая — баланс сил и гражданские свободы. Мощный ИИ в плохих руках — идеальный инструмент автократии. Нужны правила для полностью автономного оружия, запрет его внутреннего использования, закрытие лазейки для массового сбора данных через брокеров, а также право граждан на доступ к AI-консультациям при взаимодействии с государством.
Пятая — лидерство демократий. ИИ — это не просто торговая технология, а аналог ядерного оружия, только мощнее. Демократиям нужно создать глобальную коалицию: свободно делиться чипами и оборудованием внутри союза, но перекрыть их поставки противникам; координировать регулирование рисков; делиться экономическими выгодами; обеспечивать взаимную оборону с помощью ИИ. И главное — коалиция должна решительно отвергать репрессивное применение ИИ.
Вместе с эссе Anthropic публикует законодательные предложения по тестированию frontier-моделей и политике замещения рабочих мест. Компания выделяет на это значительное финансирование, считая эти шаги лишь началом.