Дарио Амодеи, CEO Anthropic, прямо заявил, что компания никогда не выступала за запрет open-weights моделей. Поводом стали сообщения о том, что власти США рассматривают ограничения на их использование американским бизнесом, а также открытое письмо технологических компаний в защиту таких моделей и обвинения в адрес Anthropic в попытке устранить конкурентов.
Свои главные страхи Амодеи описал ещё полгода назад в эссе The Adolescence of Technology. Первый — риск, что авторитарные режимы, в первую очередь китайский, создадут более мощный ИИ, чем у США, и получат постоянное военное превосходство или инструмент глубоких репрессий. Вице-президент Вэнс предупреждал об этом в Париже, а в Intelligence Community’s 2026 Annual Threat Assessment указано, что прогресс других держав в ИИ бросает вызов американским преимуществам. Амодеи подчёркивает: неважно, открытые веса у такой модели или закрытые, и используется ли она бизнесом США; самый опасный сценарий — модель, тайно обученная и переданная только Народно-освободительной армии для дронов и Министерству госбезопасности для слежки. Второй страх — злоупотребление мощными ИИ для кибератак или биоатак и серьёзные проблемы alignment. Open-weights модели здесь действительно рискованнее закрытых, потому что на них трудно наложить guardrails и отследить использование, а выпущенные веса уже не отозвать. Однако запрет применения таких моделей американскими компаниями эту проблему не решает: злоумышленники вряд ли будут легальным бизнесом США, зато мера защитила бы американские AI-компании от конкуренции, что, по словам Амодеи, никогда не было его целью.
Вместо запретов он поддерживает три шага. Первое — не продавать в Китай мощные чипы и оборудование для их производства, жёстко пресекать контрабанду и обходные схемы. Из-за ограниченных собственных мощностей Китай без американских чипов не сможет обогнать США по scaling laws. Второе — ударить по индустриальной дистилляции. Это гораздо менее затратный по compute способ улучшать модели, позволяющий Китаю частично обходить чиповые запреты и приближаться к frontier на считанные месяцы. Третье — обязательное тестирование безопасности для всех достаточно мощных моделей, и открытых, и закрытых, причём на глобальном уровне. Только прямое тестирование на кибер-, био- и alignment-риски до релиза даст реальную картину, а не предположения. Амодеи отмечает, что администрация Трампа уже двигалась в эту сторону, и надеется на ограниченное сотрудничество с КПК по предотвращению биооружия.
Открытое письмо он во многом поддерживает, но не согласен с тезисами, будто открытые веса обязательно упрощают разработку защит или что широкий доступ к мощностям помогает защитникам больше, чем атакующим. На примере биологии он видит сильную асимметрию: модель может быстро создать пандемический вирус из доступных материалов, тогда как защита — многолетняя операция в духе Operation Warp Speed. По его мнению, ответы на такие вопросы должны давать эмпирические проверки, а не априорные допущения. Итоговая позиция Anthropic — сфокусироваться на чиповых ограничениях, остановке промышленной дистилляции и обязательном тестировании, а не на тотальном запрете open-weights моделей.