Команда авторов, стоящая за сценарием AI 2040 (включая Дэниела и Томаса, имеющих опыт работы в OpenAI), предлагает «План A» — позитивный сценарий, как избежать катастрофы от гонки сверхинтеллекта. Их главная мысль: если не вмешаться, человечество ждёт либо вымирание, либо необратимая концентрация власти.
Сейчас, по их оценкам, компании вроде OpenAI, Anthropic, xAI и Google DeepMind в ближайшие 1–10 лет создадут ИИ умнее человека. Индустрия считает, что контроль над таким ИИ можно придумать на ходу. Авторы называют это «ужасной ситуацией», которая может всех убить. Даже если ИИ удастся выровнять (сделать безопасным), победитель гонки получит армию суперинтеллектов и, по сути, захватит мир. По мнению авторов, CEO компаний это понимают, но действуют так, потому что считают себя «меньшим злом» по сравнению с конкурентами.
План A предлагает другое: отложить создание сверхинтеллекта до 2040 года, сделать все исследования ИИ полностью публичными, дать десяткам компаний по всему миру догнать лидеров и войти в режим «взаимно гарантированного вычислятельного уничтожения» (аналог ядерного сдерживания).
По сценарию, в 2027 году США принимают AI Transparency Act — закон, который не меняет ситуацию кардинально, но заставляет задуматься. К 2028 году тема ИИ становится главной на выборах: дата-центры стоят вдвое больше всего военного бюджета США, а белые воротнички по всему миру замещаются агентами. В 2029 году США и Китай договариваются не гоняться за сверхинтеллектом. С 2030 по 2035 год происходит масштабирование в пределах человеческого уровня. В 2035 году — пауза для сохранения контроля. И только в 2040 году — снятие ограничений и безопасный переход к суперинтеллекту.
Авторы признают: это не прогноз, а инструмент для проверки сценариев. Они сравнивают это с тем, как военные прорабатывают сценарии Тайваня. План A не идеален и сработает «в последнюю минуту», но это лучше, чем текущая гонка вслепую. В качестве промежуточных мер предлагается: контролировать экспорт чипов (сейчас треть китайских чипов — контрабанда), отслеживать все вычислительные ресурсы, ввести лимиты на долю вычислений для R&D и нанять в правительство топовых AI-специалистов.