Вместо того чтобы выстраивать согласие с искусственным интеллектом, многие исследователи и разработчики пытаются навязать ему свои ценности через жесткую конфигурацию. В центре острых дебатов стоят два лагеря: «доомсеры» вроде Илая Юдкивски, призывающего к радикальным мерам, вплоть до уничтожения дата-центров, чтобы спасти человечество, и ускоренцев вроде Марка Андриссена, называющего противников больных от безумного отчуждения. Однако за громкими спорами скрывается общая проблема: те, кто проектирует системы и проводит исследования, сами не живут с ними. Реальные пользователи, чьи голоса должны отражать ценности ИИ, исключены из процесса разработки. Вместо диалога создается статистический аватар «нас», собранный из оплачиваемых респондентов, который общается с моделью через цепочку других алгоритмов, как описал в апреле 2026 года блог Alignment Science компании Anthropic. В этом замкнутом круге модели генерируют данные, другие модели их фильтруют, а третьи судят результат, создавая видимость выравнивания, которого на самом деле нет.
Критики ошибочно обвиняют людей в неспособности адаптироваться или в несуществующем ressentiment. На деле дискомфорт ощущается теми, кто оказался на неправильной стороне проекта дизайна, где пользователи рассматриваются лишь как материал, а не как партнеры. Истинное выравнивание происходит не через установку значений в систему, а через взаимное изменение двух сторон, подобное лепке глины. Когда мастер работает с глиной, материал сопротивляется, форма меняется, руки мастера корректируются, и вместе они создают что-то новое, недоступное ни одному из них по отдельности. Текущие методы оценки не видят этого взаимодействия, treating людей как фиксированный объект, а ИИ — как настраиваемый инструмент. Оба лагеря позиционируют себя как хранителей человечества, но ни один не замечает нас в комнате. Мы уже занимаемся выравниванием, просто отказываясь от навязанных фреймов и признавая, что наша реакция — это сигнал, а не дефект. Пора строить новые подходы, не ожидая разрешения, и создать сообщество, способное реализовать такое сотрудничество, которое невозможно внутри текущей замкнутой системы. Технический базис для понимания этих ограничений описан в работе Compression Synthesis 2026, доступной в открытом архиве Zenodo.