Человеческий мозг может удерживать в сознании одновременно всего около четырёх элементов. Это не семь, как принято считать — знаменитое «магическое число» Джордж Миллер придумал полушутя, а позже учёные убрали хитрости вроде проговаривания вслух и группировки цифр, и реальный предел оказался равен четырём. Четыре. А на устройстве, с которого вы читаете этот текст, работают десятки миллионов строк кода. Вся проблема программирования умещается в это соотношение.
Но это не только малый объём. Внимание — не прожектор, а узкий луч фонарика в тёмном складе. В знаменитом эксперименте половина людей не замечала человека в костюме гориллы, который выходил в центр кадра и бил себя в грудь — они считали передачи мяча. В другом исследовании прохожие продолжали объяснять дорогу совершенно незнакомому человеку после того, как за дверью, которую пронесли рабочие, подменили собеседника. Другой рост, другая рубашка, другой голос — половина не замечала подмены. И даже то, что вы удерживаете, исчезает за двадцать секунд, если не повторять. Четыре слота, узкий луч и дырявое ведро. Вот чем мы строим софт.
Удивительно не то, что он ломается. Удивительно, что он вообще работает. Когда система падает, в отчётах пишут «человеческая ошибка». Но предупреждение, которое половина внимательных людей смотрит и не видит — это не предупреждение, а украшение. Кнопка, расположенная в одном усталом клике от катастрофы, поставлена туда дизайнером, а не тем, кто случайно нажал. В авиации, медицине и на атомных станциях это поняли давно: если способный человек снова и снова совершает одну ошибку, виновата не система, спроектированная под оператора, которого не существует. Тот, кто никогда не устаёт и держит в голове всю машину целиком, никогда не рождался.
Мы надеялись, что машины спасут нас. Но у больших языковых моделей есть контекстное окно — жёсткий лимит на то, что они могут учесть в один момент. Внутри него внимание распределяется неравномерно. Исследование «Lost in the Middle» показало: модель хорошо отвечает, если нужный факт в начале или конце длинного ввода, и заметно хуже — если в середине. Это точная копия уставшего человека, который читает документ по диагонали. Дайте модели больше текста — и она может работать хуже, чем без него вообще. Внимание — фиксированная величина. Размажьте его слишком тонко, и инструкция, данная в начале сессии, замолкает. Модель теряет нить. Та же ограниченность, только теперь в кремнии, и ошибается она точно так же, как вы в самый тяжёлый день.
Хорошая инженерия — это не поиск ума, способного удержать всё. Таких умов нет. Хорошая инженерия — это форма вопроса: «Как сделать систему, чтобы маленький ум мог её менять, не разрушив всё?». Дать чёткое имя — значит выгрузить один факт из головы. Провести границу — значит получить обещание, которое можно перестать перепроверять. Написать тест — значит припарковать решение там, где оно не исчезнет. А возможность откатить — это разрешение ошибаться. Каждый из этих приёмов переносит что-то, что иначе жило бы в хрупком четырёхслотовом сознании, в структуру, где оно остаётся на месте, пока вы моргаете.
Вот вам тихая награда такого подхода. В 1990 году Сэм Фарбер увидел, как его жена Бетси мучается с обычной овощечисткой — тонкая металлическая ручка впивалась в пальцы, скованные артритом. Он сделал ей другую: мягкую, податливую рукоять, которую больная рука может держать, не сжимая. Инструмент стал одним из самых продаваемых кухонных приспособлений в мире, и купили его миллионы людей без артрита, потому что ручка, сделанная для самой слабой руки, оказывается удобнее для всех. Проектируйте для самого ограниченного пользователя — и вы не опускаете планку для гениев. Вы строите вещь, за которой каждый потянется, когда луч внимания сужается. А он сужается всегда.