Массовое внедрение AI-агентов в разработку софта станет одной из самых дорогих ошибок в истории профессии. Агенты не умеют программировать — они лишь статистические модели, имитирующие распределение кода. Их результат сломан, но с каждым днём эту поломку всё труднее заметить.
Автор признаётся, что сам сначала списывал скепсис на страх потери статуса. Но после полугода экспериментов — он писал части tinygrad с агентами, реверсил USB <-> PCIe чип — вывод однозначен: вручную получалось быстрее и качественнее. Агент выдаёт прогресс на старте, а дальше превращается в игровой автомат: дёргаешь рычаг, надеясь на финальную полировку, но её никогда не случается.
Все попытки «правильно использовать» — разные модели, обвязки, промпты — не помогли. Это не вопрос настройки. Люди, твердящие «вы просто не умеете их готовить», сказали бы то же про игровой автомат.
AI полезен — как шустрая замена Google или для прототипов, где плевать на качество. Но до инженера в любой приличной компании ему далеко. Ключевой навык — знать, когда применять, а когда нет.
Интересный момент: AFL находил больше багов, чем LLM, но никто не впадал из-за этого в экзистенциальный кризис. Шахматы и Go популярнее прежнего. Автор мечтает об армии роботов-ассистентов, которые будут чистить код. Дело не в страхе потерять статус — это похоже на психологическую операцию по продаже агентов. Страх потери — единственный способ заставить большие корпорации двигаться, но в этом страхе они совершают ошибку.
Агенты навредят крупным организациям больше, чем отдельным разработчикам или маленьким командам. Сильные инженеры умеют замечать ошибки — они редко переходят в режим слепого доверия, разве что в узких областях. В крупной организации петли обратной связи длиннее, мотивация размазана. Слабые сотрудники, не обладающие самоконтролем, начинают выдавать «в 10 раз больше» — и среднее качество летит в пропасть.
Агенты породят горы кода, приложений и фич. Золотой век помоев и тёмные времена для годного софта. Apple давит на инженеров внедрять AI — станет ли macOS лучше или хуже через два года?
Когда люди видят артефакт, они невольно приписывают его создателю человеческое мышление. Это допущение больше не работает. Вещи ломаются новыми, немыслимыми ранее способами, а старые прокси качества вроде синтаксиса бесполезны. AI-результаты сделаны не по-человечески, и эта разница, едва заметная в статистике, становится очевидной при попытке взаимодействовать с ними.
Автор склоняется к лагерю LeCun/Marcus: такие модели никогда не научатся программировать. Процесс важен. Глубокое обучение — решение, но настоящим программирующим агентам нужны модели мира, а не очередной RLVR, который комментирует упавший тест и рапортует об успехе. Реальная история этой эпохи — кто сумеет не навредить себе в собственной AI-психозе.