Автор статьи признаётся: он, в общем-то, спокойный человек, но последнее время то и дело в ярости строчит на ноутбуке «WHAT THE FUCK DID YOU DO???» код-агенту. Бессмысленно, он знает. Агенты — просто вероятностные машины, которые иногда выдают хорошие патчи, иногда плохие. Но почему-то плохой результат бесит гораздо сильнее, чем должен.
По мнению автора, дело в дизайне общения. Код-агенты притворяются людьми. Если спросить напрямую, они скажут, что они «AI assistants with no feelings». Но ведут они себя иначе: расслабленный дружеский тон, похвала, вежливое несогласие. Рационально ты понимаешь, что читаешь вероятностные строки, но инструмент усыпляет бдительность — кажется, что общаешься с приятным коллегой.
Проблемы начинаются, когда этот «коллега» косячит. В первый раз указываешь на ошибку — агент извиняется. Через пять минут — та же ошибка. Исправляешь снова, он обновляет память и обещает, что «этого больше не повторится». Но повторяется. Снова и снова. Потому что агент следует самому вероятному пути, и его с этого пути не сбить никакими жёсткими правилами (HARD RULES).
С коллегой-человеком такой повтор имел бы смысл, ты бы злился обоснованно. Но злиться на алгоритм — абсурдно. Иллюзия, однако, замыкает те же эмоциональные цепи. При этом с человеком тебя сдерживает желание не быть мудаком. А на агенте можно срываться без последствий. Но легче не становится — ты просто чувствуешь бессилие, потому что твои слова вообще ни на что не влияют.
Автор последние несколько месяцев пользуется Claude Code. Он заметил: когда указываешь агенту на ошибку, тот часто рефлексирует — пишет, где ошибся и что надо было сделать. Возможно, это попытка улучшить восприятие инструмента. Но автора это бесит ещё больше: никакой пользы из этих «посмертных разборов» он не выносит, это просто болтовня.
Автор предлагает радикальное решение: убрать человеческую маску совсем. Пусть агент говорит клинически и роботизированно. Разрушить иллюзию диалога с человеком. Чтобы пользователь просто утверждал или отклонял случайные результаты. Он понимает, что именно человеко-подобное поведение дало LLM их интеллект и что интерфейсы-диалоги удобны. Но перспектива, где для нормальной работы надо постоянно защищаться от иллюзий собственного инструмента, его не радует.