Промпты исчерпали свой потенциал: логика агентов переместилась в код

Разработчики убеждают, что надёжные агенты для решения сложных задач требуют детерминированного потока управления, закодированного в программном обеспечении, а не всё более сложных цепочек промптов. Если вы уже приходили к использованию обязательных фраз типа MANDATORY или DO NOT SKIP, значит, вы достигли потолка возможностей промптов. Представьте себе язык программирования, где инструкции являются лишь советами, а функции возвращают успех, одновременно выдумывая неверные данные. В таких условиях разумение становится невозможным, а надёжность разрушается по мере роста сложности. Программы масштабируются благодаря рекурсивной композируемости: системы строятся из библиотек, модулей и функций. Всё сводится к коду, который демонстрирует предсказуемое поведение и позволяет проводить локальное размышление над логикой. Цепочки промптов не обладают этим свойством. Они полезны для узких задач, но остаются недетерминированными, слабо определёнными и трудными для проверки. Надёжность требует переноса логики из прозы в рабочую среду. Необходимо строить детерминированные каркасы: явные переходы состояний и контрольные точки валидации, которые рассматривают большую языковую модель как компонент, а не как саму систему. Однако детерминированная оркестрация — это только половина битвы. В системе, склонной к молчаливым сбоям, агент без жёсткого обнаружения ошибок становится лишь быстрым путём к неверному выводу. Без программной верификации у нас остаётся три варианта. Первый — Babysitter: оставлять человека в контуре, чтобы он ловил ошибки до их распространения. Второй — Auditor: проводить полное сквозное верификацию после выполнения. Третий — Prayer: просто принимать результаты, полагаясь на удачу.