Автор статьи долго думал, как вытащить LLM из узкого окна чата и дать им настоящую свободу действий. Он проанализировал, что сработало, а что нет, и сформулировал свои принципы идеальной «обвязки» (harness) для агентов.
Хорошая обвязка должна быть интуитивной для самого агента, полностью прозрачной (чтобы он мог сам себя чинить, а люди — проводить посмертный аудит), максимально лёгкой и гибкой, а также устойчивой к ошибкам, обновлениям и утечкам памяти. Главная проблема современных решений — они сжигают слишком много токенов на когнитивную нагрузку, вместо того чтобы давать агенту делать дело.
Ключевые выводы из многолетних наблюдений: чем детерминированнее среда, тем лучше. LLM должен выбирать цель, но путь к ней должен состоять из хорошо определённых шагов. Базовый промпт должен быть минимальным — навыки агент подгружает в контекст сам, по мере необходимости. И ещё: LLM начинают «сходить с ума» при приближении к лимиту контекста.
Главная догадка автора: не надо изобретать велосипед. LLM отлично знают Unix и Linux, код и администрирование перепредставлены в их обучающих данных. Значит, нужно дать агенту среду, в которой он уже эксперт. Всё должно быть прозрачно, логируемо, а ошибки — исправимы на лету. Автор выделяет два типа сбоев: на уровне LLM (их нельзя пропатчить напрямую, только смягчить обвязкой) и на уровне самой обвязки (они должны чиниться в рантайме за счёт пошаговой природы LLM).
В основе идеи лежит философия Unix Ричи и Томпсона: одна программа — одно дело, программы работают вместе через текстовые потоки. Текст — универсальный интерфейс, и для языковой модели это родная стихия. Никаких сложных curl или JSON — всё должно быть плоскими текстовыми файлами.
Автор строит свою систему Ambiance вокруг этой идеи. Вместо того чтобы пичкать агента правилами, он даёт ему файловую систему, похожую на FHS: логи в /var, конфиги в /etc, рабочая область в /home. Всё внешнее и «грязное» приводится к аккуратному faux-VFS. Агент взаимодействует с миром через event bus, который автор называет «Kernel» — он следит за изменениями в файлах и дёргает LLM только когда надо, экономя токены по сравнению с тупым heartbeat.
В системе есть три встроенных «пользователя»: root (системные штуки, код и починка), pai (человеко-ориентированный агент) и librarian (журналирует, что умеет и не умеет pai). Они общаются через шину и специальную команду send-message.
Ambiance — рабочий проект, доступный на whitematterlabs.ai или через curl. Автор начал его в Recurse Center.