OpenAI практически ежедневно сбрасывает лимиты для Codex и ChatGPT Work — это превратилось в традицию. Один из руководителей компании регулярно объявляет о ресетах: то из-за наплыва пользователей, то по праздникам, то просто «чтобы поднять настроение». За последние недели база активных пользователей выросла с 3 до 9 миллионов человек, и инфраструктура едва справляется.
Команда ввела систему «банковских сбросов» — пользователи могут сами активировать дополнительный лимит, когда захотят. Сначала эта опция была только в десктопном приложении, потом её добавили на веб и мобильные устройства. Один раз обнаружили баг: меньше 10% пользователей вообще могли воспользоваться накопленными сбросами — это исправили.
Было несколько инцидентов. Например, Codex сам помогал чинить себя во время десятиминутной аварии, но окончательную причину нашёл человек. В другой раз выяснилось, что 9% пользователей не получили обещанное двукратное увеличение лимитов на новогодние праздники — проблему пофиксили, лимиты всем сбросили. Была и глобальная авария на 45 минут, после которой лимиты тоже обнулили.
Самое забавное: однажды Codex разрешили сбросить лимиты самостоятельно — в честь своего первого дня рождения. А ещё компания объявила о новом тарифе за $100, который идёт с огромным объёмом использования Codex. Недавно переписали всю систему учёта и биллинга — это дало повод снова обнулить лимиты, потому что «возвращать потраченное скучно, а дать бесплатно — весело».
Сейчас команда продолжает наращивать мощности GPU, чтобы справляться с нагрузкой.