Почему ИИ-агенты съедают бюджет и как это остановить

Агент — это цикл запросов

Человек задаёт вопрос и читает ответ. Агент действует циклом: подумать, вызвать инструмент, прочитать результат, снова подумать. На каждом витке он отправляет модели всю историю: инструкции, прочитанные файлы, результаты команд.

Поэтому стоимость агента растёт не линейно по числу шагов, а быстрее: каждый следующий шаг тяжелее предыдущего, потому что история длиннее.

Как сократить расход, если вы платите за токены

• Ограничьте число шагов и время на задачу
• Сжимайте историю: оставляйте итоги шагов вместо полного вывода команд
• Не давайте агенту читать файлы целиком, если нужна одна функция
• Используйте быструю модель для простых шагов и большую — для сложных
• Кэшируйте повторяющиеся инструкции, если провайдер это поддерживает

Или уберите счётчик совсем

Все советы выше — это борьба с моделью оплаты. Если агент — основной рабочий инструмент, проще сменить модель оплаты: с подпиской на потоки число токенов не влияет на цену.

В Tenzo Cloud агент может делать сколько угодно шагов: ограничено только число одновременных запросов. Для агента с помощниками рекомендуем 4 потока.

Агент на OpenAI SDK — меняется только адрес

from openai import OpenAI

client = OpenAI(base_url="https://tenzo-cloud.com/v1", api_key="tc-your-key")

stream = client.chat.completions.create(
    model="glm-5.3",
    messages=[{"role": "user", "content": "Hello!"}],
    stream=True,
)
for chunk in stream:
    print(chunk.choices[0].delta.content or "", end="")

Помощники и параллельность

Современные агенты умеют поручать подзадачи помощникам: один ищет информацию, другой пишет тесты, третий проверяет код. Каждый помощник — это ещё один поток запросов со своим контекстом, поэтому расход токенов растёт кратно.

В Tenzo Cloud помощники в чате работают в пределах ваших потоков: ассистент видит, сколько потоков свободно, и поручает задачи только когда есть место. Поэтому параллельная работа ускоряет результат, но не увеличивает счёт.

Признаки, что агент тратит лишнее

• Агент несколько раз читает один и тот же файл
• В истории шагов много повторяющихся ошибок одной команды
• Задача, которую человек сделал бы за 10 минут, занимает у агента час
• Агент не останавливается, пока его не прервать