Документация

Кредиты моделей

Как оплачивается использование моделей — предоплаченные кредиты или собственные ключи провайдера — и как сделать расходы предсказуемыми.

Использование моделей оплачивается отдельно от слотов агентов. Доступно два варианта, причём они взаимоисключающие для каждого провайдера.

Предоплаченные кредиты

Купите кредиты заранее; вызовы моделей будут списывать их. Coroid добавляет без наценки к тарифам токенов провайдера, поэтому один кредит равноценен прямой оплате у провайдера.

Пополнения осуществляются фиксированными номиналами. Когда кредиты заканчиваются, новые вызовы моделей прекращаются — ваши слоты, проекты, настройки и история при этом сохраняются, а возобновление работы происходит сразу после добавления кредитов.

Используйте собственные ключи

Укажите собственные учётные данные провайдера, и использование будет оплачиваться этим провайдером напрямую вам по согласованным тарифам. Coroid не видит счёта.

Вариант BYOK лучше подходит, если у вас уже есть договоры с провайдером, фиксированные обязательства по расходам или требования закупок, согласно которым поставщиком моделей должен быть непосредственный контрагент.

Ключи шифруются при хранении, никогда не возвращаются API и не включаются в экспорт настроек — в экспортируемом файле указывается лишь плейсхолдер, и при импорте в другое место вам нужно будет ввести секретный ключ повторно. Подробнее здесь: Ключи провайдера.

Что на самом деле влияет на расходы

Два фактора, в таком порядке:

Под каким AI профилем выполняется работа. В каждом профиле для каждого агента предусмотрена своя модель, поэтому перенос работы на более мощный профиль сразу увеличивает стоимость всех этапов — при этом этап разработки выполняется чаще всего и определяет общую сумму расходов.

Объём контекста в каждой Задаче. Контекст составляет основную часть стоимости токенов. Технология Progressive skills ограничивает этот объём, загружая только необходимые данные для выполнения работы — подробнее здесь: Progressive skills.

Задача количество влияет на расходы меньше, чем принято думать. Десять небольших, чётко прописанных Задач часто обходятся дешевле, чем одна объёмная задача, так как последняя требует больше усилий для определения того, что именно нужно делать.

Как сделать расходы предсказуемыми

  • Используйте дорогие профили только для работы, которая этого заслуживает, а не назначайте их по умолчанию для всех задач вместо профиля Smartest. Подробнее здесь: AI профили.
  • Составляйте ёмкие Спецификации с чётко указанными границами того, что не входит в область задачи. Именно исследование проблемы приводит к дополнительным расходам. Подробнее здесь: Спецификации.
  • Отслеживайте расходы по каждому проекту, а не общую сумму по организации — подробнее здесь: Использование и отчёты.

Углеродный след

Coroid предоставляет оценку операционных выбросов при инференсе, а профиль Low carbon использует более компактные модели и энергосети меньшей интенсивности. Оценка охватывает только инференс — это не означает заявления о углеродной нейтральности. Подробнее здесь: Углеродный след.