Ключи провайдера позволяют использовать собственные учетные записи поставщиков моделей вместо моделей, маршрутизируемых через Coroid. В этом случае оплата за их использование напрямую взимается с вас этим провайдером по установленным вами тарифам.
Управляйте ими в разделе Настройки → Ключи провайдера.
Когда стоит использовать собственные ключи
Режим BYOK целесообразен, если у вас уже заключены договоры с провайдерами, предусмотрены фиксированные расходы или требования к закупкам, согласно которым поставщик моделей должен быть прямым контрагентом.
Если ни один из этих случаев не применим, проще использовать модели, маршрутизируемые через Coroid, с предоплаченными кредитами, а Coroid добавляет никаких дополнительных надбавок к тарифам провайдера за токены в любом случае. Выбор между вариантами зависит от условий договора, а не от цены.
Как обрабатываются ключи
- Они шифруются с помощью собственного ключа вашей организации. Ключи провайдера каждой организации шифруются собственным ключом данных. Служба управления ключами (OVHcloud KMS) в свою очередь шифрует этот ключ данных.
- Расшифровка происходит в одном месте. Только сервис-брокер учетных данных Coroid может расшифровать ключ провайдера. Сам брокер выполняет вызовы моделей, поэтому ключ никогда не передается агентам или другим сервисам Coroid.
- Никогда не возвращается. После сохранения ключ нельзя прочитать через интерфейс или через API. Его можно заменить, но восстановить — нет.
- Никогда не экспортируется. В пакетах экспорта настроек указывается лишь плейсхолдер, а не сам секретный ключ. Подробнее — в разделе Экспорт и импорт настроек.
- Каждое использование ключа фиксируется. Coroid регистрирует каждый вызов, сделанный с использованием вашего ключа. В строке с информацией о ключе указывается время последнего его использования и какая задача инициировала вызов. Если вы подозреваете утечку, служба поддержки Coroid сможет сообщить вам, какие задачи использовали ключ и когда.
Свойство «только для записи» — это осознанное решение. Учетные данные, которые можно прочитать, могут быть скопированы любым субъектом, имеющим права на чтение.
Ротация ключей
Замените ключ на новое значение. Текущая работа продолжится по уже установленному соединению; новые задачи будут использовать новый ключ. Добавлять, заменять или удалять ключи могут только владельцы и администраторы организации, причем каждое изменение фиксируется в журнале аудита организации.
Проводите ротацию ключей по графику вашего провайдера и при увольнении сотрудника с правами администратора. По данным Coroid невозможно определить, использовался ли ключ где-то еще — для этого существует журнал аудита самого провайдера.
Ограничение области применения ключей
Если ваш провайдер поддерживает ключи с ограниченной областью действия, используйте именно их. Ключ, ограниченный моделями и лимитом расходов, предназначенными для Coroid, представляет гораздо меньшую угрозу в случае его утечки.
Установите лимит расходов непосредственно у провайдера. Это единственный жесткий лимит — собственные ограничения Coroid касаются только производительности, а не счета вашего провайдера.
Переход на резервный вариант
Если ключ недействителен, истек или превысил установленный провайдером лимит, вызовы моделей с его использованием завершатся ошибкой. Работа не продолжится автоматически через другого провайдера — такой шаг был бы неожиданным при использовании чужих средств.
Исправьте ключ, и отложенная работа возобновится.