使用提供商密钥,您即可调用自身的模型提供商账户,而无需依赖Coroid路由的模型。相关费用将由该提供商直接按您协商好的费率向您收取。
可在“设置”中对其进行管理:设置 → 提供商密钥。
何时采用自带模型策略?
如果您已与提供商签订协议、有固定的采购预算,或要求模型供应商直接作为您的供货商,那么采用自带模型策略就十分划算。
若不满足上述条件,使用预付费额度的Coroid路由模型会更简便,且Coroid还会提供无标记内容无论哪种方式,都不会对提供商令牌费率产生影响。这一选择关乎合同约定,而非价格因素。
密钥的处理方式
- 密钥会利用您组织自身的密钥进行加密。每个组织的提供商密钥均会用其专属的数据密钥加密。随后由密钥管理服务(OVHcloud KMS)对该数据密钥进一步加密。
- 仅在单一位置解密。唯有Coroid的凭证代理才能解密提供商密钥。该代理会直接发起模型调用,因此密钥绝不会传递给其他代理或Coroid的其他服务。
- 绝不返回密钥。密钥保存后,无法通过界面或API读取。您可以替换它,但无法将其找回。
- 绝不导出密钥。设置导出包中仅包含占位符,并非实际密钥。详情请参阅导出和导入设置。
- 每次使用都会被记录。Coroid会记录使用您的密钥进行的每一次调用。密钥对应的行会显示Coroid最后一次使用该密钥的时间以及发起调用的任务。如果您怀疑密钥泄露,Coroid技术支持人员可告知您哪些任务在何时使用了该密钥。
设置为只写属性是出于安全考虑:能够读取的凭证很容易被任何有读取权限的人员窃取。
密钥轮换
将旧密钥替换为新值即可。正在执行中的任务会继续沿用原有的连接;新任务则会使用新密钥。仅有组织所有者和管理员才能添加、替换或删除密钥,且每一次变更都会被记录在组织的审计日志中。
请按照提供商规定的周期以及管理员离职时轮换密钥。Coroid无法判断密钥是否已在其他地方被使用——这一信息需查看提供商自身的审计日志。
作用域限定
如果提供商支持限定作用域或受限权限的密钥,请选用此类密钥。若密钥的使用范围仅局限于您为Coroid指定的模型和支出限额,即便密钥泄露,造成的影响也会小得多。
在提供商端设置支出限额。这是唯一的实际上限——Coroid自身的限制仅关乎容量,不会影响您向提供商支付的费用。
回退机制
如果密钥无效、已过期或超出提供商限定的额度,使用该密钥的模型调用将会失败。工作不会悄无声息地切换至其他提供商继续执行——毕竟用他人的资金这么做显然不合情理。
修复密钥问题后,排队中的任务便会继续运行。