공급자 키를 사용하면 Coroid가 라우팅하는 모델 대신 사용자가 보유한 자체 모델 제공업체 계정을 활용할 수 있습니다. 이 경우 사용량에 대한 요금은 해당 제공업체가 직접 사용자에게 청구하며, 협상된 요율이 적용됩니다.
해당 키는 설정 메뉴에서 관리할 수 있습니다.설정 → 공급자 키.
언제 자체 모델 제공업체를 이용해야 할까요?
이미 모델 제공업체와 계약을 맺었거나 약정된 지출 한도가 정해져 있거나, 모델 공급업체를 직접 공급업체로 지정해야 하는 조달 요건이 있는 경우 BYOK를 활용하는 것이 유리합니다.
위 사항에 해당하지 않는다면 선불 크레딧을 이용하는 Coroid가 라우팅하는 모델이 더 간편하며, Coroid는 추가 기능도 제공합니다.마크업은 적용되지 않습니다.어느 쪽이든 제공업체의 토큰 요율과 동일합니다. 선택의 기준은 가격이 아닌 계약 내용입니다.
키 처리 방식에 대해 알아보기
- 사용자의 조직 전용 키로 암호화됩니다.각 조직의 공급자 키는 자체 데이터 키로 암호화됩니다. 이후 키 관리 서비스(OVHcloud KMS)가 해당 데이터 키를 다시 암호화합니다.
- 단 하나의 위치에서만 복호화됩니다.공급자 키를 복호화할 수 있는 것은 오직 Coroid의 자격 증명 브로커뿐입니다. 브로커가 직접 모델 호출을 수행하므로 키가 에이전트나 Coroid의 다른 서비스로 전달되는 일은 결코 없습니다.
- 절대 반환되지 않습니다.일단 저장된 키는 인터페이스나 API를 통해 다시 읽어올 수 없습니다. 키를 교체는 할 수 있지만 복구는 불가능합니다.
- 절대 내보내지 않습니다.설정 내보내기 패키지에는 실제 비밀 값 대신 플레이스홀더가 포함됩니다. 자세한 내용은 설정 내보내기 및 가져오기 페이지를 참고하세요.설정 내보내기 및 가져오기.
- **모든 사용 내역이 기록됩니다.**Coroid는 사용자의 키로 수행한 각 호출 내역을 모두 기록합니다. 키 관련 항목에는 Coroid가 마지막으로 해당 키를 사용한 시점과 호출을 유발한 작업 정보가 표시됩니다. 키 유출이 의심되는 경우 Coroid 지원팀이 어떤 작업에서 언제 키가 사용되었는지 알려줄 수 있습니다.
읽기 전용이 아닌 쓰기 전용으로 설계된 것은 당연한 조치입니다. 읽을 수 있는 자격 증명은 읽기 권한이 있는 누구나 외부로 유출시킬 수 있기 때문입니다.
키 교체 방법
새로운 값으로 키를 교체하세요. 진행 중인 작업은 기존 연결을 통해 계속 실행되고, 새 작업부터는 새로운 키가 적용됩니다. 키를 추가·교체·삭제할 수 있는 권한은 조직 소유자와 관리자에게만 주어지며, 모든 변경 내역은 조직 감사 로그에 기록됩니다.
제공업체가 정한 주기에 맞춰 그리고 관리 권한을 가진 사용자가 퇴사할 때마다 키를 교체하세요. Coroid에서는 해당 키가 다른 곳에서 사용되었는지 확인할 수 없으므로 이는 제공업체의 감사 로그를 통해 확인해야 합니다.
범위 제한 설정 방법
제공업체에서 범위가 제한된 키나 특정 권한이 부여된 키를 지원한다면 이를 활용하세요. Coroid에 할당할 모델과 지출 한도로 제한된 키는 유출되더라도 발생하는 문제의 규모가 훨씬 작습니다.
제공업체 측에서 지출 한도를 설정하세요. 이는 유일하게 확실한 상한선이며, Coroid의 자체 한도는 용량을 제어할 뿐 제공업체 청구액에는 영향을 주지 않습니다.
대체 처리 방식
키가 유효하지 않거나 만료되었거나 제공업체가 정한 한도를 초과하면 해당 키를 사용하는 모델 호출이 실패합니다. 작업이 다른 제공업체로 자동 전환되어 계속 진행되는 일은 결코 없으며, 이는 타인의 비용으로 수행되는 놀라운 행위가 될 것이기 때문입니다.
키를 수정하면 대기 중이던 작업이 다시 시작됩니다.