Coroid informa as emissões de carbono estimadas para a inferência de modelos utilizada no seu trabalho e oferece um perfil de baixo carbono AI que direciona o roteamento para opções com menor impacto ambiental.
O que está incluído na estimativa
Apenas inferência operacional — a energia usada para executar os modelos e realizar o seu trabalho, somada à intensidade de carbono da rede elétrica da região onde o modelo foi executado.
O que não está incluído
Ser preciso sobre os limites é mais importante do que o número em si:
- Treinamento de modelos não está incluído. O custo muito alto e único de criar um modelo está excluído.
- Carbono embutido não está incluído. A fabricação do hardware está excluída.
- Sua própria infraestrutura não está incluída. Seu CI, suas execuções de teste e seus deploys.
- Não se trata de uma afirmação de neutralidade de carbono. Nada aqui indica compensação de emissões.
É uma estimativa de uma quantidade real e delimitada. Considere-a como um sinal comparativo — útil para saber se uma configuração gera mais impacto que outra — e não como um valor absoluto auditado.
O perfil de baixo carbono
Prefere modelos menores executados em redes elétricas com menor intensidade de carbono. Ambos os fatores são importantes: um modelo menor realiza menos trabalho por requisição, e o mesmo trabalho gera emissões diferentes conforme a região de execução.
O trade-off é real. Modelos menores têm menos capacidade em todo o pipeline; portanto, o perfil de baixo carbono é mais adequado para tarefas rotineiras do que para trabalhos arquitetonicamente significativos. Escolha-o conforme cada tarefa, em vez de defini-lo como padrão geral — veja AI profiles.
Reduzindo o impacto sem alterar perfis
A maior redução disponível para a maioria das equipes não está na seleção de modelos — está em evitar trabalho desperdiçado:
- Reduza o retrabalho. Uma tarefa executada duas vezes gera o dobro de emissões. Especificações precisas são a chave. Veja Especificações.
- Defina o escopo das tarefas com precisão. Tarefas amplas exploram mais para estabelecer seus próprios limites.
- Mantenha o contexto enxuto. O contexto corresponde à maior parte dos tokens.
Essas são as mesmas ações que reduzem custos, pois tanto custos quanto emissões são determinados pelos tokens.
Onde visualizar essas informações
Os perfis de modelo exibem as características de carbono junto com velocidade, qualidade e custo, permitindo avaliar todos os quatro aspectos ao atribuir um perfil.