Documentación

Huella de carbono

Emisiones estimadas para la inferencia de modelos: qué cubre y qué no cubre la estimación.

Coroid informa sobre las emisiones de carbono estimadas por la inferencia de modelos que utiliza tu trabajo y ofrece un perfil de bajo carbono AI que prioriza el enrutamiento hacia procesos de menor impacto.

Qué cubre la estimación

Solo la inferencia operativa — la energía empleada para ejecutar los modelos y realizar tu trabajo, junto con la intensidad de carbono de la red eléctrica de la región donde se ejecutaron.

Qué no cubre la estimación

Definir con precisión los límites es más importante que el número en sí:

  • No incluye el entrenamiento de modelos. Se excluye el elevado coste único de crear un modelo.
  • No incluye el carbono incorporado. Se excluye la fabricación del hardware.
  • No incluye tu propia infraestructura. Tu CI, tus ejecuciones de pruebas y tus despliegues.
  • No supone una afirmación de neutralidad en carbono. Nada aquí indica que se compense la huella de carbono.

Es una estimación de una cantidad real y delimitada. Trátala como una señal comparativa: útil para saber si una configuración genera más impacto que otra, pero no como un valor absoluto auditado.

El perfil de bajo carbono

Prioriza modelos más pequeños que se ejecuten en redes de menor intensidad de carbono. Ambos factores son relevantes: un modelo más pequeño realiza menos trabajo por solicitud y la misma tarea genera distintas emisiones según el lugar donde se ejecute.

El compromiso es real. Los modelos más pequeños tienen menor capacidad en todo el pipeline, por lo que el perfil de bajo carbono resulta más adecuado para tareas rutinarias que para trabajos de gran importancia arquitectónica. Elige este perfil según cada tarea y no como valor predeterminado general; consulta AI profiles.

Reducir el impacto sin cambiar de perfil

La mayor reducción disponible para la mayoría de los equipos no radica en la selección del modelo, sino en evitar el trabajo innecesario:

  • Reduce el trabajo repetido. Una tarea que se ejecuta dos veces genera el doble de emisiones. Las Especificaciones precisas son la clave. Consulta Especificaciones.
  • Define los alcances de las tareas con precisión. Las tareas amplias exploran más para establecer sus propios límites.
  • Mantén el contexto conciso. El contexto representa la mayor parte de los tokens.

Estas son las mismas acciones que reducen los costes, ya que tanto los costes como las emisiones dependen de los tokens.

Dónde verlo

Los perfiles de modelo muestran las características de carbono junto con la velocidad, la calidad y el coste, para que puedas evaluarlos todos al asignar un perfil.