文档

碳足迹

模型推理的预估碳排放量、涵盖范围及排除项。

Coroid 会统计您的工作所产生的模型推理预估碳排放量,同时提供低碳 AI 配置文件,该配置会优先将任务调度到碳排放更低的节点上。

预估涵盖的范围

仅包含运行时的推理过程——即运行模型完成工作所消耗的能源,加上模型运行所在区域的电网碳强度。

不包含的内容

明确界定范围比具体数值更重要:

  • **不包括模型训练。**创建模型所产生的巨额一次性成本不在统计范围内。
  • **不包括硬件制造产生的隐含碳排放。**硬件制造环节产生的碳排放不在统计范围内。
  • **不包括您自有的基础设施。**您的持续集成流程、测试运行及部署操作不在统计范围内。
  • **并非宣称实现碳中和。**此处并未声称已抵消相应碳排放。

这只是对特定范围内真实数值的预估。应将其视为对比参考指标——用于判断不同配置产生的碳排放差异——而非经过审计的绝对数值。

低碳配置文件

该配置优先选用在低碳电网下运行的较小规模模型。这两个因素均至关重要:较小模型每个请求的处理量更低,且相同工作量在不同区域运行时产生的碳排放也存在差异。

这种权衡确实存在。较小模型在整个工作流程中的处理能力较弱,因此低碳配置更适合常规工作,而非对架构要求较高的关键任务。应根据具体工作任务选择该配置,而非设置为全局默认选项——详见AI 配置文件.

无需更改配置文件即可降低碳排放影响

大多数团队可实现的最大减排空间并非来自模型选择,而是避免不必要的重复工作:

  • **减少返工。**重复运行的任务会产生双倍的碳排放。明确的规格说明是关键调节手段。详见规格说明.
  • **精准界定任务范围。**范围宽泛的任务需要探索更多内容以确定自身边界。
  • **保持上下文简洁。**上下文占用的标记数量最多。

这些举措同样能降低成本,因为成本和碳排放均由标记数量决定。

查看路径

模型配置文件会同步展示碳排放特性、速度、质量和成本数据,方便您在分配配置时综合考量这四项指标。