近日,2026年清华大学碳中和能力提升项目“碳中和实践奖”获奖名单公布,基础工业训练中心指导的碳中和实践团队的“面向 Agentic Workload 的 LLM Serving 任务能耗分析与上下文管理研究”课题荣获一等奖。该项目围绕人工智能应用中的能耗问题,探索智能体任务执行过程的能耗测量与分析方法,为大模型服务节能优化提供实测依据。
碳中和实践团队由李畅(电机系)、钟磊(水利系)两位同学组成,中心碳中和课程团队陈震高级工程师、林蔚然副教授、李双寿教授共同指导。团队依托训练中心AI数据中心的算力平台等环境开展系统实验,将碳中和理念与人工智能工程实践相结合。
智能体(Agentic)在完成一项任务时,往往需要多次调用大模型、使用工具并根据结果继续推理。其能耗不仅与模型规模有关,也受上下文长度、缓存复用和重复尝试等因素影响。因此,分析智能体能耗,需要把模型运行数据与完整的任务执行过程联系起来,弄清电量消耗在哪些环节,以及哪些计算能够避免。
围绕这一问题,团队基于开源大模型系列和vLLM等推理引擎框架,搭建了智能体任务(Agentic Workload)执行与能耗监测原型系统。系统将GPU功率采样、模型服务日志和任务执行记录对齐到同一时间轴,分析不同调用与执行阶段的能耗,形成可追溯的任务能耗记录。
PowerMeter智能体任务执行与能耗监测系统架构
实验围绕输入处理、逐步生成输出、缓存复用及任务重试等环节展开。结果表明,在所测试的场景中,复用已有的上下文计算结果能够减少重复计算,缩短执行时间并降低能耗;任务失败后的反复尝试则可能显著增加计算开销。这些观察为优化上下文管理、识别无进展重试和设计提前停止策略提供了依据。
同时,团队将扩大实验范围,检验不同节能策略对任务完成质量和能耗的影响,并探索结合数据中心电能利用效率及电网碳强度,将能耗测量进一步用于碳排放估算。
从不同算力平台上的能耗测试,到大模型服务调度优化,再到智能体任务的全过程能耗分析,训练中心将课程实践与研究问题相衔接,引导学生在真实实验环境中发现问题、采集数据并验证方法。

自2022年以来,训练中心多次参与清华大学碳中和能力提升项目实践课程建设,为学生持续提供碳中和实践工程实践环境和跨学科指导。比如2024年,中心指导的“生物柴油制备中的生物资源开发利用”和“AI算力平台的大模型应用实践与碳足迹计算分析”两个项目获碳中和实践二等奖,中心的多位老师获得碳中和实践导师奖。
参与本次实践的同学体会到,大模型推理绿色节能既需要硬件支持,也需要从软件运行过程寻找改进空间。将程序执行与底层功耗数据相联系,有助于理解缓存复用、上下文管理和任务调度如何影响能耗,也让绿色计算从理念转化为可以测量、分析和验证的工程实践问题。

2026年清华大学碳中和能力提升项目“碳中和实践奖”获奖名单