7月15日,全球计算联盟(GCC)智能计算产发委算力调优工作组第二次筹备会在北京顺利举办。本次会议由GCC智算产发委主办,筹备组组长单位杭州天宽科技有限公司牵头统筹,筹备组副组长单位北京趋境科技有限责任公司承办。来自硅基流动、中科加禾、商汤科技、京东、xLLM、世纪互联、清华大学、清微智能、神州鲲泰、华鲲振宇、希奥端、深言速舟等近30家产学研机构的代表齐聚现场,围绕工作组筹建事宜开展深度研讨,合力搭建中立开放的产业协同平台,打通从底层算力硬件到商业化Token服务的全价值链路。
算力调优工作组筹备背景
随着人工智能产业由大模型训练逐步走向推理应用和规模化商业落地,产业关注重点正在由算力规模转向算力效率。如何在相同算力投入下产出更多、更高质量的Token,已经成为芯片、整机、模型、推理框架、算力服务及行业应用等产业链各方共同关注的问题。
当前,算力调优仍面临异构软硬件适配成本较高、算力性能释放不充分、Token服务缺少统一评价依据,以及底层算力资源向商业化服务转化链路不畅等挑战。为此,GCC智算产发委联合产业伙伴筹建算力调优工作组,推动产业链各环节围绕共性问题开展协同研究和项目合作。
继第一次筹备会在杭州召开后,本次第二次筹备会进一步扩大了产业链参与范围,邀请了来自芯片、模型、整机、智算服务、推理优化及高校科研等不同领域的代表参与交流,并围绕工作组发展框架、重点方向、首批成果及后续协同机制形成了更加清晰的共识。
聚焦产业链共性问题,研讨算力调优发展路径
作为工作组组长单位,天宽科技CTO龚徐建围绕算力调优产业链现状、工作组定位及首批项目方向进行了系统分享。
龚总提出,算力调优并非单一技术环节的性能优化,而是贯穿芯片、整机、集群、模型、推理框架、算力运营和行业应用的完整产业链。工作组应以生态、标准和技术为纽带,连接产业链上下游,推动共性问题研究、统一指标建设、通用技术协同及产业成果推广。
未来,工作组将围绕“产业研究—标准建设—技术协同—供需推广”形成完整工作闭环,持续推进算力调优产业白皮书、Token工厂建设指南、行业标准、公共测试环境、通用调优能力及示范案例等成果。天宽科技也将牵头推动工作组首个算力调优产业白皮书项目立项,组织产业伙伴共同明确研究范围、指标体系和案例验证机制。
在专题分享环节,商汤科技大装置事业群技术总监王磊从模型和算力服务企业角度,分析了Agentic应用发展带来的推理负载变化。随着长上下文、短输出、高前缀复用和高并发场景增加,算力调优需要综合考虑任务质量、时延、吞吐、KVCache命中率及资源经济性,通过PD分离、投机推理、缓存优化、异构算力协同和集群调度等技术,提高高质量Token的稳定生产能力。
xLLM框架开发专家张民超围绕国产异构算力统一推理体系展开分享,介绍了统一服务入口、全局调度、动态PD分离、多级KVCache、故障恢复、异构芯片协同及统一运行时等实践。通过对不同芯片、模型和推理负载进行统一抽象和调度,可有效降低多平台适配成本,提升大规模推理服务的资源利用率和稳定性。
京东零售广告产研部算法应用负责人张泽华结合电商广告和生成式推荐场景,分析了算法范式迁移对算力架构提出的新要求。随着推荐和广告系统逐步引入大模型,每一个Token都将对应真实的业务请求和服务价值,算力调优需要进一步与用户体验、业务收益及投入产出效率相结合。
清华大学新型电力系统运行与控制全国重点实验室助理研究员周杨林博士围绕Token能耗研究与评测方法进行了分享。不同模型、负载、批处理规模和硬件平台之间的Token能耗存在明显差异,未来可进一步探索每Token能耗、每焦耳Token产出等指标,为系统优化、模型选择、能源管理及绿色智算基础设施建设提供量化参考。
开放研讨凝聚首批成果方向
在开放研讨环节,与会代表围绕首个白皮书的研究边界、评价指标、验证方法和落地价值进行了深入讨论。
与会代表认为,工作组现阶段应优先聚焦推理场景,并以实际产业价值衡量算力调优成效。相关成果不仅要体现性能提升,还应回答在相同成本和算力投入下,能够增加多少Token产出、服务多少客户、提升多少资源利用率,以及降低多少运营成本。
在评价体系方面,建议围绕单位算力、单位成本和单位能耗构建量化指标,综合考虑Token产出、时延、吞吐、稳定性、资源利用率、能源效率及SLA要求,并针对不同业务场景进行分级分档评价。相关指标可选取具有代表性的开源主流模型和典型业务负载进行验证,并根据产业发展情况持续更新。
与会代表同时提出,首个白皮书应明确研究边界,不宜覆盖过宽,可优先选择具有产业共性和落地基础的重点链路进行深入研究。在重点关注国产算力适配与优化的同时,也可适当引入NVIDIA、AMD等国际主流平台作为对比参考,客观呈现不同平台的性能差异和适用场景。
白皮书还应增强指导性和可操作性,可进一步形成Token工厂参考架构、建设指南或专项指导手册,为传统数据中心、Colo厂商和算力基础设施运营商向推理服务及Token服务转型提供参考。
从筹备共识迈向正式成立
经过杭州和北京两次筹备会议,GCC智算产发委算力调优工作组已围绕成立背景、发展愿景、组织机制、重点工作方向及首批成果进行了充分讨论,初步形成了工作组建设框架。
工作组将作为GCC面向算力调优领域设立的官方产业协作平台,由天宽科技担任筹备组组长单位,秉持“昇腾优先、异构兼容、中立普惠、无排他”的发展原则,以生态、标准和技术三大纽带串联产业链各方,推动共性技术共建共享,打通算力优化全链路。
按照筹备规划,工作组预计于2026年8月上旬正式成立,并同步推动首个算力调优产业白皮书立项。
工作组后续拟结合产业诉求及项目成熟度,分批设置3—5个专项项目群,重点覆盖模型适配与推理优化、算力调优工具链、算力云服务、算电协同基础设施及行业场景应用等方向。每个项目群将由具备相应能力的产业单位牵头,组织相关成员围绕专项研究、标准编制、测试验证、工具研发和场景落地等具体项目开展协同工作。
欢迎产业链相关单位持续关注并参与GCC智算产发委算力调优工作组建设,共同推动算力调优技术创新、产业协同与成果落地。
GCC智算产发委算力调优工作组联系方式:
zhangqianlin@gccorg.com