云工场科技推进CPU+GPU协同推理，推动大模型应用降本增效

随着大模型应用从训练走向规模化推理，算力供给正在面临新的结构性挑战。

一方面，高性能 GPU 资源持续紧张，推理调用成本居高不下；另一方面，大量存量 CPU 服务器在传统通算场景之外，仍有进一步释放价值的空间。如何让通用计算资源与智能计算资源形成协同，成为提升大模型推理效率、降低应用成本的重要方向。

围绕这一趋势，云工场科技正在推进“面向大模型推理的通算智算融合调度与协同推理平台”相关研究与建设。

平台依托云工场现有边缘云与智算基础设施，将 CPU 通用计算资源、英伟达 GPU、AMD GPU、国产 GPU 等多架构资源纳入统一资源池，探索面向大模型推理场景的异构算力协同调度能力。

该平台的核心思路，是让 CPU 不再仅作为传统通用计算资源，而是参与到 AI 推理服务链路之中。

在大模型推理过程中，CPU 可承担请求接入、任务队列、数据预处理、上下文管理、KV Cache 管理、服务编排、轻量推理、Token 计量等环节；GPU 则重点承担大参数模型计算、高并发矩阵运算等核心推理任务。通过“CPU 负责组织与辅助计算、GPU 负责核心推理计算”的协同架构，平台有望提升整体资源利用效率，缓解单一 GPU 推理模式下的资源压力。

与传统 GPU 推理服务不同，云工场科技此次研究的重点不只是资源层面的统一纳管，而是围绕推理链路进行协同优化。平台将根据模型规模、并发请求、响应时延和成本目标，动态匹配 CPU、GPU 或 CPU+GPU 协同执行方式，推动通算资源与智算资源在实际业务场景中的融合使用。

在应用方向上，该成果可面向政务问答、企业知识库、智能客服、办公助手、内容生成、行业模型推理、中小企业 AI 应用开发等场景。通过 CPU+GPU 协同推理，平台可在保障推理服务稳定性的基础上，进一步提升存量 CPU 服务器的 AI 化利用效率，释放 GPU 核心计算能力，并为政府、园区、企业、开发者和 ISV 提供更加弹性、普惠、可持续的大模型推理服务。

后续，云工场科技将按照“资源接入—链路拆解—协同调度—场景验证—规模应用”的路径持续推进相关能力建设，并结合裸金属、容器云、弹性算力、模型服务、API 调用、Token 计量等产品形态，逐步形成面向城市级 AI 应用场景的通算智算融合推理服务体系。通过持续推进 CPU+GPU 协同推理研究，云工场科技将进一步探索存量算力资源盘活、高端 GPU 资源优化使用以及大模型应用成本下降的可行路径，为 AI 应用规模化落地提供更加坚实的算力支撑。

声明：该文观点仅代表作者本人，如有侵权请联系作者删除，也可通过邮件或页面下方联系我们说明情况，内容由观察者号注册发布，中国经济观察网系信息发布平台，仅提供信息存储空间服务，任何单位、个人、组织不得利用平台发布任何不实信息，一切法律后果都由发布者自行承担。