标签:清华
NKTransformers入选计算机系统顶会、与主流框架合作,趋境&清华让「异构」成为推理新范式
(由多段落组成): 在全球人工智能基础设施飞速发展的背景下,一个源自中国的开源项目正逐渐走向世界舞台的中心——它就是由趋境科技与清华大学KVCache.AI团队联合打造的高性能异构推理框架 KTransformers。该项目不仅在系统层面实现了重大突破,其研究成果《KTransformers: Unleashing the Full Potential of CPU/GPU Hybrid Inference for MoE Models》更成功入选计算机系统领域顶级会议 SOSP 2025,被誉为“计算机界的奥斯卡”,标志着中国在AI底层系统创新上的国际影响力持续提升。 KTransformers的核心目标是解决大模型...