昇腾推理框架JittorInfer全面升级开源 性能提升超50%

清华大学计图团队基于昇腾硬件升级并开源了大模型推理框架JittorInfer，引入算子融合下发和全链路服务端优化技术，实现CPU利用率提升、解码延迟降低、高并发场景效率优化等显著性能提升。此次升级打通了自主创新软硬技术链路，DeepSeek系列模型在昇腾上的表现较其他方案提升超53%，同时中国科学技术大学也依托昇腾在知识增强大模型领域取得技术突破。