华为开源Omni-Infer加速MoE模型推理，推动AI生态发展

华为开源Omni-Infer项目，专注于超大规模MoE模型推理优化，支持昇腾硬件，提供推理框架与加速套件。该项目实现PD分离部署、系统级优化、智能调度及资源分配，提升吞吐量与低延迟性能。已获智源研究院、上海人工智能实验室等机构支持，推动国内AI开源生态建设，并主动适配国内开源项目形成多方共赢。