腾讯混元AI Infra核心技术开源：推理吞吐提升30%
创始人
2026-02-04 20:48:13
0次
钛媒体App 2月4日消息，腾讯混元AI Infra团队正式推出开源生产级高性能LLM推理核心算子库HPC-Ops。在真实场景下，基于HPC-Ops，混元模型推理QPM提升30%，DeepSeek模型QPM提升17%。同时，在单算子性能方面，HPC-Ops实现Attention相比FlashInfer/FlashAttention最高提升2.22倍；GroupGEMM相比DeepGEMM最高提升1.88倍；FusedMoE相比TensorRT-LLM最高提升1.49倍。（广角观察）
相关内容
热门资讯
（教大家）分享1元1分上下分红...
祝君有个好手气。【群主微信：zsh726999或ZMY13082或Qv.3154922268】一元麻...
（麻将介绍）24小时微信打牌群...
好运连连，全网推荐：(tt120590)(gm120590)-Q号：(443406318)加群主微