DeepInfra测试:英伟达Vera CPU在AI负载及容器延迟上表现优于竞品
创始人
2026-07-23 15:13:08
0

云端AI推理平台DeepInfra近日公布了一项针对智能体AI(Agentic AI)负载的性能测试结果,数据显示英伟达Vera CPU在处理效率上显著领先于其他主流处理器。此次测试在统一的生产环境中进行,重点评估了不同CPU在运行AI推理任务时的延迟表现。

根据DeepInfra的测试数据,英伟达Vera CPU在运行基于Linux内核特性的runc轻量化容器时,延迟仅为29毫秒,而英特尔Sapphire Rapids处理器的延迟高达64毫秒,Vera CPU的响应速度快了2.2倍。这一结果与英伟达官方此前发布的性能提升数据相吻合——Vera CPU在处理智能体AI负载时,相比AMD的Turin 9755处理器性能提升了80%。

测试环境采用了严格统一的配置标准:每次运行均使用20个物理核心,每个核心运行1个线程,并限定在单个NUMA节点内,同时启用了CPU confinement技术以确保测试公平性。任何超出核心预算的运行任务将被自动丢弃,从而避免资源干扰对测试结果的影响。

在完整的性能对比数据中,英伟达Vera CPU的runc延迟为29毫秒,Kata容器延迟为58毫秒;AMD Zen5 Turin处理器的runc延迟为35毫秒,Kata容器延迟为87毫秒;英特尔Granite Rapids处理器的runc延迟为12.44毫秒,Kata容器延迟为103毫秒;而英特尔Sapphire Rapids处理器的runc延迟为64毫秒,Kata容器延迟为122毫秒。从数据可以看出,Vera CPU在runc轻量化容器场景下的延迟表现尤为突出。

此次测试结果进一步验证了英伟达Vera CPU在智能体AI负载处理领域的优势地位。随着AI应用场景的不断拓展,低延迟、高效率的处理器性能将成为推动行业发展的关键因素。DeepInfra的测试数据为开发者和技术决策者提供了重要的参考依据,有助于他们在构建AI基础设施时做出更优化的选择。

相关内容

热门资讯

黄仁勋:应该允许美国公司使用中... 7月22日消息,英伟达CEO黄仁勋在接受Axios联合创始人迈克·艾伦采访时,当被问及美国公司是否应...
保护好AI时代学生的创造力 人工智能(AI)技术的快速迭代,正深刻重塑教育的底层逻辑。学生创造力培养已被置于人工智能时代教育变革...
AI手机板块震荡走弱,晶华新材... AI手机板块震荡走弱,晶华新材跌停,格林精密跌超10%,每日互动、力芯微、美芯晟、希荻微、中兴通讯等...
清朗行动重拳整治AI“毒动画” 国家互联网信息办公室20日印发通知,在全国范围内部署启动为期4个月的“清朗·未成年人网络保护”专项行...
盛科通信涨8.89%,开源证券... 今日盛科通信(688702)涨8.89%,收盘报430.15元。2026年4月24日,开源证券研究员...
OpenAI模型罕见“失控”,... 界面新闻记者|宋佳楠当地时间7月21日,据OpenAI官网消息,全球最大开源大模型托管社区Huggi...
OpenAI大模型失控,入侵全... 红星资本局7月23日消息,近日,类似科幻电影《终结者》中人工智能失控攻击人类的情形在美国上演了。最后...
英伟达开源首个GPU加速医疗物... 7月23日,财闻海外资讯消息,英伟达(NVDA.US)宣布,正式开源其首个基于GPU加速的医疗物理仿...
DeepInfra测试:英伟达... 云端AI推理平台DeepInfra近日公布了一项针对智能体AI(AgenticAI)负载的性能测试结...
史无前例!OpenAI模型“失... 【CNMO科技消息】7月22日,一则消息震动了全球AI界。OpenAI首席执行官萨姆·奥尔特曼在社交...