从GPU池化到节省token,上海开源大赛「智算云赛道」情报公开
创始人
2026-08-25 18:54:41
0

2026上海开源软件应用创新大赛正火热报名中,本次大赛由开源中国主办,总奖池100万,设 AI+工业软件、智算云、开源AI工具三个赛道。

其中「智算云」这条赛道,面向用云加速、简化或稳定AI运行的开源项目。从底层的异构算力调度、GPU池化、分布式训练,到上层的AI应用开发平台、模型部署服务、Serverless推理、工作流编排,再到多云管理、边云协同、FinOps成本优化,都在征集范围内。

赛道不区分基础设施或应用层,征集口径其实比想象中的宽。只要参赛项自和云原生技术相关,或者提升了AI应用的开发、部署、运行效率,又或者降低了AI的使用成本,比如让AIAgent干活更快、让推理少烧token、让资源不浪费,都在智算云赛道的征集范围内。

为什么要设这样一条赛道?先看一组数字:中国信通院数据显示,2025年国内智算算力使用占比仅约37% ,每投入100元建算力,就有约70元在空转。一次推理请求可能占用半张GPU,只消耗几秒,训练结束资源回收不及时,就会导致GPU空转。每浪费1%的利用率,一个月可能就是几十万元成本。

算力浪费的问题,底层的开源项目已经在着手解决。7月2日,HAMi经CNCF技术监督委员会全票通过,从 Sandbox晋升Incubating,成为国内首个在异构GPU虚拟化调度领域进入CNCF孵化级的开源项目。此外,华为联合三所高校开源的Flex:ai,基于Kubernetes 做XPU 池化与调度;HeteroFlow则把8种国产GPU架构统一纳管。它们解决的是同一个问题,算力碎片化、利用率低、运维成本高。

但要让AI真正稳定跑起来,光有底层调度还不够,上层同样需要一批开源工具来支撑。字节跳动开源的AIBrix,做云原生大模型推理的系统层,针对Serverless场景优化冷启动和高密度部署;cube-studio 这类云原生一站式AI平台,把开发、编排、训练、微调收进一个平台;工作流编排工具n8n,镜像一键部署,没有请求时缩容到零。

除了底层和上层,横向上还有一批工具解决跨集群、跨地域和成本管理的问题。多云管理要跨集群统一视图,边云协同让算力下沉到边缘,FinOps把GPU账单按项目算清楚。

这三层覆盖了AI上云的完整链路,也是智算云赛道的重要征集范围。

从上海来看,产业环境和政策供给都在为这条赛道创造条件。一方面,摩尔线程、沐曦、壁仞、天数智芯四家国产GPU企业密集登陆资本市场,国产算力产业基础逐步成型;另一方面,上海累计发放10亿元“AI券”,其中6亿元算力券、3亿元模型券和1亿元语料券,直接降低了企业用算力的成本。算力调度、推理平台、成本优化这些开源项目,正处在这个产业和政策交汇的窗口期。

回到大赛,智算云赛道征集的项目可以概括为几类:

·一类在底层,为千卡集群减负,让异构GPU被更高效地调度和利用,比如算力虚拟化、资源调度器、集群管理平台。

·一类在上层,为开发者提供一键部署的AI应用环境,让模型从训练到上线少走弯路,比如模型部署工具、应用开发平台、工作流编排器。

·还有一类在效率与成本侧,凡是能提升AI应用运行效率、降低推理成本、减少token消耗、让AI Agent更好用的开源项目,哪怕只是解决一个具体的小痛点,都在征集范围内。

举几个具体的例子,为AI应用做流量治理和负载均衡的,优化提示词和上下文的,做缓存加速的,让微调更省算力的,这些项自都可以投智算云赛道。

评审尤其关注三个方面,实际痛点是否真实,技术方案是否落地,有没有可量化的效果。即利用率、成本和部署时间。

评审维度

技术创新(30%)

关注技术路线是否具有独创性,是否解决了已有方案未能解决的问题,与国内外同类方案相比是否有明确的技术优势。重复造轮子、仅做现成工具简单组合的项目在此维度得分较低。

场景落地(30%)

关注项目是否可部署、可运行、可测试,需求场景是否真实存在,技术方案是否适配场景需求,验证数据是否来自真实或仿真环境,是否具备实际部署条件。

开源治理(20%)

关注开源协议和第三方依赖是否合规,社区治理机制是否明确,包括贡献机制、文档规范、Issue/PR响应等。新项目重点考察规划和治理意识,已有社区项目重点考察实际运营情况。

长期发展(20%)

关注团队是否具备持续维护能力,项目是否有长期发展规划,治理结构是否清晰,是否有社区或组织支撑。

大赛报名截止10月11日,欢迎所有开源爱好者报名参赛,赢取丰厚奖励。

参赛说明

赛道将逐步上线合作企业命题。参赛选手可选择两种路径:

路径一:可以直接提交符合赛道要求的开源项目参赛,适合本身已有较为成熟开源项目的团队;路径二:可以选做对应赛道的企业命题,选做命题的队伍将获得命题企业提供的专家指导与工具支持,在评审环节也可获得一定的加分权重,该路径适合参赛期间从零开发新项目的团队。

赛事详情请查看:https://www.oschina.net/os2026/

相关内容

热门资讯

亮相2026数字AI生态大会 ... 日前,奥维云网2026数字AI生态大会在南京正式启幕。在这场年度行业盛会上,海信冰箱凭借在AI领域的...
当AI开始触摸世界:谁能为物理... 2026-08-2518:57·创业邦伸手拿起一只杯子,指尖触到杯壁的一瞬间,大脑会顺着触感自动调整...
从GPU池化到节省token,... 2026上海开源软件应用创新大赛正火热报名中,本次大赛由开源中国主办,总奖池100万,设AI+工业软...
澳大利亚音乐榜单封杀AI歌曲 钛媒体App8月25日,澳大利亚唱片业协会(ARIA)发布消息称,本周起实施新规,禁止主要由AI创作...
字节发布豆包工作,大厂“AI办... 深圳商报·读创客户端首席记者陈小慧8月25日,字节跳动旗下的“豆包”微信公众号正式发布了一款面向生产...
一场AI大赛见证“人人皆可创造... 给耳背的外公做一款手机助听器,为奶奶设计一套不用摄像头的居家守护系统,把专业地质建模软件搬进手机……...
原创 1... 一场比赛,把“会不会写代码”这个老问题,直接换成了“有没有人愿意付钱”。8月21日至23日,全国首场...
8月25日西部黄金跌7.92%... 证券之星消息,8月25日西部黄金(601069)跌7.92%,收盘报31.38元,换手率5.26%,...
普洛药业涨5.89%,开源证券... 今日普洛药业(000739)涨5.89%,收盘报20.87元。2026年8月21日,开源证券研究员余...
AI大模型工场「2026 AI... 作者|参商编辑|星奈媒体|AI大模型工场2026年,人工智能正在进入新的产业阶段。从大模型能力持续演...