【全民业务网】Token时代,开源同行
/ 涨粉易/当你向一个AI大模型提出一个问题,开源同行模型开始回答生成答案时,开源同行都会消耗若干数量的开源同行全民业务网Token:作为大模型处理信息的基本单位,每一个Token的开源同行诞生,都不是开源同行某一项技术的功劳,而是开源同行经历了一条漫长的工程链路——从GPU芯片的计算指令,到操作系统的开源同行进程调度,到AI框架的开源同行算子编译,到推理引擎的开源同行显存管理,再到云原生集群的开源同行资源编排,最后生成用户收到的开源同行提问回答。 7月17日至20日世界人工智能大会期间,开源同行全民业务网沐曦股份将这条看不见的开源同行“Token生产链”搬到线下。在公司展台特设的开源同行“开源工坊”展区,十大开源社区集体亮相——从芯片算力到OS操作系统、开源同行从AI框架到推理引擎、从云原生调度到产业联盟——沐曦股份以完整的“生产链”方式,全景呈现Token背后的开源协作。 每一个Token背后,都是一次开源协作 沐曦股份“开源工坊”展区的主题为“每一个Token背后,都是一次开源协作”,现场通过聚集十大开源社区,展出了一条完整的Token生产链条: 算力层,沐曦股份通过自研GPU与配套软件栈MXMACA,提供了坚实的算力底座。 系统层,龙蜥社区以“AI ×OS × 云”深度融合为主线,打造面向AI原生的下一代Agentic操作系统底座。它是Token从GPU走向应用的第一道系统级桥梁。 训练框架层, PyTorch 基金会携手开源社区破局、全力全速领跑下一代智能创新。 推理层,作为当前最具影响力的两大开源推理引擎,vLLM以PagedAttention技术将KV Cache碎片率降至接近零。SGLang则以RadixAttention大幅降低多轮对话的计算成本。 调度与基础设施层,CNCF驱动着云原生开源基础设施的演进;密瓜智能则主导发起并持续推动CNCF项目HAMi,致力于让异构算力更易用、更高效、更可治理;Red Hat坚持100%开源理念,让AI工作负载在任何云、任何芯片上自由部署。 生态与产业化层,九源联合体聚焦国产智能计算系统建设与软件生态统一;木兰开源社区作为国家级开源社区,为项目孵化与开源治理提供公共服务;模力方舟汇聚最新AI模型,提供从体验到部署的全流程服务。 十个节点,串成一条完整的AI Infra链路。每一个环节的缺失,Token就无法抵达用户。 “每一层都有人卷,每个参与方都能共赢” “开源,让每一层都有人卷,每个参与方都能共赢。” 每一个Token是否被充分利用,最终体现在每一次生成答案的质量上。模型精度、推理延迟、显存效率、集群吞吐,AI Infra链路上的许多指标都会影响Token的生产效率,进而决定Token的成本。 这样的复杂度也决定了没有任何一家公司能同时把GPU硬件、操作系统、AI框架、推理引擎、云原生调度全部做到极致。开源让每一家公司在自己最擅长的一层深耕,并通过开放协议将优化成果共享给生态中的所有参与者。 沐曦股份通过“开源朋友圈”聚齐十大开源社区,共同探索,相互验证,形成了一条打通GPU、操作系统、推理引擎、集群调度的全栈链路,开源协同也已超越“单点创新”、进入到“全链协同”的全新阶段。 共建人工智能时代的“Android” 如果说Token生产背后是一条开源协同链条共同参与,真正决定这条链路价值的,是它能否被开发者稳定、高效、低成本地用起来。而在整条Token生产链中,沐曦股份最核心的落点,正是它所处的算力层与软件栈——这也是决定国产算力从“可用”走向“通用易用、稳定可靠”的关键一环。 沐曦股份以“自主创新+开放兼容”双轨并行理念为起点,自研MXMACA软件栈。提供了一套完整、高效的全栈软件工具链,涵盖应用开发、功能调试和性能调优等核心环节。同时,软件栈另一项突出优势在于原生兼容国际主流GPU生态,能够帮助用户无需过多修改代码、即可实现极低成本生态迁移。 2025年2月14日, MXMACA软件栈正式开源。目前MXMACA软件栈注册开发者用户已超50万人。 同时,MXMACA已兼容适配40多种AI框架,覆盖训练、推理、科学计算全场景,并支持500+AI模型、4500+开源项目运行,覆盖95%以上的主流AI场景,并实现了对PyTorch 2.8 2410个算子全量覆盖。 按照沐曦股份的构想,公司将围绕MXMACA软件栈,努力打造一个开放、自主、全栈兼容的智能计算生态,目标是建设成人工智能时代的“Android”。 从一颗芯片,到一条链路,再到一个生态,沐曦股份想做的,从来不只是把Token生产出来,而是让每一个Token都被更好地用起来。在开源这条路上,国产算力的答案已经清晰——真正的护城河不是某一层的极致,而是整个生态的共荣。
-
上一篇
-
下一篇
- 最近发表
- 随机阅读
-
- 共享设备增粉:如何通过共享设备提升品牌粉丝数量
- 全天候能量管家:从拼搏到生活,东鹏饮料总有一款适合你
- 2025游戏安全白皮书:国内黑产规模预估超100亿,PC端游外挂量创新高
- 英伟达联手Abridge引爆医疗AI赛道 轻松健康与腾讯协同合作潜力凸显
- 共享设备加粉:解锁新盈利模式
- 《007》销量破300万 华硕Z890/B860主板618同你冒险
- 伊顿重磅发布环氧流化绝缘始端母线,终结绝缘安全风险
- 以 PCVR 细分市场第一硬实力,重塑具身智能训练数据入口
- 抖音加粉秘籍:快速提升粉丝量的实用技巧
- 随幻科技联手百格影业亮相上海电影节丨首发AI+XR影视创制全流程解决方案
- 149元的家政服务火爆全网,具身智能机器人走入“寻常百姓家”
- 闪光桌面首批接入鸿蒙“亲密圈”,给生活留扇“情绪窗口”
- 视频号加粉秘籍:轻松提升粉丝量的5大策略
- 从赛场到街头点燃2026年世界杯热情,阿迪达斯传奇野场登陆上海
- 大空间优选,TCL小蓝翼·全域风Pro AI健康舒适空调实现处处皆舒适
- 从赛场到街头点燃2026年世界杯热情,阿迪达斯传奇野场登陆上海
- 公众号涨粉秘籍:快速提升粉丝量的实战策略
- 锚定合规航向 电子认证筑牢数字经济信任底座
- 贝塔创新以智算生态驱动产业智能化 打造AI时代基础设施新范式
- 从《诛仙》到《诡秘之主:愚者》:祖龙娱乐的IP改编方法论
- 搜索
-
- 友情链接
-
- 抖音开橱窗要多少钱|橱窗开通保证金技术服务费完整费用明细清单
- 微信视频号互助涨粉群|互关群短期涨粉粉丝无转化利弊分析
- 快手一键涨粉|一键涨粉工具原理科普 自动化批量操作极易触发平台风控处罚
- 小红书很久没用要重新养号吗|长期闲置小红书账号重启运营方案
- 快手涨粉图片|短视频封面配图优化提升点击涨粉实操方法
- 抖音能刷粉吗|抖音能刷粉吗运营经验分享 对比合规涨粉与刷粉投入产出差异
- 抖音免费刷粉|抖音免费刷粉工具骗局解析 免费虚假流量背后存在多重账号安全隐患
- 抖音开橱窗要多少钱|橱窗开通保证金技术服务费完整费用明细清单
- 快手涨粉违规吗|快手各类涨粉方式合规性分析与风险预警
- 小红书很久没用要重新养号吗|长期闲置小红书账号重启运营方案