越过“成本拐点”，怎么算好国产算力这本账？ | 对话商汤大装置

中国算力中国AI商汤大装置“借东风”。文魏琳华编刘俊宏过去两年AI行业最热闹的叙事属于大模型最焦虑的叙事属于算力。当行业从训练转向推理中国算力厂商和模型厂商都在快速验证商业化路径。但一个核心问题始终悬在所有玩家头上这门生意到底什么时候能真正赚钱问题如此重要是因为国产算力面临着一场叙事切换上半场解决有没有”下半场就得回答“赚不赚”甚至每一张卡都要算账。芯片性能够不够用、生态兼不兼容、集群的经济账跑不跑得通……过去几年这些问题行业里很多人在问但真正敢正面回答的不多。WAIC 2026期间光锥智能与商汤科技联合创始人、大装置事业群总裁杨帆大装置事业群CTO宣善明首席科学家张行程等一众高管进行了访谈。商汤科技联合创始人、大装置事业群总裁杨帆商汤大装置把过去一年做的事、中国算力正在发生的行业变化以及未来三到五年的判断几乎和盘托出。在这场交流中商汤大装置给出了两个关键的判断第一国产芯片的商业化会在未来两三年迎来真正的成熟期第二国产化替代绝不仅仅是GPU的替代而是背后整个AI上游生态体系的重构。这一过程中将涌现大量全新的专业细分技术问题也会催生大量专业技术厂商参与解决。两个判断指向同一结果当国产芯片成为市场主力AI基础设施厂商不仅要把国产算力用起来还要让它从“可用”走向“好用”——从技术上能跑通进阶到稳定高效的发挥。在这届WAIC 上“如何提升Token 效率”成为一个关键的话题。这意味着企业都在思考如何将资源转化为真实的生产力。这个过程中AI 基础设施厂商变得前所未有的重要。它一方面承担着算力的建设和分配另一方面面临着来自模型和产业需求端的双重考验。Token一年涨25倍 国产算力来到爆发前夜国产算力正在迈入一个全新的阶段。最直接的拉动力是今年来自需求端的高速增长。2026年初以OpenClaw为代表的现象级Agent产品快速破圈叠加AI Coding能力的规模化落地直接推动Token调用量实现指数级跃迁。从海外的OpenAI、Anthropic到国内智谱、月之暗面等公司均在今年上半年迎来了MaaS业务的爆发增长。尽管不少企业多次上调API售价但市场调用量仍保持高速增长甚至供不应求。价量齐升的态势也验证了 AI 需求的真实和迫切它并不是头部大厂左手倒右手的资本故事而是一个确定存在的巨大刚需市场。“今年我们切实感受到产业端在高速强力的推动智能化进程。”杨帆说“整个‘十五五’周期内国家经济的各个方面对AI应用更加接纳我们感觉它不会弱于C端和消费者端的产业规模。”需求的井喷彻底激活了Token工厂的高速运转。但和四年前不同的是Token工厂背后的“发动机”换了。去年底到今年初摩尔线程、昆仑芯、沐曦等国产芯片公司们陆续完成了适配和完善商业化进程被推上快车道。“整个国产芯片商业化的真正市场成熟期可能就在未来两年。”杨帆判断。站在时代的风口商汤大装置早在两年前就看到了这条路径的机会中国算力中国AI。这条路看起来是一个谁都知道的趋势但知易行难如何落地需要对AI 基础设施有顶层的架构来解决当国产算力成为“挑大梁”的主角随之而来的问题。先从大模型训推说起中国AI大模型的膨胀速度之快单一国产算力已经无法满足厂商需求。以最近发布的一批大模型为例月之暗面的Kimi K3参数规模已经高达2.8TThe Information报道MiniMax正在研发新一代大模型预计尺寸将达到2.7T。更大的模型呼应着更大的算力规模。聚焦到实际应用中Agent产品带来的Token消耗暴增让“性价比”成了今年AI行业的关键词。由于Agent处理单个任务消耗的Token比大模型问答高出几十倍以上Agent的爆火带动了Token消耗量翻倍增长。当模型足够好用之后Token就成了Agent的“生产原料”采购逻辑变成了“够用、便宜、量大”。买单逻辑一变整个算力市场的定价体系就要重排。除了上述场景不同的AI路线分支也带来了多样化的算力需求比如世界模型、具身智能、AI for ScienceAI4S这些新物种对算力的要求与传统的语言模型截然不同单一算力的方案无法适配所有场景。杨帆打了一个很形象的比喻“你让一个纯游泳运动员去跑铁人三项跑的就是不行但不是说他的运动能力不行。铁人三项如果想跑得好允许换人的情况下三个运动员一起跑分就更高。”所以从真实需求出发当单一算力无法满足所有的需求时一个“异构”的算力架构就显得非常重要。杨帆认为把技术需求、场景需求分解成不同的技术任务用不同的硬件适配组合拿到最优的系统化能力这个命题将在相当长一段时间内存在。“我们的判断是异构或组合以后会更多而不是更少。”用异构算力怎么跑出盈利模型AI基础设施的逻辑是连接。卡与卡、柜与柜、机房与机房之间的连接决定算力规模能做多大也决定这门生意能不能真正跑通。聚焦国内市场异构算力是多数国内AI基础设施厂商不得不面临的难题。尤其是在寒武纪、沐曦、中科海光、华为昇腾等国产算力芯片百花齐放的今天不同算力卡以及背后的生态连接难题导致这门生意需要反复做适配“痛苦”又很难赚钱。“所有芯片厂商他们既希望芯片卖出去更希望卖出去后能产生商业化闭环价值但能完成后者的角色并不多。”杨帆说。那么做“国产算力”到底有没有可能赚钱商汤大装置的答案是可以而且已经规模化落地。对于国产异构算力的优化商汤大装置的核心打法是PD分离的异构混合推理。PD分离的核心原理是大模型推理分为Prefill预填充和Decode解码生成两个阶段前者吃算力后者吃内存和带宽。商汤大装置的做法是把两个阶段拆开、各配更适合的卡。具体效果杨帆介绍说“花大概3个月可以把每一个单卡的有效输出效率平均提升85%152%左右”。这种方式操作下来一台高端算力卡再配合几十台国产卡协同工作性价比可达到全部用英伟达H系列的1.25倍。这意味着商汤大装置不仅用有限的高端资源撬动了国产卡的最大规模放量还把Token 生产的性价比做到了极致。光有性价比还不够迁移门槛也必须打下来。商汤大装置开发了一套工具链让原本在海外主流算力平台上训练和部署的模型迁移到国产芯片时的工程化工作量大幅降低。在杨帆看来降低迁移门槛是接下来推动国产算力商业化在多个细分场景跑通、实现规模化的基础。有了这两点商汤大装置的混推集群迈过了“可用”的基础线走向了让企业“更愿意用”的阶段。于是在短短半年之间商汤大装置的Token 消耗迎来了爆发式增长。今年商汤大装置对外提供的第三方Token服务量年初还在日均4000亿的水平到7月底就预计将达到2.42万亿年底还会再提升一个数量级达到日均10万亿的体量。相当于一年内实现25倍增长。这还远远不是终点Token的“经济账”还在继续优化。怎么用更少的能源产出更多Token这是行业当下绕不开的一道难题。过去IDC时代衡量数据中心“划算”的核心指标是PUE能源使用效率。但AI时代这个指标开始不够了。杨帆举过一个反例“当年优化PUE极限优化PUE会导致机房里的机器风扇狂转实际上GPU有效输出是降速降频的。因为这个都算机器内耗电PUE数据虽然好看了但实际的Token输出效率也受到了影响。”在AI时代比起用电效率用户更关注的是“生产单个Token多少钱”。对此商汤大装置提出了一个更适合当下行业现状的指标——TPW每瓦 Token 数用来衡量单位电力成本对应的Token产出。支撑TPW成立的背后是一套“算电协同”的体系。在上海临港智算中心商汤大装置与宁德时代合作通过电力整合优化、模型预测算力特征、峰谷电价储能调度等方式把电价做到比市场均价低约10%。同时AIDC还能像蓄水池一样参与电网调节。放到真实场景看7月10日国网上海在夏季用电紧张时发出需求响应商汤大装置的临港数据中心在两小时内释放了75%的容量还给市政电网两小时内少用了4.6万度电。底层的算力和能源账都算清楚之后问题只剩下一个商汤大装置如何把这套能力变成一门更大的生意产业智能化让AI长在产业里在底层算力与能源优化方面商汤大装置交出了一份不错的答卷。但算力账算得再清Token也不会自己变成生产力。说到底AI 基础设施要解决的就是一件事让AI真正在真实场景里落地。“模型能力今年才真正开始产生足够强的价值工具级产品、能真正帮企业端生产力解决问题的方案其实今年才开始出现这让更多B端的场景被打开。”杨帆说。AI有价值但空烧Token对企业来说是一笔得不偿失的“糊涂账”。以Uber为例今年才刚4月他们公司投入在Claude Code上的2026年预算已经全部用完但事后评估这些Token的消耗并没有同等比例地转化成真正对公司和消费者有用的功能。这不是Uber一家的问题而是全行业共同面对的现实。商汤科技大装置事业群CGO杨松分享了一组数据“麦肯锡的报告指出目前全球约88%的企业已在生产环节采用AI技术但实际价值转化率仅为6%。”那怎么才能解决这个重要的问题贴近产业一线了解需求。商汤大装置组建了行业驻场工程师FDE团队深入产业一线陪跑客户。从硅谷火到国内从Anthropic、OpenAI到国内一众企业FDE是现阶段AI厂商能够深入企业解决问题的共同选择。从商汤大装置自身的基因来看它的选择其实不意外——拥有完善AI基础设施懂行业know-how让它比市面上其它公司更具有优势。一般来说行业具备端到端整合能力的基本都是大厂而大厂的第一优先级永远是用最好的算力服务自家核心业务而不是给市场提供更开放、更高性价比的服务。这种情况使得商汤大装置的定位就变得稀缺它是市场上极少数既具备顶尖端到端基础设施能力又毫无保留向第三方市场开放赋能的“外部服务者”。在AI基础设施的完善底座上商汤大装置更关键的能力其实是它多年沉淀的AI行业经验——技术、产品、工具等多个维度的积累都是商汤大装置决心切入FDE行业的底气。这其中商汤自身研发AI大模型的经验让模型训推能少走弯路在具身智能、AI视频短剧等多个细分赛道的落地探索让它攒下了更多可以“拿来即用”的技术、产品而在企业生态合作上铺开的一系列合作方也都能成为商汤大装置的支持。在具体如何做好FDE上商汤大装置也已经在合作中渐渐想清楚了落地的方法论。杨松分享道商汤大装置会给每一个需求都明确指标帮企业评估AI能力对最终业务到底能起到什么价值此外通过构建数据飞轮体系的方法论它能帮助客户更好地完成数据的整理与沉淀。为此商汤大装置还定下了1天澄清需求价值2天产出验证Demo30天稳定版本上线的交付节奏实现了AI从Demo到生产稳态的无缝衔接。目前商汤大装置FDE已经有了“样板间”。在上海先进制造领域商汤已服务5家大型国企落地几十个高价值场景实现AI应用的快速复制与规模化交付。回到开头那个问题商汤大装置为什么能交出这份盈利答卷供需错配是客观条件但客观条件不会自动变成盈利。商汤大装置过去一年多证明了。在AI基础设施这个长期被认为“不赚钱”的领域规模化盈利靠的不是砸更多卡而是把每一张卡用得更聪明。这样才能把建算力到落地的每一个环节真正跑通。把算力到应用的每一个环节真正跑明白这才是AI 基础设施下半场的胜负手也是商汤大装置率先跑出来的路。