英伟达补齐推理侧闭环:联手Equinix与Together AI,向企业开放模型推理
📋总体概括
英伟达联手全球最大数据中心托管商Equinix与推理平台公司Together AI,向企业客户开放开放模型推理服务,形成托管+平台+GPU软件栈的三方分工,补齐其从训练到推理部署的生态闭环。据英伟达投资者会议,约18个月前其训练与推理收入大致各半,如今推理收入已超训练且差距预计扩大。此举既巩固英伟达算力生态对企业的渗透,也让Equinix在万亿美元级AI数据中心热潮中找到差异化切入点。
⚡关键信息
- ▸英伟达、Equinix、Together AI三方合作:分别提供GPU软件栈、数据中心托管与推理平台,面向企业开放模型推理服务。
- ▸合作瞄准开放模型推理负载,而非局限于少数头部模型厂商,扩大算力需求面。
- ▸英伟达披露:约18个月前训练与推理收入约各占一半,如今推理收入已超训练,差距预计继续扩大。
- ▸黄仁勋近期发文力挺开源AI,获主要AI公司联署,其逻辑是开源模型繁荣带动更广泛的GPU需求。
- ▸Equinix借此在万亿美元级AI数据中心建设热潮中切入企业级开放模型推理的差异化定位。
🔥犀利点评
这步棋的本质是英伟达的护城河从卖卡升级为卡死环节:训练已被锁定,现在连推理部署的托管、平台、算力也要一并打包,企业想绕开英伟达的成本更高了。推理收入超训练说明钱在哪英伟达就去哪。真正值得警惕的是开放模型叙事——黄仁勋力挺开源,是因为开源模型越多、跑得越勤,GPU消耗越大,开放的是模型,锁死的是算力。
英伟达正把AI基础设施的版图从训练侧延伸到推理侧。
周三,英伟达与全球最大数据中心托管商Equinix及AI推理平台公司Together AI达成合作,联合为企业客户提供开放模型推理服务,补上从模型训练到推理部署的最后一环。
按照三方分工,Equinix提供数据中心托管,Together AI提供推理平台,英伟达提供GPU及软件栈。三方把硬件、软件与托管能力打包,直接切入企业级AI应用的推理环节。
这一合作是英伟达在推理侧生态的关键补位。公司此前在训练侧已建立起领先地位,如今借开放模型推理向企业客户延伸,进一步拓宽其算力生态的覆盖面。
对Equinix而言,此次合作同样意味着它在万亿美元级的AI数据中心建设热潮中,找到了企业级开放模型推理这一差异化切入点。
三方分工:托管、平台与算力的组合
在此次合作中,Equinix负责数据中心托管,Together AI提供推理平台,英伟达提供GPU及软件栈。
在万亿美元级的AI数据中心建设热潮中,Equinix作为全球最大数据中心托管商,通过与英伟达和Together AI的绑定,将自身定位聚焦于企业级开放模型推理这一细分领域,成为这轮合作中同样受关注的受益方。
三方合作的核心目标,是帮助企业客户运行开放模型的推理工作负载,而非将算力局限于少数头部模型厂商。
英伟达押注开放模型的逻辑清晰。首席执行官黄仁勋近期发表公开文章阐述开源AI的重要性,获得几乎所有主要AI公司联署。在其看来,AI模型和应用是英伟达GPU的互补品,开源模型的繁荣意味着更准确、更广泛的算力需求。
推理收入已超训练,英伟达补上闭环
据英伟达投资者会议透露,约18个月前,英伟达的训练与推理收入大致各占一半;如今推理收入已超过训练,且这一差距预计将继续扩大。
与此同时,新兴云服务商贡献的AI计算基础设施收入已超过50%,增长动力正从传统超大规模云厂商向更广泛的AI算力生态扩散。
在训练与架构侧,英伟达此前已密集落子。
通过技术许可协议引进Groq核心团队及其 LPU 技术,并计划在下一代Vera Rubin 架构(Groq 3 LPX) 中深度融合 LPU;拟以129亿美元收购开源AI平台Hugging Face。
此次联手Equinix与Together AI,则是英伟达把布局延伸至推理侧的关键一步,使其算力生态覆盖从模型训练到推理部署的完整链条。
风险提示及免责条款 市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。