Nvidia 预计将在代理推理不断发展的背景下主导人工智能计算
内容摘要
人工智能硬件格局正从模型训练转向代理推理，即人工智能系统自主推理、规划和执行多步任务。英伟达凭借其 Blackwell Ultra 平台有望主导这一新阶段，为这些工作负载提供显著的性能提升和成本降低。代理人工智能与生成式人工智能不同，它能保持上下文并进行复杂逻辑推理，需要具有持久上下文记忆的生产级架构，而非传统的无状态交互。这种演变推动了对协同设计的硬件的需求，将芯片、内存和软件集成在一起。英伟达的战略体现在与 VAST Data 等公司的合作以及 DigitalOcean 等企业云提供商的应用中。对于云服务提供商而言，通用 GPU 集群已不再足够，需要专门的推理基础设施。虽然去中心化 GPU 网络为训练和基本推理提供了替代方案，但代理工作负载对紧密集成的低延迟架构的需求使其难以在分布式环境中实现。人工智能面临的挑战正从构建大型模型转向大规模部署智能代理，而英伟达的 Blackwell Ultra 平台正是为此而设计。
(来源：Crypto Briefing)