国产化算力需求日益迫切,传统AI服务器依赖海外芯片,存在适配性差、自主可控性不足等问题,难以满足政务、金融等行业的信创合规与性能需求。百度智能云构建“飞桨+昆仑芯”双引擎全栈AI基础设施,推出昆仑芯超节点集群,实现从框架到芯片的深度协同优化,推理性能较行业平均水平提升13倍,成本降低95%,单集群支持三万卡规模化部署,为国产化AI算力升级提供核心支撑。
全栈协同闭环释放极致算力。百度智能云千帆大模型平台整合昆仑芯算力资源与飞桨框架,将底层算力与模型智力“池化”,以API、工具链形式提供给开发者。飞桨框架与昆仑芯P800芯片深度适配,软硬件协同优化,端到端性能提升30%,兼容TensorFlow、PyTorch等主流框架,同时原生支持文心4.5Turbo、文心X1 Turbo等自研模型。昆仑芯超节点支持把64张AI加速卡放入同一机柜,单节点性能强劲,一个机柜可顶过去100台机器,卡间互联带宽提升8倍,单机训练性能提升10倍,单卡推理性能提升13倍,大幅降低带宽成本。
百舸推理加速能力优化算力效能。百度智能云全面升级百舸推理加速能力,通过大规模分布式推理的PD分离,支持自适应设置PD配比及token级负载均衡;针对MOE模型,优化大规模多机专家并行,降低通信开销;系统级工程优化提升GPU有效利用率。从内部实践来看,千帆的推理吞吐提升20倍,推理速度提升50%以上,为40万客户提供服务。昆仑芯P800已在招商银行、国家电网、中国钢研等央企,以及多所高校规模化部署,验证了国产化算力的稳定性与可靠性。
多行业场景落地赋能转型。在金融场景中,招商银行与百度智能云基于昆仑芯P800合作,在智能客服、多模态数据分析等场景实现效能显著提升。在制造业领域,北京人形机器人创新中心借助百舸算力集群,支撑具身模型训推,旗下“天工”机器人斩获全球首个人形机器人半程马拉松冠军。在政务场景中,某省级政务云部署后,处理效率提升50%,满足信创合规要求。在教育场景中,高途教育通过千帆平台与昆仑芯超节点协同,个性化学习方案生成效率提升40%。百度智能云以“云智一体”战略强化优势,在AI公有云服务市场占据24.6%份额,与阿里云并列第一,推动国产化AI算力规模化落地。