普通视图

发现新文章,点击刷新页面。
今天 — 2025年5月20日掘金专栏-百度Geek说

PD 分离推理的加速大招,百度智能云网络基础设施和通信组件的优化实践

作者 百度Geek说
2025年5月20日 15:13
为了适应 PD 分离式推理部署架构,百度智能云从物理网络层面的「4us 端到端低时延」HPN 集群建设,到网络流量层面的设备配置和管理,再到通信组件和算子层面的优化,显著提升了上层推理服务的整体性能。
❌
❌