文圣百科网 网站首页 资讯列表 资讯内容

隐性损耗与推理负载:散热在双面“夹击”下压力倍增

2026-09-23| 发布者: 文圣百科网| 查看: 144| 评论: 3|来源:互联网

摘要: 隐性损耗与推理负载:散热在双面“夹击”下压力倍增可持续的楼宇中国信通院人工智能研究所副总工程师王蕴韬强调了散热不足带来的显性与隐性的代价——宕机、服务中断等显性问题可快速修复,但GPU降频带来的问题则更为隐蔽:GPU温度升至约85℃的时候即有可能因降频出现性能衰减,带来算力损耗、大模型推理精度降低、响应速度变慢等一系列问题。未来的楼宇负载特性的变化加剧了散热......

隐性损耗与推理负载:散热在双面“夹击”下压力倍增

可持续的楼宇中国信通院人工智能研究所副总工程师王蕴韬强调了散热不足带来的显性与隐性的代价——宕机、服务中断等显性问题可快速修复,但GPU降频带来的问题则更为隐蔽:GPU温度升至约85℃的时候即有可能因降频出现性能衰减,带来算力损耗、大模型推理精度降低、响应速度变慢等一系列问题。

未来的楼宇负载特性的变化加剧了散热设计的复杂度:2024年,中国AI数据中心的推理业务占比已达53.6%,预计2027年,推理业务占比将升至72.6%!

传统训练业务负载相对平稳,如同长跑平稳迈进;但推理负载则需要面对千万用户并发、剧烈瞬态波动的负载特性,如同进行难以预测的间歇冲刺,传统适配稳态负载的散热架构难以匹配当下动态工况。

也就是说,散热已经不只是数据中心的辅助保障系统,它更像是一道算力的阀门,阀门开多大,决定了算力资产能释放多少真实产出。

优刻得数据中心首席架构师徐智宇表示,如今一台GPU设备15千瓦、一个机柜轻松突破50千瓦,风冷已经逼近物理极限;施耐德电气关键电源业务中国中心负责人徐栋也透露,今年参与交付的项目中,智算项目占比已超五成。

让基础设施跟上AI负载的剧烈波动,已成为行业共同关注的“必答题”。

参考链接:

https://www.schneider-electric.cn/zh/product-subcategory/2120-%e5%b7%a5%e4%b8%9a%e7%94%b5%e8%84%91%e5%92%8c%e6%98%be%e7%a4%ba%e5%99%a8/



分享至:
| 收藏
收藏 分享 邀请

最新评论(0)

Archiver|手机版|小黑屋|文圣百科网  

GMT+8, 2019-1-6 20:25 , Processed in 0.100947 second(s), 11 queries .

Powered by 文圣百科网 X1.0

© 2015-2020 文圣百科网 版权所有

微信扫一扫