冷却成本在数据中心的运营预算中占比巨大,而机架密度的不断提高更是推高了这一比例。增加机械制冷能力很少能解决问题。大多数冷却问题都源于气流控制。有效管理冷空气的送风和热废气的排出,其效果通常远胜于增加冷却设备,而且成本也低得多。
本指南涵盖了高密度GPU的原理、实用解决方案和注意事项,旨在提高散热效率并降低能耗。本书面向希望找到并解决气流问题的实用框架的设施运营人员、基础设施工程师和数据中心管理人员。
什么是数据中心气流管理?它为何如此重要?
气流管理是指将冷空气引导至服务器进气口,并将热空气排出。当这两股气流混合时,冷却装置需要更努力地工作才能达到相同的冷却效果,这会消耗更多电力,并使硬件更接近其过热极限。
只要控制得当,情况就会逆转。您可以安全地提高设定温度,减少冷却单元的使用,即使在高密度GPU机架中也能保持稳定的进气温度。这样做的好处是降低能源成本、延长硬件寿命并减少过热故障。在运行AI工作负载或高密度计算的设施中,这些优势会迅速累积。
导致制冷成本增加的常见气流问题
大多数设施由于反复出现的故障而造成冷却资源浪费。发现这些故障是解决问题的第一步。
旁通空气
旁通空气是指未经服务器自身冷却就循环返回冷却单元的冷空气。冷却这些空气所消耗的能量毫无用处。它会从缝隙、裸露的地板砖和未密封的机架中逸出,缓慢地降低服务器的可用容量。
再循环
回流故障是反向故障:高温废气返回服务器的进气口。随着时间的推移,这会降低硬件性能,并且容易积聚在机架顶部后方,而那里通常也是最先出现可测量的热点区域。
漏气
电缆开口、架空地板缝隙和开放式机架空间都会泄漏空气流动所需的静压。每个泄漏点单独来看都微不足道,但累积起来,整个房间的空气压力就会显著下降。
过度配置
当机架过热时,增加冷却功率或加装一个冷却单元是最简单的解决方法。但这掩盖了真正的问题,而且还会浪费电力。安装不当的散热片会使情况更糟,导致一些机架散热不足,而另一些机架则因不必要的空气过多而过热。
核心原理:分离冷热空气
所有可行的气流策略都基于一个原则:保持冷空气供应和热空气排出之间的距离。
冷空气必须到达每台服务器的前置进气口,而排气口则必须畅通无阻。当热空气回流到进气口时,硬件就会吸入比其设计承受温度更高的空气。这时就会出现过热降频,并最终导致组件故障。
空气依靠对流和压力差流动。热空气上升,空气从高压流向低压。好的设计要顺应这些力,而不是与之对抗。目标很明确:将适量、适温度的空气直接输送到需要的设备。
物理隔离系统:热通道与冷通道
物理屏障是阻止空气混合最可靠的方法。密闭装置就提供了一种这样的屏障。
冷通道隔离 用门和顶板封闭服务器进气口所在的通道,限制冷空气流动,使其只能流入设备。
热通道隔离 它封闭了排气侧,将热量导回冷却系统的回风口。
两者最终都达到同一个目标:防止供气和排气混合。一旦实现了这种分离,就可以在不增加热风险的情况下提高设定温度并降低能耗。
在热量集中的地方,例如显卡机架所在的区域,散热措施的效果最为显著。一个机架上安装多个显卡,会在有限的空间内散发大量热量,而散热措施可以阻止这些热量扩散到冷通道中。并非总是需要进行全面的改造。只需用PVC条帘或硬质面板进行改造,就能以适中的成本获得大部分的散热优势。
机架级气流最佳实践
封闭性设定了大致框架,但许多决定性工作发生在机架内部,机箱设计和机架布局必须相互配合。
用盲板密封缝隙
每个空置的U型通风口都为热废气泄漏回冷端提供了一条通道。加装盲板可以封闭这些缝隙,立即阻止废气循环。这仍然是成本最低、收益最高的措施之一。
使用刷毛垫圈和气坝
刷形护套密封机架底部或后部的电缆开口,使电缆能够穿过并保持静压。侧刷和气挡密封服务器导轨和侧面板之间的较小缝隙,防止空气泄漏。
保持排气通道畅通
线缆管理对散热的影响往往被低估。服务器后方密集的线缆束会阻碍风扇排气,并将热量滞留在产生热量的地方。后部排气通道堵塞是造成热点最容易被忽视的原因之一。务必确保线缆远离气流路径。
保持一致的服务器导向
机架中的每台服务器都应该采用相同的前后气流方向。如果一台服务器安装方向错误,就会从错误的一侧吸入热空气,形成难以追踪的热点。设计良好的 机架式服务器机箱 它能确保进气和排气方向一致,安装后应保持这种方向。
如何改善架空地板和通风管道环境中的气流
在架空地板设计中,地板下方的空间就像一个加压室,或称静压室,负责将冷空气输送到房间的各个角落。如何管理这个空间决定了空气输送的效果。
足够的地板高度可以让空气自由流动。当空气遇到大型管道或废弃电缆等障碍物时,在到达瓷砖之前,空气的速度和压力都会降低。
清理废弃电缆。多年未使用的电线堆积在地板下,阻碍空气流通,清除这些电线是恢复风速和风量的最经济有效的方法之一。
仅在服务器进风口前方安装穿孔地砖和地板格栅。走道上的地砖只会导致空气旁通。调节风门可以平衡送风量,确保每个机架都能获得足够的空气。
高密度GPU服务器机架的气流考量
高密度GPU机架改变了计算方式。单个AI服务器硬件机架散发的热量可能是传统机架的数倍,这会带来一些轻量级部署很少遇到的问题。
较高的热负荷需要有计划地输送。 GPU密度高的机架比负载较低的机架需要更多的冷空气,因此气流必须与实际的热负荷相匹配,而不是均匀地分布在整个房间。
后部废气浓度较高。 GPU 会将大量热空气吹过狭小的空间。如果这些废气无法顺利排出,压力就会积聚,导致空气循环加速。
货架顶部的热点区域最先出现。 在 AI 集群中,机架后上方通常会记录最早的温度上升,因此应该在那里放置传感器,而不是仅仅依赖机架中部的读数。
机箱级设计与房间设计同样重要。 机箱前后走线清晰、风扇布局合理、风扇冗余设计以及线缆空间充足,使得机架散热管理更加便捷。任何封闭式散热方案都无法完全抵消机箱自身产生的热量。
对于高密度GPU配置,应将气流视为一个整体系统,从房间出发,穿过机架,最终进入机箱。任何环节的薄弱都会导致其他环节的性能下降。
如何测量数据中心气流性能
不测量气流就无法优化气流,而且也不需要全部的传感器预算就能获得有用的读数。
在每个机架的顶部、中部和底部安装温度传感器。顶部通常温度最高,这些点的温度分布可以显示空气循环是否正在建立。压力传感器用于确认送风箱内的压力是否足以驱动空气流经地砖。
以下几个指标值得长期跟踪:
- PUE(电源使用效率) 衡量的是冷却和开销所消耗的能量与实际计算所消耗的能量之比。数值越接近 1.0 越好。
- RCI(机架冷却指数) 衡量散热对硬件防止过热的保护效果。
- CFD(计算流体动力学) 建模可以生成房间内气流的可视化地图,帮助您识别热点并在移动任何实物之前测试布局更改。
数据中心气流优化检查清单
使用此清单可快速进行审核。每一项都是切实可行、易于操作的解决方案:
- 在所有未使用的机架空间安装盲板
- 用毛刷护套和气坝密封电缆开口
- 确保每个机架内服务器气流从前到后保持一致
- 仅将穿孔瓷砖放置在正在使用的服务器进风口前方。
- 清除地板下通风管道中废弃的电缆
- 监测机架顶部、中部和底部的进料口温度
- 检查防护门、帘布和密封件是否存在缝隙或磨损。
- 根据 ASHRAE 指南和设备规格调整制冷设定点
- 使气流大小与每个机架的实际热负荷相匹配。
- 保持后排气通道畅通,避免电缆束和障碍物堵塞。
第一次按照这个清单进行操作,通常就能快速取得几个胜利。
战略性维护以实现长期效率
气流管理并非一劳永逸。随着硬件的更新换代和机架的不断扩容,曾经运转良好的气流配置会逐渐失去平衡。定期维护才能确保其正常运行。
每季度检查一次地板砖布局。随着设备的增减,空气需求也会发生变化,原本为运行中的机架供气的地板砖现在可能为空置的机架供气。
定期清洁机房底部的通风管道。灰尘和碎屑会积聚在那里,堵塞服务器过滤器,并减缓空气流通。同时,检查一下密封件。破损的帘布或松动的面板会悄无声息地破坏系统原本设计的隔离效果。
更新设定点,使其与硬件制造商的建议相符。许多机房的温度都低于实际所需,在 ASHRAE 推荐的 18°C 至 27°C(64.4°F 至 80.6°F)范围内留出几度的余量,就能真正节省能源。最后,务必确保员工掌握基本操作——例如关闭机架门和安装盲板——因为即使是最好的密闭系统,如果有人忘记关门,仍然会失效。
常見問題解答
数据中心出现热点的原因是什么?
当热废气循环进入服务器进气口,或者机架获得的冷空气不足以应对其热负荷时,就会形成热点。常见原因包括缺少挡板、后部排气通道堵塞、服务器方向不一致以及穿孔板位置不当。在高密度GPU机架中,热点往往首先出现在顶部后方,因此传感器在该位置的放置至关重要。
冷通道封闭如何提高效率?
冷通道封闭系统将服务器进风口所在的通道封闭起来,限制冷空气的流动,使其直接流入设备,而不是与热排气混合。这种隔离方式可以安全地提高设定温度,减少冷却设备的运行数量,并保持进风温度稳定——从而在不增加热风险的情况下降低能耗。
如何计算服务器机架的空气流量需求?
首先确定机架的热负荷(单位为千瓦),然后计算在目标温升下移除这些热量所需的风量。一个常用的经验法则是每千瓦IT负载大约需要160 CFM(立方英尺/分钟),但具体数值取决于温差和所使用的设备。根据需求调整风管布局和风门设置,然后通过温度和压力读数进行确认。高密度GPU机架所需的风量远大于低负载机架。
服务器机房理想的进气温度是多少?
大多数现代设备在进气温度为 ASHRAE 推荐的 18°C 至 27°C(64.4°F 至 80.6°F)范围内都能良好运行。许多用户为了降低冷却成本,会选择略高的温度。但务必查看制造商的规格说明,因为 GPU 密集型系统可能需要更严格的温度目标。
盲板如何提高效率?
封板可以填补机架中空置的U位。如果没有封板,高温废气会从缝隙泄漏并循环到服务器进气口。封闭这一路径可以减少废气循环,降低进气温度,从而提高散热效率。封板价格低廉,是改善气流效果最显著的措施之一。
为什么旁通空气会成为问题?
旁通空气是指未经服务器冷却就返回冷却单元的冷空气。用于冷却这些空气的能量被浪费掉了。它会降低服务器的制冷能力,破坏压力平衡,并造成实际制冷需求过高的假象。密封缝隙并正确安装散热片即可解决这个问题。
热通道和冷通道隔离有什么区别?
两者都能隔离冷热空气,只是方向相反。冷通道封闭系统将服务器进风口朝向的通道封闭起来,限制冷空气直接流入设备。热通道封闭系统则将服务器排气口朝向的通道封闭起来,将热量导回冷却系统。正确的选择取决于机房布局和冷却配置。
气流管理能否降低总体拥有成本?
是的。更好的气流可以让你提高设定温度,减少冷却单元的使用,从而降低每月的能耗。它还能保持硬件温度更低,延长设备寿命,减少故障。更低的能耗加上更长的设备寿命,最终会显著降低总体拥有成本。
从房间到机箱:系统级视角
气流管理是一个持续的循环过程,需要随着周围硬件的变化不断测量、调整和检查你的工作。
好处在于小的改进措施能迅速见效。例如,安装盲板和密封地板开口几乎可以立即提高可靠性,而且成本极低。更大的改进措施,例如全面封闭,需要更周密的计划,但可以通过降低能源费用和延长设备寿命来收回成本。
基本原则始终不变:将热空气与冷空气分开。剩下的就是执行了。
这个原则并非仅仅体现在机箱内部。在高密度GPU部署中,它始于机箱内部。一个前后通道畅通、风扇布局合理、线缆空间充足的机箱,能让后续的每一层散热都更容易管理。对于高密度配置,值得重新审视…… GPU服务器机箱 尽早选择合适的方案,因为机箱气流会影响房间和机架需要补偿的程度。 后来。



