字节跳动发布兆瓦级AI算力系统
AI算力竞争正在进入一个新的阶段，拼的不只是芯片数量，而是谁能把更大的计算能力稳定运行起来。
7月10日，在OCP开放计算中国峰会上，字节跳动首次展示新一代兆瓦级算力系统AI Rack 3.0。该系统采用800V HVDC高压直流供电方案，并搭配100%整机柜液冷散热架构，试图解决当前大规模AI训练和推理场景中的能源消耗与散热难题。
过去几年，人工智能模型规模快速扩大，数据中心的基础设施压力也同步上升。
从GPU集群到服务器机柜，AI计算正在不断推高单机功率。传统风冷方案在中低功耗环境下运行稳定，但面对数十万甚至百万级芯片集群时，散热效率、电力转换损耗以及空间利用率都会成为限制因素。
这也是液冷、高压直流等技术逐渐进入主流视野的原因。
字节跳动此次推出的AI Rack 3.0，核心变化之一就是供电架构升级。系统首次公开确认采用800V HVDC高压直流供电，相比传统数据中心交流供电模式，高压直流能够减少电能转换环节，提高能源利用效率。
对于大型AI基础设施而言，每一点效率提升都会被放大。
一座训练大型模型的数据中心，消耗的电力规模已经接近小型城市。降低损耗不仅影响运营成本，也关系到企业未来能否继续扩展算力规模。
在硬件设计方面，AI Rack 3.0采用双柜组合架构，单柜功率达到500kW，整套双柜集群总功率超过1MW，进入兆瓦级算力系统范畴。
一套双柜集群最高可搭载576颗XPU算力芯片，官方数据显示，其算力密度和集群带宽较上一代产品实现翻倍提升。
这类设计背后的逻辑很明确：让单位空间内承载更多计算资源。
随着大模型训练需求持续增长，企业已经很难单纯依靠增加服务器数量解决问题。数据中心土地、电力供应、冷却系统都成为新的约束条件。提高机柜级算力密度，成为云计算厂商和互联网企业共同探索的方向。
字节跳动此次展示AI Rack 3.0，也反映出互联网企业正在从模型研发竞争走向基础设施竞争。
过去，外界关注更多的是模型参数规模、应用场景以及用户增长。但在AI商业化过程中，算力供应能力正在成为另一条关键赛道。
微软、谷歌、亚马逊等海外科技公司近年持续加码AI数据中心建设，国内企业也在推动自有算力体系升级。相比购买通用服务器，定制化AI基础设施能够针对训练任务、芯片配置和能源管理进行优化。
不过，兆瓦级算力系统的普及也面临现实挑战。
高功率机柜需要更加完善的数据中心配套，包括电网容量、散热设施以及运维能力。这意味着AI基础设施建设已经不只是IT部门的问题，而与能源供应、产业园规划甚至区域电力布局产生联系。
从这个角度看，AI Rack 3.0并非单一服务器产品升级，而是一套面向下一阶段AI计算需求的数据中心架构探索。
未来几年，随着模型规模继续扩大，算力竞争可能会从“谁拥有更多芯片”转向“谁能够更高效地管理兆瓦级计算资源”。
对于AI产业链而言，芯片只是入口，真正决定规模化能力的，还有支撑这些芯片持续工作的基础设施。
