資料中心是什麼？支撐雲端與AI的建築物內部

生活中的例子

向聊天AI提問，幾秒內就會得到回答。產生這個回答的不是手上的手機，而是放在遠方建築物裡的大量電腦。影音串流、照片儲存和網路搜尋也一樣。

手機發出的請求，會經過網際網路送到那棟建築物（原理見「網際網路怎麼傳送資料？」）。本文要看看送達之後，那棟建築物的內部。

資料中心是「給電腦用的建築物」

依照要求回傳資料或進行計算的電腦，稱為「伺服器」。資料中心是集中放置數千台、數萬台伺服器的建築物。它不是讓人工作的大樓，而是為了讓機器好好運作而建造的。

機器需要的主要有3樣：不中斷的電力、排熱的空調，以及對外連線的大容量通訊線路。把這些集中在一處準備，比一台台分開放置更便宜，也能照顧得更確實。

裡面排列的東西：機櫃、伺服器、儲存設備、交換器

走進去，可以看到高大的金屬架子排成好幾列。這種架子稱為「機櫃」。寬度等規格是統一的，所以能把許多公司的機器裝進同樣的架子。

機櫃裡，薄箱子形狀的伺服器像抽屜一樣疊放好幾台。1台伺服器的內部和個人電腦很像。有負責計算的CPU、放置工作中資料的記憶體，以及保存資料的裝置。

也有專門用來存放資料的機器，稱為「儲存設備」。裡面裝著許多用電記住資料的固態硬碟（SSD），以及用磁性在旋轉圓盤上記錄的硬碟。

還有一種機器，連接伺服器彼此和外部線路，把送來的資料分配給目的地的伺服器。這種機器稱為「交換器」，常在每座機櫃各放一台。它和家裡路由器的差異，整理成表放在「集線器、交換器、路由器的差異」。

伺服器機房外面，還有接收並分配電力的設備、因應停電的電池和發電機，以及放空調機械的房間。這些「讓伺服器不停機的設備」，也占了建築物很大的空間。

電力的路徑：從電網到晶片

資料中心從電力公司的電網接收電力。為了送到遠方，電網的電壓非常高。所以要先經過降低電壓的裝置。這種裝置稱為變壓器。

接著經過因應停電的裝置。它接著電池，從停電那一刻起，就持續送出電池的電。這種裝置稱為「UPS」（不斷電系統）。伺服器只要斷電極短的時間，就可能停止運作，所以UPS不可或缺。

電池撐不了長時間的停電，所以也要準備用燃料運轉的緊急發電機。發電機從啟動到能送出穩定的電，需要一點時間。這段期間由UPS的電池銜接，之後改由發電機供電。

UPS裡面，有改變電力形式的零件在工作。插座的電，是方向來回變換的「交流電」。常見的方式是先把它變成方向固定的「直流電」並接上電池，再變回交流電送出。進行這種轉換的是功率半導體。原理在「功率半導體是什麼？」中說明。

離開UPS的電力，會分送到各座機櫃。這種配電裝置稱為「PDU」（配電單元）。最後，伺服器裡的電源把交流電變成直流電，並降低電壓（詳見「交流電和直流電有什麼不同？」）。

CPU等晶片用1伏特左右的低電壓運作。所以在電路板上，還要把直流電壓再降一級。進行這種轉換的電路，稱為DC-DC轉換器。它放在晶片旁邊，把大電流送進晶片。

每次轉換，都有一部分電力變成熱而損失。為了減少損失，Google在2016年公布了在機櫃內用48伏特直流電配電的設計。Google說明，他們從2010年起就在使用，損失比用12伏特配電時更少。

排熱的方式：用空氣冷卻

伺服器用掉的電，在完成計算後，最後幾乎全部變成熱。如果不持續把熱排出去，晶片溫度會過高，造成停機或損壞。

多數資料中心用空氣冷卻。伺服器從前面吸入冷空氣，把變熱的空氣從後面排出。冷空氣和熱空氣混在一起，空調的浪費就會增加。

所以要統一機櫃列的方向。讓機櫃的前面彼此相對，中間的走道就只有冷空氣流動。背面彼此相對的走道，則聚集熱空氣。這種排列方式稱為「冷熱通道」（英文是hot aisle / cold aisle，aisle是走道的意思）。美國能源部的設計指南，也把它當作空氣管理的基本作法來介紹。

收集起來的熱空氣，由空調機械冷卻後，再送回冷通道。在外面空氣較冷的季節或地區，也有利用外氣來減少空調用電的方法。

AI帶來的改變：1座機櫃的用電暴增

晶片在標準的高負載下運作時，產生熱量的參考值稱為TDP。散熱裝置以這個值為基準來設計。AI用的GPU「NVIDIA H100」，高效能版本最高為700 W。

根據NVIDIA的資料，搭載8顆這種GPU的伺服器「DGX H100」，1台最多使用10.2 kW。1 kW（千瓦）是1,000 W。另一方面，在Uptime Institute 2024年的調查中，受訪設施的機櫃平均不到8 kW。換算下來，1台AI伺服器的用電，可能比1座平均的機櫃還多。

甚至出現了把整座機櫃做成1台大型計算機的產品。NVIDIA的GB200 NVL72，把72顆GPU和36顆CPU裝進1座機櫃。根據HPE的產品資料，這1座機櫃使用132 kW，超過平均（不到8 kW）的16倍。

不過，這仍是一部分最先進的例子。在Uptime Institute 2025年的調查中，整體還在10～30 kW的機櫃逐漸增加的階段。超過30 kW的設施，仍是少數。

為了不超過電力和空調的上限，有時會為伺服器的用電設定上限，加以抑制。這稱為功率上限控制。即使這樣，熱量仍集中到應付不了時，就會用到接下來介紹的液冷。

液冷：用水等液體運送熱

空氣運送熱的能力不太強。以相同體積比較，水能運送的熱比空氣多得多。所以，在晶片正上方貼上內部有液體流動的金屬板來冷卻的方法，正逐漸普及。這種方法稱為「液冷」。

金屬板接收的熱，隨著液體經由管線運到機櫃外。在那裡和另一路的水交換熱，最後排到建築物外面。根據HPE的資料，GB200 NVL72的132 kW中，115 kW用液冷，其餘用空氣冷卻。

也有把整台伺服器浸在不導電的特殊液體裡冷卻的方法。不論哪種方式，都會多出管線和液體管理這些新的工作。

PUE：電力中有多少送到了電腦

資料中心的電，不只用在伺服器，也用在空調，以及電源轉換的損耗上。把整座建築物的用電，除以電腦等IT設備的用電，所得的值稱為電力使用效率（PUE）。它表示：把IT設備的用電當作1時，整體用了多少電。

例如PUE為1.5，表示IT設備每用1，空調等就額外用了0.5。PUE為1.0表示沒有額外用電，是電力全部送到IT設備的理想狀態。現實中，空調和轉換損失都不可能是零，所以會大於1.0。

在Uptime Institute的全球調查中，受訪設施的平均在2024年為1.56，2025年為1.54。這不是全世界所有設施的平均，但近幾年幾乎持平。該公司說明，原因是舊建築物多，而且依氣候不同，有些地方很難減少空調。大型業者的數字更低，例如Google公布，2024年自家大型資料中心整體為1.09。

用了全球多少的電

電量用TWh（太瓦時）這個單位表示。1 TWh是10億千瓦時，也就是10億度。根據國際能源總署（IEA）2025年的報告，2024年全球資料中心的用電約415 TWh，約占全球用電的1.5%。

IEA在2026年4月的報告中推估，2025年增加到約485 TWh。預計2030年將達到約950 TWh，大約是2025年的2倍。到那時，將占全球用電的約3%。增加的主要原因，是AI用的伺服器。

不過，這只是預測。結果會因半導體、發電廠和輸電線能否及時準備好而改變。IEA也指出，這類供給的限制在短期內會抑制成長。

不停機的作法：準備備援

資料中心在設計時，就假設任何機器總有一天會壞。因此重要的是，消除「只要1處停止，整體就停止」的地方。這種弱點稱為單一故障點。

常用的是「N+1」的想法。把需要的台數設為N，再多準備1台。例如空調4台就夠，就放5台。即使1台故障，或為了檢修而停機，剩下的4台也能繼續冷卻。

想要更周全，就把需要的整套設備準備2組。這稱為「2N」。即使其中一組全部停止，另一組也能繼續運作。相對地，費用也比較高。

也有表示建築物防備程度的等級。代表性的是Uptime Institute的「Tier」，共4個等級。Tier是「層級」的意思。Tier I是沒有備援的基本構造，檢修時要讓整體停機。Tier II在UPS和空調等機器上有備援。Tier III的電力和空調路徑也有2條，任何設備都能在不中斷服務的情況下檢修。Tier IV更進一步，即使1台機器故障，或路徑有1處中斷，也不會停止。

雲端業者會在同一地區準備多座這樣的建築物。電源和空調彼此獨立的一群建築物，稱為可用區域。這是為了即使整棟建築物停擺，也能在另一群建築物繼續運作。

在資料中心裡工作的晶片

資料中心也是半導體晶片的集合體。不只計算，記憶、通訊和電力轉換，也都有晶片在工作。

把伺服器連上網路的零件，稱為NIC（網路卡）。插線的接口和負責收發的晶片做成一體。在AI的計算中，數千顆GPU要彼此交換資料。因此，通訊的速度已經會左右計算的速度。

交換器的核心，裝著只專注於分配資料的專用晶片。像這樣為1種用途打造的晶片，稱為ASIC。比起什麼都能做的CPU，它能更快、更省電地完成固定的工作。主要的晶片整理如下表。

常見的誤解

從數字來看

AI產品的數字，每推出新世代就會變大。上表是各年度當時的數字。

進一步學習

• 用計算試試看：可用率計算工具（機器變成2台時，停機時間能減少多少）
• 用計算試試看：接面溫度計算器（從耗電和散熱難易度，求出晶片的溫度）
• 用表格看差異：SSD與HDD的差異、CPU、GPU、NPU的差異
• 下一步的用語：磁碟陣列（RAID）（用多台磁碟保護資料）、負載平衡器（把工作分配給伺服器）、熱阻（熱不容易散出的程度）
• 相關文章：「記憶體和儲存空間有什麼不同？」「生成式AI怎麼運作？」