隨著記憶體廠商在高頻寬記憶體（HBM）領域持續突破，來自韓國科學技術院（KAIST）的金正浩（Joungho Kim）教授指出，當 HBM5 預計於 2029 年左右邁入商用化階段，散熱技術將取代封裝技術，成為產業競爭的新關鍵。這項觀察來自《The Elec》報導，內容揭示出 HBM 技術演進背後的一場「冷卻系統升級戰」。
Kim 教授指出，從 HBM4 開始，記憶體的基板（base die）已逐步承擔起 GPU 的部分運算任務，造成晶片整體發熱量大幅提升。雖然目前 HBM4 採用的液冷方式仍將冷卻液導入封裝上方的散熱片，但此一作法在未來幾代 HBM 發展中將遭遇瓶頸。因此，進入 HBM5 後，整體冷卻機制將邁入「浸沒式冷卻（immersion cooling）」的新階段，意即晶片基板與整個封裝皆浸泡在冷卻液中，以確保熱效能穩定運作。
HBM技術藍圖：從散熱創新到立體異質封裝
根據 KAIST Teralab 最新公布的技術藍圖，HBM4 至 HBM8 將涵蓋從 2025 至 2040 年的發展，橫跨記憶體堆疊架構、TSV（穿矽通孔）密度、互連技術與冷卻方式等核心變革。特別是在 HBM7 階段，散熱將被進一步內嵌進記憶體堆疊結構中，冷卻液可直接流經 DRAM 堆疊間的通道，屆時將出現「流體型 TSV（fluidic TSVs）」技術，為業界帶來前所未有的技術門檻。
此外，Kim 教授也提到，未來 HBM 的基板可能會從目前位於最底部的位置，透過異質整合與先進封裝技術，移動至記憶體堆疊的頂端，進一步優化效能與熱管理。除現有 TSV 外，新的導熱通孔形式如熱通孔（TTVs）、閘級 TSV（gate TSVs」與TPVs也將逐步引入，建立起「垂直冷卻＋封裝整合」的技術路線。
傳統以容量、頻寬、延遲為主的記憶體競賽，在 HBM 時代已悄然轉向熱管理、封裝與空間利用率的新賽道。尤其是 AI、大型語言模型與高階 HPC（高效能運算）對算力的飢渴，使 HBM 不再只是配角，而是成為晶片系統設計的核心主角。
冷卻方式的變革不僅是硬體技術的升級，更將直接影響供應鏈、測試流程乃至晶圓廠的基礎設施佈局。誰能率先掌握「冷卻即效能」的新邏輯，誰就有機會在下一波 HBM 戰役中拔得頭籌。散熱，正從一個附屬條件，變成半導體產業的新護城河。（原文出處）
