【投資專欄-跟楓走52】壓縮技術破壞了HBM 需要？ 稀缺性從此改寫？

【投資專欄-跟楓走52】當市場仍聚焦於 AI 算力競賽與 GPU 軍備競賽之際，一項看似不起眼、卻極具顛覆性的技術——KV Cache 壓縮，正悄然重塑整個記憶體需求的底層邏輯。過去，大語言模型在推理過程中，為了維持長上下文能力，必須將歷史 token 的 Key 與 Value 持續儲存在高速記憶體之中。這些資料會隨推理時間不斷累積，直接推高對高頻寬記憶體（HBM）的依賴，甚至成為限制推理效率與成本的核心瓶頸。

然而，隨著 TurboQuant、kvtc 等壓縮技術逐步成熟，KV Cache 不再是「只能擴張、難以壓縮」的負擔。透過降維、量化與編碼等方法，記憶體佔用有機會下降至原來的二十分之一，甚至六十四分之一。這種變化的本質，不只是技術優化，而是將「記憶體需求」由硬體堆疊，轉向軟體效率的提升。換言之，同一個 AI 推理任務，未來可能在更低配置的 GPU 與更少的 HBM 下完成，整體資源使用效率顯著提升。

這首先衝擊的，是單台 AI 伺服器對 HBM 容量的需求結構。過去，雲端服務商為支援長上下文、多用戶並發與企業級應用，往往傾向選擇高 HBM 容量的 GPU，以確保效能與穩定性。但當 KV Cache 可被高效壓縮後，同一張 GPU 能承載更多請求，記憶體壓力下降，對極高容量 HBM 的依賴自然減弱。這並非需求消失，而是需求的「效率化」。

更深層的影響，在於推理端對 HBM 的邊際需求開始出現結構性轉變。過去市場習慣以「增加 GPU 數量與記憶體容量」作為解決需求增長的主要手段，但未來，部分需求將轉向軟體與系統優化。當記憶體效率顯著提升，企業不一定需要再透過最昂貴的硬體來堆疊性能，而是透過算法與架構設計降低成本。這將改變 HBM 訂單的增長斜率——不一定立即減少總需求，但增速可能放緩。

同時，企業在 AI 基建上的採購邏輯亦將隨之改變。過去「記憶體越多越好」的思維，可能逐步讓位於「整體推理成本與吞吐效率最大化」。當「較低 HBM 配置 + 高效壓縮」可以達到接近甚至相同效果時，高端 HBM 的議價能力將面臨一定壓力。這種變化，本質上是將價值從硬體轉移到軟體與系統整合能力。

不過，這並不意味著 HBM 的長期需求會出現斷崖式下跌。首先，在模型訓練端，HBM 仍然不可或缺。無論是模型權重、激活值，還是分散式訓練，都高度依賴高頻寬記憶體，而這部分需求並未因 KV Cache 壓縮而減少。其次，當推理成本下降，反而可能促進更多應用場景爆發，例如 AI Agent、多模態服務以及企業級部署，進一步推高整體算力需求。最終形成的局面，很可能是「單次使用量下降，但總體需求上升」。

延伸到資本市場層面，近期記憶體板塊的波動，正反映這種「敘事轉變」帶來的衝擊。例如三星與 SK 海力士股價的回調，某程度上與市場對「推理端 HBM 需求或被技術削弱」的預期有關，但這並非單一因素。市場更深層的擔憂在於，未來記憶體需求的爆發力，可能不再單純依賴硬體堆疊，而需要依靠應用與效率提升來驅動。

另一方面，近期 DDR5 價格出現回落，加上市場對 Google 記憶體壓縮技術的關注，亦進一步放大了這種不安情緒。零售端 DDR5 價格在 3 月明顯下跌，部分產品單月跌幅超過 7%，甚至達百美元級別，令市場開始擔心記憶體景氣是否已見頂。同時，相關技術突破引發「AI 對 DRAM 需求會否被抵消」的疑慮，導致包括 Micron 在內的記憶體股出現急跌，市值短時間大幅蒸發。

這兩項因素疊加，觸發了原本已累積可觀升幅的 HBM 與 DRAM 概念股出現集體獲利了結與風險釋放。然而，從基本面來看，目前 HBM 與伺服器 DRAM 仍處於供不應求狀態，多家大廠的 HBM 產能甚至已鎖定至 2026 年底，顯示 AI 資本開支仍然維持高位。

根據機構預測，2026 年伺服器 DRAM 位元需求年增約 39%，HBM 更接近 50%至60%的增長。與此同時，主要記憶體廠正持續將產能由傳統 DRAM 與 NAND 轉向 HBM，反而令其他應用領域供應偏緊。即使短期 DDR5 價格回調，整體 DRAM 價格自 2025 年以來仍顯著高於疫情前水平，部分報告甚至預期這種高價結構可延續至 2027 年。

因此，KV Cache 壓縮技術的真正影響，並非直接削弱 HBM 的需求，而是動搖其「絕對稀缺性」的市場敘事。對股價而言，這種敘事層面的轉變，往往比基本面的實際變化來得更快、更劇烈。短期內，市場仍可能持續消化這種預期落差，帶來波動與估值調整；但從中長期來看，AI 記憶體的結構性需求，仍未被根本改寫。

文：莊主

(編按：本文觀點不代表加拿大星島立場，投資市場有賺有蝕，文章僅供讀者參考。)

作者：Ricky Lau ，人稱「莊主」。資產管理投資策略師、家族辦公室顧問、股評人、財經書籍《最佳位置》及《AI選美》作者。