經濟日報
Supermicro 攜手 IBM 及 NVIDIA 推出 KV Cache 解決方案,展現顯著推論效能優勢
這套 KV(鍵值)cache 解決方案整合 Supermicro Petascale 儲存伺服器、IBM Storage Scale 軟件、NVIDIA Dynamo 推論軟件及 NVIDIA Spectrum-X 乙太網絡交換器 效能測試顯示,相較未使用 KV cache 的系統,這套解決方案可縮短長上下文視窗下的首個詞元生成時間(TTFT) 客戶可透過提升 GPU 使用率、吞吐量及基建擴展能力,大幅改善推論效率 加州聖荷西2026年11月5日 /美通社/ -- Supermicro, Inc.(納斯達克股票代碼:SMCI)今日宣佈,攜手 IBM 及 NVIDIA 推出全新的 KV cache 儲存解決方案。Supermicro 是一家涵蓋 AI、企業級運算、儲存及 5G/邊緣領域的整體 IT 解決方案供應商,提供 Data Center Building Block Solutions®(DCBBS)。這套聯合解決方案整合了採用 AMD EPYC 9005 系列處理器(「Turin」)的 Supermicro Petascale 全快閃儲存伺服器、IBM Storage Scale





























































