AIインフラの最新技術動向2026 (OCP China)

KV Cacheの爆発でメモリと記憶がボトルネックになる話は凄く参考になるスライドだな。液浸冷却の排熱で温泉作ったら観光スポットになりそう

「データセンター電力需要」の中身が詰まってるな～。ラックまでは高圧直流とは。

おもしろい資料だった。まぁオレのビジネス直結ではないから一次資料の調査はしないｗ

ここ数年で水冷化の流れが一気に来た感がある。爆熱で大飯食らいなGPUは、将来的にはボトルネックになっていくのだろう。

CPUとGPU協調化、KV Cache爆発、電力・冷却前提の部品進化

AIインフラの最新技術動向2026 (OCP China) - Speaker Deck

ラックあたり100kWはヤベー。エンプラ界隈民には俄かに信じられない。