ROCm 10が出ているので、そちらを使うとどうなるか。AMD公称だと大幅に高速化するらしいが
持ってたけど書かれているようにファンの音がでかすぎて同居できなかった
『常時300W張り付き』……マッチョやなぁ(・ω・)
AMDは昔から省電力化が苦手だからな
関連で自環境だと4060ti(16GB)に3060(12GB)増設も選択肢としては良かった／Qwen3.6-27B: (tg)30t/s, (pp)900t/s、 Qwen3.6-35B-A3B: (tg)85t/s, (pp)2100t/s (＠MTP, KV:Q8, 150k context)／5090単体だとQwen3.8-27Bで(tg)~150t/s, (pp)~5000t/sくらい出るものの
RTX 4070 TiからRadeon AI PRO R9700へ。32GB VRAMでローカルLLMベンチの値はどう変わったか？ - uepon日々の備忘録
ROCm 10が出ているので、そちらを使うとどうなるか。AMD公称だと大幅に高速化するらしいが
持ってたけど書かれているようにファンの音がでかすぎて同居できなかった
『常時300W張り付き』……マッチョやなぁ(・ω・)
AMDは昔から省電力化が苦手だからな
関連で自環境だと4060ti(16GB)に3060(12GB)増設も選択肢としては良かった／Qwen3.6-27B: (tg)30t/s, (pp)900t/s、 Qwen3.6-35B-A3B: (tg)85t/s, (pp)2100t/s (＠MTP, KV:Q8, 150k context)／5090単体だとQwen3.8-27Bで(tg)~150t/s, (pp)~5000t/sくらい出るものの