テクノロジー

ローカルLLMを動かすハードウェア - きしだのHatena
2026/05/13 04:04 コメント 15件
1: nguyen-oi 2026/05/14 07:40

RTX5090が60万超えとかもう個人でLLM動かすのは富豪の趣味だな

2: strawberryhunter 2026/05/14 08:25

真のガチローカルLLMは家庭用の電力契約と壁のコンセントでは無理で、電線からの配線も引き直す必要がある場合がある。夏季の排熱問題もあるので、まずダクトや空調設備から。GPUはその後に考えれば良い。

3: akghuaiooajt 2026/05/14 08:26

こう見ると4060tiがよいみたいに見えるがマザボ、電源、あと所詮二枚刺しというハードルと値段が上がることがデメリットが隠れてる

4: yarumato 2026/05/14 08:46

“Ryzen AI Max+ 395搭載の128GBのEVO-X2が48万円。DGX Spark互換のGX10が58万円。Mac Studioの96GBが60万円。GPUであれば、RTX 5060 Ti 16GBを2枚挿しが安く20万弱で32GBを得る”

5: beeeyond 2026/05/14 08:48

大部分がVRAM 8~16GBで4～9Bぐらいが限界じゃないかなと。頑張ってMoEのA3B。ローカルはロマンあるけどかかるコストが富豪向けすぎる。安い時期に買ってた中古のRX7900XTXで27Bモデル使ってはいるけど。

6: jiro68 2026/05/14 08:48

GMKtec EVO-X2 128GBが50万円弱か1年前なら約半額だったが、昨今の半導体価格を見ていると倍で済んでいれば安い？ LLM目的ならDGX Spark 互換機が +10万円なのでそちらを選んだ方が幸せかも。どちらにしても手が届かなすぎるが。

7: agricola 2026/05/14 08:56

AMDのRX9060 16GB×2枚が一番安いんだが（※ただし性能とホストの足回りは考慮しない）。↓富豪の趣味？プロ用のRTX PRO 6000 Blackwellでも軽自動車1台分だが、軽自動車は富豪の趣味か？年始にEVO-X2買っといてよかったわw

8: ndanna 2026/05/14 09:29

メモ

9: fusionstar 2026/05/14 09:43

EVO-X2 が二十五万円くらいのときに買っておかなかったの人生で六番目くらいに後悔してる。 https://www.bosgamepc.com/products/bosgame-m5-ai-mini-desktop-ryzen-ai-max-395 こっちのが少し安いね。

10: eartht 2026/05/14 09:58

5060ti の2枚挿し…。単純に倍とはいかないだろうな。効果が出るシーンは限定されそう

11: PerolineLuv 2026/05/14 10:17

ほぼアフィリエイトリンクだった

12: shag 2026/05/14 10:19

RTX 5600 Ti * 2 でも動くのか。確かに変な中古買うよりよさそう。

13: nomuken 2026/05/14 10:30

なんか、値段見て「結構です」としか

14: taka_pop 2026/05/14 10:40

ロマンはあるが、コストが高い。もっと安くならないかなと思うが、最近はむしろ高くなっているか。

15: ryunosinfx 2026/05/14 10:53

RX Pro9700上げるなら同じコアのRX9070XTのDualの方がRTX5600Tiより速くて安そう。問題は消費電力とGPU二枚刺しは一般向けはママ板選べばGPU間のPCIeレーン数が８でメインメモリ並みの帯域でアクセスはできなくはないが遅い。