テクノロジー

ローカルLLMは本当に手元で動くのか? ハードウェアとモデルの現実的な選び方【2026年春】

1: nguyen-oi 2026/05/22 11:02

VRAMはあればあるほど良いのは分かってるけどMac miniのコスパがやはり強いな。Gemma 4が8GBでも実用レベルなのは夢があるわ

2: doko 2026/05/22 11:50

例えばChatGPTをみたときに、どこまでがモデル単体由来なのか、どこまでがChatGPTならではの秘伝の味噌なのかがよくわからんのだよなぁ

3: OkadaHiroshi 2026/05/22 11:52

Rayzen AI MAX+ 395を搭載し128GBのRAMを積んだたマシンのほうがMacよりコスパが良いと思う。

4: ooootata 2026/05/22 12:30

さっきドスパラでGX10の値段を確認したら72万になっててコーヒー噴いた。

5: pendamadura 2026/05/22 12:58

CUDAのないハードはとにかく遅いから用途がかなり限られる。GeForceが高いのには理由がある

6: beeeyond 2026/05/22 13:27

RADEONもVulkanかROCmでまぁ動く。環境構築やROCm (TheRock)の改善を含めて楽しんでる勢。LLMが目的ならGeForceは確かにそう。ただミドル以下、VRAM 8GBが多いのがネックで昔買った2080Tiがここで役に立つとは思ってなかった。

7: rdlf 2026/05/22 13:40

64GB搭載したMacBook Pro M5を買ったけど、48GBで十分だったかな…と思っていたら「複数モデルの使い分け」だと?!でもどうやるんだ?

8: yorkfield 2026/05/22 14:06

ちょっと上を見ると100万円を突破する恐ろしい世界。いつか128GBクラスが10万円台で手に入る時代は来るのかなあ。(最近のメモリ値上がりでむしろ遠のいたか?)

9: WildWideWeb 2026/05/22 15:17

比較として成り立たないよ、と言われて終わりそうだけど今のNVIDIA のポジションってSGI(シリコングラフィックス)がブイブイ言ってた時の雰囲気に似てきたな、と一瞬だけ思いました。

10: bakuhate 2026/05/22 15:29

GX10手元にあるしLLM動くけど正直設定面倒な割に異常に遅くなったりエラー吐いたりするからめんどくさくなって結局普通にClaude実行しちゃうんだよね。コストが割に合わなくなるまでちょっと遊ぶくらいしかできない。

11: Imamura 2026/05/22 16:17

上を見るときりがないですなあ。VRAM12GBのRTX3060でもある程度できるみたいだけど、わざわざローカルで使う用途が思い浮かばない

12: devrabi 2026/05/22 16:49

Sonnetがローカルで無制限に使えるなら良いですが、そこまでいかないものならあまり嬉しくないかなあ

13: misshiki 2026/05/22 17:44

ローカルLLMは翻訳・要約・文書処理なら8~24GB級でも実用圏。AIコーディングなど重い用途は当面クラウドが現実的。まず手元環境で用途を見極めるのが推奨。

14: tomono-blog 2026/05/22 17:46

こうなってくると、なかなかメモリの値段は高騰したままになりますね。。

15: kazuau 2026/05/22 19:44

Ryzen AIシリーズも取り上げてほしかった。評価が一定しないんだよね

16: jintrick 2026/05/22 21:50

Gemmaモデルに対応してさあこれからってときによぉ〜 Gemini CLI

17: bluescreen 2026/05/22 22:29

とても買えないしローカルLLMするほどAI使わないけど、こういう記事みるだけで楽しいね。

18: sotonohitokun 2026/05/22 23:54

GB10もとが取れる人と取れない人で分かれるね。こうすればサブスク切れる、経理楽になるみたいな面倒くさい問題発見+解決が好きな人が持つと令和のマクロ職人みたいになる系。