VRAMはあればあるほど良いのは分かってるけどMac miniのコスパがやはり強いな。Gemma 4が8GBでも実用レベルなのは夢があるわ
例えばChatGPTをみたときに、どこまでがモデル単体由来なのか、どこまでがChatGPTならではの秘伝の味噌なのかがよくわからんのだよなぁ
Rayzen AI MAX+ 395を搭載し128GBのRAMを積んだたマシンのほうがMacよりコスパが良いと思う。
さっきドスパラでGX10の値段を確認したら72万になっててコーヒー噴いた。
CUDAのないハードはとにかく遅いから用途がかなり限られる。GeForceが高いのには理由がある
RADEONもVulkanかROCmでまぁ動く。環境構築やROCm (TheRock)の改善を含めて楽しんでる勢。LLMが目的ならGeForceは確かにそう。ただミドル以下、VRAM 8GBが多いのがネックで昔買った2080Tiがここで役に立つとは思ってなかった。
64GB搭載したMacBook Pro M5を買ったけど、48GBで十分だったかな…と思っていたら「複数モデルの使い分け」だと?!でもどうやるんだ?
ちょっと上を見ると100万円を突破する恐ろしい世界。いつか128GBクラスが10万円台で手に入る時代は来るのかなあ。(最近のメモリ値上がりでむしろ遠のいたか?)
比較として成り立たないよ、と言われて終わりそうだけど今のNVIDIA のポジションってSGI(シリコングラフィックス)がブイブイ言ってた時の雰囲気に似てきたな、と一瞬だけ思いました。
GX10手元にあるしLLM動くけど正直設定面倒な割に異常に遅くなったりエラー吐いたりするからめんどくさくなって結局普通にClaude実行しちゃうんだよね。コストが割に合わなくなるまでちょっと遊ぶくらいしかできない。
上を見るときりがないですなあ。VRAM12GBのRTX3060でもある程度できるみたいだけど、わざわざローカルで使う用途が思い浮かばない
Sonnetがローカルで無制限に使えるなら良いですが、そこまでいかないものならあまり嬉しくないかなあ
ローカルLLMは翻訳・要約・文書処理なら8~24GB級でも実用圏。AIコーディングなど重い用途は当面クラウドが現実的。まず手元環境で用途を見極めるのが推奨。
こうなってくると、なかなかメモリの値段は高騰したままになりますね。。
Ryzen AIシリーズも取り上げてほしかった。評価が一定しないんだよね
Gemmaモデルに対応してさあこれからってときによぉ〜 Gemini CLI
とても買えないしローカルLLMするほどAI使わないけど、こういう記事みるだけで楽しいね。
GB10もとが取れる人と取れない人で分かれるね。こうすればサブスク切れる、経理楽になるみたいな面倒くさい問題発見+解決が好きな人が持つと令和のマクロ職人みたいになる系。
ローカルLLMは本当に手元で動くのか? ハードウェアとモデルの現実的な選び方【2026年春】
VRAMはあればあるほど良いのは分かってるけどMac miniのコスパがやはり強いな。Gemma 4が8GBでも実用レベルなのは夢があるわ
例えばChatGPTをみたときに、どこまでがモデル単体由来なのか、どこまでがChatGPTならではの秘伝の味噌なのかがよくわからんのだよなぁ
Rayzen AI MAX+ 395を搭載し128GBのRAMを積んだたマシンのほうがMacよりコスパが良いと思う。
さっきドスパラでGX10の値段を確認したら72万になっててコーヒー噴いた。
CUDAのないハードはとにかく遅いから用途がかなり限られる。GeForceが高いのには理由がある
RADEONもVulkanかROCmでまぁ動く。環境構築やROCm (TheRock)の改善を含めて楽しんでる勢。LLMが目的ならGeForceは確かにそう。ただミドル以下、VRAM 8GBが多いのがネックで昔買った2080Tiがここで役に立つとは思ってなかった。
64GB搭載したMacBook Pro M5を買ったけど、48GBで十分だったかな…と思っていたら「複数モデルの使い分け」だと?!でもどうやるんだ?
ちょっと上を見ると100万円を突破する恐ろしい世界。いつか128GBクラスが10万円台で手に入る時代は来るのかなあ。(最近のメモリ値上がりでむしろ遠のいたか?)
比較として成り立たないよ、と言われて終わりそうだけど今のNVIDIA のポジションってSGI(シリコングラフィックス)がブイブイ言ってた時の雰囲気に似てきたな、と一瞬だけ思いました。
GX10手元にあるしLLM動くけど正直設定面倒な割に異常に遅くなったりエラー吐いたりするからめんどくさくなって結局普通にClaude実行しちゃうんだよね。コストが割に合わなくなるまでちょっと遊ぶくらいしかできない。
上を見るときりがないですなあ。VRAM12GBのRTX3060でもある程度できるみたいだけど、わざわざローカルで使う用途が思い浮かばない
Sonnetがローカルで無制限に使えるなら良いですが、そこまでいかないものならあまり嬉しくないかなあ
ローカルLLMは翻訳・要約・文書処理なら8~24GB級でも実用圏。AIコーディングなど重い用途は当面クラウドが現実的。まず手元環境で用途を見極めるのが推奨。
こうなってくると、なかなかメモリの値段は高騰したままになりますね。。
Ryzen AIシリーズも取り上げてほしかった。評価が一定しないんだよね
Gemmaモデルに対応してさあこれからってときによぉ〜 Gemini CLI
とても買えないしローカルLLMするほどAI使わないけど、こういう記事みるだけで楽しいね。
GB10もとが取れる人と取れない人で分かれるね。こうすればサブスク切れる、経理楽になるみたいな面倒くさい問題発見+解決が好きな人が持つと令和のマクロ職人みたいになる系。