メモリ32GBだとエージェント動かすにはカツカツだな。結局VRAMとメモリの暴力が必要になる
今般のAIブーム以前から「AIとはGPUで実行される物であり、その他のパーツは無意味」と決まっているのに、何故人は「ストレージをケチって奢ったインテルの高性能CPUと16GBのメインメモリでエーアイ」に夢を見るのか
バイオニック・ジェミーを思い出しつつブクマ
次のブレイクスルーを待つ。
ミニPCっていってもピンキリだろうに。 文書内にサラッと書いてあるだけ。 Ryzen A I9 はい。解散。
LM StudioとAIモデル共用してくれるので、またDLしなくて済むのは済むのはありがたいけど、内蔵GPUでエージェント動かすのは、あまり実用的じゃないわな。bonsai27Bでもキツい
カツカツギリギリ動いたとて、おなじPCで他の作業はできないので結局もう一台いる→メモリ高ぇ＼(^o^)／
メモリちゃん…お高すぎるわよ
最近よく絶賛されてるQwen3.8-27Bは遅くて性能が悪い代物で、DeepSeekみたいなより大きいモデルを動かせるに越したことはない。ローカルLLMガチ勢を名乗るためのハードウェア要件は今でも甘くない。
32GB の Mac Mini だとどのくらい動くんだろう…
Strata と組み合わせたらどうなるかな?
32GBのミニPCでLM Studio Bionicを検証。Qwen 3.5 9Bは20本のPDFから約16分でPPTXと原稿を作成。画像抽出では誤答や1時間半超の処理も。メモリ容量と用途別のモデル選びが重要。
うーむ
【特集】 ミニPCでローカルAIエージェントはどこまで動く？「LM Studio Bionic」で試した
メモリ32GBだとエージェント動かすにはカツカツだな。結局VRAMとメモリの暴力が必要になる
今般のAIブーム以前から「AIとはGPUで実行される物であり、その他のパーツは無意味」と決まっているのに、何故人は「ストレージをケチって奢ったインテルの高性能CPUと16GBのメインメモリでエーアイ」に夢を見るのか
バイオニック・ジェミーを思い出しつつブクマ
次のブレイクスルーを待つ。
ミニPCっていってもピンキリだろうに。 文書内にサラッと書いてあるだけ。 Ryzen A I9 はい。解散。
LM StudioとAIモデル共用してくれるので、またDLしなくて済むのは済むのはありがたいけど、内蔵GPUでエージェント動かすのは、あまり実用的じゃないわな。bonsai27Bでもキツい
カツカツギリギリ動いたとて、おなじPCで他の作業はできないので結局もう一台いる→メモリ高ぇ＼(^o^)／
メモリちゃん…お高すぎるわよ
最近よく絶賛されてるQwen3.8-27Bは遅くて性能が悪い代物で、DeepSeekみたいなより大きいモデルを動かせるに越したことはない。ローカルLLMガチ勢を名乗るためのハードウェア要件は今でも甘くない。
32GB の Mac Mini だとどのくらい動くんだろう…
Strata と組み合わせたらどうなるかな?
32GBのミニPCでLM Studio Bionicを検証。Qwen 3.5 9Bは20本のPDFから約16分でPPTXと原稿を作成。画像抽出では誤答や1時間半超の処理も。メモリ容量と用途別のモデル選びが重要。
うーむ