量子化モデルならVRAM8GBのGPUでギリ動くか、厳しいか
丁度いいサイズ感
VRAM16GBで動くのは夢があるな。ゲーミングノートの使い道がやっとマイニング以外に見つかりそう
新しいのが出る度に入れ替えているが、正直、頭が良くなっているのか、分からない。
ollamaの pre release版が必要っぽい。様子見
claude codeとかcodexが従量課金になったらみんなこっちに流れてしまうのかな。そうならないためにも定額残しておいてほしいし、そのためにも頑張ってほしい
我が家のM4Air32Gでも十分使えるようで助かる。複数台を繋いで役割分担が相応しいかも。
LM StudioだとRuntime最新にしてもロードに失敗するな・・・
16GBぐらいに乗るサイズ感はありがたい。どこかで試してみよ。
unsloth最新版でロード成功。日本語がちょっと苦手のようだ
LM Studio 自体をアップデートすれば LM Studio でも動いたよ（windows）コンテスト長20000で10.30G
“何がすごいって、VRAM16GBで動作するとされていること。ノートPC向けに設計されています。”
スマホに搭載できないとインパクトあんまり無くないか。良いグラボが必要だから業務PCだと動かないし中途半端だと思う
（すぐに試せてる人が結構いるんだな〜。）
Gemma 4 E2Bが既にスマホでも実用的に動くので12Bをわざわざスマホでも動くようにする必要はないですね
このグラボ高騰時代にVRAM16Gで設計されてもさぁ…。
Googleが「Gemma 4 12B」をリリース。ノートPCで動いて26B級の性能、またお化けローカルLLM | ギズモード・ジャパン
量子化モデルならVRAM8GBのGPUでギリ動くか、厳しいか
丁度いいサイズ感
VRAM16GBで動くのは夢があるな。ゲーミングノートの使い道がやっとマイニング以外に見つかりそう
新しいのが出る度に入れ替えているが、正直、頭が良くなっているのか、分からない。
ollamaの pre release版が必要っぽい。様子見
claude codeとかcodexが従量課金になったらみんなこっちに流れてしまうのかな。そうならないためにも定額残しておいてほしいし、そのためにも頑張ってほしい
我が家のM4Air32Gでも十分使えるようで助かる。複数台を繋いで役割分担が相応しいかも。
LM StudioだとRuntime最新にしてもロードに失敗するな・・・
16GBぐらいに乗るサイズ感はありがたい。どこかで試してみよ。
unsloth最新版でロード成功。日本語がちょっと苦手のようだ
LM Studio 自体をアップデートすれば LM Studio でも動いたよ（windows）コンテスト長20000で10.30G
“何がすごいって、VRAM16GBで動作するとされていること。ノートPC向けに設計されています。”
スマホに搭載できないとインパクトあんまり無くないか。良いグラボが必要だから業務PCだと動かないし中途半端だと思う
（すぐに試せてる人が結構いるんだな〜。）
Gemma 4 E2Bが既にスマホでも実用的に動くので12Bをわざわざスマホでも動くようにする必要はないですね
このグラボ高騰時代にVRAM16Gで設計されてもさぁ…。