テクノロジー

「メモリは8ギガで十分ですよ。勘弁してくださいよ」時代の到来。1ビットLLM「Bonsai 8B」を8GBのMacBook Neoで動かしてみたら爆速だった。1.1GBに8Bパラメータが入る驚き（CloseBox） | テクノエッジ TechnoEdge
2026/04/04 08:46 コメント 13件
1: nguyen-oi 2026/04/04 20:40

1bit化で8GBが延命されるの草。結局MacBook Neoでもメモリ増設不可なのは変わらんしな

2: habk 2026/04/04 20:45

理屈は分からないが 凄い進化だと理解した。📱で試してみたい。“8.2Bモデルが1.1GB。8GB MacBookで余裕で動く。Llama 3.1 8B（FP16で16GB）を超えるベンチスコア。「8GBでは3Bモデルが限界」と思い込んでいた壁が一気に崩れました"

3: isrc 2026/04/04 21:40

現時点での結論は品質重視：Tool Callingが必要なら、Bonsai 8B／速度重視：シンプルな会話ならSwiftLM + Qwen 2.5 3B。Tool Callingが不要な用途では、1.32倍速いSwiftLMが快適です。

4: taguch1 2026/04/04 22:30

へー試してみよ

5: awawann 2026/04/04 22:32

おー。これは期待か？

6: Islecape 2026/04/04 22:54

「いや24ギガだ。8ギガと8ギガと8ギガで24ギガだ」（※ユニファイドメモリ24GBは12GBメモリと12GBメモリの組み合わせらしいです）「・・・マウスもくれ」

7: hebomegane_sun 2026/04/04 23:07

試すけどまだ先のお話だなぁ

8: ssfu 2026/04/04 23:07

ちょっとなにいってるのわかんない

9: udongerge 2026/04/04 23:08

そこは「分かってくださいよ」だ

10: camellow 2026/04/04 23:32

メモリがギガ？メモリの単位はメガに決まってるだろ！と思ってしまう程度に酔ってるのでもう寝ます

11: OkadaHiroshi 2026/04/04 23:36

小型のモデルはやはり汎用性では大型のモデルに敵わないので、早晩、何がタスクをさるには特化したモデルを組み合わせて使うようになると思う、そうするとやはり8ギガでは足りなくなる。

12: cinq_na 2026/04/04 23:45

モデルの肥大化による性能向上に限界と予算が見えてきたんで、小さなモデルで同等の性能をってフェーズですかね。どうにもマネタイズ出来ないって未来が見えるけど、無いと困る程度には普及してるしどうしよう。

13: georgew 2026/04/04 23:49

被せに行ってはいるものの微妙に違ってる Blade Runner の謎セリフが刺さる。