これぐらいの大きさがローカルの最大許容範囲かもね。早速動かしてみますよ。数兆とかはプロ向けも公開しますよ。って感じだもの。
来たわね
来年の今頃にはこれくらいのパラメータ数でもFable5級になってるに10ドル賭ける
試す
DLが遅いねんな…
今回はMoE版出してくんないのかな~ Denseだと遅くて…
“Qwen3.8-27B” /Alibaba Cloud
なんでもAIに頼らず自分でやるべきです
やはり小型モデルが本命。3.6 Q8 でも DeepSeek-V4-Flash Q2 (アクティブ13.3B)より少し遅いくらいだったので、これも期待できる。後で試す。→Q8は遅い。性能も期待外れだった。
いま無理して強めのマシンを買っておくべきかなあ…
16GBで動かすとなると動くには動くけどギリギリすぎるVRAM24GBのグラボがほしいな
Qwen3.0-4Bを使うKrea2が日本語Promptで英語Promptとそん色のない細かい指示に従う画像生成できているのをみて、Qwen系を見直すとともに、恐怖を覚えてる。利用者としてはQwen系を絶賛してるが、安全保障上は怖い。
35B-A3BでCPUでやりたい
つかうサイズは?
16GBでは実用的な動きはしないので3090、4090、5090を持っていればという感じ
「Qwen3.8-27B」ついに公開!3.6を大きく上回る性能でローカルAIの定番になるか
これぐらいの大きさがローカルの最大許容範囲かもね。早速動かしてみますよ。数兆とかはプロ向けも公開しますよ。って感じだもの。
来たわね
来年の今頃にはこれくらいのパラメータ数でもFable5級になってるに10ドル賭ける
試す
DLが遅いねんな…
今回はMoE版出してくんないのかな~ Denseだと遅くて…
“Qwen3.8-27B” /Alibaba Cloud
なんでもAIに頼らず自分でやるべきです
やはり小型モデルが本命。3.6 Q8 でも DeepSeek-V4-Flash Q2 (アクティブ13.3B)より少し遅いくらいだったので、これも期待できる。後で試す。→Q8は遅い。性能も期待外れだった。
いま無理して強めのマシンを買っておくべきかなあ…
16GBで動かすとなると動くには動くけどギリギリすぎるVRAM24GBのグラボがほしいな
Qwen3.0-4Bを使うKrea2が日本語Promptで英語Promptとそん色のない細かい指示に従う画像生成できているのをみて、Qwen系を見直すとともに、恐怖を覚えてる。利用者としてはQwen系を絶賛してるが、安全保障上は怖い。
35B-A3BでCPUでやりたい
つかうサイズは?
16GBでは実用的な動きはしないので3090、4090、5090を持っていればという感じ