ローカルのOrnithはテストした範囲・モデルだと、Qwenを使っておいた方が良い結果だった。高性能GPUで動かすデカいモデルにも他の選択肢がありそうだと思う。Ornithは話題ほどには使えない印象。
Ornith-1.0がOpus4.7並ってのもビビるしQwen3.6の4bit量子化もアツい。ここ最近の進化スピード本当にバグってて追いつけねえ
ちなNVFP4量子化のネイティブ対応はRTX5000シリーズ(Blackwell)から、それより前だと精度はともかく速度の恩恵が無い
この辺の追加学習モデル、量子化違いをいろいろ試し始めると沼る
Claude Opus 4.7に匹敵するコーディングAI「Ornith-1.0」、NVIDIAが「Qwen3.6」を軽量化4ビットモデルを商用利用可能で公開など生成AI技術5つを解説(生成AIウィークリー) | テクノエッジ TechnoEdge
ローカルのOrnithはテストした範囲・モデルだと、Qwenを使っておいた方が良い結果だった。高性能GPUで動かすデカいモデルにも他の選択肢がありそうだと思う。Ornithは話題ほどには使えない印象。
Ornith-1.0がOpus4.7並ってのもビビるしQwen3.6の4bit量子化もアツい。ここ最近の進化スピード本当にバグってて追いつけねえ
ちなNVFP4量子化のネイティブ対応はRTX5000シリーズ(Blackwell)から、それより前だと精度はともかく速度の恩恵が無い
この辺の追加学習モデル、量子化違いをいろいろ試し始めると沼る