テキスト生成せずに分類や確率だけ高速で返すモデル、実サービスへの組み込みで需要高そう
Layaは誤検知が多く、早々に検証を切り上げましたが、速さではダントツ。でもkevもそこそこ速く、かつ性能がJevに劣らないので、私はKevとQwenを使っています。https://zenn.dev/null_teck/articles/local-jev-reproduce
Imajev 4bがいいよ https://github.com/mohit67890/imajev
Jevのオープンソース版「Laya」を使ってみた:考えずに、直感で即答する元祖「System One Models」 - GMOインターネットグループ グループ研究開発本部
テキスト生成せずに分類や確率だけ高速で返すモデル、実サービスへの組み込みで需要高そう
Layaは誤検知が多く、早々に検証を切り上げましたが、速さではダントツ。でもkevもそこそこ速く、かつ性能がJevに劣らないので、私はKevとQwenを使っています。https://zenn.dev/null_teck/articles/local-jev-reproduce
Imajev 4bがいいよ https://github.com/mohit67890/imajev