テキスト生成せずに分類や確率だけ高速で返すモデル、実サービスへの組み込みで需要高そう
Layaは誤検知が多く、早々に検証を切り上げましたが、速さではダントツ。でもkevもそこそこ速く、かつ性能がJevに劣らないので、私はKevとQwenを使っています。https://zenn.dev/null_teck/articles/local-jev-reproduce
Jevのオープンソース版「Laya」を使ってみた:考えずに、直感で即答する元祖「System One Models」 - GMOインターネットグループ グループ研究開発本部
テキスト生成せずに分類や確率だけ高速で返すモデル、実サービスへの組み込みで需要高そう
Layaは誤検知が多く、早々に検証を切り上げましたが、速さではダントツ。でもkevもそこそこ速く、かつ性能がJevに劣らないので、私はKevとQwenを使っています。https://zenn.dev/null_teck/articles/local-jev-reproduce