単にそのPCのVRAM容量に収まる最大モデルを示すのではなく動く中で相性良い実用な最適モデルをランキング10で教えてくれる。最新情報の複数ベンチマークを基に速度,世代,量子化,サイズ等を加味して決定
CLIからAIを使うつもりはなかったが、ローカルLLMで動くのなら使ってみようかな。10年以上前のノートPCでも動くのかはかなり疑問ではあるが…
VRAMに入る中で一番賢いモデルを選んでくれるの有能。いちいち試す手間が省けるな
エンジンなりCLIなり、用途で選ぶモデルって変わる。CodexCLIとOpenCLIも同じモデル・同じ指示でも挙動は変わる。 Qwen27B/50TPSとGemma31B/150TPSなら、ベンチ性能で多少劣っても、調査・壁打ち・Diff確認的高速往復目的なら後者だろ
この界隈の得体の知れないコマンド実行するのこわE
1週間で順位変わってるんやろな
こんなサービス、あった(できた)のか?!極めて有用
こいつ(まともに)動くのか?
gigazineが取り上げてたllm-checkerってのもあるしなぁ。比べてみるか
WebでVRAMとか入力すれば表示できるのに危険すぎると前から思っている。
“whichllm”
githubここか。 https://github.com/Andyyyy64/whichllm/blob/main/docs/README.ja.md
この手のツールや指南表はいくらでもあるが、実質的に用途やスペックに合わせて調整出来る要素が無くグラボありならQwen3.6 35B-A3B、内蔵GPUならGemma 4などその時々の一強が決まっていてほぼ意味が無い
自分のPCで「とりあえず動く」ではなく「一番賢く使える」ローカルLLMを教えてくれる「whichllm」、実測ベンチでランク付け(生成AIクローズアップ) | テクノエッジ TechnoEdge
単にそのPCのVRAM容量に収まる最大モデルを示すのではなく動く中で相性良い実用な最適モデルをランキング10で教えてくれる。最新情報の複数ベンチマークを基に速度,世代,量子化,サイズ等を加味して決定
CLIからAIを使うつもりはなかったが、ローカルLLMで動くのなら使ってみようかな。10年以上前のノートPCでも動くのかはかなり疑問ではあるが…
VRAMに入る中で一番賢いモデルを選んでくれるの有能。いちいち試す手間が省けるな
エンジンなりCLIなり、用途で選ぶモデルって変わる。CodexCLIとOpenCLIも同じモデル・同じ指示でも挙動は変わる。 Qwen27B/50TPSとGemma31B/150TPSなら、ベンチ性能で多少劣っても、調査・壁打ち・Diff確認的高速往復目的なら後者だろ
この界隈の得体の知れないコマンド実行するのこわE
1週間で順位変わってるんやろな
こんなサービス、あった(できた)のか?!極めて有用
こいつ(まともに)動くのか?
gigazineが取り上げてたllm-checkerってのもあるしなぁ。比べてみるか
WebでVRAMとか入力すれば表示できるのに危険すぎると前から思っている。
“whichllm”
githubここか。 https://github.com/Andyyyy64/whichllm/blob/main/docs/README.ja.md
この手のツールや指南表はいくらでもあるが、実質的に用途やスペックに合わせて調整出来る要素が無くグラボありならQwen3.6 35B-A3B、内蔵GPUならGemma 4などその時々の一強が決まっていてほぼ意味が無い