既存の LLM が CPU なら、 Jev はその GPU 版みたいなやつ

"デモを見ると、大量の skills から適切な skill を選ぶ、ということもできそうです。サンプルでは Hermes Agent は 186個のツールを持っていますが、どれを使うといいかをバッチ一つでスコアリングして、高いものを選ぶ"

まとめありがたい。久々にツールとして応用の幅が広そうな新しいおもちゃが出てきた。応答が早いというのは重要だ

高速なら活きてきそうなAIで思い浮かぶのはIMEの漢字変換だけど、日本語とか扱えるのかな… しかし非言語的な判断課題とか、学習でそんなに汎化できるものなのだろうか。