なるほどな、ただ技術的な部分はわからん私みたいな素人でも部品としてイメージしやすいのがjevの魅力よな
単一トークンのlogit比較で高速化する検証とJevの立ち位置の考察が鋭い
なるほど参考になる。LLMでもかなり高速にJavと同じようなことができるぞと。
せめてテクニカルレポートぐらい出してほしい…現状ブラックボックスがすぎる
確率つってもニューラルでよくあるソフトマックス関数的なやつだよね？それともちゃんと計算してるんだろうか
それはそうで、コストとレイテンシが数十倍、数百倍違うという話。応用的にはリアルタイム性が必要な用途や、大量処理、特にLLMに入力させる前・予備処理としても意義があるだろう。あと日本からだとレイテンシが遅い
「専用化による優位性が今後どれだけ大きな価値を持つのかについては、まだ分からない」これ普通の反応なの？「Jevは画像入力には対応していないため...考えられます」ここも変じゃないかな公式情報に明記されてる。
「Jevが確率を正しく計算（推定・校正）できるモデルである」とされている点について書かれていないのが気になった。
用途だよね。安くて早い事で生きてくる領域は必ずある。精度はよく分からないが、確率を出してくれるらしいから、LLMがあたりをつけるための前処理に使おうかなー、とか。結果的にjevが正しいなら判断は任せられる
"Jevでは、単に数値を出すことではなく、その数値が確率論的・統計的に適切に校正（Calibration）された信頼できる推定量であることというのが大きなメリットであると開発元は主張しています。"
“この専用化による優位性が今後どれだけ大きな価値を持つのかについては、まだ分からないというのが現時点での感想”
TypeSafeのJevを正しく驚く、それってLLMでできませんか？
なるほどな、ただ技術的な部分はわからん私みたいな素人でも部品としてイメージしやすいのがjevの魅力よな
単一トークンのlogit比較で高速化する検証とJevの立ち位置の考察が鋭い
なるほど参考になる。LLMでもかなり高速にJavと同じようなことができるぞと。
せめてテクニカルレポートぐらい出してほしい…現状ブラックボックスがすぎる
確率つってもニューラルでよくあるソフトマックス関数的なやつだよね？それともちゃんと計算してるんだろうか
それはそうで、コストとレイテンシが数十倍、数百倍違うという話。応用的にはリアルタイム性が必要な用途や、大量処理、特にLLMに入力させる前・予備処理としても意義があるだろう。あと日本からだとレイテンシが遅い
「専用化による優位性が今後どれだけ大きな価値を持つのかについては、まだ分からない」これ普通の反応なの？「Jevは画像入力には対応していないため...考えられます」ここも変じゃないかな公式情報に明記されてる。
「Jevが確率を正しく計算（推定・校正）できるモデルである」とされている点について書かれていないのが気になった。
用途だよね。安くて早い事で生きてくる領域は必ずある。精度はよく分からないが、確率を出してくれるらしいから、LLMがあたりをつけるための前処理に使おうかなー、とか。結果的にjevが正しいなら判断は任せられる
"Jevでは、単に数値を出すことではなく、その数値が確率論的・統計的に適切に校正（Calibration）された信頼できる推定量であることというのが大きなメリットであると開発元は主張しています。"
“この専用化による優位性が今後どれだけ大きな価値を持つのかについては、まだ分からないというのが現時点での感想”