BM25でCodexの候補探索を最適化し、約29.2%(約30%)のトークン消費削減を実験で示す技術記事。
”その中でも、特に多くのトークンを消費しているのが、「ファイルの検索」です。 ”
音ゲーを使用してトークン消費を削減!?、と思ったらそれはBM98だった。
後で試す
実装で考えると、ブランチ追従が悩ましいなぁ……リポジトリにDB含めるのも嫌だし、低コストで収めたいし
cocoindex-codeと比べてどうなんだろう。
この手のやつ、本当に効果があるなら、あるいは弊害が少ないなら、本家がとっくの昔に採用してるんだよね。Serena..
BMI25の脂質を燃やしてCodexトークン消費を30%抑えるのか、肉体労働かな?と思った自分が通りますよ
ついでに https://github.com/rtk-ai/rtk と組み合わせたらもっと減るんじゃないか?
コメントはともかくソースコードのついてはBM25合ってないから品質下がりそう。それで30%しか変わらないなら使わないな。
情報検索に使われるBM25が生まれたのは1990年代だけど,あまりにも安くて強いので費用対効果が合わず今も現役で使われ続けているが,その強さが今も…
BM25を使用してCodexのトークンの消費を30%抑える
BM25でCodexの候補探索を最適化し、約29.2%(約30%)のトークン消費削減を実験で示す技術記事。
”その中でも、特に多くのトークンを消費しているのが、「ファイルの検索」です。 ”
音ゲーを使用してトークン消費を削減!?、と思ったらそれはBM98だった。
後で試す
実装で考えると、ブランチ追従が悩ましいなぁ……リポジトリにDB含めるのも嫌だし、低コストで収めたいし
cocoindex-codeと比べてどうなんだろう。
この手のやつ、本当に効果があるなら、あるいは弊害が少ないなら、本家がとっくの昔に採用してるんだよね。Serena..
BMI25の脂質を燃やしてCodexトークン消費を30%抑えるのか、肉体労働かな?と思った自分が通りますよ
ついでに https://github.com/rtk-ai/rtk と組み合わせたらもっと減るんじゃないか?
コメントはともかくソースコードのついてはBM25合ってないから品質下がりそう。それで30%しか変わらないなら使わないな。
情報検索に使われるBM25が生まれたのは1990年代だけど,あまりにも安くて強いので費用対効果が合わず今も現役で使われ続けているが,その強さが今も…