結局やってることは勾配降下法的なループなの面白い。テキスト空間での過学習とか、評価環境の設計が一番のボトルネックになるの超わかる
そしてローカルミニマムへ＼(^o^)／
evalすなあ！！！！！！！！／ぶっちゃけ非効率では？？？？？？？と思いはする！！！！！！！！！！
これは面白い見方だな。私も違った言語化、プロンプトエンジニアリングよりもデータで支持するほうがコンテキストが少ないと言う理解をしていたが、なるほど評価関数か。
RAGが当然の手法になりLLM自身もその処理が最初期より格段に上手くなったけど、このskills自己改良も同じな気がする。評価機構もLLMが自分で上手く整備するようになったり、適切に人間に確認してくるようになる気がする
強化学習ってことですか
trajectory evaluation
“ここまで見てきた通り、SKILL.md（あるいはスキルに使用するスクリプト等を含むディレクトリ）は、書いて終わりの文書ではなく、訓練ループの中で更新され続けるパラメータと捉えられています”
Agent Skills自動最適化を、深層学習の訓練ループとして整理。SKILL.mdをパラメータ、実行トラジェクトリを訓練データ、評価を損失として更新する。ただし最大の難所は検証信号の設計。
Agent Skills自動最適化の研究、中身はほぼ深層学習の訓練ループだった
結局やってることは勾配降下法的なループなの面白い。テキスト空間での過学習とか、評価環境の設計が一番のボトルネックになるの超わかる
そしてローカルミニマムへ＼(^o^)／
evalすなあ！！！！！！！！／ぶっちゃけ非効率では？？？？？？？と思いはする！！！！！！！！！！
これは面白い見方だな。私も違った言語化、プロンプトエンジニアリングよりもデータで支持するほうがコンテキストが少ないと言う理解をしていたが、なるほど評価関数か。
RAGが当然の手法になりLLM自身もその処理が最初期より格段に上手くなったけど、このskills自己改良も同じな気がする。評価機構もLLMが自分で上手く整備するようになったり、適切に人間に確認してくるようになる気がする
強化学習ってことですか
trajectory evaluation
“ここまで見てきた通り、SKILL.md（あるいはスキルに使用するスクリプト等を含むディレクトリ）は、書いて終わりの文書ではなく、訓練ループの中で更新され続けるパラメータと捉えられています”
Agent Skills自動最適化を、深層学習の訓練ループとして整理。SKILL.mdをパラメータ、実行トラジェクトリを訓練データ、評価を損失として更新する。ただし最大の難所は検証信号の設計。