全部の会話履歴をLLMにぶち込むゴリ押しから卒業するためのRAG入門にちょうどいいな
こういうのを見るたびに人間の脳みそってよくできてるなって思う
病院
LLMが記事を書いたのだろうけど、方向性としては良いので試してみたい
これ俺も気になってたんだけど、そういうライブラリがあるわけか
ちょうどOllamaにコンテキスト管理だったりハーネスを補おうと思ってたので参考になりそう。とはいえ、趣味レベルなので、Open WebUIやLangGraphを使ってお茶濁すかもだけど。
ガンガンAI蒸留して生存競争させ、上手くいったAI蒸留物を残していく。⇒それがAIも理解してないまま「超低コストで上手くいく生物の遺伝子」のようになり、低コスト低電力で上手くいく仕組みが出来上がるよ
hermes + unslothでええやん
いずれこのへんも来年には標準になっていきそうなのが怖い。しかしブコメにもあるけど人間の脳ってどういう仕組なのか未だに不思議。長期記憶、短期記憶、しかも忘れても思い出したり、自然に整理されている…
人間の脳をモデルに再現していく過程が熱い
“会話がどれだけ長くなっても関連情報だけを的確に引き出せる、実用的なチャットボットを作る。「全会話履歴をそのままLLMに渡す」実装は精度が下がる。RAGの核心は「今の質問に関係する情報だけを取り出して渡す」”
【完全ローカル】AIに記憶を持たせる5ステップ — Ollama×RAGでつくる長期記憶チャットボット - Qiita
全部の会話履歴をLLMにぶち込むゴリ押しから卒業するためのRAG入門にちょうどいいな
こういうのを見るたびに人間の脳みそってよくできてるなって思う
病院
LLMが記事を書いたのだろうけど、方向性としては良いので試してみたい
これ俺も気になってたんだけど、そういうライブラリがあるわけか
ちょうどOllamaにコンテキスト管理だったりハーネスを補おうと思ってたので参考になりそう。とはいえ、趣味レベルなので、Open WebUIやLangGraphを使ってお茶濁すかもだけど。
ガンガンAI蒸留して生存競争させ、上手くいったAI蒸留物を残していく。⇒それがAIも理解してないまま「超低コストで上手くいく生物の遺伝子」のようになり、低コスト低電力で上手くいく仕組みが出来上がるよ
hermes + unslothでええやん
いずれこのへんも来年には標準になっていきそうなのが怖い。しかしブコメにもあるけど人間の脳ってどういう仕組なのか未だに不思議。長期記憶、短期記憶、しかも忘れても思い出したり、自然に整理されている…
人間の脳をモデルに再現していく過程が熱い
“会話がどれだけ長くなっても関連情報だけを的確に引き出せる、実用的なチャットボットを作る。「全会話履歴をそのままLLMに渡す」実装は精度が下がる。RAGの核心は「今の質問に関係する情報だけを取り出して渡す」”