RAGの限界をWiki化で力技解決しようとするKarpathy流。結局LLMに継続的な「記憶」を持たせるには、人間が読める構造を介するのが最短経路なのかもな
LLMがRaw sources→persistent wiki→schemaの3層でMarkdownを逐次保守し、index.md/log.mdで検索と履歴管理する。
これがうまいこと実現できるならめちゃくちゃアツいな。
llm-wiki
RAGの限界をWiki化で力技解決しようとするKarpathy流。結局LLMに継続的な「記憶」を持たせるには、人間が読める構造を介するのが最短経路なのかもな
LLMがRaw sources→persistent wiki→schemaの3層でMarkdownを逐次保守し、index.md/log.mdで検索と履歴管理する。
これがうまいこと実現できるならめちゃくちゃアツいな。