Andrej Karpathy氏のLLM Wikiを1ヶ月運用してわかった、LLMの知識を『繋げる力』

N=1・1ヶ月の評価で真価がわかったって 真価ってなんぞや あと繋げるって意味が広すぎる

ちゃんと蓄積結果を人間が確認するのが大事！！！！！！！！完全AI任せにする自信はない！！！！！！！！

知識グラフと対比しながら考えたいところ

知識を整理するのを自動的にやってもらえると確かに良さそうだけど、そんなにうまく行くのかな？論文は整理されてるからやりやすそうだ

LLMが読む・処理するためだけの効率的な知識のグラフ構造化を突き詰めるなら、テキストベースのWikiはオーバーヘッドが大きいと思う。人間が直接読めるってのを捨てないなら別だけど。

知識を『繋げる』はLLMの本命だが、運用面ではタグやリンクの粒度が崩れる。Wiki側で構造ガードレールを置く運用は再現性が出やすく現実的解。

古くなった要らない情報を「忘れる」機能がないのが気になるな。hermes agentには最近実装されたらしいが…（まだ試してない）

“Karpathy氏のパターンが優れているのは、特定のディレクトリ構造でも特定のスクリプトでもなく、「LLMと人間の役割分担」を実装可能な単位まで具体化したことだと思う。Raw / Wiki / Schemaの三層と、Ingest / Query / Lintの三つの

私も３週間ほど運用しているたが、Wikiが成長するほどトークン消費量との闘いになった。NotebookLMやGeminiとCLI連携させて作業分担して節約している。iOSから気軽にクリッピングする仕組みを作ったりして、楽しいよ。

llm wiki

LLM Wikiを1ヶ月運用した記事。真価は要約ではなく、複数ソースを横断して概念ページを育てる「繋げる力」にあるという結論。自分もずっと運用していて、アイデアだけだから独自に拡張したりできるのもいい。