ベクトルDBを使わない「階層ナビゲーション型RAG」を作って、ベクトルDB版RAGと比較してみた

質問時にベクトル検索を使わず、LLMが階層目次をたどるRAGを比較検証。28文書・20問でAI再確認後の正答数は両方式16問。階層型のLLM料金は約1.5倍、応答時間は約1.3倍。簡略化した小規模実装での結果。