Cerebrasの社内ナレッジ基盤を解説。PostgreSQL＋pgvectorで専用ベクトルDBなし、Slackを構造化しRRFで統合、運用は3か月で1日15,000件以上。
著者も指摘する通り最大の難所は権限管理。Slackを自前Postgresへ同期する設計は部署別ACLの再現を自作する羽目になり、企業規模ではこの"シンプルさ"の代償が効いてくる
専用ベクトルDB使わずにPostgresだけでゴリ押し運用してるの実用的で面白いな
Slackの議論の結論がスレッド内には書いてない問題の解決策ができたら起こしてください🥲
学習ソースの作り方、色々と参考になる
これにしても、Googleが示したOKFフォーマットにしても、データ管理と少しの気の利いたMCP・ツールが今のところは勝ち筋っぽい
googleが提唱しているokfも同じ概念。AI ベクトルRAGとOKFとの使い分けという記事を3日前に書いた。 https://zenn.dev/takeshy/articles/6676b07383fce2
すでに上場してる企業をベンチャーと呼ぶのは違和感あるなぁ。
メモ
どうかな
上手いこと運用設計すれば、自然と情報が集約される。内作は必須だけど。品質と鮮度も大事になる。
RAGというと専用のベクトルDBを使うイメージが強かったので、PostgreSQLだけで実運用している事例は興味深かった。 シンプルな構成を選ぶ思想も含めて参考になる。
業務支援でなく賢い検索目的だと納得の手法
個人プロジェクトで何とかRAG使えないかを考えてAiと話してたけど、1000人規模くらいだったらpostgreのプラグインで十分と言ってきたのでそういう事なんだろうなと。
チャットはLLMで正規化して保存
“この手法の一番の難点は「権限管理」です。” ここで、ずっこけた。そうだよねー
真面目な記録係とお局
権限管理が問題になる時点で、オープンなチャンネルで業務の議論ができない組織なのだろうな。
fu-n
【RAG】話題の米国AIベンチャーで実践される「社内ナレッジ」管理
Cerebrasの社内ナレッジ基盤を解説。PostgreSQL＋pgvectorで専用ベクトルDBなし、Slackを構造化しRRFで統合、運用は3か月で1日15,000件以上。
著者も指摘する通り最大の難所は権限管理。Slackを自前Postgresへ同期する設計は部署別ACLの再現を自作する羽目になり、企業規模ではこの"シンプルさ"の代償が効いてくる
専用ベクトルDB使わずにPostgresだけでゴリ押し運用してるの実用的で面白いな
Slackの議論の結論がスレッド内には書いてない問題の解決策ができたら起こしてください🥲
学習ソースの作り方、色々と参考になる
これにしても、Googleが示したOKFフォーマットにしても、データ管理と少しの気の利いたMCP・ツールが今のところは勝ち筋っぽい
googleが提唱しているokfも同じ概念。AI ベクトルRAGとOKFとの使い分けという記事を3日前に書いた。 https://zenn.dev/takeshy/articles/6676b07383fce2
すでに上場してる企業をベンチャーと呼ぶのは違和感あるなぁ。
メモ
どうかな
上手いこと運用設計すれば、自然と情報が集約される。内作は必須だけど。品質と鮮度も大事になる。
RAGというと専用のベクトルDBを使うイメージが強かったので、PostgreSQLだけで実運用している事例は興味深かった。 シンプルな構成を選ぶ思想も含めて参考になる。
業務支援でなく賢い検索目的だと納得の手法
個人プロジェクトで何とかRAG使えないかを考えてAiと話してたけど、1000人規模くらいだったらpostgreのプラグインで十分と言ってきたのでそういう事なんだろうなと。
チャットはLLMで正規化して保存
“この手法の一番の難点は「権限管理」です。” ここで、ずっこけた。そうだよねー
真面目な記録係とお局
権限管理が問題になる時点で、オープンなチャンネルで業務の議論ができない組織なのだろうな。
fu-n