メルカリのAIヒヤリハット事例が生々しいw 権限周りのガードレール実装はどこも悩むよね
ガードレールの本体は「出力 LLM と検証 LLM の多段化」。意思決定木に静的解析を差し込む発想で、agent runtime としては stop-the-world と相似では？
Agentic AI時代における メルカリのAIガバナンスとガードレール実装
メルカリのAIヒヤリハット事例が生々しいw 権限周りのガードレール実装はどこも悩むよね
ガードレールの本体は「出力 LLM と検証 LLM の多段化」。意思決定木に静的解析を差し込む発想で、agent runtime としては stop-the-world と相似では？