AI coding agentの逸脱を防ぐハーネス設計を、5層guardとkaji-starter-python(make check)で解説する。
「動きました!」が全く信用できないのは人間もAIも同じ。ループ回すなら外側の検証(ハーネス)が命ってのはマジで同意
5合目まで登るためのものって感じかなあ。そっから先は細かく見ながらじゃないと難しい。そもそも人間がそこから先をちゃんと指示できない気がする
Loop Engineeringで失敗しないためのハーネス設計
AI coding agentの逸脱を防ぐハーネス設計を、5層guardとkaji-starter-python(make check)で解説する。
「動きました!」が全く信用できないのは人間もAIも同じ。ループ回すなら外側の検証(ハーネス)が命ってのはマジで同意
5合目まで登るためのものって感じかなあ。そっから先は細かく見ながらじゃないと難しい。そもそも人間がそこから先をちゃんと指示できない気がする