AIの振り返り記録は自己申告にしない — 明示的失敗しか拾わず手順自体の穴を落とすので、人間の主観トリガー+実測分析に分担する
AIエージェント
ナレッジ管理
AI協働
判断
運用
AI エージェントに作業完了時の振り返り(手順からの逸脱・摩擦の記録)を自己申告させると、記録される内容が構造的に偏る。これは「チェックを忘れる」想起の問題とは別の失敗モードで、チェック自体は実行されても選別が偏る。
偏りの構造
- エラーが出た・問い合わせが来た・再起動したといった明示的な失敗は記録される。
- 一方、手順どおり進めたのに防げなかった問題(計画の穴を実装中の手戻りで吸収して完了したケースなど)は、AI には「逸脱なく完了」と見えるため記録から落ちる。改善の入力として最も価値が高いのは後者(手順自体の欠陥の証拠)なのに、自己申告はそれを構造的に拾えない。
- 実際の運用でも、同一セッションが明示的失敗2件(エラー応答・再委譲)は記録した一方、最大のロスだった手戻り(計画のチェック観点の穴由来・既存記録と同型の再発)を落とし、件数トリガー式の改善ループが発火しなかった。
判断基準(代替設計)
記録の入力源を自己申告以外に置き換える:
- 機械的照合: 作業中に別目的で残した既存の記録(計画への追補、実測サマリの逸脱欄など)を振り返り時に走査する。記憶ではなく直前に自分が書いた成果物の転記に限定する。
- 人間の主観トリガー+実測分析: 「時間がかかった・回り方が悪かった」の判定は人間が行い、発火後の原因特定はセッションログのタイムスタンプ実測に任せる。吸収された手戻りは自己申告には見えなくても、ログ上の revert→再実装パターンや時間ギャップとして必ず残る。
- 定期実行や常時自動分析にはしない。「遅さ」の価値判断は人間にしかできず、全セッション分析はコストに見合わない。
検証
自己申告で書かれた記録と、同じセッションの実測分析が拾ったロスを突き合わせ、自己申告に落ちていた項目の型(吸収された手戻りか、明示的失敗か)を分類する。落ちが「同型再発の検知漏れ」を含む場合は、件数・同型トリガーの判定が機能していないサイン。