AI-ファーストポストモーテムと受動的学習

AI チームが同じ間違いを繰り返し続ける理由

ダニエル・レブロン 2026年4月

ほとんどの AI インシデントは、1 つの壊滅的なプロンプトから発生するわけではありません。それらは、起こっている間誰も書き留めないような小さなミスの連鎖から生まれます。

受動的な学習には欠けている筋肉があります。すべてのインシデントが、簡単に検索、比較、再利用できる成果物を残した場合にのみ、それを得ることができます。

5 つのなぜの出力は、修復アクションと組織の学習シグナル (すぐに修正されるものとガードレールポリシーになるもの) に分割されます。

Element	何をキャプチャするか	なぜそれが重要なのか
Trigger	問題を明らかにした正確なユーザーパス、プロンプト、またはコミット	後知恵のストーリーテリングを削除します
観察された動作	ログ、トレース、スクリーンショット、および失敗したチェック	メモリドリフトを防止
決定記録	考慮されたもの、拒否されたもの、受け入れられたもの	トレードオフを可視化する
修復の証拠	選択した修正が以前に失敗した状況でも機能することの証明	「理論的には決まっている」という主張をやめる
ガードレールの更新	新しいテスト、lint ルール、Runbook ステップ、またはポリシーゲート	一度限りの痛みを繰り返し可能な予防に変える

自動化された事後処理ライフサイクル: トリガー収集、証拠の収集、パターン分類、および自動化された予防展開。

「私たちはこれから学んだ」という言葉が真実となるのは、その学んだことが人事異動や時間の経過を経ても存続する場合だけです。

実用的な受動的学習ループ: タイムラインをキャプチャし、失敗した状態と修正された状態を並べてスナップショットし、失敗パターンを分類し、必須の防止メカニズムを 1 つ付加し、次の同様の変更でそのメカニズムを検証します。

自律性意思決定マトリックス: インシデント対応を自動化する時期、人によるレビューを必要とする時期、ポリシー更新のためにエスカレーションする時期。

成熟したチームは、インシデントの証拠をクリーンアップ作業ではなく、第一級の成果物として扱います。これらは、モデルのエラーと人間のプロセスのエラーを区別します。これらは、繰り返し発生する障害を迅速に自動化ゲートに導入することを促進します。

事後分析の要素が 1 つ欠けていると、事後分析は歴史的なフィクションになってしまいます。以下の繰り返しパターンは、チームやクラウドプロバイダー全体で繰り返し発生します。

Pattern	Symptom	根本的な原因	強力な対策
プロンプトスコープリーク	AI が意図した境界外でファイルを変更する	タスクの枠組みが緩く、レビューの面が弱い	スコープ付き差分チェックと明示的なファイル許可リスト
フォールスグリーンテスト	CI は合格しますが、動作が間違っています	アサーションテストの結果ではなく、実装の詳細	契約レベルのアサーションとフェイルファーストチェック
安全でないフォールバックロジック	サイレントフォールバックによりエラーが隠蔽される	可観測性のない「実行を続ける」ブランチ	構造化されたエラーバジェットと必須のテレメトリ
合流後のドリフト	コードベースの品質は数日後に低下します	ポリシーまたはドキュメントの同期なしでマージされた修正	マージ後の検証とドキュメントゲート

受動的学習スコアカード: 死後の遺物がどの程度生き残っているか、それらがどの程度発見されやすいか、再発をどの程度防ぐかを測定します。

以前のインシデントを見つけるのにバグを再現するよりも時間がかかる場合、アーカイブを参照する人は誰もいません。

使用可能なライブラリは、障害パターンによる検索、すぐに使用できるチェックを含む短い「何をコピーするか」セクション、Runbook や PR テンプレートからのリンク、ツールでの防止を確認する終了条件をサポートしています。

Core Loop