本文へ移動
記事一覧

AI生成コードの障害対応|復旧・証拠保全・再発防止の手順

公開 2026-10-12更新 2026-10-12読了目安 8分

AI生成コードが関係する障害では、サービスを戻すことと、後から原因を説明できる状態を残すことを並行して進める必要があります。本記事では、影響範囲の限定、復旧、証拠保全、生成差分・承認・ログの照合、時系列と根本原因の分析、非難しないポストモーテム、担当付き改善項目、AI利用ルールへの反映までを一続きの実務フローとして整理します。

SECTION 01

最初に影響範囲を限定し、対応の指揮系統を一本化する

AI生成コードの障害対応で最初に行うのは、AIを使った担当者への聞き取りではなく、利用者とシステムへの影響拡大を止めることです。異常が出ている機能、変更、デプロイ、依存先を特定し、問題のある経路を切り離す、追加デプロイを止める、変更権限を一時的に絞るなど、状況に合う封じ込めを選びます。対応責任者、記録担当、技術調査担当、社内外への連絡担当も明確にし、判断と記録が複数のチャネルへ散らばらないようにします。

[NIST SP 800-61 Rev.3](https://nvlpubs.nist.gov/nistpubs/SpecialPublications/NIST.SP.800-61r3.pdf)は2025年4月3日公開の資料で、封じ込めをインシデントの拡大と追加被害を防ぐ活動として位置付けています。また、既知の対象だけを見て影響規模を決めず、他の潜在的対象にも兆候がないか確認する必要性を示しています。これはAIコード専用の手順ではありませんが、生成された同種の処理が別機能や別リポジトリへ転用されていないかを調べる際にも使える考え方です。

  • —影響が出ている機能、利用者、データ、環境、変更経路を記録する
  • —同じ生成コードや類似差分が採用された別の箇所も調査対象に含める
  • —封じ込めの判断者、実行者、記録者と連絡経路を明確にする
  • —調査前の状態を失う操作は、復旧の緊急性と証拠保全を踏まえて判断する

SECTION 02

復旧は対象と優先順位を決め、戻した後まで検証する

封じ込め後は、復旧対象と優先順位を定めます。候補には、問題の変更を戻す、既知の正常な版へ切り替える、影響機能を停止したまま他の経路を戻す、といった選択があります。重要なのは、変更を急いで上書きするのではなく、何を正常状態とみなすか、復元に使うコードや設定が信頼できるか、どの確認を通れば本番へ戻せるかを先に合意することです。復旧操作そのものも、実行者、時刻、対象、結果が追えるように記録します。

[NIST SP 800-61 Rev.3](https://nvlpubs.nist.gov/nistpubs/SpecialPublications/NIST.SP.800-61r3.pdf)は、復旧の範囲と優先順位を決め、復元用資産の完全性を使用前に確認し、復元後も正しさと十分性を検証してから通常運用へ戻す考え方を示しています。したがって、ロールバックが成功したという操作結果だけで復旧完了にはしません。主要な利用経路、データの整合性、監視の状態、封じ込め対象外への影響を確認し、事前に決めた終了基準に基づいて宣言します。

復旧と原因分析は目的が異なります。復旧中に断定を急がず、仮説は仮説として残し、利用者への影響を抑える判断と事実を確定する調査を分けて管理します。

SECTION 03

復旧と並行して、来歴を追える証拠を保全する

復旧を優先するあまり、問題の版、ログ、承認履歴を上書きすると、なぜ障害を許したのかを後から検証できません。[NIST SP 800-61 Rev.3](https://nvlpubs.nist.gov/nistpubs/SpecialPublications/NIST.SP.800-61r3.pdf)は、インシデントのデータとメタデータを収集し、完全性と来歴を保全すること、収集物を組織の証拠保全手順と保存方針に従って保持することを示しています。取得元、取得者、取得時刻、保存場所、以後の取り扱いを記録し、元データと作業用コピーを区別する運用が必要です。

ここからは、その考え方をAI生成コードへ適用するための本記事の実務提案です。通常の監視ログ、エラー、デプロイ記録、コミット、設定変更に加え、生成コードの差分、実際に採用した出力とAI対話の対応、レビュー・承認記録、利用可能なプロンプトやツールログを保全します。NISTやGoogleがこれらをAIコード専用の必須証跡として要求しているわけではありません。自社の保存方針、アクセス権限、秘密情報の扱いに従い、原因追跡に必要な範囲を定めます。

  • —障害時に稼働していたコード、設定、依存関係と生成差分
  • —採用したAI出力を識別できる対話記録と、採用に至った判断
  • —レビューの指摘、修正履歴、承認者、テスト結果、デプロイ記録
  • —監視・アプリケーション・操作の各ログと、取得元を示すメタデータ

AI対話には秘密情報が含まれる可能性があります。保存と共有の範囲は、AIコーディングで秘密情報を守る方法も参照し、調査の必要性だけで無制限に閲覧できる状態を作らないことが大切です。

SECTION 04

生成差分・承認・ログを同じ変更単位で照合する

証跡を集めたら、ファイルを並べるだけではなく、採用された変更を軸に関連付けます。どのAI対話から何が生成され、そのうち何が編集・採用され、誰がどの根拠でレビューし、どのテストと承認を経て、どのデプロイに含まれたのかを一つの流れにします。さらに、そのデプロイ後にどの監視イベントや利用者影響が現れたのかを接続すれば、生成内容だけでなく人と仕組みの判断点も検証できます。

照合時には、記録がないこと自体も事実として扱います。たとえば採用出力との対応が残っていない、承認の判断根拠を確認できない、テスト結果の対象版が一致しない、といった欠落を推測で埋めてはいけません。確認済みの事実、合理的な仮説、未確認事項を分け、それぞれが参照する原資料を示します。この整理により、復旧担当から分析担当へ引き継いでも、結論の根拠をたどれます。

平時から変更とAI利用記録を結び付けるルールがあれば、障害時の探索を始めやすくなります。保存対象や禁止入力の設計は、AIコーディングの社内ルールと一体で整備します。

SECTION 05

時系列を組み立て、「AIが書いた」で止めず根本原因を探る

次に、検知、判断、封じ込め、復旧を含む時系列を作ります。各行には時刻、起きたこと、関係する資産や変更、判断者、根拠データへの参照を付けます。時刻の基準が異なるログはその差を明記し、不明な時刻を断定しません。[NIST SP 800-61 Rev.3](https://nvlpubs.nist.gov/nistpubs/SpecialPublications/NIST.SP.800-61r3.pdf)は、出来事の順序と関係した資産・リソースを特定し、直接原因だけでなく基底的・システム的な根本原因を探る考え方を示しています。

原因を「AIが誤ったコードを生成した」で終えると、同じ出力を障害へ変えた統制上の条件が残ります。生成時の前提は適切だったか、候補の選択で危険な差分を見落としたか、レビューに必要な情報があったか、テストは該当経路を扱ったか、承認とデプロイの境界は機能したか、監視は異常を判断できる形で示したかを順に調べます。直接の不具合と、生成、選択、レビュー、テスト、承認、デプロイ、監視にある寄与要因を分けることで、再発防止の対象が具体化します。

  • —事実と原資料、仮説、未確認事項を別々に管理する
  • —正常だった直前の状態から、影響の検知と復旧完了までをつなぐ
  • —コードの欠陥だけでなく、欠陥を通過させた条件と検知を遅らせた条件を探る
  • —個人の注意力ではなく、同じ状況で同じ判断を招き得る仕組みを確認する

SECTION 06

非難しないポストモーテムで、事実と学びを共有する

復旧後は、インシデント、影響、実施した対応と復旧、根本原因、再発防止のフォローアップをポストモーテムにまとめます。[Google SREのポストモーテム文化](https://sre.google/sre-book/postmortem-culture/)は、この構成を示すとともに、個人やチームを責めず、寄与要因と、情報不足や誤情報を生んだシステム的な理由へ焦点を当てる姿勢を説明しています。AIを使った人を責任の終点にせず、その時点で見えていた情報と統制を検証します。

非難しないことは、判断を曖昧にすることではありません。どの変更が影響を生み、どのレビューやテストが機能しなかったかを、証跡に基づいて率直に記します。[Google SRE Workbookのポストモーテム](https://sre.google/workbook/postmortem-culture/)が示すように、明確なタイムライン、影響、検知、解決、原因、改善項目を記録し、影響を示すデータは原資料へたどれるようにします。推測や結果論を避けることで、参加者が欠落情報を共有しやすくなり、組織として学べる文書になります。

[NIST SP 800-61 Rev.3](https://nvlpubs.nist.gov/nistpubs/SpecialPublications/NIST.SP.800-61r3.pdf)も、復旧の終了を基準に基づいて宣言し、インシデント、対応・復旧アクション、教訓を事後報告へ残す考え方を示しています。ポストモーテムは復旧の記録と改善の入口をつなぐ成果物です。

SECTION 07

改善項目には担当者と追跡方法、完了条件を持たせる

ポストモーテムの結論を「レビューを徹底する」「気を付ける」で閉じると、実施状況も効果も判断できません。[Google SRE Workbook](https://sre.google/workbook/postmortem-culture/)は、有効な改善項目に担当者と追跡番号、優先度、検証可能な完了状態を持たせ、予防・緩和策として管理する考え方を示しています。各項目について、何を変えるか、誰が進めるか、どこで追跡するか、どの状態をもって完了とするかを記録します。

改善策は、発生を防ぐものと、発生しても影響を抑えるものに分けると抜けを見つけやすくなります。AI出力を採用する条件の明文化、変更単位と対話記録の紐付け、レビュー観点の追加、対象経路のテスト、承認権限の調整、段階的な反映、検知可能な監視など、根本原因との対応が説明できる項目を選びます。完了条件には、文書を作った事実だけでなく、運用で確認できる状態を置きます。

  • —根本原因または寄与要因と改善項目の対応が説明できる
  • —担当者、優先度、追跡番号、検証可能な完了条件がある
  • —予防策だけでなく、検知と影響緩和の観点も含める
  • —完了後に証跡を確認し、未完了や無効な項目を放置しない

SECTION 08

改善をAI利用ルールと技術統制へ戻し、対応を閉じる

最後に、改善項目を個別案件のチケットだけに残さず、AI利用ルール、開発手順、レビュー基準、ログと保存の設計へ反映します。入力してよい情報、採用した出力の残し方、人による確認が必要な変更、承認者、テスト、デプロイ、監視、障害時の証跡取得を更新対象として確認します。ルールと実際のツール設定や権限が食い違う場合は、文書だけでなく技術統制も改善対象にします。

一連の流れは、影響範囲の限定→復旧→証拠保全→生成差分・承認・ログの照合→時系列と根本原因→非難しないポストモーテム→担当付き改善項目→AI利用ルールへの反映です。これはNISTやGoogleが定めたAIコード専用手順ではなく、両者のインシデント対応とポストモーテムの考え方を土台にした実務フローです。自社の体制、保存方針、情報の機密性に合わせて責任分界と判断基準を事前に決めておけば、障害時にも復旧と学習を両立しやすくなります。

AI駆動開発の研修・導入支援・技術顧問では、このようなルールと運用の設計を支援できます。ただし、AIの導入だけで品質や生産性が保証されるものではありません。障害対応から得た事実を継続的にルールへ戻し、人の判断、開発工程、技術統制を一緒に更新することが重要です。

FAQ

よくある質問

Q. AI生成コードが原因と思われる場合、最初にAI対話を調べるべきですか?

いいえ。まず利用者とシステムへの影響拡大を止め、影響範囲を限定します。同時に証拠を失わないよう保全し、その後に生成差分、AI対話、承認、テスト、デプロイ、監視ログを同じ変更単位で照合します。

Q. プロンプトやAI対話はすべて保存すべきですか?

一律の無制限保存ではなく、自社の保存方針、アクセス権限、秘密情報の扱いに従って、採用した出力の来歴と原因追跡に必要な範囲を定めます。取得元や取り扱いも記録し、調査関係者だけが適切に参照できるようにします。

Q. ポストモーテムでAIを使った担当者の責任はどう扱いますか?

個人への非難を結論にせず、その時点の情報と判断条件を事実に基づいて検証します。生成、選択、レビュー、テスト、承認、デプロイ、監視のどこで障害を許したかを調べ、担当者と完了条件を持つ改善項目へ変換します。

公式情報・参考資料