消防・防災で生成AIを使うには｜検索・下書き・訓練支援を安全に運用するルール
目次
消防・防災で生成AIを使うとき、最も重要なのは「何ができるか」より何を任せず、誰が確定するかを先に決めることです。生成AIは、文章の下書き、承認済み資料の検索、会議・訓練記録の整理、公開情報の要約に役立つことがあります。一方で、事実をもっともらしく誤って出力する可能性があり、災害情報、避難、救助、指揮、救急、住民への正式発信を単独で決定する役割には適しません。
経済産業省のAI事業者ガイドラインは、安全性、プライバシー、セキュリティ、透明性などを踏まえたAI活用の重要性を示しています。[1] 消防・防災では、生成AIを「情報を確定する仕組み」ではなく、「根拠資料を探し、下書きを作り、人の確認を助ける仕組み」として設計します。
使ってよい用途と、人に残す用途
| 用途 | 生成AIが支援できること | 必ず人が行うこと |
|---|---|---|
| 承認済み資料の検索 | 規程・手順・過去記録の候補を示し、要約する | 原典確認、現行版の確認、適用判断 |
| 文書の下書き | 会議録、訓練計画、報告書の骨子、表記統一 | 事実確認、個人情報除去、正式承認 |
| 訓練・教育 | 問題案、シナリオ案、振り返りの論点を作る | 訓練設計、安全管理、技能評価 |
| 公開情報の整理 | 公開済み防災資料の要約、FAQ案、翻訳の下書き | 内容・翻訳・対象・発信の最終確認 |
| 災害情報の整理 | 受信情報の分類・要約の補助 | 情報源確認、検証、対策本部の判断 |
消防庁は、消防防災DXにおける映像情報共有、指揮支援、デジタル情報の収集・整理・共有を進めています。[2] 生成AIをこの流れに組み込む場合も、情報源、時刻、検証状態を確認できるようにし、AIの要約だけを根拠にしないことが必要です。
最初は「承認済みナレッジの検索」から始める
一般的な生成AIに自由な質問をすると、根拠が不明な内容を返す可能性があります。消防・防災では、承認済みの規程、マニュアル、訓練資料、公開資料などを対象にして検索・要約する仕組みから始める方が安全です。
| 設計項目 | 決めること |
|---|---|
| 参照資料 | 承認済みの規程、マニュアル、公開資料、確認済みの訓練記録などに限定する |
| 版管理 | 資料の版、発行日、失効日、承認者を管理する |
| 出力形式 | 回答とともに参照資料名、該当箇所、更新日を示す |
| 権限 | 資料ごとに閲覧・検索・出力できる役割を分ける |
| 例外 | 回答根拠がない場合は「不明」と表示し、推測で補わない |
| 評価 | 正確性、根拠提示、検索漏れ、利用者の修正量を記録する |
このような仕組みは、生成AIが知識を「記憶している」ことを前提にせず、組織が管理する資料を根拠として提示する運用です。原典へ戻れることが、現場の信頼と監査に不可欠です。こうした承認済み資料を対象にした検索・要約基盤は、一般にRAG（Retrieval-Augmented Generation）と呼ばれる技術で構築できます。ArcHackでもRAG構築を含むAI開発を行っており、参照元の提示と権限管理を組み込んだナレッジ検索の設計を支援しています。
入力データは最小限にする
生成AIの便利さを理由に、救急・被災者・通報・位置情報・未公開資料をそのまま入力してはいけません。利用目的、必要性、権限、契約、保管・学習利用の条件を確認し、可能な限り匿名化・要約化した情報を使います。
| 情報の種類 | 基本的な扱い |
|---|---|
| 公開済み資料 | 正式な最新版かを確認し、出典を残して使う |
| 内部規程・訓練記録 | 権限と保管場所を定め、参照範囲を限定する |
| 個人データ・機微情報 | 必要性を再確認し、原則として除外・匿名化する |
| 未公開の災害・活動情報 | 権限者・契約・情報セキュリティ方針を確認するまで入力しない |
| SNS・未検証情報 | 参考情報として区分し、確定情報に混ぜない |
個人情報保護委員会のガイドラインは、個人データの安全管理、従業者の監督、委託先の監督を示しています。[3] 外部サービスを利用する場合は、入力データの保存、学習利用、再委託、削除、ログ、インシデント時の連絡条件を確認してください。
災害時の情報発信で守るべきこと
災害時の文案作成や多言語翻訳に生成AIを使うことはあり得ますが、AIの出力をそのまま発信してはいけません。内閣府は、防災・減災でのAI活用を、情報収集・分析、衛星画像解析、避難判断支援などの研究開発として紹介しています。[4] これは、AIによる自動的な避難判断や自動発信を意味するものではありません。
| 手順 | 確認内容 |
|---|---|
| 1. 公式情報の確認 | 災害対策本部、気象・防災機関、関係機関の確定情報を確認する |
| 2. 文案・翻訳の補助 | 生成AIは、確定済みの内容に基づく文案・翻訳案の作成に留める |
| 3. 二重確認 | 用語、地名、時刻、対象地域、行動指示、翻訳を複数の担当者が確認する |
| 4. 権限者の承認 | 発信の可否、媒体、時刻、対象を権限者が確定する |
| 5. 発信・訂正の記録 | 使用した公式情報、文案、承認、発信、訂正を記録する |
生成AIを使わない場合でも成立する情報発信手順を残し、通信障害やサービス停止を想定して訓練します。
20日間の生成AI PoC
| 期間 | 実施内容 | 評価すること |
|---|---|---|
| 1〜5日 | 対象業務、参照資料、入力禁止情報、承認者、停止条件を決める | 安全な利用範囲が明確か |
| 6〜10日 | 過去資料で検索・下書きを試し、誤りと根拠不足を記録する | 正確性、根拠提示、修正量 |
| 11〜15日 | 限定した職員が実務・訓練で使い、レビュー履歴を残す | 使いやすさ、運用負荷、権限設計 |
| 16〜20日 | 情報取扱い、ログ、停止時対応を含めて評価する | 継続・修正・停止を判断できるか |
初期の成功指標は、出力数や時間短縮ではありません。根拠を確認できること、誤りを発見・修正できること、入力データを適切に制御できること、AIが使えない場合にも業務を継続できることです。
よくある質問（FAQ）
Q1. 消防・防災で生成AIに任せてもよい業務は何ですか？
公開済み資料の要約、承認済みマニュアルの検索補助、訓練資料・会議記録・報告書の下書き、表記の確認などが候補です。出力は担当者が根拠資料と照合し、承認してから使います。
Q2. 災害時の避難情報を生成AIに自動で作成・発信させてもよいですか？
避難や安全に関わる情報を生成AIだけで確定・自動発信してはいけません。生成AIは文案や翻訳の補助に留め、正確な情報源、表現、対象、発信時刻を権限者が確認・承認します。
Q3. 生成AIへ入力してはいけない情報は何ですか？
個人を特定できる救急・被災者・通報情報、未公開の災害情報、機密の活動情報、契約上持ち出せない資料などは、利用目的・契約・セキュリティ・権限の確認なしには入力しません。
参考資料
[2] 消防庁「令和6年版消防白書：消防防災分野におけるDX」
[3] 個人情報保護委員会「個人情報の保護に関する法律についてのガイドライン（通則編）」
ご相談について
消防・防災業務で生成AIを安全に使うため、対象業務、根拠資料、入力制御、承認、ログ、停止時対応を含む小規模なPoCの設計を支援します。RAG・AIエージェントの構築から運用設計までご相談ください。
