公立病院 医療情報システム 生成AI 公立病院 情報安全 個人情報保護 ガバナンス

公立病院における生成AI導入ガイド：制度・安全・個人情報・委託・停止・監査の実務

1分で読めます

公立病院における生成AI導入ガイド：制度・安全・個人情報・委託・停止・監査の実務
目次

概要と目的

本稿は、公立病院が生成AI（大規模言語モデルなど）を補助業務に導入する際に、制度面・安全面・個人情報面・委託管理・運用停止・監査に関する実務的な設計と手順を、官庁の一次資料を基にまとめた実務ガイドです。医療現場で生成AIを活用する場合、患者安全と法令遵守を最優先とし、AIは「文案作成、検索、要約、照合、確認候補の補助」に限定して利用することを基本とします。診療・治療に直結する最終判断は必ず資格を有する担当者が行う必要があります（後述）。

参考とする主要な公的資料は、総務省の公立病院経営強化、厚生労働省の医療情報システム安全管理ガイドライン、個人情報保護委員会・厚生労働省の医療・介護向け個人情報ガイダンス、経済産業省のAI事業者ガイドラインなどです。これらを踏まえ、導入前の定義項目、運用設計、委託先管理、監査・停止基準、事故時対応を実務レベルで整理します。

制度的な位置づけと責任分担

生成AIの導入は病院の業務効率化を支える可能性がある一方で、公立病院が地域医療を担う公的機関である点を踏まえた責任ある設計が求められます。総務省の公立病院経営強化の観点では、病院は地域医療の持続性や職員の確保など包括的責務を負っています。AI導入はその一環として検討されるべきであり、以下の責任分担を明確にしてください。

  • 導入可否、対象業務、許容誤り率、停止基準、監査頻度、教育方針は病院の意思決定機関（理事会や運営委員会等）が決定する。
  • 診療に関わる最終判断（診断・処方・治療方針・退院判断等）は、資格を有する医療職が原資料と患者の状態を確認して行う。
  • 個人情報の取扱いは個人情報保護責任者、情報システム責任者、必要に応じて法務・倫理担当者が関与し、委託先の可否を判断する。
  • 医療情報システムへの接続、権限設計、BCP（事業継続計画）、停止・切替手順は情報セキュリティ担当者が管理する。

これらの責任分担は、契約や院内規程として文書化し、関係者の承認を得たうえで運用してください（経済産業省のガイドラインに示された透明性・人間による監督の原則を参照）。

リスク分類と高リスク業務の扱い

生成AIが関与する業務は、リスクに応じて分類し、扱える業務と扱えない業務を明確化します。以下は運用設計の基本方針です。

  • 低リスク（補助可）：文書の下書き、会議議事録のテキスト化と要約、定型的な問い合わせの分類、参考文献検索の補助、広報ドラフトの草案など。いずれも出力は「下書き」扱いとし、人による校正と承認を必須とする。
  • 中リスク（限定利用・厳格管理）：患者向け説明資料の草案作成（最終版は担当者が検証・承認）、内部レポート作成の草稿、業務マニュアルの草案等。入力データは原則として非特定化された情報または承認済みの定義に従ったデータに限定する。
  • 高リスク（使用禁止または極めて限定的）：診断、治療方針の決定、トリアージや緊急度判定、投薬・輸血・手術指示、救急対応など誤りが直接生命に影響する判断。これらはAI出力を根拠に実行してはならず、担当医・看護師等の最終判断を必須とする。

これらの分類と具体的な許可・禁止リストは院内で合意し、職員に周知・記録してください（厚生労働省のガイドラインを参照）。

導入前チェックリスト（実務フロー）

導入前に必ず次の項目を定義し、文書化して承認を得てください。下表は最低限の実務チェックリストです。

項目 内容（例） 決定者・責任者 記録・証跡
利用目的 AIを何のために使うか（文案作成、要約等） 導入プロジェクト責任者 目的定義書、承認記録
対象データ 使用するデータ種別（診療情報の可否、匿名化レベル） 個人情報保護責任者・臨床代表 データ利用同意・承認書
利用者と権限 誰が使えるか、役割ごとの権限 情報システム責任者 アクセス権限一覧、ログ
保存期間・削除 出力・ログの保存期間と削除手順 情報管理/法務 保管ルール、削除ログ
委託先管理 クラウド・外部事業者の選定基準、契約項目 調達・法務 契約書、SLA、監査記録
ログと監査 操作履歴・出力の監査方法 情報セキュリティ担当 ログポリシー、監査計画
評価方法 精度評価・誤り容認基準・見直し頻度 臨床評価責任者 評価結果、改善計画
停止基準 異常時や許容外事象の停止条件と連絡体制 BCP責任者 停止手順書、連絡網
教育 利用方法・リスク研修の計画 人事・教育担当 研修記録、理解度テスト
外部公開可否 AI出力の対外公表ルール 広報・法人責任者 公表承認記録

このチェックリストを基に、導入プロジェクトは関係者の承認を得てからパイロット運用を開始してください。

個人情報・データ利活用の設計

診療情報や個人に関わるデータは特に慎重に扱う必要があります。個人情報保護委員会・厚生労働省のガイダンスを踏まえ、以下のポイントを実装してください。

  • 利用目的の特定と通知：データの利用目的を具体的に定め、必要に応じて患者への説明や手続を行う。
  • 適正取得と目的外利用禁止：取得した情報は明示した目的の範囲内で利用し、目的外利用を禁止する運用規程を整備する。
  • 匿名加工と仮名加工の区別：匿名化や仮名化の方法と再識別リスクを評価し、匿名加工情報の要件を満たす場合でも院内手続きを整える。
  • 外国事業者・国外移転の制限：国外にサーバがあるサービスを利用する場合は、法規制と再利用・第三者提供の可否を確認し、契約で管理する。
  • 委託先の監督：外部委託する場合は契約で安全管理措置、権限管理、削除手順、監査権を明記し、定期的に監査する。

出力や草稿に患者固有情報を入力することは原則として避け、必要な場合は個人情報保護責任者の承認を得てから限定的に行ってください。また、AIの出力を患者向け説明や対外資料として使用する際は、原資料との照合と責任者の承認を必須にしてください。

医療情報システムとの連携とセキュリティ設計

医療情報システムと外部AIサービスを連携する場合は、厚生労働省の「医療情報システムの安全管理に関するガイドライン 第7.0版」を参照し、以下を満たす設計を行ってください。

  • 管理責任と委託先管理：接続範囲、責任分担、契約上の責任（損害賠償、情報再利用の禁止等）を明確化する。
  • アクセス制御と最小権限：利用者ごとに最小限の権限を付与し、管理者アカウントの管理を厳格化する。
  • 可用性・バックアップ・代替運用：障害時のバックアップ・復旧手順と代替運用を定義し、定期的に訓練を行う。
  • 脆弱性対応とインシデント対応：脆弱性管理、脅威検知、インシデント発生時の連絡先と対応手順を整備する（BCP確認表の実行を含む）。
  • ログの保全と監査可能性：操作ログと出力ログを保存し、監査可能な形で保全する。ログ保管期間・アクセス制限を明示する。

外部サービスの利用契約には、データの保存場所、第三者への再提供の可否、削除の手順、監査条項を明記し、必要ならばオンプレミスや閉域網運用を検討してください。

委託契約（アウトソーシング）と監督

外部事業者への委託は、契約により安全管理措置を担保することが求められます。経済産業省のガイドライン等を参考に、以下を契約書に盛り込み、定期監査を実施してください。

  • データの利用目的・利用範囲の限定
  • 第三者提供および国外移転の制限
  • 技術的安全対策（暗号化、アクセス制御、脆弱性対応）
  • ログ保存・監査権・検査権
  • インシデント発生時の通知義務と対応時間、支援体制
  • サービス停止・移行・データ返却・削除手順
  • 保守・サポート体制と責任分界点

委託先の選定にあたっては、セキュリティ認証や過去の監査結果、対応体制を重視し、契約後も定期的に監督・評価を行ってください。

運用停止基準とインシデント対応

運用中に想定外の挙動や重大な誤出力、情報漏えいの疑いが生じた場合は、速やかに運用停止し、BCPに沿って対応します。停止基準と対応フローは事前に定め、関係者に周知してください。最低限含めるべき項目は次の通りです。

  • 重大な個人情報漏えいの疑いが発覚した場合は即時停止。
  • AI出力が診療に影響を及ぼす可能性がある誤りを含むと判断された場合は即時停止。
  • サービス提供者側のセキュリティインシデントや第三者による不正アクセスが確認された場合は即時停止と切替。
  • 停止後は原因調査、被害範囲の特定、被害通知（必要な場合は個人情報保護委員会等への報告）を行う。
  • 停止解除は原因の是正確認と関係者（情報セキュリティ担当、個人情報保護責任者、臨床代表）の承認を要件とする。

インシデント発生時の連絡先一覧（院内外）は常時更新し、定期的にインシデント対応訓練を実施してください（厚生労働省のBCP確認表を参照）。

監査・評価と継続的な見直し

生成AIの運用は一度決めたら終わりではありません。定期的な監査と継続的な評価を設計します。

  • 運用監査：アクセスログ、出力のサンプル検査、契約履行状況、委託先監査を定期的に実施する。
  • 臨床評価：AI出力の品質や誤り事例を収集し、臨床代表による評価・是正を行う。
  • 法令・ガイドライン対応：関連法令や国のガイドライン更新に応じて運用ルールを速やかに改定する。
  • 教育と周知：新規導入者向けの研修と定期的なリフレッシュ研修を実施し、利用者のデジタルリテラシー向上を図る。
  • 文書管理：方針、手順、評価結果、監査記録を保存し、次回監査や外部説明のために整備する。

監査の結果に基づき、必要であれば利用範囲の縮小や一時停止、委託先の交替を検討してください。

運用で必ず人に残す判断事項（主要点の繰り返し）

導入に際しては、以下の判断をAI任せにせず、必ず人が最終責任を持つ運用としてください。

  • 診断、治療方針、処方、検査の優先順位、退院・転院判断は医療職の最終判断。
  • トリアージ、緊急度判定、投薬、手術、救急対応などはAIの出力だけで実行しない。
  • 患者への説明、同意取得、開示・訂正等の法的手続きは責任者が行う。
  • 診療情報や遺伝情報など機微情報のAI入力可否は個人情報保護責任者等が決定する。
  • 医療情報システム接続・BCP・サービス切替は病院管理責任者と情報セキュリティ担当が承認する。
  • AI出力の対外公表や補助金申請等の重要文書は原資料で確認し責任者の承認を得る。

これらは院内規程で固定化し、運用の基準として徹底してください。

教育と現場支援

AIを安全に運用するには、職員教育が不可欠です。導入前と導入後に次のような教育を実施してください。

  • 基本方針と許可業務の理解（全職員向け）
  • プロンプト作成・出力検証の実務（利用者向けハンズオン）
  • 個人情報の取り扱いと入力禁止事項（全職員向け）
  • インシデント対応訓練（関係者向け）
  • 定期的な改訂研修（法令や仕様変更に対応）

教育記録は必ず保存し、理解度に応じた追加指導を行ってください。

よくある質問（FAQ）

Q1. 生成AIに患者情報を入力してもよいですか？

原則として、機微な診療情報や個人を特定しうる情報の直接入力は避けてください。必要性がある場合は個人情報保護責任者の承認を得て、仮名加工・匿名化の手続きを行い、再識別リスクを評価した上で限定的に実施してください。国外にデータが渡る場合は、第三者提供や国外移転の制限を契約で担保する必要があります（関連ガイダンス参照）。

Q2. AIの出力をそのまま患者向け資料や対外文書に使えますか？

いいえ。AIの出力は「下書き」「候補」として扱い、原資料との照合と担当責任者による校正・承認を必須としてください。対外公表や重要な説明文書は、責任を負う職員が最終確認と法的根拠のチェックを行う必要があります。

Q3. 委託先が海外にあるサービスを使う場合の注意点は？

国外にある事業者を利用する場合は、個人情報保護法やガイダンスに基づき、第三者提供や国外移転の可否、保存場所、再利用の有無を確認し、契約で明確に制限・義務を定めてください。監査権やインシデント時の通知義務、データ削除・移行の手順も契約で担保し、定期的な監督を行ってください。

参考資料

関連記事

← ブログ一覧に戻る