フィンテックのAI導入課題：利用者保護と決済判断を人に残す確認項目

AI導入課題を利用者保護とシステムリスクの中で整理する

フィンテック・決済事業のAI導入では、機能の選定より先に、どの業務を補助するか、本人確認、決済・送金の承認・停止、不正取引の確定、補償、苦情対応から何を除外するか、誰が確認するかを定めます。問合せ・文書・記録の整理は補助にできますが、金融・決済に関する最終判断をAIに委ねません。

金融庁は、金融機関等におけるAIの活用実態と健全な利活用に向けた初期的な論点整理を公表しています。AI活用を、利用者保護、リスク管理、セキュリティ、情報管理、委託、障害・不正対応の運用に組み込みます。

金融庁の電子決済等代行業に関する監督指針は、利用者保護、システムリスク、情報セキュリティ、外部委託、被害拡大防止を重視しています。AIの案内や予測があっても、本人確認、決済・送金の承認・停止、不正取引の確定、補償、苦情・事故対応を自動確定しません。

電子決済サービスの導入・変更では、利用者への影響、システムリスク、外部委託先、想定される不正手口、障害時の案内・相談対応を確認します。与信、融資、投資、取引制限・解除についても、人の責任で個別に判断します。

顧客の連絡先、口座・決済に関する情報、認証情報、取引履歴、問合せ記録を扱う場合は、利用目的、必要性、権限、保存、委託、再委託、提供、削除、漏えい時の対応を確認します。外部AI、クラウド、決済・分析サービスを利用する場合も、情報を渡す範囲と委託先の役割を定めます。

誤出力、障害、サイバー事案、不正利用のおそれ、顧客情報の異常が起きた場合はAIを停止し、既存のリスク管理、不正対応、利用者対応、障害対応手順へ切り替えます。本人確認、決済・送金の承認・停止、不正取引、補償、個人データの最終判断は人が行います。

対象業務、利用者保護、本人確認・決済判断との境界、システムリスク、顧客情報、委託、障害・不正時の手順です。

用途、出力、利用者保護への影響、本人確認・決済・不正対応との境界、停止・連絡を確認します。

出力の利用を止め、影響範囲、利用者対応、決済・不正への影響、必要な連絡を責任者が判断します。