AIリスクを軽減するためのデータインテグリティとは（2026年5-6月号）
ケビン・ゴート（訳：鈴木英夫）[*]
アルゴリズムではなくデータこそが重要
多くの企業リーダーに、自社の人工知能（AI）活用における成功の基盤について尋ねると、最新のモデルと最も高度なアルゴリズムを用いて「ゲームチェンジャー」となるような洞察を生み出すことを挙げるだろう。しかし、最高のAIモデルを選ぶことにばかり焦点を当てるのは誤りである。
AIの成功はアルゴリズムから始まるのではない。むしろ、クリーンなデータから始まる。信頼できる情報がなければ、どんなに優れたAIモデルでも誤った判断を下し、運用、財務、そして評判に甚大なリスクをもたらすのである。
「データこそ優先、アルゴリズムはその次」のアプローチは、特にリスクマネジャーにとって重要だ。なぜなら、不正確なAI出力が下流で問題を引き起こした場合、その影響に対処しなければならないのはリスクマネジャー自身だからである。リスクは非常に大きく、2026年のアリアンツ・リスクバロメーターでは、AIは世界的にサイバーインシデントに次いで2番目に大きなビジネス上の懸念事項として挙げられている。
組織を最大限に保護するためには、リスクマネジャーはデータインテグリティとAIに関するいくつかの重要な問題について理解しておく必要がある。
「汚れたデータ」のジレンマ
AIモデルは信頼できる出力を得るためには、そもそもデータに依存するため、データの正確性とクリーンさが不可欠だ。しかし、保険会社をはじめとする多くの企業がAIの導入と競争力維持を目指す中で、アルゴリズム優先のアプローチに偏りがちである。データへの配慮が不十分だと、投資対効果を証明することは非常に困難となる。
AIが誤作動を起こす場合、その原因は組織のデータ保存場所と、モデルがデータにアクセスして学習する方法にあることが多い。多くの企業では、データが様々なシステムに分散しているため、AIモデルが適切に機能するために必要なコンテキストが制限されている。COBOLなどの旧式プログラミング言語で構築された基幹メインフレームシステムを抱える企業では、この問題はさらに深刻である。こうした旧式のシステムにAIを統合することは極めて難しい。
最新のクラウドベースの基幹システムを導入している組織であっても、不完全で断片化されたデータは、特に自動化されたワークフローに組み込まれた場合、予期せぬ結果を招くことがある。例えば、自動引受プロセスを導入している保険会社を考えてみよう。AIモデルは、複数のソースから物件および損害データを取得する。建物の特性や損害の詳細が欠落していたり、古くなっていたりするなど、データに何らかの欠陥があると、価格設定の誤りや矛盾が生じ、それが数週間、あるいは数ヶ月も気づかれないままになりかねない。
金融サービス、ヘルスケア、生命保険・健康保険などの業界のリスクマネジャーにとって、データに関する懸念はさらに深刻だ。これらの組織は通常、膨大な量の個人識別情報（PII）を扱っており、AIモデルのトレーニングに使用されるデータが、EU一般データ保護規則（GDPR）やカリフォルニア州消費者プライバシー法（CCPA）などのプライバシー関連法に準拠していることを確認する必要がある。
リスクマネジャーが考慮すべき事項
組織がAIの活用を拡大するにつれ、リスクマネジャーは、自社組織、あるいは提携する保険会社がデータとAIをどのように活用して意思決定を行っているかを評価する必要がある。以下の4つの設問は、組織がデータ関連リスクを評価し、軽減するのに役立つ：
1. すべてのデータは保存されているか、それとも早々に消去されているか？
リスクマネジャーは、リスクの低いAI対応の未来を構築するためにデータパイプライン自体を理解する必要はないが、AI時代におけるデータ保存と抽出がどのように変化したかを理解する必要がある。
ほんの数年前まで、企業は「ビッグデータ」に注力し、可能な限り多くの情報を収集しようとしていた。そのために、「抽出、変換、ロード」（ETL）と呼ばれるプロセスを用いて、すべての受信データを単一のクリーンなバージョンにフラット化してから使用していた。
AIにおいては、ETL（抽出、変換、ロード）はもはや意味をなさない。分析前にデータを標準化してしまうと、文脈を欠いた、画一的な情報に基づいてAIモデルを学習させることになり、結果としてAIツールによる意思決定の妥当性を検証することが困難になる。
より賢明なアプローチは、どんなに不完全で不細工なデータであっても、すべての生データを保存するパートナーを探すことだ。そうすることで、企業は生データから最良の部分を選び出し、異常値や偏りを取り除き、AIモデルを学習させて、引受プロセスの効率化など、特定のユースケースを理解・強化することができる。これによりリスクを軽減し、必要に応じて将来の利用のために生データを保存することが可能になる。
2. データ抽出ツールは基幹システムやプロセスに完全に統合されているか？
多くの保険会社や他の組織は、保険証券や請求書から非構造化データを抽出し、構造化フォーマットに変換するために、光学文字認識（OCR）ソリューションを利用している。しかし、データが抽出されたからといって、AI処理に適した状態になるとは限らない。
OCRを単独で使用しても、データが正確な引受判断や保険金請求判断を下せるとは限らないし、過去の入力データからバイアスを取り除くこともできない。OCRは単にデータを構造化するだけなのである。保険会社は、AIエンジン向けに情報をどのように管理し、文脈化するかを決定する必要がある。
ここで統合の重要性が最大限に発揮される。俊敏でクラウドベースの基幹システムを持つ通信事業者や企業組織は、AIを容易に組み込むことができるのだ。つまり、抽出したデータをクレンジング・強化するAI機能を備えたOCRツールを導入することで、精度を向上させることが可能だ。一方、レガシーシステムを持つ組織や通信事業者はこれができないため、AI関連のリスクが増大することになる。
3. AIモデルは個人情報（PII）やその他の機密データをどのように利用するのか？
個人情報（PII）などの機密データが組織の直接的な管理下から離れる場合、リスクマネジャーは、データがどこに保存され、どのくらいの期間保持され、誰がアクセスでき、問題が発生した場合にどうなるかを把握しておく必要がある。
組織またはパートナーがChatGPTなどの外部AIツールに個人情報（PII）を送信する場合、そのツールはデータサブプロセッサー＊）となる。そうなると、企業は関係性を開示し、サブプロセッサーがすべての必要なプライバシーおよびセキュリティ規制を遵守していることを確認する必要が生じる。また、組織は、そのデータが下流でどのように処理されるかについても責任を負う。リスクマネジャーは、これらの潜在的な落とし穴を理解し、対処するための戦略を策定する必要がある。
＊）訳者注：「データサブプロセッサー（再委託先）」とは、サービス提供者が顧客から預かった個人データを処理する際、その処理の一部をさらに外部へ委託する第三者のこと。特にGDPR（欧州一般データ保護規則）などのデータ保護法において、この役割分担と責任の所在を明確にすることが非常に重視されている。
4. 人間の介入が必要となるのはどのような場合か？
企業組織や通信事業者が、あらゆる段階でユーザーの入力を必要とする生成型AIから、段階的なプロセスを自律的に生成するエージェント型AIへと移行するにつれて、人間の介入が必要となるタイミングを判断する必要が出てくる。
リスクマネジャーは、特に自動化が複雑なユースケースに拡大するにつれて、企業組織および提携保険会社が適切なヒューマン・イン・ザ・ループ＊）制御を導入し、人間が正確性を検証できるようにすべきだ。少なくとも、引受や保険金請求といった複数ステップのプロセスを自動化するためにAIを使用する組織は、人間が使用するのと同等の意思決定基準をこれらのプロセス内で要求する必要がある。
＊）訳者注：ヒューマン・イン・ザ・ループ（Human-in-the-loop, HITL）とは、人工知能の学習や運用プロセスの中に「人間の判断」を組み込む仕組みのこと。AIが単独で判断を下すのではなく、人間がフィードバックを与えたり、最終的な意思決定を承認したりすることで、システムの精度、安全性、および倫理的な妥当性を高めるのが主な目的である。
事業の他の部門がアルゴリズムやこの分野の最新動向に注目する一方で、リスクマネジャーはAIにおいて最も重要なこと、すなわちモデルのトレーニングやインサイト生成に使用される「データの正確性を確保する」ことに常に焦点を当てる必要がある。保険会社や組織のデータがどこから来て、どのように整理され、どのように使用されるかを理解するために時間を費やす企業は、AI関連のリスクを軽減し、信頼を築き、投資対効果（ROI）をより迅速に実現できるであろう。
トピック
人工知能、新興リスク、テクノロジー
注意事項：この記事は、”What Risk Managers Should Know About Data Integrity to Reduce AI Risks,” Kevin Gaut | April 21, 2026, RIMS Risk Management Site (https://www.rmmagazine.com/articles/article/2026/04/21/what-risk-managers-should-know-about-data-integrity-to-reduce-ai-risks)をRIMS日本支部が翻訳したものであり、原文と訳文に差異がある場合には原文を優先します。
ケビン・ゴートはINSTANDAの最高技術責任者。
鈴木英夫はRIMS日本支部主席研究員。
