AI保険の補償範囲と保険請求処理での動向（2025年1-2月号）
マーシャル・ギリンスキー、ジェイミー・オニール[*]
保険契約者は、AIと保険が交わる3つの主な領域での動向を監視する必要がある。1)リスク遭遇可能性と保険の文言での潜在的な変更、2)保険会社の業務、特に請求処理におけるAIツールの開発と導入、3)保険会社によるAIの使用を対象とする保険規制と法律、である。
保険会社によるAIツールの導入は、保険業界と保険契約者の双方に利益をもたらす可能性がある。ただし、保険契約者の権利を侵害するゼロサムの請求処理戦略につながる可能性もある。注目すべき最近の動向をいくつか紹介しよう。
AIに焦点を当てた保険契約での文言の出現の歩みは遅く、サイバーリスクに限定されている
除外事項であれ、強化事項であれ、新しい保険における文言は、保険契約者が直面するリスクの変化に応じて歴史的に出現してきた。例としては、1980年代後半の汚染およびアスベストの除外、2001年9月11日以降のテロリズムの除外、2002年のSARS発生後のウイルスの除外などがある。汚染保険、性的虐待および痴漢保険、サイバー保険で起こったように、補償の強化を提供する新製品は除外に続くことがよくある。1999年に導入されたY2K除外のように、認識されたリスクが現実化しないために文言が変更されることもある。
これまでのところ、ほとんどの保険商品ラインで、AIツールの使用に基づく保険契約者のリスク遭遇可能性に目立った変化はない。したがって、保険会社はAI関連のリスクまたは損失の補償を制限する除外を導入していない。これは驚くことではない。なぜなら、膨大な補償範囲を一掃し、保険会社の製品に対する需要を損なうことを避ける方法でAIを正確に定義する除外を作成するのは非常に難しいからである。
しかし、サイバー分野では、企業が直面するAIリスクは進化しており、注目すべき文言や製品開発がいくつかある。最近、AXAは、生成AIリスクに対処するサイバー保険の新しい裏書条項を発表した。コアリション社も、サイバー保険の裏書条項を発表した。この裏書条項では、「セキュリティ障害またはデータ侵害の定義をAIセキュリティ・イベントまで拡大」し、「資金移動詐欺(FTF)イベントの引き金を、ディープフェイクやその他のAIテクノロジーを使用して送信される不正な指示まで拡大」している。
集団訴訟は、医療保険会社の請求処理アルゴリズムの使用をターゲットにしている
メディケア加入者の半数以上が、メディケア・アドバンテージ(MA)プランに加入している。これは、従来のメディケアの代替として民間保険会社が販売する医療保険である。連邦政府が加入者ごとに支払うMAプランは、従来のメディケアのすべての特典を提供することが義務付けられているが、歯科、聴覚、視覚での補償などの追加特典を提供することで顧客を引き付けている。また、従来のメディケアにはない、自己負担額の年間上限も設定する必要がある。ほとんどのMAプランでは、追加料金なしでパートD（外来処方薬給付金）プランも提供されている。
MAプランでは、一部の治療について患者と医療提供者が事前承認を得ることがほぼ必須であり、特定の治療(特に救急手術後)の補償を従来のメディケアよりもはるかに高い割合で拒否または制限している。2023年3月、STATニューズ記者ケイシー・ロスとボブ・ハーマンが公開した一連の暴露記事では、ユナイティッドヘルスケアのオプタム部門がAIを導入して補償要求を評価するナビヘルス社を買収した後、近年、重症のMA加入者に対する緊急手術後治療やその他の高額治療への補償拒否が急増していることが明らかになった。
2023年7月、STATは、ユナイティッドヘルスがナビヘルスのアルゴリズムを使用して、処置後の平均的な入院期間またはリハビリ期間に基づいて患者の退院の目標日を設定し、患者が継続的な医療が必要であることが示された場合でも、その目標から逸脱することを拒否していると報じた。
その後、上院常設調査小委員会（PSI）は、メディケア・アドバンテージに加入している高齢者が医療を受ける際に直面する障壁について調査を開始した。この小委員会が2024年10月に発表したその後の報告書によると、ユナイティッドヘルスケアの緊急手術後治療の事前承認要求に対する拒否率は、同社が審査プロセスを自動化する取り組みを開始したのと時を合わせて大幅に増加し、2020年の10％から2021年には16.3％、2022年には22.7％に上昇した。調査では、CVS（コンカレント・バージョンズ・システム）が緊急手術後治療施設での支出を削減するためにAIを使用していることも判明した。
STATの報告を受けて、アルゴリズムやAIを違法に展開して患者が必要とする治療を拒否したとする集団訴訟がいくつか起こされた。2023年7月、キスティング‐レオン対チーナ・コーポレーションの原告は、カリフォルニア州連邦裁判所でチーナを提訴し、「カリフォルニア州法で被保険者に保証されている、請求に対する医師による徹底した個別審査を組織的、不当かつ自動的に拒否する違法な計画」を主張した。2024年4月にミネソタ州連邦裁判所に提起されたエステイト・オブ・ロッケン対ユナイティッドヘルス・グループは、ユナイティッドヘルスケアがメディケア・アドバンテージ・プランの下で高齢患者に支払われるべき補償を拒否するために、実際の医療専門家の代わりにAIを違法に導入したと主張している。同様の訴訟であるバローズ対ハマナ社は、同月後半にケンタッキー州連邦裁判所に提起された。
注目すべきは、STATが報告し、これらの集団訴訟で主張されている不正行為には、コンピューターが生成した請求推奨に関して人間がかなりの裁量と監視を持っていた状況が含まれていることである。将来、AIツールが請求処理の決定をより制御できるようになる可能性に細心の注意を払うことが重要になるだろう。このような将来が予想される中、保険契約者の権利を守るためには、透明性、説明可能性、説明責任が不可欠となるであろう。
新たな法律と保険規制は保険金請求処理におけるAIをターゲットにしている
2024年、多くの州の保険局が、全米保険監督官協会(NAIC)が2023年12月に発行した公告に基づいて、最初の規制を採択した。すべての種類の保険に適用されるこの規制は、次の点で注目に値する。
- リスクの認識：この規制では、「AIシステムは、不正確さ、不当な差別、データの脆弱性、透明性と説明可能性の欠如に関する可能性など、消費者に固有のリスクをもたらす可能性がある」と指摘している。
- 悪意法のAI使用への適用：この規制では、「保険会社が行う行為は、保険会社が行為を決定またはサポートするために使用した方法に関係なく、不公正取引慣行法または不公正請求処理慣行法に違反してはならない」と規定している。
- 保険契約者への通知が必要となる：規制では、保険会社に「影響を受ける消費者にAIシステムが使用されていることを通知し、適切なレベルの情報へのアクセスを提供するプロセスと手順を含む」AIプログラムの実装を義務付けている。
- AIツールの開発、訓練、実装の文書化とテストが必要となる：規制では、「予測モデルの開発と使用に関する詳細な文書化」、「解釈可能性、再現性、堅固性、定期的な調整、再現性、追跡可能性、モデルからの逸脱、およびこれらの測定の適切な時の監査可能性などの評価」、「モデルの開発、訓練、検証、監査に使用されるデータの適合性を含む、実装時の出力の検証、テスト、再テスト」を義務付けている。
さらに、カリフォルニア州議会は、2025年1月1日に発効する医師決定法（SB-1120）を可決し、保険会社による新たなAIの乱用に対応した。この法律では、健康保険や障害保険の請求を審査する際、「免許を持つ医師または免許を持つ医療専門家のみが、医療上の必要性を理由に医療サービスの承認要求を拒否または修正できる」と規定している。法律では、保険金請求分析プロセスでAIツールが使用される可能性があることを暗黙的に認めているが、AIツールまたはアルゴリズムには次のことが規定されている。
- 保険契約者の病歴、保険契約者の医師または医療提供者によって提示された個々の診療状況、または保険契約者の臨床記録にあるその他の臨床情報のみに基づいて分析を行うことができる。
- 一つのデータセット群のみに基づいて分析を行うことはできない。
- 医療提供者の意思決定に取って代わることはできない。
- 医療上の必要性に基づいて、医療サービス全体または一部を拒否、遅延、または変更することはできない。
- 保険契約者、医療提供者、および一般の人々の要求に応じて公開される、文書化された手順を伴う。
このような規制はスタートとしては良いことであるが、効果的な監視と施行が不可欠である。また、問題のある保険金請求処理慣行が出現し、進化するにつれて、それを予測して対応する継続的な規制も不可欠である。
トピックス
人工知能、保険請求管理、新興リスク、保険
注意事項：本翻訳は“Trends in AI Insurance Coverage and Claims Handling ”, Risk Management Site (https://www.rmmagazine.com/articles/article/2025/02/19/trends-in-ai-insurance-coverage-and-claims-handling ) February 2025,をRIMS日本支部が翻訳したものです。原文と和訳に相違があるときには、原文を優先します。本文中は敬称略です。
マーシャル ギリンスキーはアンダーソン キルのボストン オフィスの株主。財産および事業中断、商業一般賠償責任、過失、取締役および役員、生命保険に関する保険金請求で保険契約者の代理人を務めている。
ジェイミー・オニールはアンダーソン・キルのニューヨーク事務所の弁護士。保険金回収業務が専門。
