EUのAI規則(２/４)－高リスクAIシステム

保険研究部取締役研究理事兼ヘルスケアリサーチセンター長松澤登

1――はじめに

前回(1回目)のレポートで述べた通り、EUのAI規則（以下、本規則）は、2024年6月13日にEUジャーナル（日本の官報に相当）に掲載され、同年8月1日に発効した。本シリーズでは本規則の内容を解説することを目的とする。4回中、2回目の本稿では高リスクAIシステムについて解説を行う。全体の中の位置づけとしては下記図表1の色付き部分である。

2――前回レポートの振り返り

ここでは本稿から読まれる方のために、簡単に前回レポートの振り返りを行っておきたい。内容を単純化してお示しするので、正確には前回レポートを参照願いたい。

前回レポートでは各種定義、適用範囲、禁止されるAIの行為等を解説した。

まず定義としては、AIシステムは入力から推論して出力を行う機械のシステムとされていた。適用対象になるのは、主にはAIシステムをEU域内に市場投入するか又は稼働させる提供者と、EU域内で事業上AIシステムを利用する配備者である。

前回レポートの重点は禁止されるAIの行為であった。これには、人の意識や感情に干渉するシステム（サブリミナル技術を使用するシステムなど）や、人を監視し、分類するシステム（生体データを無差別収集するシステムなど）があった。これらはAIシステムの及ぼす悪影響のリスクが高すぎると判断され、EU域内での使用が禁止されている。また、禁止違反には罰金が科される。

3――高リスクAIシステムとは

1｜高リスクAIシステムとは（その1）
AIシステムが以下の(a)と(b)のいずれも満たすときに、そのAIシステムは高リスクとみなされる(6条1項。図表2)。

ここで触れられている付属書Ｉには機械に関する欧州指令(Directive)、玩具の安全性に関する欧州指令などが列挙されている（図表3、図表4）。

（注記）本条文はEU調和法（図表3、4に掲げるものに限る）の適用を受ける製品またはその安全装置であって、かつ適合性評価を受ける必要のある製品等を高リスクAIシステムと分類することを定めた条文である。前文では「高リスクAIシステムは、一定の必須要件に適合する場合にのみ、域内市場に投入され、使用されるべきである。これらの要件は、域内で利用可能な、あるいは域内で利用される高リスクのAIシステムが、域内法で認識され保護されている域内の重要な公共の利益に対して許容できないリスクをもたらさないことを保証するものでなければならない」（前文46）とする。

ここで、高リスクかどうかは「憲章が保護する基本的権利にAIシステムが与える悪影響の程度が特に重要となる。これらの権利には、人間の尊厳、私生活と家族生活の尊重、個人情報の保護、表現と情報の自由、集会と結社の自由、差別のない権利、教育を受ける権利、消費者保護、労働者の権利、障害者の権利、男女平等、知的財産権、効果的な救済と公正な裁判を受ける権利、防御と無罪推定の権利、善良な管理者の権利などが含まれる」（前文48）を考慮するものとする。

前回レポートで述べた通り、AIシステムのうち禁止されるものがある。他方、高リスクAIシステムとは、リスクはありながらも、何らかの措置を加えることなどにより、リスクの発生を十分に抑制するか、リスクが発生しても社会的に許容できるリスクにとどめることができるものが該当すると位置づけられる。

¹ EU で製品を流通させるにあたり、特定分野の製品が満たすべき要件を調和（ハーモナイゼーション）させることとしているEU 指令や規則（Union harmonization legislation）のことを指す（EU整合化法令と訳されることもある）。

2｜高リスクAIシステムとは（その2）
付属書III（図表5）に記載されているAIシステムは高リスクとみなされる(6条2項)。ここで付属書IIIには自然人の健康、安全または基本的権利に重大な危害を及ぼすリスクがあるAIシステム(＝これには生体識別や教育、職業訓練、雇用、必須の民間・公共サービスへのアクセス、法執行、移民・亡命・国境管理、私法及び民間プロセスの運営などが含まれる）および重要インフラに該当する場合や環境に重大な危害を及ぼすAIシステムが記載されている。

ただし、付属書IIIに言及されるAIシステムであっても、意思決定の結果に重大な影響を与えないことを含め、自然人の健康、安全又は基本的権利に危害を及ぼす重大なリスクをもたらさない場合には、高リスクとはみなされないものとする（同条3項）。なお、AIシステムが自然人のプロファイリングを行う場合には、常に高リスクであるとみなされる（同条3項但書）。

そして、付属書IIIで言及されるAIシステムが高リスクではないと考える提供者は、当該システムが市場投入され、又は使用開始される前に、その評価を文書化しなければならない。このような提供者は、49条2項(3回目のレポートで解説予定)に定める登録義務の対象となる。欧州委員会は付属書Ⅲの修正権限を有する(7条)。

（注記）前文では「本規則であらかじめ規定された領域で言及されているAIシステムが、意思決定に重大な影響を与えないか、またはそれらの利益を実質的に害しないため、それらの領域で保護される法益を害する重大なリスクにつながらない特定の場合があり得ることを明確にすることも重要である。本規則において、意思決定の結果に実質的な影響を与えないAIシステムとは、人為的か自動的かを問わず、意思決定の実質、ひいては結果に影響を与えないAIシステムと理解すべきである」（前文53）とある。すなわち、付属書IIIに記載されているAIシステムは、人の意思決定やその結果に重大な影響を及ぼす可能性があるものとの認識のもとで、高リスクであるとみなされる。したがって意思決定やその結果に重大な影響をもたらさないものと提供者が判断しうるものであれば、登録を条件として高リスクAIシステムから除外されているものと考えられる。

日付	タイトル	執筆者	媒体
2025/04/28	欧州委、AppleとMetaに制裁金－Digital Market Act違反で	松澤登	研究員の眼
2025/04/18	資金決済法の改正案－デジタルマネーの流通促進と規制強化	松澤登	基礎研レポート
2025/04/16	公取委、Googleに排除命令－その努力と限界	松澤登	研究員の眼
2025/04/11	AlphabetにDMA違反暫定見解－日本のスマホ競争促進法への影響	松澤登	研究員の眼

日付

タイトル

執筆者

媒体

2025/04/28

欧州委、AppleとMetaに制裁金－Digital Market Act違反で

松澤登

研究員の眼

2025/04/18

資金決済法の改正案－デジタルマネーの流通促進と規制強化

松澤登

基礎研レポート