EUのAI規則（４/４－最終回）－イノベーション支援、ガバナンス、市販後モニタリング等

2024年11月06日

（松澤 登） 保険会社経営

関連カテゴリ

4――ガバナンスとデータベース

本項4では主にEUレベルと国家レベルのガバナンスを解説する。
1｜AIオフィス
AIオフィスとは、2024年1月24日の欧州委員会決定で規定された、AIシステムおよび汎用AIモデルの導入、監視および監督、ならびにAIガバナンスに寄与する欧州委員会の機能を意味する。本規則におけるAIオフィスへの言及は、欧州委員会への言及と解釈されるものとする(3条(47))と定義されている。その実際の役割として定められているのは以下の2点（図表8）である(64条)。
（注記）前文では「本規則は、国レベルで本規則の適用を調整し支援することを可能にすると同時に、EUレベルで能力を構築し、AI分野の利害関係者を統合することを可能にするガバナンスの枠組みを確立すべきである。本規則の効果的な実施には、EUレベルで中心となる専門知識の調整と構築を可能にするガバナンスの枠組みが必要である。AIオフィスは、欧州委員会の決定により設立され、AI分野における欧州連合の専門知識と能力を開発し、AIに関する欧州連合法の実施に貢献することを使命としている」（前文148）とされている。つまりAIオフィス（すなわち欧州委員会）は、加盟国で実施されるガバナンスとは別途、EUレベルのAI分野における監督を実施する機関とされる。監督実施にあたって、AIオフィスは各国の所管官庁(70条、後述)から支援を受けることとされている。
2｜欧州人工知能理事会
(1) 欧州人工知能理事会（以下、理事会）は本規則により設立される(65条1項)。

(2) 理事会は、各加盟国の代表1名で構成される。欧州データ保護監督機関はオブザーバーとして参加する。AIオフィスも理事会の会合に出席するものとするが、投票には参加しない。その他の国および欧州連合の当局、機関または専門家は、議論される問題がそれらと関連性がある場合、理事会がケースバイケースで会議に招待することができる（同条2項）。

(3) 理事会は、本規則の一貫した効果的な適用を促進するため、欧州委員会および加盟国に助言し、これを支援する(66条)。具体的に(a)各国の所管官庁間の調整、(b)技術・規制に関する専門知識やベストプラクティスの共有、(c)汎用AIモデルに関する規則の施行に関して助言を提供するなど15個の権限が66条に規定されている。

（注記）前文では「理事会は、施行事項、技術仕様、本規則に定められた要求事項に関する既存の基準など、本規則の施行に関連する事項について、意見、勧告、助言を出したり、ガイダンスに貢献したりすること、また、AIに関連する特定の質問について、欧州委員会、加盟国およびその国の管轄当局に助言を提供することなど、多くの助言業務を担当すべきである」（前文149）とする。上記の通り、理事会は各国一名の代表により構成され、欧州委員会や各国への支援・助言を行う。国家間で意見が異なる場合の調整機能も有する。

3｜アドバイザリー・フォーラム
(1) 技術的な専門知識を提供し、理事会および欧州委員会に助言を与え、本規則に基づく両者の業務に貢献するため、アドバイザリー・フォーラムを設置するものとする(67条1項)。

(2) アドバイザリー・フォーラムのメンバーは、産業界、新興企業、中小企業、市民社会、学界を含む利害関係者から、バランスの取れた代表者を選任するものとする。アドバイザリー・フォーラムのメンバーは、商業的利益と非商業的利益、また商業的利益の中でも中小企業やその他の事業に関してバランスのとれたものとする（67条2項）。

(3) 欧州委員会は、第2項に定める基準に従い、AI分野の専門知識を有する関係者の中から、アドバイザリー・フォーラムの委員を任命する（67条3項）。

（注記）前文では「本規則の実施および適用における利害関係者の関与を確保する観点から、理事会および欧州委員会に助言を与え、技術的な専門知識を提供するためのアドバイザリー・フォーラムを設置すべきである」（前文150）とある。アドバイザリー・フォーラムは国家の所管機関とは別に、主に利害関係者、産業人や市民、学者の意見を取りまとめる機能を有する。この取りまとめた意見は理事会、欧州委員会（AIオフィス）に提出され、その業務に貢献することとなる。

4｜科学パネル
(1) 欧州委員会は、施行法によって、本規則に基づく施行活動を支援するための、独立した専門家からなる科学パネルの設置に関する規定を設けるものとする(68条1項)。

(2) 科学パネル、特に以下の業務に関してAIオフィスに助言し、支援する(68条3項。図表9)。
(3) 加盟国は、本規則に基づく執行活動を支援するため、科学パネルの専門家の支援を要請することができる(69条1項)。

（注記）前文では「本規則の実施及び執行、特に汎用AIモデルに関するAIオフィスの監視活動を支援するため、独立した専門家からなる科学パネルを設置すべきである。科学パネルを構成する独立した専門家は、AIの分野における最新の科学的または技術的な専門知識に基づいて選出されるべきであり、公平性、客観性をもってその任務を遂行し、その任務および活動を遂行する際に得られた情報およびデータの機密性を確保すべきである」（前文151）とする。本条は専門家の意見をガバナンスに反映するための仕組みである科学パネルを設置することを定めている。科学パネルは主に欧州委員会（AIオフィス）に情報を提供し、支援を行うものであるが、加盟国から支援を求められれば要請に応じる必要がある。

5｜各国の所管官庁
各加盟国は、本規則の目的のために、少なくとも1つの通知当局および少なくとも1つの市場監視当局を、国内管轄当局として設置または指定しなければならない。これらの国内管轄当局は、その活動および業務の客観性を保証し、本規則の適用および実施を確保するため、独立、公平かつ偏見なくその権限を行使しなければならない。これらの当局の構成員は、その職務と両立しないいかなる行動も慎まなければならない(70条1項)。

（注記）前文では「加盟国は、本規則の適用と施行において重要な役割を担う。その意味で、各加盟国は、少なくとも1つの通知当局と少なくとも1つの市場監視当局を、本規則の適用と実施を監督するための国内管轄当局として指定しなければならない」（前文153）とする。上述したEUレベルの監視とは別に、加盟国はAIシステムの監視をはじめとする本規則の規定を遵守する責任を負う。なお、通知当局は前回レポートで解説した(3条(19))通りだが、市場監視当局は後述74条に関する解説を参照願いたい。

6｜高リスクAIシステムのデータベース
(1) 欧州委員会は、加盟国と協力して、49条及び60条に従って登録された6条2項にいう高リスクのAIシステム、並びに6条3項に従って高リスクとはみなされず、6条4項及び49条に従って登録されたAIシステムに関する本条2項及び3項にいう情報を含むEUデータベースを構築し、維持する(71条1項)。

(2) 付属書ＶIIIのセクションAおよびBに記載されたデータは、提供者または該当する場合は認定代理人がEUデータベースに入力するものとする(71条2項)。

(3) 付属書ＶIIIのセクションCに記載されたデータは、第49条3項および4項に従い、公的機関、代理店または団体である、あるいはその代理を務める配備者がEUデータベースに入力する(71条3項)。

以下では付属書ＶIIIのセクションAの概要のみを記載し、セクションBとCは省略する（図表10）。
（注記）データベースは国民に対する透明性を高める目的で構築され、AIシステムが登録される。前文では「AI分野における欧州委員会および加盟国の作業を容易にし、国民に対する透明性を高めるため、（中略）提供者は、欧州委員会が設置・管理するEUのデータベースに、自らとそのAIシステムに関する情報を登録することを義務付けられるべきである」とされる。そして「EUデータベースのこのセクションは、無料で一般に公開されるべきであり、情報は容易に閲覧可能で、理解しやすく、機械可読であるべきである」とされる（前文131）。

5――市販後モニタリング、情報共有、市場監視

5――市販後モニタリング、情報共有、市場監視

本項5では市販後モニタリング制度などを解説する。
1｜市販後モニタリング
提供者は、AI技術の性質と高リスクAIシステムのリスクに見合った方法で、市販後モニタリングシステムを確立し、文書化する(72条1項)。

市販後モニタリングシステムは、配備者から提供されるか、又は他の情報源を通じて収集される、高リスクAIシステムの性能に関する関連データを、その耐用期間を通じて、積極的かつ体系的に収集、文書化及び分析しなければならない。そしてこれにより、提供者は、AIシステムがⅢ章2節（高リスクAIシステムの要件）に定める要件に継続的に適合していることを評価できるようにしなければならない(72条2項)。

欧州委員会は、市販後モニタリング計画のひな形および計画に含めるべき要素のリストを定める詳細な規定を定めた施行法を2026年2月2日までに採択しなければならない(72条3項)。

（注記）前文では「高リスクのAIシステムの提供者が、高リスクのAIシステムの使用経験を、システムおよび設計・開発プロセスの改善のために考慮できること、あるいは、可能な是正措置を適時に講じることができることを確保するため、すべての提供者は、市販後モニタリングシステムを導入すべきである」（前文155）とされている。すなわち市販後モニタリングシステムはAIシステムの継続的な改善、および重大インシデントがあった場合の適切な抑止措置および是正措置のために公開のデータベースとして構築される。

2｜重大インシデントに関する情報の共有
EU市場に投入された高リスクAIシステムの提供者は、重大な事故が発生した場合、その事故が発生した加盟国の市場監視当局に報告しなければならない(73条1項)。

上記1項の報告は、提供者がAIシステムと重大な事故との間の因果関係又はそのような相当な可能性を立証した後、直ちに行われるものとし、いかなる場合においても、 提供者又は場合によっては配置者が重大な事故を認識した後15日以内に行われるものとする。1項の報告期間は、重大事故の重大性を考慮しなければならない（同条2項）。

（注記）本項は重大事故が発生した場合の報告義務を定めたものである。前文では「提供者は、AIシステムの使用に起因する重大な事故、すなわち、死亡や健康への深刻な損害につながる事故や誤動作、重要インフラの管理・運用の深刻かつ不可逆的な混乱、基本的権利の保護を目的とするEU法に基づく義務の侵害、財産や環境への深刻な損害などを、関連当局に報告するシステムを整備することも求められるべきである」（前文155）とされている。

【次ページ】市場監視当局の市場監視

1 2 3 4 5

保険研究部   研究理事 兼 ヘルスケアリサーチセンター長

松澤 登（まつざわ のぼる）

研究領域：保険

研究・専門分野
保険業法・保険法｜企業法務

レポートについてお問い合わせ
(取材・講演依頼)

経歴 ＋ －

【職歴】
　1985年　日本生命保険相互会社入社
　2014年　ニッセイ基礎研究所　内部監査室長兼システム部長
　2015年4月　生活研究部部長兼システム部長
　2018年4月　取締役保険研究部研究理事
　2021年4月　常務取締役保険研究部研究理事
　2024年4月　専務取締役保険研究部研究理事
　2025年4月　取締役保険研究部研究理事
　2025年7月より現職

【加入団体等】
　東京大学法学部（学士）、ハーバードロースクール（LLM：修士）
　東京大学経済学部非常勤講師(2022年度・2023年度)
　大阪経済大学非常勤講師(2018年度～2022年度)
　金融審議会専門委員（2004年7月～2008年7月）
　日本保険学会理事、生命保険経営学会常務理事 等

【著書】
　『はじめて学ぶ少額短期保険』
　　出版社：保険毎日新聞社
　　発行年月：2024年02月

　『Q&Aで読み解く保険業法』
　　出版社：保険毎日新聞社
　　発行年月：2022年07月

　『はじめて学ぶ生命保険』
　　出版社：保険毎日新聞社
　　発行年月：2021年05月

関連レポート

レポートについてお問い合わせ
(取材・講演依頼)

関連カテゴリ・レポート

基礎研レポート

生成AI・AI

法務