EUのAI規則（４/４－最終回）－イノベーション支援、ガバナンス、市販後モニタリング等

保険研究部取締役研究理事兼ヘルスケアリサーチセンター長松澤登

(6) AIオフィスは、理事会に諮った上で、汎用AIモデルについて以下の評価を実施することができる(92条1項。図表14)。

必要かつ適切な場合、欧州委員会は提供者に対し、以下を要請することができる(93条1項。図表15)。

（注記）前文では「評価の実施に際しては、独立した専門知識を活用するため、AI事務局は、AIオフィスに代わって評価を実施する独立した専門家を関与させることができるべきである。義務の遵守は、特に、特定されたシステミック・リスクの場合のリスク軽減措置や、モデルの市場流通の制限、撤回またはリコールを含む適切な措置の要請を通じて、強制可能であるべきである。」（前文164）とある。汎用AI モデルに関する欧州委員会・AIオフィスの是正権限を規定した条文である。欧州委員会はAIモデルの撤回・回収命令まで行えることに注目したい。

6――法律の執行

本項6で解説する部分は法律の執行および罰則等である。最後の部分である。

1｜行動規範とガイドライン
(1) AIオフィス及び加盟国は、利用可能な技術的解決策及び当該要件の適用を可能にする業界のベストプラクティスを考慮した上で、高リスクAIシステム以外のAIシステムに、 Ⅲ章2節(高リスクAIシステムの満たすべき要件)に定める要件の一部又は全部を自主的に適用することを促進することを意図した、関連するガバナンス機構を含む行動規範の作成を奨励及び促進する(95条1項)。

（注記）前文では「本規則の要件に従った高リスクAIシステム以外のAIシステムの開発は、EUにおける倫理的で信頼できるAIの普及につながる可能性がある。高リスクでないAIシステムの提供者は、関連するガバナンス・メカニズムを含め、高リスクのAIシステムに適用される義務的要件の一部または全部の自発的な適用を促進することを意図した業務方針を作成するよう奨励されるべきである」（前文165）とある。非高リスクAIシステムについては規則(法令)によらず、自主的な取り組みであるソフトローでの規律付けを行うことが規定されている。

(2) AIオフィスおよび加盟国は、明確な目標およびその目標の達成度を測る主要業績評価指標に基づき、配備者を含むすべてのAIシステムに対する特定の要件の自主的な適用に関する行動規範の策定を促進する（同条2項）。

（注記）前文では「高リスクか否かを問わず、すべてのAIシステムおよびAIモデルの提供者、および必要に応じて導入者は、例えば、信頼できるAIのためのEUの倫理ガイドラインの要素、環境の持続可能性、AIリテラシー対策、AIシステムの包括的で多様な設計・開発などに関連する追加要件を自主的に適用するよう奨励されるべきである」（前文165）とある。これは高リスクかどうかを問わず、本規則に付随するソフトローとして追加的なベストプラクティスを設けることを意図している。

(3) 欧州委員会は、本規則の実施に関するガイドラインを作成する(96条1項。図表17)。

2｜権限の委譲と委員会の手続
6条6項および7項、7条1項および3項、11条3項、43条5項および6項、47条5項、51条3項、52条4項ならびに53条5項および6項に規定されている施行法を採択する権限は、2024年8月1日から5年間、欧州委員会に与えられる。欧州委員会は、5年間の期間が終了する9カ月前までに、権限の委譲に関する報告書を作成しなければならない。欧州議会または理事会が各期間の終了の3カ月前までに延長に反対しない限り、権限委譲は黙示的に同じ期間延長されるものとする(97条2項)。

（注記）本条は欧州委員会に施行法の立法を行う権限が付与されることを規定した条文である。

3｜罰則
(1) 本規則に定める条件に従い、加盟国は、事業者による本規則違反に適用される罰則およびその他の強制措置（警告および非金銭的措置も含む）に関する規則を定め、それらが適切かつ効果的に実施されることを確保するために必要なあらゆる措置を講じるものとする。規定される罰則は、効果的、比例的かつ抑止力のあるものでなければならない。また、新興企業を含む中小企業の利益とその経済的存続可能性を考慮しなければならない(99条1項)。

(2) 5条のAIの禁止される行為規定に違反した場合、35,000,000ユーロ以下の制裁金、または違反者が事業者である場合は、前会計年度の全世界の年間総売上高の7％以下のいずれか高い方の制裁金が科される(99条3項)。

(3) 5条に規定されている以外の、事業者または届出団体に関連する以下の規定（図表18）のいずれかに違反した場合、15,000,000ユーロまたは、違反者が事業者である場合、前会計年度の全世界の年間総売上高の3%以下のいずれか高い方の制裁金の対象となる(99条4項)。

(4) 欧州データ保護監督機関は、本規則の適用範囲に含まれるEUの機関、団体、事務所および機関に対し、行政制裁金を課すことができる。行政制裁金を課すか否かを決定する際、および個々のケースにおける行政制裁金の額を決定する際には、具体的な状況に関連するすべての状況を考慮する(100条1項)。

(5) 欧州委員会は、以下の違反行為（図表19）について汎用AIモデルの提供者に故意または過失があると判断した場合、前会計年度における全世界の年間総売上高の3％または15,000,000ユーロのいずれか高い方を上限とする制裁金を科すことができる(101条1項)。

（注記）これらの規定は本規則違反に関する罰則を定めたものである。前文では「本規則の遵守は、罰則の賦課およびその他の強制措置によって強制可能であるべきである。加盟国は、違反に対する効果的、比例的かつ抑止的な罰則を定め、ne bis in idem（一事不再理）の原則を尊重することを含め、本規則の規定が確実に実施されるよう、あらゆる必要な措置を講じるべきである。本規則の違反に対する行政処罰を強化し調和させるため、特定の違反に対する行政罰の上限を定めるべきである。制裁金の額を評価する際、加盟国は個々のケースにおいて、特に侵害の性質、重大性、期間、その結果、および提供者の規模（特に提供者が新興企業を含む中小企業である場合）を考慮して、特定の状況に関連するすべての状況を考慮すべきである。欧州データ保護監督機関は、本規則の適用範囲に含まれる欧州連合の機関、機関および団体に対して制裁金を課す権限を有するべきである」（前文168）とある。罰則の中でも5条（禁止されるAI）違反は罰金が多額に上り、具体的には35,000,000ユーロ（約58億円）または全世界売り上げの7％の高い方が上限となる。

7――おわりに

今回は本シリーズの中でも項目が多かった。「AI規制のサンドボックス」「EUレベル、加盟国レベルのガバナンス」「市販後モニタリング」「ガイドライン・罰則」などを述べた。

さて、本シリーズも最後なので本規則の内容をざっくりとまとめておきたい。まず、本規則は人の権利や安全を確保することと、革新を促進するために立法された。人権や安全にとってリスクの高すぎるAIの行為は禁止されている。

そして、禁止されるほどではないが、リスクの高いAIシステムについては、システムの提供者がリスク管理システムを構築し、システムがサービス終了するまで提供者や配備者が監視を行う義務を負うこととされている。

高リスクAIシステムの市場投入にあたっては、適合性評価機関による審査が行われる。また、市場で稼働し、流通するにあたっては、各国の市場監視当局が監視を行っている。

また、汎用AIモデルについては、各国の市場監視当局と欧州委員会の一組織であるAIオフィスが監督を行い、特に影響の大きい重大事故（システミック・リスク）が生じないよう実践規範が作成されることとなっている。

高リスクAIシステムやシステミック・リスクのある汎用AIモデルはEUレベルと国家レベルで監視されるために、必要な組織を立ち上げることとされている。

最後に本規則に違反したときには、前会計年度全世界売上高の7％を上限とする罰金が科されるなどのペナルティが科される。

このように俯瞰してみると、AIシステムの開発・提供にあたって、重たい義務が提供者等に課せられ、また、EU・加盟国ともに重厚な監視機関が構築されることが分かる。他方で、技術革新を進めるために規制のサンドボックスが設置されることにもなっている。この規制とイノベーションの支援のバランスはどうであろうか。イノベーションの支援よりも規制の負荷が重すぎるという意見もあろうかと思う。しかし、生成AIの進化状況を取り上げるまでもなく、AIの進歩は目覚ましい。また、システミック・リスクが発生する可能性も低いとは言えない。本規則の内容をどう評価すべきかについては、いまだ時間を要すると言えるだろう。

日付	タイトル	執筆者	媒体
2025/05/02	ネットでの誹謗中傷－ネット上における許されない発言とは？	松澤登	基礎研レポート
2025/04/28	欧州委、AppleとMetaに制裁金－Digital Market Act違反で	松澤登	研究員の眼
2025/04/18	資金決済法の改正案－デジタルマネーの流通促進と規制強化	松澤登	基礎研レポート
2025/04/16	公取委、Googleに排除命令－その努力と限界	松澤登	研究員の眼

日付

タイトル

執筆者

媒体

2025/05/02

ネットでの誹謗中傷－ネット上における許されない発言とは？

松澤登

基礎研レポート

2025/04/28

欧州委、AppleとMetaに制裁金－Digital Market Act違反で

松澤登

研究員の眼