EUのAI規則(１/４)－総論、定義、禁止されるAIの行為

保険研究部専務取締役研究理事兼ヘルスケアリサーチセンター長松澤登

(5) 生体データの無差別収集：インターネットやCCTV（監視カメラ）映像から顔画像を無制限に収集し、顔認識データベースを作成または拡張するAIシステムを使用すること(同項(e))は禁止される。

（注記）前文では「インターネットやCCTVの映像から顔画像を無制限にスクレイピング（＝データの余分な部分を削除し、抽象化されたデータにすること）して顔認識データベースを作成・拡大するAIシステムを市場に投入したり、そのような特定の目的のために使用したりすることは、集団監視の感覚を助長し、プライバシーの権利を含む基本的権利の重大な侵害につながる可能性があるため、禁止されるべきである」（前文(43）とする。たとえば犯罪が行われた現場を監視カメラでとらえたケースで、事前に収集した顔画面データと照合して犯人を割り出すことが考えられる。一見、合理的なようにも思えるが、一般大衆の顔データを取締目的でデータベース化することは政治体制や為政者次第で一般大衆のデモ抑圧や不当逮捕などの表現の自由に対する大きな脅威になる。したがって禁止されるべきである。これも一部の権威主義的国家では実現している可能性がある。

(6)感情認識システム：職場や教育施設内での自然人の感情を推測するためのAI システムを市場に出すこと，この特定の目的のために使用すること（同項(ｆ)）は禁止される。ただし、医療及び安全確保目的であるものは許容される。

（注記）前文では「感情の表現は文化や状況によって、また一個人であってもかなり異なるため、感情を識別または推論することを目的としたAIシステムの科学的根拠には深刻な懸念がある。このようなシステムの主な欠点として、信頼性の低さ、特異性の欠如、一般化可能性の低さが挙げられる。したがって、AIシステムが自然人の生体データに基づいて感情や意図を特定または推論することは、差別的な結果をもたらし、関係者の権利と自由を侵害する可能性がある」（前文44）とする。感情認識システムとは、たとえばコールセンターのシステムにおいて顧客の感情を判断し、顧客の口調を柔らかく加工するなど、職員による対応の支援を行うようなAIシステムが既に実現している。このようなAIシステムは安全確保とも言い難く、本規則では文言上は禁止対象になりそうである。ただ、このようなAIシステムの目的に問題があるとも思われないが、どうであろうか。

(7) 機微な特徴を利用した生体分類システム：人種、政治的意見、労働組合員、宗教的または哲学的信条、性生活または性的指向を推測または推論するために、生体データに基づいて個々の自然人を分類する生体分類システムを市場に投入すること、また、このような目的のために使用すること（同項(g)）は禁止される。

（注記）前文でも条文と同様に「個人の政治的意見、労働組合員、宗教的または哲学的信条、人種、性生活または性的指向を推測または推論するために、個人の顔や指紋などの自然人の生体データに基づく生体分類システムは禁止されるべきである」（前文30）と記載されている。たとえば特定の政治的意見を有する人の生体データを収集・分析し、この結果に基づいて特定個人の政治的意見を推論するものである⁶。このような行為は非常に差別的であり、また民主主義や個人の尊厳に悪影響を及ぼすことは明らかであることから、禁止される。

⁶ AIがどの程度利用されたかは定かではないが、ケンブリッジ・アナリティカ社が大統領選にあたって、Facebookユーザーの情報をもとに、特定候補に投票するよう誘導することが行われた。現時点でのAIシステムではより高度な操作が行われしまう危険がある。

(8) リアルタイム遠隔生体識別システム：法執行の目的で、公共のアクセス可能な空間において「リアルタイム」の遠隔生体識別システムを使用することは禁止される。ただし、その使用が次のいずれかの目的(図表6)で厳格に必要性がある場合を除く（同項(h)）。

（注記）ここで生体識別システムとは自然人の身体的、生理的または行動的特徴に関連する特定の技術的処理から生ずる個人データを、以前に提供された個人データと比較して自然人の身元を1対1で検証するシステム(3条34項、36項)をいう。

そして、リアルタイム遠隔生体識別システムとは、自然人の生体データを参照データベースに含まれる生体データと比較することにより、自然人の積極的な関与なしに、リアルタイムかつ遠隔で、自然人を識別することを目的とする AI システム (3条41項、42項) を意味する。

前文では「法執行の目的で、公的にアクセス可能な空間における自然人の『リアルタイムの』遠隔生体識別のためのAIシステムの使用は、国民の大部分の私生活に影響を及ぼし、常に監視されているという感覚を呼び起こし、集会の自由やその他の基本的権利の行使を間接的に阻害する可能性がある」（前文32）とする。したがって、「法執行の目的でこれらのシステムを使用することは、網羅的に列挙され、狭く定義された状況において、その重要性がリスクを上回る実質的な公共の利益を達成するために厳密に必要である場合を除き、禁止される」（前文33）としている。条文の定める通り、禁止原則についての例外が定められている。この点についての具体的な取り扱いは次項参照。

2｜リアルタイム遠隔生体識別システムが許容されるケース
(1) 上記1｜の(8) (リアルタイム遠隔生体識別システム)が法執行において許容されるのは、特定の個人に合致することを確認することに限られ、かつ以下の要素（図表7）に配慮しなければならない(5条2項)。

以上に加え、法執行機関(law enforcement authority)が基本的権利影響評価(27条、次回レポートで解説予定)を完了し、EUのデータベースに登録(49条、3回目のレポートで解説予定)することが求められる。

そして、人に不利な法的効果をもたらす決定はリアルタイム遠隔生体識別システムの出力のみに基づいてはならない。

（注記）前文では、「法執行の目的で『リアルタイムの』遠隔生体識別のためのAIシステムの使用は、例外的に認められる。そのような状況とは、行方不明者を含む特定の犯罪被害者の捜索、自然人の生命または身体の安全に対する特定の脅威、テロ攻撃、本規則の付属書に記載された犯罪の加害者または容疑者の位置特定または特定を含む」（前文33）とする。

これは捜査のために監視カメラとAIシステムを組み合わせた容疑者の所在確認が可能かどうかという問題である。捜査にあたっては、幅広いエリアでの一般大衆の生体情報の確認が行われることとなる。そうすると一般人のプライバシー保護の要請と犯罪の容疑者確保という要請との利害衝突が発生する場面が生ずる。このような利害の衝突を上述のように登録や法執行機関の影響評価という手順を踏ませることで調整可能にしている。

上記に加え、司法当局の事前許可を得ること(5条3項)、市場監視当局および国内データ保護当局へ通知すべきこと（同条4項）、加盟国は捜査目的のリアルタイム遠隔生体識別に係る立法を行うべきこと（同条5項）、市場監視当局等からの欧州委員会への年次報告を行うこと（同条6項）、欧州委員会は年次報告を行うこと（同条7項）などが定められている。

4――小括

本稿で取り扱ったのは、AI規則案の前半、すなわち(1)AI規則の適用範囲および適用除外、(2)各種の定義、(3)禁止されるAIシステムの行為である。

ここで特に注目したいのが(3)禁止されるAIシステムの行為である(5条1項)。AI規則が、法令であるがゆえに、一定の行為を禁止することができる。日本のAI事業者ガイドラインはガイドラインに過ぎないので、弊害が大きい行為でも禁止することができない⁷という相違がある。日本でAI規制法の制定が急がれる理由の一つであろう。

EU域内において、もしAIシステム提供者等が本規制に違反した場合は、35百万ユーロまたは前会計年度の全世界の年間売上高の7％以下のいずれか高い方の罰金が科される(99条3項、4回目レポートで解説予定)。

禁止される行為は類型的に人権侵害の程度が高いものであり、1）人の意識や感情に干渉するシステム（サブリミナル技術を使用するシステム、こどもや障がい者等を搾取するシステム、感情認識システム）、2）人を監視し、分類するシステム(ソーシャルスコアリング、予測取締システム、生体データの無差別取集、機微な特徴を利用した生体分類システム、リアルタイム遠隔生体識別システム)である。

上記1)は、本質的に自由であるべき人の内心の自由を歪めるものであり、どのような理由においても正当化できないものと判断される。また、上記2）は、人の行為や動向を監視し、結果次第でその人に不利益をもたらす可能性が高いものであり、ディストピアである監視社会をもたらす可能性がある。この場合、人の自由に大きな制約をもたらすことになり、やはりAIシステムの利用は正当化できない。禁止されるべき行為がこれだけなのか、あるいは過剰規制に該当する部分が存在するかは明らかではないが、今後、本規則の運用に伴って修正が加えられるのだろう。

次回(2回目)は、高リスクAIシステムについて述べる。

⁷ 実際に日本のAI事業者ガイドラインには禁止規定は存在しない。

日付	タイトル	執筆者	媒体
2025/01/21	ベトナム生命保険市場（2023年版）	松澤登	保険・年金フォーカス
2024/12/25	米国連邦地裁におけるGoogleの競争法敗訴判決～一般検索サービス市場と検索テキスト広告市場	松澤登	基礎研レポート
2024/12/17	欧州委員会によるTikTok監査－ルーマニア選挙における外国勢力の干渉	松澤登	研究員の眼
2024/12/12	Metaに対する欧州競争法違反による制裁金賦課決定－欧州委員会決定とMetaの反論	松澤登	研究員の眼

日付

タイトル

執筆者

媒体

2025/01/21

ベトナム生命保険市場（2023年版）

松澤登

保険・年金フォーカス

2024/12/25

米国連邦地裁におけるGoogleの競争法敗訴判決～一般検索サービス市場と検索テキスト広告市場

松澤登

基礎研レポート