2022偽情報に関する実施規範－EUにおける自主規制

2025年02月20日

（松澤 登） 保険会社経営

関連カテゴリ

4――サービスの完全性

本節の該当部分は図表4の色付き部分である。
1｜コミットメント

約束14　サービス全体で許されない操作行為や慣行を制限するため、署名者は、サービス全体にわたり誤情報と偽情報の両方に対処するためのポリシーを導入またはさらに強化し、サービス上で許されない操作行為、行為者、慣行についてサービス横断的に理解する。

約束15　 AIシステムを開発または運用し、AIが生成・操作したコンテンツ（例：ディープフェイク）を、そのサービスを通じて広める署名者は、AI規則で定める透明性確保義務および禁止されている操作行為のリストを考慮する。

約束16　署名者は、プライバシー法を完全に遵守し、安全保障と人権のリスクを十分に考慮した上で、各自のサービス上で発生したクロスプラットフォーム8の影響力行使、外国からの干渉等に関する情報を積極的に共有するため、関連チーム間で情報交換チャネルを維持・運営する。

 
8 偽情報が複数のプラットフォームに対して投稿されることなどを指す。
2｜解説と具体的取組
本節は署名者のサービス上で行われる攻撃者の不正操作の検知及び抑止について述べたものである。偽情報に関する不正操作としては、たとえば「なりすまし」が考えられる。他人のアカウントを乗っ取り、あたかもその他人が情報発信をしているように見せる不正操作である。

(1) 約束14はサービス上で行われる不正操作を理解し、対処ポリシーを作成すべきことを述べている。具体的には、署名者はAMITT Disinformation Tactics, Techniques and Procedures Framework9などに記載されている悪意ある行為者が実施する行為や戦術、技術、手順などに基づいてサービス上で許されない操作手法に関する明確な方針を作成、強化、実施するとされている（施策14.1）。

(2) 約束15は、AIシステムを提供し、かつAIシステムが作成したコンテンツを流通させる署名者がAI規則10に定める透明性義務と禁止行為を考慮すべきとする。AI規則のいう透明性義務は、コンテンツがAIにより作成されたものであることの明示であり(AI規則50条)、禁止行為はサブリミナルの効果を狙ったものなどがある（AI規則5条）。署名者はAI作成と明示されていないAI作成コンテンツの検知など不正操作行為に対抗するためのポリシーを策定し、実施する(施策15.1、15.2)。

(3) 約束16は、複数の署名者間の不正使用対処チーム間で情報共有、特に複数のプラットフォームに影響を及ぼす不正操作等について情報交換を行うべきことを定める。具体的に、常設のタスクフォース（タスクフォースについては後述「8－常設の対策本部（タスクフォース）」を参照）のサブグループを設置、あるいは既存の情報交換の場を通じてインシデント等の情報交換を行うこととされている（施策16.1）。
 
9 「AMITTの考え方はサイバーセキュリティの世界では一般的なMITRE ATT&CKフレームワークに基づくもので、4つのフェーズ、12の戦術、64のテクニック（執筆時点）により偽情報を用いたキャンペーンの攻撃方法、行動および目的を構成できるようになっています。また、防御のテクニックもあわせて定義されています」（NECのHPより引用）。
10 AI規則については、基礎研レポート「EUのAI規則1/4～4/4」を参照。

5――ユーザーのエンパワーメント（力を与える）

5――ユーザーのエンパワーメント（力を与える）

本節の該当部分は図表5の色付き部分である。
1｜コミットメント

約束17　署名者は、メディアリテラシーと批判的思考に関する取り組みを、脆弱なグループも含めて、継続・強化する。

約束18　署名者は、システム、ポリシー、機能の開発に際し、安全な設計手法を採用することで、偽情報のウイルス伝播的なリスクを最小限に抑える。

約束19　推薦システムを利用する署名者は情報の優先順位付けや優先順位引き下げに使用される主な基準やパラメータについて、受信者に対して透明性を確保し、ユーザーに推薦システムに関する選択肢を提供し、その選択肢に 関する情報を公開する。

約束20　署名者は、デジタルコンテンツの出所や編集履歴、信憑性、正確性を評価するツールをユーザーに提供する。

約束21　署名者は、ユーザーが偽情報を識別できるよう、その取り組みを強化する。

約束22　署名者は、虚偽または誤解を招く可能性のあるオンライン情報に遭遇した際に、ユーザーがより多くの情報に基づいた意思決定を行えるようなツールを提供する。また、情報源の信頼性を評価するためのツールや情報へのユーザーのアクセスを促進する。

約束23　署名者は、署名者のポリシーや利用規約に違反する、有害な虚偽情報や誤解を招くような情 報にフラグを立てる機能をユーザーに提供する。

約束24　署名者は、ポリシー違反に基づき、強制措置（コンテンツやアカウントにラベルを貼る、降格させるなど）を受けたコンテンツを投稿し、あるいはアカウントを持つユーザーにその内容を通知し、不服を申し立てる機会を保障する。また、不服申し立てに根拠があると判断された場合は、適時に、真摯に、透明性のある客観的な方法で苦情を処理し、不当な遅延なく措置を取り消す。

約束25　プライベートメッセージングサービスのユーザーが、そのようなサービスを通じて流布された偽情報の可能性を特定できるようにする。

2｜解説と具体的取組
本節ではユーザーのリテラシー向上を図ることにより、ユーザーが偽情報に惑わされないようにする取り組みが規定されている。署名者、特にデジタルプラットフォームの提供者がすべての投稿を適時に把握・対応することはAIを活用した対応が進んでいく中でも難しいと思われることから、受け手であるユーザーが偽情報と気づくようにリテラシーを高めていくことは重要な取り組みである。

(1) 約束17は署名者によるユーザーのメディアリテラシーの向上に向けた取組を規定する。署名者はメディアリテラシー（メディアを主体的に読み解く能力）や批判的思考（物事に対して疑いの目を持って考えることにより、物事の本質を見極める思考）を向上させるためのツール11を設計し、実施する（施策17.1）。

(2) 約束18は有害な偽情報がウイルスのように拡散することを助長するリスクの軽減を求めている。具体的には、署名者は、そのサービスが有害な偽情報の拡散を助長するリスクを軽減するため、①公式情報を目立ちやすくし、偽情報は目立ちにくくするように設計された推奨システムを導入する。また、②製品、方針、またはプロセスの設計において、事前テストなど体系的アプローチを行うといった対策を講じる（施策18.1）ことが求められている。

(3) 約束19に関しては、典型的にはGoogleにおける検索結果の表示順位決定など推奨システムにおける取組である。推奨システムについては優先順位付けのパラメータ（変数）を開示して透明性を持たせると同時に、優先順位づけにオプション12を持たせ、ユーザーがオプションを実行できるようにする（施策19.1、施策19.2）ことが求められている。

(4) 約束20は、ユーザーに対して、コンテンツの真正性を判断するための技術的ソリューション13を提供することを署名者に求める。具体的には、署名者は、新しいツールや手順（プロトコル）、コンテンツの出所に関する新しいオープンな技術標準など、ユーザーがコンテンツの真正性を確認したり、出所を特定したりするための技術ソリューションを開発する（施策20.1）とされている。

(5) 約束21は、ユーザーが、偽情報の可能性を指摘したファクトチェック機関によるファクトチェックや、他の権威ある情報源からの警告ラベルを通じて、情報源の事実の正確さを評価するためのツールにアクセスすることができるようにすることを求めている。

(6) 約束22は、ユーザーの意思決定にあたって情報の信頼度を確認するツールを提供すべきとするものである。具体的に、署名者は、ユーザーが十分な情報に基づいた選択ができるよう、ジャーナリスト団体やメディアの団体、ファクトチェック機関やその他の関連団体を含むニュースメディアと協力し、独立した第三者が開発した信頼性の指標を表示したもの（情報源の完全性やその指標の背後にある方法論に焦点を当てたトラストマークなど）に、サービスのユーザーがアクセスできるようにする（施策22.1）こととされている。また、信頼性指標を提供する署名者は、情報源が透明性、非政治性、不偏性をもって独立した方法で審査され、完全に開示された基準がすべての情報源に等しく適用され、独立した規制当局またはその他の権限ある機関による独立した監査が認められていることを確認する（施策22.4）とされている。

(7) 約束23は、署名者が規約違反の有害な情報にフラグを立てることを求めるものである。ただし、この機能が人為的または機械的な濫用（例えば、他の声を封殺するための「マスフラグ」という戦術）から正当に保護されるよう、必要な措置を講じる（施策23.2）ともされている。マスフラグとは、多数のユーザーが同じ投稿（偽情報でないもの）に違反報告をプロバイダに申請することで言論封殺を行うことを指す。

(8) 約束24は、何らかの措置を受けた投稿主に異議申し立ての可能性を提供すべきとする。具体的には、強制措置が取られた理由や、そのような強制措置の根拠、透明性のあるメカニズムを通じて不服を申し立てる可能性に関する情報を、ユーザーに提供する(施策24.1）ことが求められている。

(9) 約束25は、メッセージアプリ（典型的にはWhatsApp、日本ではlineなど）においてユーザーが偽情報を特定できるようにすることを求めている。具体的には、署名者は、暗号化を弱めることなく、プライバシー保護に十分配慮した上で、ユーザーが公式情報にアクセスしやすくなるような機能を設計・実装するか、あるいは第三者パートナーと協力して設計・実装する。第三者パートナーには、政府、ファクトチェック機関、その他の市民社会組織などの市民団体が含まれる（施策25.1）とする。
 
11 参考例として、日本の総務省が提供するツールhttps://www.soumu.go.jp/ict-mirai/learn/を参照。
12 たとえば協調性フィルタリングというオプションがあり、これは他のユーザーの行動や評価を基に推奨を行うものである。
13 この方法には投稿者や筆者の身元を表示することや、ファクトチェック機関の判断を表示((5)でも触れられている)することなどが含まれる。

【次ページ】研究コミュニティのエンパワーメント（力を与える）

1 2 3 4 5

保険研究部   取締役 研究理事 兼 ヘルスケアリサーチセンター長

松澤 登（まつざわ のぼる）

研究領域：保険

研究・専門分野
保険業法・保険法｜企業法務

レポートについてお問い合わせ
(取材・講演依頼)

経歴 ＋ －

【職歴】
　1985年　日本生命保険相互会社入社
　2014年　ニッセイ基礎研究所　内部監査室長兼システム部長
　2015年4月　生活研究部部長兼システム部長
　2018年4月　取締役保険研究部研究理事
　2021年4月　常務取締役保険研究部研究理事
　2025年4月より現職

【加入団体等】
　東京大学法学部（学士）、ハーバードロースクール（LLM：修士）
　東京大学経済学部非常勤講師(2022年度・2023年度)
　大阪経済大学非常勤講師(2018年度～2022年度)
　金融審議会専門委員（2004年7月～2008年7月）
　日本保険学会理事、生命保険経営学会常務理事 等

【著書】
　『はじめて学ぶ少額短期保険』
　　出版社：保険毎日新聞社
　　発行年月：2024年02月

　『Q&Aで読み解く保険業法』
　　出版社：保険毎日新聞社
　　発行年月：2022年07月

　『はじめて学ぶ生命保険』
　　出版社：保険毎日新聞社
　　発行年月：2021年05月

関連レポート

レポートについてお問い合わせ
(取材・講演依頼)

関連カテゴリ・レポート

基礎研レポート

法務

デジタルプラットフォーム