選挙におけるSNS偽情報対策－EUのDSAにおけるガイドライン

保険研究部取締役研究理事兼ヘルスケアリサーチセンター長松澤登

4――軽減策に関するいくつかの側面

1｜生成AIを踏まえた軽減策
生成AIは、政治家や出来事の虚偽描写、および選挙世論調査や政治的意見の文脈に関する、真正でない、偏った、あるいは誤解を招く合成コンテンツ（テキスト、音声、静止画像、動画を含む）を作成し、広めることが可能である。これらのことを通じて、有権者を惑わしたり、選挙プロセスを操作したりする悪用の懸念がある。また、生成AIシステムは、現実を誤認させるような、いわゆる「ハルシネーション(幻覚)」と呼ばれる、不正確で支離滅裂な、あるいは捏造された情報を作り出すこともでき、やはり有権者を惑わす懸念がある。

DSA35条1項では、生成AIを含む汎用AIモデルの提供者に対してAI法で想定されている義務、すなわち「ディープフェイク」で作成された画像等であることを示すラベルを貼付するラベリング要件、および生成AIによって作成されたコンテンツが、機械可読形式で生成AIが作成したものであることを判別するための技術的な最新ソリューションを使用すべき義務が定められている。

特定された選挙プロセスに関する実際のリスクまたは予見可能なリスクを踏まえて、欺瞞的、虚偽的または誤解を招くような生成AIコンテンツを広めるためにサービスを利用される可能性のあるVLOP等に対し、現在の技術水準に照らして技術的に可能な範囲で、リスク軽減策を検討するよう欧州委員会は勧告する。

VLOP等が、合法的ではあるが有権者の行動に影響を与えうる有害な形態の生成的AIコンテンツに対処する場合、その政策および措置が基本的権利、特に政治的表現、パロディおよび風刺を含む表現の自由に与えうる影響を特に考慮すべきである。

(注記) 生成AIの生成した合成画像や音声などについては、EUのAI規則50条2項で「合成音声、画像、映像又はテキスト・コンテンツを生成する汎用AIシステムを含むAIシステムの提供者は、AIシステムの出力が機械可読形式で表示され、人為的に生成又は操作されたものであることが検知可能であることを確保しなければならない」とされている。また、50条3項では「ディープフェイクを構成する画像、音声または映像コンテンツを生成または操作するAIシステムの配備者は、当該コンテンツが人為的に生成または操作されたものであることを開示しなければならない」としている。これらは配備者（≒利用者）の義務として規定されており、VLOP等としては配備者がまず対応することを期待することとなる。しかし、選挙に不当に干渉しようとする人・勢力はこれらの義務を果たさないであろう。配備者以外がディープフェイク等を検知する技術も進化しているようである¹²。VLOP等はこれらの技術を利用して偽情報を排除することが求められている。

なお、これらの対応にあたっては、真摯な政治的意見あるいはパロディなど表現の自由に関係する投稿への影響を考慮すべきことが述べられている。

¹² オンライン版産経新聞2024年8月4日　https://www.sankei.com/article/20240804-PNULWOD5XBMN3M7MG2NPKI3R6U/　参照。

2｜各国当局、独立した専門家及び市民社会組織との協力
VLOP等は、目前の選挙に適用される国の選挙ガバナンス構造と、様々な当局の役割を認識しておく必要がある。選挙キャンペーン期間の区切り、選挙候補者の正式な指定のタイミング、選挙沈黙期間など、特定の国の手続きをよく理解することで、VLOP等は、関連する加盟国特有の側面を考慮したリスク軽減策を設計することができる。そのため、VLOP等は定期的に、また、必要な場合には緊急に、欧州委員会、加盟国のデジタルサービス調整官、場合によっては、地域および地方の所轄当局といった国内および欧州の所轄当局と情報交換を行う窓口を設置することを欧州委員会は勧告する。

VLOP等と所管の国家当局との間のこのような相互作用において共有される情報については、選挙プロセスに関するリスク評価および軽減措置のために提供される情報、または選挙プロセスの完全性を保護するための国家当局の権限内にある情報に限定されるべきである。国家当局との協力と並行してVLOP等は、関連する非国家主体との強力な協力関係を築くことも推奨される。

選挙キャンペーン期間中に、選挙運動組織や選挙オブザーバーを含む非国家主体とのコミュニケーション・チャネルを確立することは、VLOP等が選挙の状況をよりよく理解し、緊急事態に迅速に対応し、リスク軽減策を設計・調整し、その軽減策が現地の状況においてどのように機能するかをよりよく理解するのに役立つ。

ジャーナリストと報道機関は、情報を収集し、処理し、国民に報告するという重要な役割を果たしている。独立した報道サービス・プロバイダーや、社内の編集基準や手順が確立している組織は、信頼できる情報源として広くみなされている。したがって、VLOP等は、独立したメディア組織、規制当局、市民社会および草の根組織、ファクトチェック機関、学界、その他の関連する利害関係者と協力して、信頼できる情報の特定と、信頼できる情報源からの選挙に関連する多元的なニュース・メディア・コンテンツへのユーザーによるアクセスを強化するためのイニシアティブをとるべきである。

欧州委員会は、VLOP等が、例えば、欧州ファクトチェック基準ネットワーク（EFCSN¹³）のメンバーであり、その基準綱領に従い、高い水準の方法論、倫理、透明性を遵守する独立したファクトチェック組織と協力することを推奨する。

¹³ https://efcsn.com/　参照。

(注記) 本節は、VLOP等が情報収集および協力をすべき相手方とその内容について記述している。まずはEU機関や国家との間で選挙のルールなどについて情報を取得することを述べている。公式情報により、選挙活動の規則違反を起こさないようにすることがその眼目である。また、選挙運動組織・選挙オブザーバーと協力をすることで選挙状況の理解・緊急事態への対応によりよく適応することが可能であるとする。これだけであれば当事者からの情報収集・協力であるといえる。しかし、ある程度以上の情報共有は国家による情報操作あるいは選挙支配につながりかねないため、制限されるべきともしている。

本節ではその他の主体、報道機関、市民社会団体、ファクトチェック機関、学界などと協力をすることを求めている。繰り返しとはなるが、これら主体は完全に中立ということが確保されているわけではない。したがってVLOP等は可能な限り多様な主体との意見交換を通じて、中立的な立場を目指すことが求められていると考えられる。

3｜選挙期間中
欧州委員会はVLOP等に対し、選挙期間中は選挙プロセスのリスク軽減に特化した対策や資源を投入し、選挙結果や投票率に重大な影響を与える可能性のあるインシデント(事件、事案)の影響を軽減するリスク軽減対策に特別な注意を払うよう勧告する。

VLOP等は選挙プロセスを弱体化させることを目的としたサービスの不当操作や、有権者の行動を抑圧するために偽情報や情報操作を利用しようとする試みに迅速に対応できるようにすべきである。

選挙期間中にプラットフォーム上またはプラットフォーム外で発生したインシデントは、選挙の完全性または公共の安全に対して、迅速かつ大きな影響を及ぼす可能性がある。そのため、欧州委員会は、VLOP等に対し、上級幹部だけでなく、インシデント対応に組織内で関与する利害関係者のマッピング（社員の専門能力・知識を含めた俯瞰図）も含めた、内部インシデント対応メカニズムを設置することを勧告する。

軽減策を迅速に適用する必要性を考慮し、欧州委員会はまた、VLOP等が、プラットフォームを横断し、選挙に関連する知識や専門知識を有する関連する非国家主体との協力関係を確立し、迅速かつ効率的な情報交換を行うことを勧告する。このような主体には、市民社会組織、学界、研究者、独立メディアなどの利害関係者が含まれうる。

偽情報に関する実施規範の署名者（VLOP等）によって設立される迅速な対応システムは、選挙期間中の協力のための取組の好例である。

(注記) 本節は選挙期間中にインシデント、つまりシステミックリスクの発生の可能性となる事実が検知された場合の対応について記述している。インシデント発生時において、VLOP等は上級幹部に加え、社内で編成された対応チームが事に対処する。また、外部の市民社会団体、学界、研究者、独立メディアなどとも連携し、インシデントであるかどうか、インシデントとしてどのような対応―投稿の削除、ラベル（偽情報であることの表示、上述）の添付－を行うべきか、どのようなラベリングをするか等を検討する。

たとえばファクトチェック機関が偽情報と判断した場合においては、この判断は非常に重いものとなるが、学者や独立メディアなどの意見も参考にしつつ対応を決定していくことが望まれよう。このように適正な手続きを経ることで、VLOP等はその責務を果たしたということになる。ただし、選挙期間中であるからには迅速な対応が求められ、この点で、手続の適正さの確保と、迅速さの確保との間で難しいかじ取りが求められる。

4｜選挙期間終了後
選挙期間終了後、欧州委員会は、VLOP等に対し、選挙期間中に採用されたリスク軽減措置の有効性を評価し、必要であればその措置を適用しやすくすることを視野に入れた、選挙後におけるレビューを実施することを推奨する。

VLOP等は、独立した研究者、市民社会団体、独立したファクトチェック機関に対して、特定の選挙におけるVLOP等の軽減措置の影響に関して具体的な評価を行うことを要請するよう、欧州委員会は勧告する。

特に、VLOP等が公表する選挙後の報告書には、利用規約違反に対する対応時間の平均と分布、ユーザーや非国家主体によるフラグ付きコンテンツ（＝偽情報等のラベルを貼付した投稿）への対応時間の平均と分布、対応したコンテンツの拡散範囲と実際の影響の平均と分布、選挙に関連する特定のポリシーの違反件数、情報操作の事例、メディアリテラシー・イニシアティブ（投稿に対するリテラシーを高める取組）などの特定の施策の到達度に関する評価情報を含めるべきである。

(注記) 選挙期間終了後に、選挙期間中に発生したインシデント、インシデントの対応状況等をレビューすることが求められている。このレビュー主体は、VLOP等単独ではなく、独立した研究者、市民社会団体、ファクトチェック機関からの意見を取り入れるよう欧州委員会は勧告している。

このようなレビューは次回選挙におけるより適正かつ迅速な対応のため、およびVLOP等の選挙における適正な運用改善のため重要である。

5――おわりに

言うまでもなく、SNS上には無数の投稿がなされており、それらはインフルエンサーのアカウントからものもあれば、フォロワー数の少ない個人の日記程度のアカウントからのものもある。選挙におけるシステミックリスクの発生を防ぐためには、政治家本人やインフルエンサーの投稿を注視する方法が中心となろうが、突然、少数のフォロワーの偽情報の投稿がバズる（＝注目され、拡散される）こともある。すなわち、常に手遅れになるリスクがあるが、そうするといかに迅速に対応するかがカギになる。

他方、明らかに偽情報と判断するには時間がかかる懸念がある。投稿を明確に偽情報と判断できる信頼できる根拠を調査した上で、偽情報であるとVLOP等において判断し、かつ各主体の意見も参考にする必要がある。さらにラベル添付なのか、削除まで踏み込むかなどの判断も必要である。また、偽情報であるかどうかを判断する主体のバイアスの排除が容易ではないことも指摘できよう。

欧州のこの様な規制の在り方と異なり、XやMeta（Facebook）ではコミュニティノート方式が採用された。確かに、ファクトチェック機関は特定の人の集団による判断である一方、コミュニティノートは言論の自由市場でユーザーに誤りや偏りを訂正させるものであり、一理あることは否定することはできない。コミュニティノート方式はEUのガイドラインでは全く触れられていないものであり、ファクトチェック機関方式あるいはコミュニティノート方式のどちらの方向へ向かうのか、注視したい。

日付	タイトル	執筆者	媒体
2025/04/18	資金決済法の改正案－デジタルマネーの流通促進と規制強化	松澤登	基礎研レポート
2025/04/16	公取委、Googleに排除命令－その努力と限界	松澤登	研究員の眼
2025/04/11	AlphabetにDMA違反暫定見解－日本のスマホ競争促進法への影響	松澤登	研究員の眼
2025/04/10	公益通報者保護法の改正案－不利益処分に刑事罰導入	松澤登	基礎研レポート

日付

タイトル

執筆者

媒体

2025/04/18

資金決済法の改正案－デジタルマネーの流通促進と規制強化

松澤登

基礎研レポート

2025/04/16

公取委、Googleに排除命令－その努力と限界

松澤登

研究員の眼