米国は、2024年大統領選挙に向けて動き出している。ジョー・バイデン大統領は、2023年4月25日に、民主党からの再選を目指すことを正式に表明。一方、共和党からは、ドナルド・トランプ前大統領が立候補することを昨年から表明しており、2020年の大統領選挙の再戦（rematch）となる可能性が高いとされている（※１）。
とりわけ、2024年の大統領選挙で注目されるのは、政治・選挙におけるAIの活用である。近年、生成AIの著しい発展に伴い、一般ユーザーへの普及も急速に進んでいる（※２）。
本稿では、AIが2024年米大統領選に及ぼす影響について、事例を用いながら、課題と対策を整理する。
AIが選挙キャンペーンにもたらす利点と懸念
AIは、選挙キャンペーンにどのような利点をもたらすのだろうか。
第一に、選挙にかかる費用と時間を大幅に削減できるようになる。AIは、スピーチの原稿や選挙広告を短時間で作成できる。また、支持者らに献金を募るメールを自動的に送ることも可能になり、生産性が向上する。さらに、AIを用いてマイクロターゲティングを行うことで、少ないスタッフでより効果的な広告を作成し、有権者に効率よくアプローチすることができるため、高額な選挙戦略のコンサルタントを雇う必要がなくなる。
第二に、誰もが政治的なコンテンツのクリエーターになれる。生成AIは、学習したデータに基づいて、文章や画像、ビデオなどのコンテンツを生成することができるアルゴリズムである。特に、ユーザーによって入力されたテキストをもとに画像を生成する画像生成AIは、すでに一般ユーザーにも広まっている。このツールを利用すれば、誰もが簡単に選挙広告などの政治的なコンテンツの生成が可能になる。まだ投票先を決めかねている有権者に刺さるような選挙広告を作成できる。
しかし楽観的な意見ばかりではない。米国では、AIがディスインフォメーションにも新たな創造性をもたらしているという指摘があるように、むしろ、AIの危険性に懸念の目が向けられることが多い（※３）。
ディスインフォメーションには確たる定義はないが、本稿では、「情報の発信者や拡散者が、悪意を持って事実と偽の情報を織り交ぜ、誤解を誘発、社会を混乱させることを目的として流布する情報」とする（図1）。
図１ 不確実な情報の分類
ディスインフォメーションの脅威が高まる中、特に注意が向けられているのが、ディープフェイク（Deepfake）の武器化である。ディープフェイクとは、AIや機械学習の技術を使って、作成または加工された画像や動画のことである。生成AIは、人間が書いたものかAIが書いたものか区別が難しいほどのコンテンツを生成することができる。そのため、この技術を利用すれば、実際には起こっていないが現実味のある架空のストーリーを短時間で簡単に、そして大量に生み出すことが可能であることから、有益にも有害にもなり得る。選挙キャンペーンにおける有益なディープフェイクの一例として、候補者が多言語で演説している動画をAIに生成させることで、より多くの有権者にアプローチできるものがある。
有害なディープフェイクは、悪意の度合いが高いものであり、選挙候補者を傷つけるものや有権者をだます目的でつくられるコンテンツなどを指す（図2）。さらにこのようなコンテンツを利用して、影響工作（人々の思想を操作すること）さえも展開できるようになる（※４）。米国防総省のクレイグ・マーテル最高デジタル・AI責任者（Chief Digital and AI Officer）は、生成AIは、ディスインフォメーションの「完璧なツール（perfect tool）」になると指摘している（※５）。
図2 悪意ある情報の類型
AI技術の進歩は、今後ますますディスインフォメーションのハードルを下げることになる。Googleのエリック・シュミット元最高経営責任者（CEO）は、2024年の大統領選について、「誰もが生成できる偽情報（false information）」で溢れかえり、「2024年の選挙は混乱するだろう」と警鐘を鳴らしている（※７）。
高度化するディープフェイク、2024年米大統領選挙キャンペーンにも登場
世界には、既にAIによって生み出された政治コンテンツが溢れている。米国では、2024年大統領選に向けて、各陣営がAIを使った選挙キャンペーンを開始しており、ここでは、次の２つの事例を紹介する。
①共和党全国委員会が公開した動画、「Beat Biden」（※８）（2023年4月公開）
②フロリダ州知事が公開した動画、「Real Life Trump」（※９）（2023年6月公開）
共和党全国委員会は、バイデン大統領の立候補表明を受け、「Beat Biden」というタイトルの動画を共和党の公式YouTubeアカウントに公開した。この動画では、「これまでで最も弱い大統領（バイデン大統領）が再選された場合、どうなってしまうのか」と問い、AIによって生成された画像が用いられている。AIのみで作られた画像が大統領選のキャンペーンで選挙広告として用いられるはこれが初めてである（※10）。動画では、中国による台湾侵略、米国経済の混乱、押し寄せる移民、犯罪の増加などの米国の暗黒な未来が描かれており、その責任はバイデン大統領にあると批判している。
無論、このシナリオはフィクションである。投稿された動画の左上には、小さい文字でAIによって生成されたものという免責事項が記載されている。また、この動画に登場するバイデン大統領やカマラ・ハリス副大統領のビジュアルは偽物である。本物のように見えるが、歯並びを変えるなど、人工的に画像を生成していることを示している。
2つ目の事例は、共和党大統領候補の指名獲得を目指すフロリダ州のロン・デサンティス知事の陣営公開した、トランプ前大統領を攻撃するものである。トランプ前大統領とアンソニー・ファウチ元大統領首席医療顧問が抱擁し合う画像だが、AIが生成した偽画像である。これをTwitter（現在のX）に投稿した。
ファウチ氏の新型コロナウイルスをめぐる対応については、保守層からの批判が強い。デサンティス陣営は、トランプ前大統領へのネガティブキャンペーンの一環として、前政権時代のコロナ対策に着目。トランプ前大統領とファウチ氏の親密な関係を有権者に印象付ける、「印象操作」を目的にこの画像を作成したとされる（※９）。実際、同陣営は当初、この画像が偽物であることを明示していなかった。
ここでのポイントは、AIが生成した選挙広告は、①全て偽物である、②（しかし）本物と偽物の見分けがつきにくい、③誰もが容易に作成できることであるーーという点である。生成AIは、候補者になりすますことさえ可能だ。例えば、候補者の声のクローンを作成し、候補者を装った選挙演説などを生成することもできる。そして、これを速く、そして広く拡散できるのがソーシャルメディアのアルゴリズムであり（※11）、AIはソーシャルメディアをより有害なものにしようとしているとの指摘もある（※12）。
選挙に、偽のコンテンツが使われた事例はこれまでにもあった。例えば、2016年の大統領選挙では、トランプ元大統領と対抗馬のヒラリー・クリントン元国務長官に関する偽情報がフェイクニュースとしてソーシャルネットワーク（SNS）上で広まり、米国社会の分断を深めた（※13）。また、2020年大統領選では、陰謀論がディスインフォメーションを担った。敗北したトランプ大統領（当時）が「不正があった」と主張し、根拠が不明確なままソーシャルネットワークで拡散された。それに扇動されるかたちでトランプ支持者による米連邦議会議事堂の占拠事件にまで発展した（※14）。
選挙運動において、候補者や有権者は、対抗馬の支持率を下げるために、誤った情報を拡散する傾向がある。そのため、候補者を誹謗中傷する、有権者を混乱させる、さらには世論誘導のために、生成AIが利用されるという事例が今後多発する可能性がある。
ディープフェイクが実際に活用されるか否かに関わらず、この種のコンテンツを作成できるという事実だけで、選挙に影響を及ぼす可能性がある。偽の画像、音声、動画などが比較的容易に生成できることが分かれば、人々は真実の情報にさえも疑念を抱いてしまうようになる。何が真実で何が偽りであるかを見分けることが難しくなり、人々は自分の判断力や現実の社会で共有されていることへの信頼を失ってしまいかねないのである。（※４）
悪意あるディープフェイクの規制と無害なものの保護の切り分け
米国の現行法は、急速に進化するAI技術（ディープフェイクを含む）に対応できていないことから、議会では、人工知能と選挙についての関心が急激に高まっている。2023年5月には、民主党下院議員が政治広告（Political Advertisements）に生成AIを使用した場合、その旨を開示することを義務付ける法律を提案した（※15）。また、選挙運動に関する法律を執行する連邦選挙委員会（FEC）は、選挙活動上の課題への対処などを念頭に、選挙広告におけるAI利用に関して一般人からのコメントの募集を開始した（※16）。
連邦政府の動きに先駆けて、州議会はすでに動いている。カリフォルニア州やテキサス州など10以上の州では、ディープフェイクを規制する法律を制定している（※17）。ただし、それぞれの州でディープフェイクの定義は異なり、対象となる範囲や罰則規定も異なる。そして、その多くは、ポルノに関するディープフェイクを対象としている。
選挙活動におけるディープフェイクの代表的な規制は次の表の通り。
図３ 州選挙活動におけるディープフェイクの規制の例
他方で、言論の自由の保護という観点から、ディープフェイクの規制に反対する声もある。米国は、合衆国憲法修正第１条に則り、表現の自由の保障と、企業による選挙広告を含む選挙運動での表現の自由を認めている（※18）。そのため、無害なディープフェイク、例えばパロディや多言語での吹き替えなどは保護されるべき対象となる。
それでも、OpenAIのサム・アルトマンCEOは、選挙を混乱させるためのAIの利用は、「重大な懸念事項」であり、政府による介入（規制）が必要だと主張している 。ソーシャルメディアのプラットフォーマーは、誤解を招くようなコンテンツを削除したり、コンテンツがAIによって生成されたものであるかを確認するためのシステムの導入を検討している。実際に、AIが生成した画像に「電子透かし」を埋め込んだり、サービスの政治利用を制限するなどの方針を発表している企業もある。
また、ディープフェイクは必ずしも米国内発であるとは限らない。本稿では取り扱わないが、米国外からの選挙介入は近年問題になっており、外国政府や外国の組織・人が生成したディープフェイクがディスインフォメーションとして使われるリスクは十分にある。これは米国に限ったことではなく、例えばオーストラリア政府ではディープフェイクなどを含むハイリスクとなり得るAIの使用禁止を検討しているとの報道もある（※19）。
ディープフェイクには民主主義と国家安全保障を脅かしかねない威力がある。2024年の米大統領選が迫ってくるにつれ、悪意あるディープフェイクをいかに規制するべきかという論点の精査とその対策が進むことになるだろう。
※最新の情勢を踏まえ、2023年9月1日に公開したレポートを再掲載しました。
参考文献・資料
（※１）Nate Cohn, “Can the Race Really Be That Close? Yes, Biden and Trump Are Tied.”, The New York Times, Aug 1, 2023.
（※２）2022年11月30日に公開された、米スタートアップのOpenAIが開発した「チャットGPT（ChatGPT）」の利用者は、すでに1億人以上いるとされている。Krystal Hu, “ChatGPT sets record for fastest-growing user base - analyst note”, REUTERS, Feb 3, 2023.
（※３）Bhaskar Chakravorti, “The AI Regulation Paradox”, Foreign Policy, Aug 4, 2023.
（※４）Josh A. Goldstein and Girish Sastry, “The Coming Age of AI-Powered Propaganda: How to Defend Against Supercharged Disinformation”, Foreign Affairs, April 7, 2023.
（※５）Jaspreet Gill, “Pentagon chief AI officer ‘scared to death’ of potential for AI in disinformation”, Breaking Defense, May 3, 2023.
（※６）Claire Wardle, “Understanding Information disorder”, First Draft, Sep 22, 2020.
（※７）Lauren Feiner, “‘The 2024 elections are going to be a mess’ because of A.I. and misinformation: Former Google CEO Eric Schmidt”, CNBC, Jun 26, 2023.
（※８）GOP, “Beat Biden: An AI-generated look into the country's possible future if Joe Biden is re-elected in 2024”, YouTube, April 25, 2023.
（※９）Jon Brodkin, “DeSantis ad uses fake AI images of Trump hugging and kissing Fauci, experts say”, Ars Technica, June 9, 2023.
（※10）Matt Novak, “GOP Releases First Ever AI-Created Attack Ad Against President Biden”, Forbes, Apr 25, 2023.
（※11）David Klepper and Aki Swenson, “AI presents political peril for 2024 with threat to mislead voters”, May 14, 2023.
（※12）Jonathan Haidt and Eric Schmidt, “AI IS ABOUT TO MAKE SOCIAL MEDIA (MUCH) MORE TOXIC”, The Atlantic, May 5, 2023.
（※13）Rob Faris, Hal Roberts, Bruce Etling, Nikki Bourassa, Ethan Zuckerman, and Yochai Benkler, “Partisanship, Propaganda, and Disinformation: Online Media and the 2016 U.S. Presidential Election”, Berkman Klein Center, Aug 16, 2017. 2016年大統領選では、「ピザゲート」と呼ばれる陰謀論があった。Gregor Aisch, Jon Huang, and Cecilia Kang, “Dissecting the #PizzaGate Conspiracy Theories”, The New York Times, Dec 10, 2016.
（※14）Trip Gabriel, “Trump’s Legacy: Voters Who Reject Democracy and Any Politics but Their Own”, The New York Times, Jan 9, 2021.
（※15）Congresswoman Yvette D. Clarke, “CLARKE INTRODUCES LEGISLATION TO REGULATE AI IN POLITICAL ADVERTISEMENTS”, May 2, 2023.
（※16）Federal Election Commission, “Comments sought on amending regulation to include deliberately deceptive Artificial Intelligence in campaign ads”, Aug 16, 2023.
（※17）Isaiah Poritz, “States Are Rushing to Regulate Deepfakes as AI Goes Mainstream”, Bloomberg, June 20, 2023.
（※18）Caroline Fredrickson and Ilan Wurman, “Citizens United v. Federal Election Commission (2010)”, National Constitution Center.
（※19）“Australia considers ban on ‘high-risk’ uses of AI such as deepfakes and algorithmic bias”, The Guardian, Jun 1, 2023.
