フェイクトーバー(Fake-tober)のサプライズ: 
ディープフェイクが有権者を揺さぶるか

フェイクトーバー(Fake-tober)のサプライズ: 
ディープフェイクが有権者を揺さぶるか

フェイクトーバー(Fake-tober)のサプライズ: 
ディープフェイクが有権者を揺さぶるか

1000 648 Amy Sanderson

ドナルド・トランプがアンソニー・ファウチを抱擁する動画と、ヒラリー・クリントンがロン・デサンティスを「この国が必要としている人物」と呼ぶ動画の共通点は何でしょう?

いいえ、政治家は奇妙な味方を作るという証拠を示しているわけではありません。

その答えは、生成型AIが、偽情報、プロパガンダ、フェイクニュースによって世論を操作し、誤った思い込みを強化する段階に達したことを示しています。ディープフェイク画像、ニュース番組、動画は、安価に作成でき、検出が難しいため、大統領選挙まで1年を切った政治家にとっては魅力的なツールとなっています。

同時に、オンライン上の言論や表現を監視、検閲、抑圧するためにAIが使われるケースも増えています。フリーダムハウスの報告書によると、昨年、50カ国以上の人々がオンラインで意見を表明したことで起訴されました。

フリーダムハウス会長のマイケル・J・アブラモウィッツ氏は、「オンライン上の人権は今日の独裁者の攻撃の的となっており、これは現代の重要な課題です。民主国家は、透明性を高め、効果的な監視メカニズムを提供し、人権保護を優先させるためにAIの規制を強化すべきです。」と述べています。

では、再び激しい大統領選挙が迫る中、各国は言論の自由を保護する一方で、フェイクビデオの有害な拡散との間にどのような線引きをするべきなのでしょうか。

背景 – AI(人工知能)の台頭

ディープフェイクの能力は、極めて現実的でありながら架空のオーディオビジュアル・コンテンツを生成する点において既存の法律を凌駕しており、プライバシー侵害や名誉毀損に対する懸念を深めています。ディープフェイクの使用は、政治広告においてAIがもたらす倫理的・法的課題を浮き彫りにしています。また、同意や承認についても問題提起されており、これに対処するために、さまざまな方策が提案されています。例えば、生成AIツールがコンテンツ作成に使用される場合、政治広告主が明確かつ顕著に開示すること、といったものが含まれます。政治キャンペーンに関連する出版社や代理店は、既存の規則をよく理解し、特に2024年の選挙サイクルに近づくにつれて、急速に変化する動向を注意深く監視する必要があります。

こうした懸念にもかかわらず、AI技術の利点を認識することも重要です。AI技術はリアルなデジタルキャラクターの作成、特殊効果の強化、さらには超大作映画のストーリー全体の作成にまで使用されています。しかし、こうした進歩は現実とフィクションの間の境界線を曖昧にし、AIの倫理的使用をめぐる議論を複雑化させています。ますますデジタル化が進む未来に向けて、公正で倫理的なデジタル空間を確保するためには、技術の進歩に合わせて規制を整備していくことが極めて重要です。

規制の試み

The Deepfake Dilemma: Reconciling Privacy and First Amendment Protection(ディープフェイクのジレンマ:プライバシーと憲法修正第1条の保護の両立)」でシャノン・リード(Shannon Reid)氏が言及しているように、ディープフェイクの作成者は、彼らに対する民事訴訟で、しばしば憲法修正第1条の抗弁を有しています。ディープフェイクは、特にパロディ、風刺、論評の目的のために「変形的」とみなされる場合には、保護される表現の一形態とみなされることがあります。

グーグルは今年9月、「合成コンテンツ」(AIが生成した写真や動画で、実在の人物や出来事を不正確に表現したもの)を使用した政治広告には、AI生成コンテンツの存在を明示的に開示する必要があると発表しました。ただし、この条件は、画像のリサイズや色の修正など、補足的タスクにAIを使用した広告には適用されません。

米国の立法府でも、AI生成による政治広告の法規制に向けて議員たちが取り組んでいます。エイミー・クロブチャー上院議員(ミネソタ州、民主党)とイベット・クラーク下院議員(ニューヨーク州、民主党)は、AI生成による画像や動画を使用した政治広告に免責事項を義務付ける「REAL Political Ads Act」を提出しました。両議員は、メタ・プラットフォームズのマーク・ザッカーバーグCEOとX社(旧ツイッター)のリンダ・ヤッカリーノ代表に宛てた書簡の中で、次のように述べています。「すでに政治広告において欺瞞的なAI生成コンテンツの存在を目の当たりにしており、これは有権者を欺き、選挙への信頼と信念を損なうリスクを孕んでいます。政治広告におけるこの種のコンテンツへの透明性の欠如は、有権者が候補者の争点を理解するために頼るプラットフォームにおいて、選挙関連の誤った情報や偽情報が拡散される危険な事態を招きかねません。」

しかし、現在の党派対立の膠着状態を考えると、これらの法案の先行きは不透明なままです。

同時に米連邦選挙委員会(FEC)も、AI作成による政治広告の規制措置を検討しています。既存の規制を改正し、候補者やその代理人が他の候補者や政党を詐称することを禁止する請願に関するパブリックコメントを開始しました。この修正案は、AI生成の欺瞞的な選挙運動広告にも適用されることになります。オンラインプラットフォーム、政治広告主、代理店は、オンライン政治広告に関する他の法律にも注意する必要があります。連邦選挙委員会は現在、「インターネット公共コミュニケーション」に対し、誰がそのような広告に資金を提供したかを開示するよう求めています。この動きにより、以前は同意委員会の開示要件から免除されていた抜け道が閉ざされることになります。

さらに州レベルでも、オンライン政治広告を規制する新しい法律が制定されています。これらの法律は広範囲に及び、既存のテレビやラジオ広告の要件をオンライン政治広告に適用するものもあれば、オンラインプラットフォームや広告ネットワークに新たな記録保持要件を課すものもあります。州ごとに多様な法律が存在するため、政治広告主やオンラインプラットフォームは、各広告がすべての法的要件に準拠しているかどうかを注意深く確認する必要があります。

憲法修正第1条の問題

ディープフェイクが表現の一形態であることに異論を唱える人はほとんどいないでしょう。実際、多くの表現は言論の自由の保護を享受しています。画像やビデオを操作するためのAIの使用は懸念されますが、このような使用は、政敵を悪者に仕立て上げるためのメディア操作の最初の事例ではありません。政治家とそのスタッフは長い間、フォトショップや 「クリエイティブ 」なビデオ編集、脈絡のない引用文を頻繁に利用してきました。テクノロジーだけに注目すると、真の問題点である「ごまかし」を見落としてしまうかもしれない、と複数の業界関係者は指摘します。

言論の自由の擁護者の中には、政治キャンペーンはすでに候補者を宣伝したり、対立候補を弱体化させたりするために欺瞞的な手法を使っていると言う人もいます。AIツールの登場以前から、キャンペーンは別の方法を使って画像、音声、動画を欺瞞的に編集してきたと、インターネットの自由とテクノロジーに取り組む非営利団体TechFreedomの言論の自由顧問であるアリ・コーン(Ari Cohn)氏は指摘します。

TechFreedomの弁護士であるアリ・コーン氏はRoll Callの取材に対し、「もし(欺瞞的な広告が)問題だと考えるのであれば、それがAIによって作成されたものであろうとなかろうと、それに対処するのが理にかなっているはずです。AI生成広告に限って対処するのは、理にかなっているとは思えません」と語りました。

一般のキャンペーン活動を侵害することなく、AIの欺瞞的な使用を対象とする法律を策定することは困難です。また、画像や動画の加工は不明瞭であるため、ディープフェイクと許容範囲のポストプロダクション技術の間の境界線を越えているかどうかを判断することが重要です。

この意見には、ビル・ハガティ上院議員(テネシー州、共和党)も賛同し、強引な規制によって言論の権利とAIのポジティブな潜在的応用の両方が阻害されることへの懸念を述べました。ハガティ議員は、特に政治的な言論を制限する可能性がある場合、新興技術への影響を十分に理解しないまま規制措置を急ぐことに反対しています。

法的規制の選択肢

言論の自由の権利を尊重しつつ、政治広告におけるディープフェイクの使用を規制する法的枠組みが検討されています。

テクノロジーが解決の道を開くかもしれません。AIが進化するにつれて、コンテンツを検出し認証するツールも進化しています。例えば、ブロックチェーン技術の統合は、本物と改ざんされたコンテンツを区別する上で極めて重要な役割を果たす可能性があります。しかし、AI生成コンテンツが一般化するにつれ、「嘘つきの分け前」(捏造されたコンテンツが蔓延するため、人々は何に対しても懐疑的になる現象)が起こる危険性があります。これにより、政治家が信用できる情報に疑念を抱かせたり、不利な発言に対し、実際にはディープフェイクであると主張できるようになる恐れがあります。

このバランスを取るためには、慎重なアプローチと、現行法の下で可能な救済策を包括的に理解することが必要です。これには、名誉毀損やプライバシー法、データ保護規制、知的財産権の行使を通じて、被害者が救済を求めやすくすることも含まれます。これらの法律の有効性は、それぞれのケースの具体的な状況によって異なります。


ガンマ法律事務所は、サンフランシスコを拠点とし、複雑な最先端のビジネス分野において、厳選されたクライアントをサポートするWeb3企業です。ダイナミックなビジネス環境で成功し、イノベーションの限界を押し広げ、米国内外でビジネス目標を達成するために必要な法務サービスを提供いたします。貴社のビジネスニーズについて、今すぐご相談ください

Avatar photo
Author

Amy Sanderson

All stories by: Amy Sanderson