AI生成コンテンツの法的責任をめぐる 230条に批判の声

AI生成コンテンツの法的責任をめぐる 230条に批判の声

AI生成コンテンツの法的責任をめぐる 230条に批判の声

1024 664 Amy Sanderson

生成AIは、今やリアルなものと区別がつかないような音声や動画を作り出すことができます。このテクノロジーの進歩により、ユーザー生成コンテンツ(UGC)が以前よりも迅速かつ普遍的にデジタルで拡散される手段が出現しています。人々の働き方、遊び方、学び方、交流の仕方が変革されると期待される一方で、反社会的で違法な行為が助長される可能性もあります。

Web3革命に不可欠なこれら2つの要素が組み合わさることで、ユーザーのプライバシーが脅かされ、いじめ、ヘイトスピーチ、人身売買、その他の利己的な目的が助長されるのではないかという合理的な懸念があります。オンラインの別名やアバター、ブロックチェーンプロトコルによって提供される匿名性により、悪者たちがダークウェブやインターネットの隠れた隅々から出現する可能性があります。彼らは今や合法的なウェブサイトやサービスを利用して、悪辣な計画を立て、実行することができるのです。

コンテンツモデレーション(投稿監視)

このような現実から、政府、支援者、関係者は、掲示板、ディスカッションルーム、ソーシャルメディア、マルチプレーヤーのビデオゲームホスト上でのユーザー生成コンテンツの配置を規制するポリシーを再検討するようになりました。これらのプラットフォームは、安全で尊重される環境を維持しながら、表現の自由のバランスを図る努力をしています。さらに、これらのプラットフォームは、ブランドの評判を保護し、ユーザーのポジティブな体験を確保し、問題のあるコンテンツや行為に対する強固な対応メカニズムを確立することを目指しています。

しかし、オンラインコンテンツのモデレーションは法的に複雑な問題があります。関連するコンテンツの種類、作成方法、配信方法、そして内包されるメッセージは全て、モデレーションの決定に影響します。ほとんどの司法管轄区は、プラットフォームに対して、サイト上でホストされる(生成はしない)コンテンツによって引き起こされる損害に関して一定の保護を提供しますが、知的財産権の侵害や暴力の扇動、攻撃的な画像を含むコンテンツ、不寛容の助長、中傷的な発言などの第三者の投稿を迅速に削除するように求めます。プラットフォームは、これらの問題を常に警戒し、積極的な措置を取る必要があります。

さらに、最近、米国通信品位法(Communications Decency Act of 1996)の第230条の縮小を求める声が高まっていることから、その必要性が一層増しています。

グローバルな対応

230条は、オンラインプラットフォームを第三者のコンテンツに関する責任から保護し、コンテンツのモデレーションにおける幅広い裁量を認めています。具体的には、「いかなるインタラクティブなコンピューター・サービスのプロバイダーまたはユーザーも、他の情報コンテンツ・プロバイダーによって提供された情報の発行者または発言者として扱われるべきではない」と規定しています。

欧州はユーザー生成コンテンツの規制に対し、より進歩的な取り組みが行われています。230条とは異なり、EUのデジタルサービス法は、マーケットプレイス、ソーシャルネットワーク、コンテンツ共有サイト、アプリストア、その他のプラットフォームに対し、違法コンテンツの迅速な削除を義務付けています。また、これらのサイトは、コンテンツの適正化に関する慣行や、被害を受けたと考えるユーザーに対する救済措置についても、明確に伝える必要があります。多くの規制問題と同様に、欧州のより実践的な取り組みは、ユーザーの権利保護に対する欧州大陸のコミットメントを反映されており、それに対し、米国では創造性、自由、ビジネスの発展が重視されています。

一方で、日本は中間的な立場をとっています。そのプロバイダー責任制限法は、禁止された第三者のコンテンツを投稿したプラットフォームに対する230条の免責を模倣しつつも、プラットフォームに対して自主的なコンテンツモデレーションと自主規制ガイドラインの策定を義務付けています。

炎上する230条

230条は、両党の議員にとって注目の的となっています。共和党は一般的に、サイトが恣意的にユーザー生成コンテンツを削除することは許されないとする言論の自由を主張しています。彼らは、ウェブサイトに排除する権利を与えることで、政治的、道徳的、宗教的な議論を支配する権限を与えてしまうと考えています。一方、民主党は、230条のほぼ普遍的な免責が、ヘイトスピーチ、ディスインフォメーション、中傷的または名誉毀損の投稿を断固として削除しないサイトに適用されるべきではないと主張しています。

このような異なる改革への道筋が、2023年にジョシュ・ホーリー上院議員(共和党、ミズーリ州)とリチャード・ブルーメンソール上院議員(民主党、コネチカット州)が提案した法案で融合しました。この法案は、被害を受けた個人や団体が、ディープフェイクやその他のAI生成コンテンツの投稿を許可しているプラットフォームを訴えることができるようにするものです。両議員は、生成AIは、230条が保護することを意図していない誤情報、なりすまし、プライバシー侵害に関する新たなリスクをもたらすと主張しています。AIが信憑性のある動画やテキストを大量に捏造することができる場合、プラットフォームにはその動向を監視するためのインセンティブを与える最新の規制が必要であると主張しています。

Hawley/Blumenthal法案は、「No Section 230 Immunity for AI Act」として知られ、3つの側面から改革を求めています:

  1. AIの特定性 – 生成AIの使用や提供に関わる民事請求や刑事訴追におけるAI企業の免責を撤廃し、ディープフェイクのような有害なAI生成コンテンツに対して責任を負うことができるようにすること。

  2. 法的救済 – 生成AIモデルによって被害を受けた米国人に、連邦または州の裁判所で財政的救済を求める権利を提供する。

  3. 説明責任 – AI企業が民事訴訟の対象となる可能性があることから、これらの法的責任を考慮し、商品開発におけるビジネス上の意思決定に責任を負うべきであることを明確にする。

司法の推進力

この法案は、最近のプラットフォーム免責を支持した裁判に対応するものだと考えられます。もし可決されれば、メタ、アルファベット、マイクロソフトのような巨大企業がAI市場で行使している権力の一部を剥奪するメカニズムを議会に提供することになり、それは適切な是正とする見方もあります。

最近の230条に焦点を当てた事件として、最高裁が、Redditがプラットフォーム上でのユーザーによる児童ポルノの投稿について責任を負わないとする下級裁判所の判決の上訴を検討することを拒否したことがあります。2018年には、品位法(Decency Act)がオンライン性売買撲滅法(FOSTA: Fight Online Sex Trafficking Act)で改正されたものの、第9巡回区控訴裁判所は、インターネット企業が自社の行動を通じて強制的または児童の性売買から「故意に利益を得た」場合にのみ適用されると結論づけました。同裁判所は、コンテンツを無視するだけでは免責権を喪失しないと判断し、Redditは、「援助、支援、促進」という違法行為を行なっていなかったとしています。

Redditの判決は、メディアプラットフォームが有利となる以下の2つの判決に続いて下されました。

  • Twitter, Inc. v. Taamneh –トルコでISISの攻撃で死亡した人の親族は、Twitterがテロ組織のアカウントを保持し、プラットフォーム上でプロパガンダの拡散を許可することで、テロを実行した人々の過激化を助長したとしてTwitterを提訴しました。原告側は、ツイッターは単にユーザー作成コンテンツをホストするだけにとどまらず、ISISのメッセージを積極的に促進し、増幅させたと主張しました。しかし最高裁は、ツイッターは中立的なプラットフォームに過ぎず、そのサービスを利用した人々の個々の行動に責任を負うことはできないとするツイッターの主張に同意しました。裁判所は、オンライン・プラットフォームは、インターネット上の情報の自由な流れを阻害するような、第三者のコンテンツのパブリッシャーや発言者として扱われるべきではないと強調し、有害なコンテンツをホストしたり、削除しなかったりするだけでは、230条の保護を覆すには不十分であると述べました。プラットフォームは、違法なコンテンツの作成、開発、勧誘など、自社の行為にのみ責任がある、としました。

  • Gonzalez v. Google LLC – 最高裁は、パリでISISに襲撃された遺族が起こした訴訟でグーグル側を支持する判決を下しました。裁判所は、Googleの推奨アルゴリズムが受動的なホスティングを超えてISISのメッセージングの積極的なキュレーションとプロモーションを構成しているという原告の主張を退け、その免責性を無効としました。裁判所は、アルゴリズムは本質的にユーザー作成コンテンツを整理して表示するためのツールであり、そのような中立的なツールの出力に対してプラットフォームに責任を負わせることは、インターネット上の情報の自由な流れを促進することを目的とした230条の目的を損なうことになると判断しました。

230条は当面健在

最高裁はソーシャルメディア・プラットフォームの保護措置を維持することに満足しているようです。いくつかの重要なケースの判決は保留されていますが、プラットフォームの連続的な勝利は、引き続き免責が適用されることを示唆しています。ただし、ユーザー生成コンテンツを扱う企業や組織は、経験豊富なWeb3弁護士にビジネスモデルをレビューしてもらう必要があります。


ガンマ法律事務所は、サンフランシスコを拠点とし、複雑な最先端のビジネス分野において、厳選されたクライアントをサポートするWeb3企業です。ダイナミックなビジネス環境で成功し、イノベーションの限界を押し広げ、米国内外でビジネス目標を達成するために必要な法務サービスを提供いたします。貴社のビジネスニーズについて、今すぐご相談ください

Avatar photo
Author

Amy Sanderson

All stories by: Amy Sanderson