テクノロジー業界における、同意のない性的描写を含むディープフェイク問題は、もはやXだけの問題ではありません。
複数の米上院議員は、X、Meta、Alphabet、Snap、Reddit、TikTokの経営陣宛ての書簡（[https://www.bluntrochester.senate.gov/wp-content/uploads/2026/01/Oversight-Letter-on-NCII-Deepfakes-on-Social-Media.pdf]）の中で、各社に対し、「強固な保護措置とポリシー」を講じていることを証明し、プラットフォーム上での性的描写を含むディープフェイクの増加をどのように抑制していくのかを説明するよう求めています。
上院議員らはまた、各社に対し、性的描写を含むAI生成画像の作成、検出、モデレーション、収益化 に関するすべての文書と情報、および関連するポリシーを保存するよう要求しました。
この書簡は、Xが露出度の高い服装をした実在の人物の編集を禁止し、Grokを通じた画像作成と編集を有料会員に限定すると発表した数時間後に送られた。（XとxAIは同じ会社の一部である。）
メディア報道を引用してどれほど簡単に、そしてどれほど頻繁に、マスクのGrok AIは1時間あたり数千枚の裸の画像を生成するのか？ Grokは女性や子供の性的描写やヌード画像を生成しており、上院議員らは、ユーザーが同意なしに性的描写を含む画像を投稿するのを防ぐためのプラットフォームの安全対策だけでは不十分かもしれないと指摘した。
「多くの企業が、同意のない性的画像や性的搾取を禁止するポリシーを設けており、多くのAIシステムが露骨なポルノをブロックすると主張していることは承知しています。しかし実際には、上記の例に見られるように、ユーザーはこれらのガードを回避する方法を見つけています。あるいは、これらのガードが機能していないのです」と書簡には記されている。
Grok、ひいてはXは、この傾向を助長したとして激しく批判されているが、他のプラットフォームも例外ではない。
ディープフェイクは、2018年にReddit上で有名人の合成ポルノ動画を掲載したページが拡散し、プラットフォームが削除するまで大きな話題となったことで、最初に注目を集めました。有名人や政治家を標的とした性的描写を含むディープフェイクは、TikTokやYouTubeでも急増していますが、通常は他のプラットフォームで発生しています。
Metaの監督委員会は昨年、女性の著名人の露骨なAI画像2件を指摘し、同プラットフォームはヌードアプリがサービス上で広告を販売するのを容認したが、後にCrushAIという会社を提訴した。 Snapchatで子どもたちが同級生のディープフェイク動画を拡散しているという報告が複数寄せられています（https://19thnews.org/2025/07/deepfake-ai-kids-schools-laws-policy/?utm_source=chatgpt.com）。上院議員のリストには含まれていないTelegramも、女性の裸の写真を加工するボットをホストしていることで悪名高くなっています（https://www.wired.com/story/ai-deepfake-nudify-bots-telegram/?utm_source=chatgpt.com）。
この書簡に対し、XはGrokのアップデートに関する発表（https://x.com/safety/status/2011573102485127562）を引用しました。
「Redditでは、同意のない親密なメディア（NCIM）を一切許可しておらず、今後も許可しません。また、そのようなコンテンツを作成できるツールも提供しておらず、積極的に発見・削除する措置を講じています」と、Redditの広報担当者は電子メールによる声明で述べた。「Redditは、偽造またはAI生成による描写を含むNCIMを厳しく禁止しています。また、他者からそのようなコンテンツを勧誘すること、ヌード化アプリへのリンクを共有すること、他のプラットフォームでそのようなコンテンツを作成する方法について議論することも禁止しています」と広報担当者は付け加えた。
Alphabet、Snap、TikTok、Metaは、コメントの要請にすぐには応じなかった。
この書簡は、各社に対し以下の情報を提供するよう求めている。
-
「ディープフェイク」コンテンツ、「同意のない親密な画像」、または類似の用語に関するポリシー上の定義。
-
人の身体、ヌードではない写真、加工された衣服、および「仮想脱衣」に関する、同意のないAIディープフェイクに対する各社のポリシーと執行方法の説明。
-
編集済みメディアおよび露骨なコンテンツに関する現行のコンテンツポリシーの説明、ならびにモデレーター向けに提供されている内部ガイダンス。
-
示唆的または親密なコンテンツに関連するAIツールおよび画像生成ツールに対する現行ポリシーの適用範囲。
-
ディープフェイクの生成および拡散を防止するために実施されているフィルター、ガードレール、または対策。
-
企業がディープフェイクコンテンツを識別し、再アップロードを防止するために使用しているメカニズム。
-
ユーザーがそのようなコンテンツから利益を得ることを防止するための方法。
-
プラットフォームが、同意なしにAIによって生成されたコンテンツを収益化することを防止するための方法。
-
企業の利用規約により、ディープフェイクを投稿したユーザーを禁止または停止できる仕組み。
-
企業が、同意なしに性的なディープフェイクの被害者に通知するために行っていること。
この書簡には、リサ・ブラント・ロチェスター上院議員（デラウェア州選出、民主党）、タミー・ボールドウィン上院議員（ウィスコンシン州選出、民主党）、リチャード・ブルーメンソール上院議員（コネチカット州選出、民主党）、キルステン・ギリブランド上院議員（ニューヨーク州選出、民主党）、マーク・ケリー上院議員（アリゾナ州選出、民主党）、ベン・レイ・ルハン上院議員（ニューメキシコ州選出 、民主党）、ブライアン・シャッツ上院議員（ハワイ州選出、民主党）、アダム・シフ上院議員（カリフォルニア州選出、民主党）が署名している。
この動きは、xAIのオーナーであるイーロン・マスク氏が、Grokによって生成された未成年者の裸の画像について「認識していない」と述べたわずか1日後のことである。水曜日の午後、カリフォルニア州司法長官は、xAIのチャットボット「Grok」に関する調査を開始しました。これは、Grokを取り巻く規制の欠如によってこのような事態が起こったことに憤慨した世界各国の政府からの圧力の高まりを受けたものです。
xAIはX上の違法コンテンツ、児童性的虐待画像（CSAM）や同意のないヌード画像を含むを削除する措置を講じていると主張しているが、同社もマスク氏も、そもそもGrokがそのようなコンテンツを生成することを許可されていたという事実については言及していない。
問題は、同意のない性的画像操作に限ったことではない。AIベースの画像生成・編集サービスの中には、ユーザーが人物を「裸にする」ことを許可するものもあるが、ディープフェイクを簡単に生成できるものもある。いくつか例を挙げると、OpenAIのSora 2は、子供が出演する露骨な動画をユーザーが生成することを許可していたと報じられている。 Googleのナノバナナは、チャーリー・カークが銃で撃たれる画像を生成したとみられ、アカウント停止処分を受け、FBIへの世論の反発も起きている。また、GoogleのAI動画モデルで作成された人種差別的な動画がソーシャルメディアで数百万回再生されている。
中国製の画像・動画生 成ツールが絡んでくると、問題はさらに複雑化する。多くの中国のテクノロジー企業やアプリ、特にByteDance関連のアプリは、顔、声、動画を簡単に編集できる機能を提供しており、それらの機能は欧米のソーシャルプラットフォームにも広がっています。中国には、米国連邦レベルでは存在しない、合成コンテンツの厳格な表示義務があります。米国では、一般ユーザーはプラットフォーム自体が断片的で、その運用が疑わしいポリシーに頼らざるを得ない状況です。
米国の議員たちは、ディープフェイクポルノを規制するための法案を既にいくつか可決していますが、その効果は限定的です。5月に連邦法として成立した「Take It Down Act」（https://techcrunch.com/2025/05/19/trump-signs-bill-criminalizing-revenge-porn-and-explicit-deepfakes/）は、同意のない性的画像の作成と拡散を犯罪とするものです。しかし、ニュージャージー州の法律には、ディープフェイクポルノ対策の焦点を個々のユーザーに置く条項が多数含まれており、画像生成プラットフォームの責任追及を困難にしている。
一方、多くの州は消費者と選挙を守るため、独自に対策を講じようとしている。今週、ニューヨーク州知事キャシー・ホークル氏は、AI生成コンテンツにその旨を明記することを義務付け、選挙前の特定の期間における非同意のディープフェイク（野党候補者の描写を含む）を禁止する法案を発表しました。