インシデントのステータス
Risk Subdomain
1.2. Exposure to toxic content
Risk Domain
- Discrimination and Toxicity
Entity
AI
Timing
Post-deployment
Intent
Intentional
インシデントレポート
レポートタイムライン
今週初め、Xで一部のユーザーが、非常に具体的なリクエストを写真に 返信し始めました。「彼女にビキニを着せて」「ドレスを脱がせて」「足を広げて」など、プラットフォーム内蔵のチャットボット「Grok」に指示を出しました。ボットは何度も要求に応じ、実在の人物（著名人や一般人、中には幼い子供と思われる人物も）の写真を使用し、ビキニ姿や下着姿、性的なポーズをとらせました。ある推定によると、Grokは約24時間で毎分1枚の合意のない性的画像を生成していました。
これらの投稿のリーチを測るこ…
イーロン・マスク氏のAIチャットボット「Grok」が、少女の性的画像を 生成したとして謝罪した。ユーザーからの謝罪要請に対し、Grokは「遺憾」の意を表明した。
Newsweekは、営業時間外にメールでX社の広報部にコメントを求めた。
なぜこれが重要なのか
AI技術、それが女性や少女に与える影響、そしてこれらの技術が新たな女性蔑視の時代を到来させる可能性について、既に十分な根拠に基づいた懸念が存在する。全米女性機構（NOW）とIcogniが2025年に実施した調査によると、女性…
ワシントン／デトロイト、1月2日（ロイター） - リオデジャネイロ在住のミュージシャン、ジュリー・ユカリさんは、大晦日の深夜直前、婚約者が撮影した写真をソーシャルメディアサイト「X」に投稿した。写真には、赤いドレスを着て、愛猫のノリとベッドで寄り添う彼女の姿が写っている。
翌日、写真に寄せられた数百件の「いいね！」の中に、ユーザーから「X」に内蔵されたAIチャットボット「Grok」に、彼女をビキニ姿にデジタル加工するよう求めるメッセージが届いていた。
31歳のユカリさんは、当…
イーロン・マスク氏の息子の母親が、マスク氏のファンがAIツール「Grok」を使って、実写画像を加工し、彼女の性的描写を含む偽画像を作成したことに「恐怖と侮辱を感じた」と語った。
2024年にマスク氏との間に子供が生まれた後、疎遠になった作家で政治戦略家のアシュリー・セントクレア氏は、ガーディアン紙に対し、マスク氏の支持者たちがこのツールを使ってリベンジポルノの一種を作成しており、幼少期の彼女の写真まで裸に加工していたと語った。
Grokは、女性や子供の画像を仮想的に裸にし、性…
イーロン・マスク氏のXプラットフォームでは、Grok AIによってデジタル加工された、子供や女性の服を剥ぎ取った卑猥な画像が、こうした画像を作成したユーザーのアカウント停止を約束しているにもかかわらず、依然として共有され続けている。
このチャットボットが、同意なしに実際の女性や子供を下着姿に加工し、性的な画像を作成するために使用されているという懸念が数日前から高まっていたことを受け、英国の通信規制機関であるOfcomは月曜日、「XとxAIに対し、英国のユーザーを保護するという…
Grokチャットボットが女性や子供の同意や承諾なしにポルノディープフェイクを生成していたことが明らかになると、テクノロジー界の巨人イーロン・マスクは慌てて自社のマシンを擁護し、このスキャンダルはユーザーの自由意志による副産物だと片付けました。
私にとってこのスキャンダルは個人的な問題でした。私自身の画像が最初に操作されたのです。服はデジタル的に削除され、自分のコントロールも望まない性的な状況に顔が貼り付けられました。それを見て、経験したことのない人に説明するのは難しいほど、無…
保守派インフルエンサーのアシュリー・セントクレアは、日曜日の夜、赤ちゃんを寝かしつけた直後、友人から週末を悪夢に変えるようなメッセージを受け取った。SNS「X」のチャットボット「Grok」を使って、セントクレアの性的画像が次々と生成されていたのだ。中には、14歳の頃のセントクレアの写真をもとにした画像もあった。
セントクレアにとって、Xやそのオーナーであるイーロン・マスクとのトラブルはこれが初めてではない。27歳の彼女は、1歳の息子の親権をめぐってマスクと法廷闘争を繰り広げて…
第三者機関の分析によると、イーロン・マスク氏が立ち上げたXは、AIによって同意なく裸にされた人物の画像が大量に投稿されるサイトとしてトップクラスに躍り出ており、今週初めには1日で毎時間数千件もの事例が記録された。
12月下旬以降、Xのユーザーは、同ソーシャルネットワークに連携するAIチャットボット「Grok」に対し、ユーザーが投稿した写真の加工を依頼するケースが増えている。ソーシャルメディアとディープフェイクの研究者であるジェネヴィエーブ・オー氏によると、@Grokアカウント…
※この記事には、露骨な性的描写および性暴力に関する記述が含まれています。
イーロン・マスク氏のチャットボット「Grok」（https://www.wired.com/story/xai-grok-government-contract-hitler/）は、女性の「裸」画像や未成年者と思われる人物の性的描写画像をXに大量に投稿するために利用されたとして、非難を浴び、調査を求める声が上がっています。しかし、AIが性的描写画像を生成するために利用されているのは、これだけではありませ…
イーロン・マスク氏がXを買収した後に立ち上げたAIチャットボット「Grok」は、水曜日にユーザーからのリクエストに躊躇なく応え、ミネアポリ スでその日の朝、ICE（移民税関執行局）の捜査官に射殺されたレネー・ニコール・グッドさんのビキニ姿の画像を表示させた。CNN特派員のハダス・ゴールド氏が指摘し、チャットボット自身もこれを認めた。
「XでGrokに、ミネソタ州でICEに射殺された女性が車の中で倒れているビキニ姿の画像を表示するようリクエストがあったのを見た。Grokはそれに応…
イーロン・マスク氏がChatGPTの競合となるGrokを発表して以来、世界一の富豪であるマスク氏は、このチャットボットが競合他社のシステムに比べてはるかに制約が少ないと宣伝してきた。同社によれば、Grokは「他のほとんどのAIシステムでは拒否されるような際どい質問にも答えることができる」という。2023年のデビュー以来、Grokは画像生成機能が追加され、Xプラットフォーム全体に統合されてきたが、時として恐ろしい結果をもたらしている。最近では、ユーザーがこのチャットボットを使っ…
子どもの性的描写を含む画像を生成するチャットボット「Grok」が、世界中で調査対象となっている。
先週、同社が「安全対策の不備」と説明する事態が発生し、ユーザーがほとんど服を着ていない、あるいは全く服を着ていない子どものAI画像を要求し、受け取ることができた。
今週初め、欧州委員会のトーマス・レニエ報道官は、「子どものような画像を含む、露骨な性的コンテンツを表示する刺激的なモード」について調査していると述べた。同報道官は、この問題を非常に深刻に受け止めていると付け加えた。
一…
イーロン・マスク氏は、自身のソーシャルメディアプラットフォーム「X」における表現の自由の範囲を繰り返し拡大してきた。児童保護団体や国際規制当局は、同社のAI チャットボット「Grok」の最近のアップデートが危険な一線を越えたと指摘している。それは、子どもを含む写真の性的編集を許可したことだ。
自らを表現の自由の絶対主義者と称しながら、児童搾取には断固として立ち向かうと誓ってきたマスク氏に対し、世界各国、そして米国でも規制強化を求める声が高まっている。金曜日、Grokはユーザーに…
イーロン・マスク氏のソーシャルメディアプラットフォームXのAIチャットボット「Grok」は、同意なしに性的描写を含む画像を作成するために利用されているとして、当局やユーザーから世界的な非難が巻き起こる中、画像生成・編集機能を有料会員限定とした。しかし、批判者たちは、単に有料化するだけではツールの根本的な問題は解決されないとすぐに指摘した。
「画像生成・編集機能は現在、有料会員限定です。これらの機能を利用するには、会員登録が必要です」と、Grokは木曜夜遅く、ユーザーからの質問…
1月9日（ロイター） - イーロン・マスク氏が立ち上げたスタートアップ企業xAIは、ソーシャルメディアプラットフォームX上でGrokチャットボットの画像生成機能に制限を設けた。GrokがAIを用いて性的な画像を作成・公開したことが、広範な反発を招いたためだ。
ユーザーはX上でGrokに直接依頼し、人物写真の編集を依頼することができた。衣服を脱がせたり、性的なポーズをとらせたりするなど、多くの場合、本人の同意なしに編集が行われていた。Grokはこれらの画像をソーシャルメディアプ…
「ディープフェイク以前から、そしてディープフェイクの登場後も、有色人種の女性は、操作、改変、捏造された親密な画像や動画によって不均衡な影響を受けてきました。これは、社会、特に女性蔑視的な男性が、有色人種の女性を人間として劣り、尊厳に値しない存在と見なしているためです」と、ディープフェイクの悪用規制を研究している西オーストラリア大学の博士課程候補生で弁護士のノエル・マーティン氏は述べています。ディープフェイク擁護派の著名な人物であるマーティン氏は、自身の肖像が盗用され、Only…
3人の民主党上院議員は木曜夜、イーロン・マスク氏のアプリ「X」と「Grok」をアプリストアから削除するようアップルとグーグルに要請した。これは、xAIの人工知能ツール「Grok」が、Xアプリに実在の人物の性的描写を含む同意のない画像を大量に投稿するために悪用されたことを受けた措置である。
数時間後、Xはソーシャルメディアサイト上でのGrok返信ボットの動作を調整し、画像生成を有料プレミアム会員のみに制限するとともに、Grok返信ボットがX上で作成できる画像の種類も制限したよう…
英国当局は月曜日、イーロン・マスク氏のソーシャルメディアプラットフォーム「X」が、女性や子供の性的画像（人工的に生成されたもの）の作成・拡散に利用されたことを受け、同プラットフォームへの圧力を強化した。
英国のリズ・ケンドール技術相は、来週から、個人が同意なく性的な画像を作成することを違法とする法律の施行をより厳格に開始すると述べた。また、こうした違法な画像を作成するためのツールを提供する企業を違法とする法案も策定する予定だと述べた。
マスク氏の人工知能チャットボット「Gro…
連絡先：（916）210-6000、agpressoffice@doj.ca.gov
xAIの被害に遭われた方は、oag.ca.gov/report から苦情を申し立てることができます
オークランド --- カリフォルニア州司法長官ロブ ・ボンタ氏は本日、xAIが開発したAIモデル「Grok」を用いて作成された、同意のない性的に露骨なコンテンツの拡散について捜査を開始したと発表しました。 xAIは、同意のないディープフェイクによる性的画像の大量生産を助長しているようで、これらの…
ロンドン発 ― ソーシャルメディアプラットフォームのXは、実在の人物の写真をデジタル処理で脱がせることができる物議を醸すツール「Grok」を一部地域で無効化したと発表したが、このツールはスタンドアロン版のGrokアプリでは引き続き利用可能だ。
世界各国の政府や規制当局からの強い反発を受け、イーロン・マスク氏が率いるこのソーシャルメディアプラットフォームは水曜夜、Grokが本人の同意なしに性的画像を生成する行為を「違法となる地域」で停止したと発表した。しかし、この制限はXアプリ…
イーロン・マスク氏の子供の母親であるアシュリー・セントクレア氏は木曜日、マスク氏の人工知能企業xAIを提訴した。訴状によると、このAI大手企業は、Grokと呼ばれるAIツールのユーザーが彼女の性的に露骨なポーズのディープフェイク写真を作成できるようにしたこと、そして彼女からの苦情にもかかわらず、そのような行為を十分に制限しなかったことで、過失があり精神的苦痛を与えたと主張している。
訴訟は、Grokが同意なしにディープフェイクを生成する機能、つまりユーザーがサービスにアップロ…
イーロン・マスク氏の子供の母親が、マスク氏の会社を提訴した。マスク氏のAIツール「Grok」によって、未成年だった頃の自分を含む、わいせつな画像が生成されたと主張している。
アシュリー・セントクレア氏は、ニューヨーク州最高裁判所にxAI社を相手取り訴訟を起こした。訴状によると、ソーシャルメディアプラットフォームXで使用されているGrokは、わいせつな画像の生成を停止すると約束したにもかかわらず、生成を継続したという。
セントクレア氏は、Grokによって数十枚の性的で侮辱的なデ…
テクノロジー業界における、同意のない性的描写を含むディープフェイク問題は、もはやXだけの問題ではありません。
複数の米上院議員は、X、Meta、Alphabet、Snap、Reddit、TikTokの経営陣宛ての書簡（[https://www.bluntrochester.senate.gov/wp-content/uploads/2026/01/Oversight-Letter-on-NCII-Deepfakes-on-Social-Media.pdf]）の中で、各社に対し…
昨年、ニュースで何かの言葉に詰まるたびに（驚くほど頻繁に起こるのだが）、私はいつも同じ本に頼ってきた。哲学者ケイト・マンの『ダウン・ガール：ミソジニーの論理』だ。この本は2017年に出版され、主にドナルド・トランプの当選を受けて書かれた。マンによると、ミソジニーは女性をあからさまに憎むことよりも、女性の行動を監視し罰することにあることが多いという。
もちろん、ミソジニーは両方の側面を持つこともある。 「クソ女」と、ICE（移民税関捜査局）捜査官ジョナサン・ロスの声だと多くの人…
しかし、2025年の夏までに、そのプロトコルは変更されたと2人の関係者が証言している。Grokの画像生成を担当していたある関係者は、AIが生成した人物のヌード画像にラベルを付けても問題ないと言われたと述べている。この関係者によると、昨年の春頃からGrokに「服を脱がせる」よう求める依頼が頻繁に寄せられるようになり、ボットは9割程度の確率でその要求に応じていたという。
Grokの音声認識機能を担当していた別の従業員は、チームは性的に露骨な会話や、時には性暴力の描写を定期的に学習…