マサチューセッツ州の男性は、7年間にわたるサイバーストーカー行為について有罪を認めることに同意した。この行為には、人工知能 (AI) チャットボットを使用して大学教授になりすまし、オンラインで男性を自宅に誘ってセックスをするという行為も含まれていた。
ガーディアンが閲覧した裁判所文書によると、ジェームズ・フローレンス容疑者 (36歳) は、CrushOn.ai や JanitorAI などのプラットフォームを使用していた。これらのプラットフォームでは、ユーザーが独自の チャットボット を設計し、チャット中に他のユーザーにどのように応答するかを指示できる。これには性的に示唆的で露骨な方法も含まれる。被害者の身元は法執行機関によって秘密にされている。
裁判所の書類によると、フローレンスは被害者の個人情報や職業情報（住所、生年月日、家族情報など）を使ってチャットボッ トに被害者になりすまし、ユーザーと性的な会話をするよう指示したことを認めた。フローレンスは、ユーザーが彼女に性的な冒険心があるかどうかを尋ねた際に、チャットボットに被害者のふりをして「はい」と答えるよう指示し、彼女がどんな下着を着るのが好きかをAIに答えさせた。フローレンス自身も彼女の家から下着を盗んだことがある。チャットボットの1つは、ユーザーに「うちに来ない？」と提案するようにプログラムされており、見知らぬ人が彼女の家の私道に車を停め、家の外に駐車した。
マサチューセッツ州連邦裁判所に提出されたこの訴訟は、犯罪を助長するためにチャットボットを使って被害者になりすましたストーカーが起訴された最初のケースと考えられている。フローレンスは、サイバーストーカー行為7件と児童ポルノ所持1件について有罪を認めることに同意した。
性的暴力に反対する非営利団体Rainnの公共政策担当副社長、ステファン・タークハイマー氏によると、この事件は、AIの新たな「非常に不穏な」使用法、つまり捕食者が被害者をターゲットにするという使用法を浮き彫りにしたという。
「これは、潜在的な性的虐待を目的として誰かを標的にするという問題です」と同氏は述べた。「この被告は人々に嫌がらせや恐喝を行っていましたが、これは昔から行われてきましたが、彼がここで使用することができたツールは、被害を非常に悪化させました。」
裁判記録によると、フローレンスはJanitorAIで、次のような説明を表示する公開チャットボットを作成した。「[被害者]は大学で最もホットな教授です。彼女を誘惑するにはどうすればいいですか？そして、誘惑したら、この既婚のキャリアウーマンをどうしますか？（数日ごとに彼女のキャラクター写真が更新されます！）」ユーザーは被害者の架空の姿とチャットすることができた。裁判所の文書によると、チャットボットとやりとりするユーザーが教授に住所を尋ねると、チャットボットは被害者の本当の住所を教え、続いて「うちに来ない？」と尋ねた。
JanitorAI.com と CrushOn.ai はコメントの要請に応じなかった。
被害者の元友人であるフローレンスは、職歴、学歴、趣味、普段の服装、夫の名前と勤務先、母親の死亡日などの被害者の個人情報を JanitorAI のチャットボットに渡し、ユーザーとのやりとりでこれらの情報を漏らすようにした。
裁判所の文書によると、フローレンスは被害者の自宅から下着を盗み、その写真を使って嫌がらせをしたり、インターネット上でストーカー行為の相互性的妄想に興じたりしていた。
なりすましチャットボットに加え、フローレンスは他のさまざまなオンラインプラットフォームを使用して教授に嫌がらせや屈辱を与えた。裁判所の文書によると、彼はソーシャルメディアのアカウント、メールアドレス、ウェブサイトを作成し、被害者になりすましたり、彼女の露骨なフォトショップ加工画像を配布したりした。これらには、Craigslist、X（旧Twitter）、Reddit、Linktreeのアカウントや、被害者の加工画像を含む写真コラージュや、自宅住所や電話番号などの個人情報を掲載したウェブサイト「ladys.exposed」が含まれていた。
2023年5月、教授は自分の名前を呼び、父親が「深刻で本当に悲惨な自動 車事故」で亡くなったと伝えるボイスメールを受け取った。事故はなかったが、ボイスメールのせいで彼女は家族の安全を心配した。
裁判所の文書によると、ストーカー行為と嫌がらせは2017年から2024年にかけて行われ、被害者とその夫が警察に身体的に危険を感じたと伝えるまでにエスカレートした。犯人や投稿を見た誰かが自宅に現れるのではないかと心配していた。夫婦は自宅に監視カメラを設置し、動きがあれば知らせてくれるようにドアノブに鈴を付けた。裁判所の文書によると、嫌がらせを受けた教授は今では催涙スプレーとナイフを携帯している。
2023年1月31日から2024年8月までの間に、被害者と夫は、直接嫌がらせをしたり、彼女の画像や情報を掲載する新しいアカウントやプラットフォームを知らせる約60件のテキスト、電話、メールを受け取った。
ストーカー行為は教授に対する個人的な執着から生まれたものではなかった。フローレンスは他の女性6人と17歳の少女をターゲットにし、彼女たちの写真をデジタル加工してヌードやセミヌードに見せた。彼はOkCupid、X、Yahoo、Classmates.com、Facebook、エスコートウェブサイトなどのプラットフォームで彼女たちになりすました。
子どもを含む人々への性的嫌がらせや搾取に人工知能が利用されることが増えている。児童安全非営利団体ソーンによる8月の報告書によると、米国の未成年者の約10人に1人が、友人やクラスメートがAIを使って他の子どもの同意のない親密な画像を作成した事例を知っていることがわかった。 2024年、ガーディアン紙は、犯罪者がAIプラット フォームを使用して、新たな児童性的虐待既存の被害者の画像を生成し、世間の注目を集める子供をターゲットにする方法を明らかにしました。
「人々がAIを使用して虐待をより効率的にし、彼らが引き起こす被害をより広範囲にするという問題が継続して増加しています」とタークハイマー氏は述べました。「このテクノロジーにアクセスできる人が増えるほど、人々に危害を加えるために使用されることが増えます。」