デリー警察は火曜日、パラム村在住の21歳の男を、AIツールを用いて元交際相手の露骨な画像を作成し、ストーカー行為、名誉毀損、セクハラ行為を行った疑いで逮捕した。警察によると、容疑者は、元同級生だった女性のAI生成画像を偽のインスタグラムアカウントで拡散した疑いがある。
女性が自身の画像が悪用され、ソーシャルメディアで拡散されていると通報したことを受け、警察は捜査を開始した。警察によると、容疑者は交際が終わった後にオンラインでの嫌がらせを開始し、彼女の尊厳と評判を傷つけようと、計画的かつ継続的な攻撃を開始したという。
ある警察幹部は、「容疑者は彼女の身元を偽装し、実在の写真を使用し、フォロワーを標的にして彼女を辱めた。発覚を逃れるため、検証可能な携帯電話番号やメールアドレスを伏せた偽アカウントが毎日作成されていた」と述べた。警察によると、これらのアカウントは、加工された画像を共有するだけでなく、彼女の身元を偽装するためにも使用されていたという。
しかし警察は、AIによるモーフィング画像の作成と人物のディープフェイクの作成は異なると説明した。「ディープフェイクは主に、人物の顔や声を別の人物と入れ替え、あたかも実際には言っていない、あるいはしていないことを言っているかのような、非常にリアルな偽の動画や画像を作成することに重点を置いています。一方、AIモーフィングは複数の人物の顔の特徴を融合させ、新しいハイブリッドな顔を作り出します。これは芸術的な目的でよく使用されます」と、サウスウェスト警察署のアミット・ゴエル署長は説明した。
サイバー警察チームは技術的な監視体制を敷き、アカウントのIPアドレスとデジタルフットプリントを追跡した。「容疑者は複数のハンドルネームでストーリーを共有していました。私たちはInstagramからIPログと詳細情報を入手し、それらに基づいて容疑者を特定しました」とゴエル署長は述べた。継続的な監視の後、警察は容疑者を発見し、逮捕した。また、犯行に使用されたスマートフォンを回収し、鑑識検査を開始したと警察は発表した。
警察はインド中文法（BNS）第78条（ストーカー行為）と第79条（女性の品位を侮辱する意図のある言葉、身振り、行為）に基づいて事件を起こした。