イライジャ・ヒーコックは、人々を笑顔にする元気いっぱいのティーンエイジャーでした。「彼は落ち込んでいることも、悲しんでいることも、怒っていることもありませんでした」と、父親のジョン・バーネットさんはCBSサタデー・モーニングに語りました。
しかし、イライジャがAIが生成した自身のヌード写真が添付された脅迫文を受け取った時、すべてが変わりました。友人や家族に送らないようにするために3000ドルを支払うよう要求する内容のメッセージが届きました。CBS系列局KFDAの報道。バーネットさんとイラ イジャの母親、シャノン・ヒーコックさんは、彼の携帯電話でメッセージを見つけるまで、何が起こったのか全く知りませんでした。
エリヤさんはセクストーション詐欺の被害者でした。これは、インターネット上で若者をターゲットにし、露骨な画像を公開すると脅迫するものです。詐欺師はしばしば金銭を要求したり、被害者に危害を加えるよう強要したりします。エリヤさんの両親は、彼の死に関する捜査が始まるまで、この言葉さえ聞いたことがなかったと述べています。
「私たちの子供たちを狙っている者たちは、組織化されています」とバーネット氏は言います。「彼らは資金力があり、容赦がありません。写真が本物である必要はありません。彼らは望むものなら何でも作り出し、それを使って子供たちを脅迫するのです。」
セクストーション詐欺の起源
セクストーション詐欺の報告件数は急増しています。全米行方不明・被搾取児童センター（National Center for Missing and Exploited Children）によると、未成年者を狙ったセクストーション詐欺の報告は、昨年だけで50万件を超えています。連邦捜査局（FBI）の推計によると、2021年以降、少なくとも20人の若者がセクストーション詐欺によって自殺しています。
10代の少年が特に標的になっているとNCMECは2023年に発表、生成AIサービスの台頭により、画像は必ずしも本物である必要さえない。同センターによると、今年、全米行方不明・被搾取児童センター（NCMEC）に提出された10万件以上の報告に、生成AIが関係していたという。
「現時点では、このような違法で有害なコンテンツを作成するのに、実際には技術的なスキルは必要ありません」と、オンラインでの児童搾取防止に重点を置く非営利団体Thornのデータサイエンス責任者、レベッカ・ポートノフ博士は述べた。ポートノフ氏によると、誰かのヌード画像の作成方法を検索するだけで、アプリ、ウェブサイト、その他のリソースの検索結果が表示されるという。
この危機は手に負えないように見えるかもしれない。しかし、解決策はあるとポートノフ氏は述べた。ソーン社は独自のイニシアチブ「Safety By Design」を立ち上げ、AI企業が技術開発時に設定すべき障壁を概説している。これらの障壁はセクストーションの削減を目的としているとソーン氏は述べた。ソーン氏によると、少数の大手AI企業がこのキャンペーンの原則に同意しているという。
「この種の悪用を防ぐのに役立つ、現実的で具体的な解決策が既に存在し、現在展開されています」とポートノフ氏は述べた。
政府機関もセクストーション対策に取り組んでいる。最近可決された「Take It Down」法は、メラニア夫人が提唱し、トランプ大統領が署名して成立しました。この法律は、本人の同意なしに、インターネット上に性的に露骨な画像を投稿することを連邦犯罪と定めています。この法律はまた、ソーシャルメディア企業やその他のウェブサイトに対し、被害 者からの要請から48時間以内にそのような画像を削除することを義務付けています。
エリヤ君の両親は、自分たちと同じような苦しみを他の家族に味わってほしくないと語りました。彼らは変化を求めて闘ってきたとCBS系列局WLKYが報じました。彼らは、「Take It Down法」が状況を変えることを期待していると述べた。
「これは戦争における銃弾のようなものだ。銃弾で戦争に勝つことはできない」とバーネット氏は述べた。「銃弾一発で戦争に勝つことは決してない。戦闘に勝たなければならない。闘いに勝たなければならない。そして、私たちは今、その闘いに臨んでいるのだ。」