英国議会議員らが、ソーシャルメディアの潜在的な危害から子供たちを守るため、学校でのスマートフォンの使用を法的に禁止する動きを見せている中、米国の10代の少女が、AIが撮影した自分のヌード画像がソーシャルメディアで拡散された後に体験談を語っている。
フランチェスカ・マニは昨年10月、ニュージャージー州ウェストフィールド高校で拡声器で名前が呼ばれ、校長室に呼び出されたとき、当時14歳だった。その後、同級生の男子生徒が自分の写真をInstagramから撮影し、人気の「ヌード化」ウェブサイトであるClothoffというサイトにアップロードしたことを知った。
マニは、キャンペーン活動により、タイムアウト誌のAI 2024で最も影響力のある100人の1人に選ばれており、60 Minutesでアンダーソン・クーパーと対談し、なぜ今、他の人にこのようなことが起きないようにする使命を負っているのかを説明した。
Graphika によると、CBS News が報じたところによると、先月だけでも Clothoff への訪問者は 300 万回を超えた。Clothoff は、他人のソーシャル メディア アカウントから簡単に入手した写真をアップロードし、人工知能を使って 服を脱がせて、非常にリアルなディープフェイクを作ることができるサイトです。
マニは自分の写真が流布されているのを見たことはありませんが、女子生徒の同級生が起こした訴訟では、学校の男子生徒が Instagram から Clothoff に写真をダウンロードし、Snapchat で学校中に流布したという主張も対象にしていました。
「それは矢継ぎ早に起こります」と彼女は言いました。「みんなに伝わるのです。だから誰かがこれを聞くと、まるで AI のよう。そんなことが自分に起こるなんて誰も思わないのです。」
最高のカメラのお買い得情報、レビュー、製品アドバイス、見逃せない写真ニュースをあなたの受信箱に直接お届けします!
学校側は、写真は削除され、流布は停止したと主張しましたが、マニの母親 Dorota は納得していませんでした。彼女は 60 Minutes のインタビューで、「誰が印刷したのか？ 誰がスクリーンショットを撮ったのか？ 誰がダウンロードしたのか？ 完全に消すことはできない」と語った。
60 Minutes は、過去 20 か月の間に米国の学校で同様のケースが 30 件あったこと、また世界各地で同様のケースがあったことを明らかにした。そのうち少なくとも 3 件では、Snapchat が AI ヌードの流通に使われていたと報じられている。
ヨタ・ソウラス氏は、全米行方不明・被搾取児童センターの最高法務責任者で、テクノロジー企業と協力して、各社のサイトにある不適切なコンテンツにフラグを立てている。画像は偽物だと主張する人もいるが、ソウラス氏は、被害者に与える被害は本物だと主張する。
彼女は CBS に、「彼らは精神的苦痛と評判の悪化に苦しむでしょう。 学校では、仲間の 1 人がこの画像を作成したため、被害はさらに大きくなります。信頼が失われます」と語った。信頼の喪失だ」
マニさんの場合、画像を作成して流布した少年は、学校から1日の停学処分を受けただけだったと伝えられた。
新しい人工知能技術は、人間が適切な法律で制御できるよりもはるかに速く進歩している。混乱や抜け穴があり、新しい技術の悪用に対する責任はしばしば転嫁される。
ある親は、娘の画像を共有していたアカウントをSnapchatが削除するのに8か月かかったと_60 Minutes_に語った。司法省は、未成年者のAIヌードは、それが「性的に露骨な行為」と定義されるものを描写している場合、連邦児童ポルノ法の下で違法であると述べている。しかし、スーラス氏は、ウェブサイトが作成したヌード画像の一部がその定義を満たさない可能性があると懸念している。
現在15歳のマニさんと母親は、昨年、学校にAIに関する真剣な方針を実施するよう促し、人々を守るための複数の連邦法案を可決しようと議員らと取り組んできた。「Take It Down Act」は、共和党上院議員テッド・クルーズ氏と、来年上院民主党運営政策委員会の委員長となる政治家兼弁護士のエイミー・クロブシャー氏が共同提案している。
この法案は、AIヌードの共有に刑事罰を課し、ソーシャルメディア企業に要請を受けてから48時間以内に写真を削除するよう義務付ける。法案は今月初めに上院を通過し、現在は下院での採決を待っている。