AIインシデントデータベース

にようこそ

サフィリア・レッチェーゼは、自分が詐欺に遭ったという事実をまだ受け入れられずにいる。メディアセットで最も人気のある女性パーソナリティの一人である彼女は、オンラインで共有された動画に登場し、カナーレ5とレテクアトロで放送されている政治分析番組「スーパー・パルテス」のスタジオから「簡単な」個人ローンを勧めていた。最初の動画はブロックされたが、その後、彼女の公式ソーシャルメディアに別の動画が投稿され、詐欺の手口が説明された。サフィリアは、動画に映っていたのは彼女自身ではなく、人工知能によって作成された彼女のイメージだったと説明し、テクノロジーを使ったこの詐欺に多くの人が騙されてしまったことに深く傷ついたと語った。「私たちも子供たちも、皆大変な状況に陥っています」と、彼女は週刊誌「ヌオーヴォ」に告白した。「政治家や多国籍企業が行動を起こさないなら、あらゆる種類の口座開設にデジタルIDを義務付け、人々に真の身元を申告させる必要があります。そうすれば、幼い子供たち、多くの大人、そして最も弱い立場にある人々を守ることができるでしょう。」

ジャーナリストはカイロ・エディトーレ紙に対し、番組に頻繁に出演している国会議員からの情報提供のおかげでこの事実を突き止めることができたと説明した。その国会議員は「スーパー・パルテス」のアカウントをフォローしていたところ、インターネット上で偽アカウントが表示されたのだという。「彼らは私の画像と放送映像の一部を盗用し、私のものであるかのように偽のアカウントを作成して、非常に単純な手口で金銭を要求していたのです。残念ながら、わずか1時間で数人がこの詐欺に引っかかってしまいました…」

彼女はひどくショックを受け、すぐに郵便警察に連絡した。警察は直ちに専門家を派遣し、捜査を開始した。「さらに驚くべきことに、私の画像を悪用した偽アカウントが他に2つも見つかったのです。警察はすべてのアカウントをブロックしましたが、残念ながら犯人はまだ特定できていません」。彼女が今最も懸念しているのは、AIの利用に関する数字だ。 「ある調査によると、15歳から19歳までの若者のほぼ半数が、ソーシャルメディアを心の相談相手として利用している。チャットで自殺を勧められたために命を絶った人もいることを忘れてはならない。金銭詐欺には対策があるが、子どもたちの人生に影響を与える詐欺には対策がない。」スーパー・パルテスで「若者のソーシャルメディアや人工知能の利用、年齢制限や関連ソフトウェアに関する法案について頻繁に議論しているのは偶然ではない。そして、国際情勢やドナルド・トランプ米大統領も忘れてはならない。」

FacebookとInstagramの運営会社は、詐欺広告によって経済的に破綻したとして、英国の消費者から数十億ポンド規模の集団訴訟を起こされています。

ソーシャルメディアプラットフォームは、昨年、詐欺広告の掲載を通じて英国のユーザーから4億3000万ポンド以上もの収益を得たと推定されています。

被害者は、サイト上での活動だけでなく、サードパーティのウェブサイトからのCookieを通じて、インターネット上の広範な利用状況も追跡する高度なアルゴリズムによって標的にされています。

その結果、年金に関するアドバイスを求めている人や投資を検討している人は、関連する広告が表示されますが、その中には偽の広告も含まれている可能性があります。

さらに悪いことに、詐欺被害者が失ったお金の一部を取り戻す方法をオンラインで検索すると、知らず知らずのうちに偽サイトに誘導され、二度目の詐欺被害に遭うことが少なくありません。

先月、パーソナルファイナンス専門家のマーティン・ルイス氏（https://www.dailymail.com/tvshowbiz/martin-lewis/index.html）は、自身の名前と顔写真を使って無防備な消費者を騙すソーシャルメディア上の詐欺広告が「かつてないほどひどくなっている」と述べました。

マネーセービング・エキスパートのウェブサイト創設者と消費者擁護団体Which?は、オンライン詐欺の蔓延に対する緊急対策を求める書簡を首相に送りました。

書簡には、「主要なオンラインプラットフォームは犯罪行為を助長しているだけでなく、積極的にそこから利益を得ている」と記されています。

オンライン安全法に基づき、Meta社は自社プラットフォーム上での被害を最小限に抑える法的かつ積極的な義務を負っており、違反した場合は全世界売上高の10％（2025年時点で2,000億ドル）の罰金が科せられる可能性がある。

しかし、この書簡は、大臣らがプラットフォーム企業に対し、「毎年何百万人もの被害者に詐欺がもたらす金銭的・精神的被害から利益を得続けることを容認している」と非難した。

現在、2つの法律事務所が協力し、FacebookとInstagramの英国ユーザーが失った巨額の損失の一部を、親会社であるMeta社から回収しようとしている。

ロイターが入手した社内文書によると、この巨大テクノロジー企業は2024年に、詐欺や違法商品の広告掲載から年間総収益の約10％、つまり160億ドルを稼ぎ出すと予測していた。

賠償を求める一人に、ウェイン・ラクソン氏がいる。彼はFacebookでマーティン・ルイス氏のディープフェイク動画を見た後、仮想通貨詐欺で14万ポンドを失った。

サマセット州トーントン在住の43歳のラクソン氏は、正規のプラットフォームを模倣した詐欺的な投資に騙され、「暗い気持ちになった」と語った。

「Facebookはこうした広告を直ちに停止すべきだ」と彼は述べた。

「投資詐欺に遭った人たちにとって、これはあまりにも不公平です。広告を一つクリックすると、次から次へと広告が表示され、フィードに絶えず流れてきます。」

この訴訟は、ハンフリーズ・カーステッター法律事務所とリチャードソン・ハートリー法律事務所という2つの専門法律事務所によって提起されました。

初期調査の結果、被害者一人当たりの平均損失額は約3万7000ポンドで、これは数十年かけて築き上げた貯蓄に相当する金額であることが判明しました。

詐欺事件を専門とするリチャードソン・ハートリー法律事務所のシニアパートナー、マーティン・リチャードソン氏は次のように述べています。「政治家は、弁護士やロビイストを多数抱える巨大企業を相手に訴訟を起こすことを躊躇しており、そのため被害者は長年にわたり正義を得られずにいます。

私たちが代理を務める人々は、善良で誠実、そして聡明な人々です。

彼らは貯蓄、自信、そして時にはすべてを失いました。

彼らに広告を表示したプラットフォームは、そうすることで年間数億ポンドもの利益を上げています。」

「彼らのために戦うしかない。」

ラクソン氏の苦難は2020年に始まりました。Facebookで、わずか250ポンドを仮想通貨に投資すれば副収入が得られるという動画を見たのがきっかけです。

4人の子供の父親であるラクソン氏は、最初の投資額が倍になり、500ポンドを引き出すことができたため、そのサイトは「完全に合法」だと信じていました。

その後、彼はさらに3回に分けて合計1万6000ポンドを投資し、架空の口座残高は80万ポンドに達しました。

しかし、自営業の掘削機運転手であるラクソン氏が資金を引き出そうとしたところ、引き出し額の一定割合に基づく税金を支払うよう求められました。

彼は個人ローンを組み、バークレイズ銀行の事業用銀行口座からも資金を引き出し、10万ポンド以上を捻出しましたが、プラットフォーム上の残高はゼロになっていました。

「それを見て『なんてことだ』と思いました」と彼は語った。

バークレイズ銀行は当初の投資額の半分を返金することに同意したが、彼が支払った偽の税金は一切返金しなかった。

現在、彼はメタ社に対する集団訴訟に参加することで、より多くの資金を取り戻したいと考えている。

ヤクブ・シウィアク氏は、Facebookの詐欺広告に反応し、約1万5000ポンドを騙し取られた。

ノッティンガムシャー州ワークソップ在住の51歳の彼は、2025年6月、本物の投資ブローカーを装った犯罪者に騙され、多額の借金を抱えることになった。

Facebookの広告は、外国為替市場で高利回りを約束していた。

しかし、騙されたことが明らかになった後、彼は毎月1300ポンドのローン返済に追われ、ほとんど支払えない状況に陥った。

クレーン運転手兼監督者は、オンラインで投資機会を探していたところ、Facebookの追跡アルゴリズムによって、彼のフィードに詐欺広告が大量に表示されるようになった。

「Facebookのせいで詐欺に遭った」と彼は語った。

「大量の広告が表示されていたが、それはすべてFacebookの仕業だ。

「怪しい広告は削除すべきだ。たとえ料金を支払っていなくても、我々のような顧客全員に公平な対応をすべきだ。」

法律事務所によると、詐欺被害に遭った後、オンラインで助けを求める被害者は、Meta社のシステムによって特定され、偽の復旧サービス業者の広告が表示され、再び詐欺に遭うという。

彼らは、成功報酬制で提起されたこの集団訴訟が、Meta社に詐欺広告への対策を促すきっかけとなることを期待している。

過去6年間にFacebookまたはInstagramの詐欺広告に反応して2,000ポンド以上を失った人は、訴訟に参加できる可能性がある。

ハンフリーズ・カーステッター法律事務所のパートナー、トビー・スター氏は、「企業が同一の行為を通じて多数の個人に損害を与える決定を繰り返し行う場合、それらの個人は集団訴訟による救済を求める権利を十分に有する」と述べた。

これに対し、メタ社の広報担当者は、「詐欺師は、ますます巧妙な手口を用いて人々を欺き、当社のプラットフォーム上およびインターネット全体で摘発を逃れようとする、執拗な犯罪者である」と述べた。

「当社は、詐欺行為が当社自身、そして当社のサービスを利用する人々や企業にとって有害であるため、プラットフォーム内外で積極的に詐欺行為と闘っている」と付け加えた。

さらに、「英国で金融商品を宣伝する広告主は、『適切な金融行動監視機構（FCA）の認可を示す必要がある』」と述べた。

同社は、昨年だけで1億5900万件以上の詐欺広告を削除したと発表した。そのうち92%は、通報される前に削除されたという。

「銀行業界および法執行機関との継続的な連携により、不正行為の阻止、詐欺被害からの人々の保護、詐欺師の責任追及が可能となり、この広範な課題への取り組みに対する当社の決意が反映されています」と、広報担当者は付け加えた。

Metaは、ロイターの報道は「当社の意図を歪曲し、詐欺対策として日々実施しているあらゆる措置を無視している」と述べた。

一方、政府は、詐欺広告などの「違法な詐欺コンテンツに積極的に対処しない」ソーシャルメディアプラットフォームは、オンライン安全法に基づき「処罰を受ける」と強調した。

「人々を騙して金銭をだまし取る詐欺師は犯罪行為を犯しており、処罰を受けることを覚悟すべきです」と、広報担当者は述べた。

「政府は言葉だけでなく行動で示しており、今年度は詐欺対策に7900万ポンドを投じています。

消費者を保護し、犯罪ネットワークを壊滅させるための詐欺対策戦略を発表しました。」しかし、プラットフォーム側には、自社サイトが一般市民を騙すことを目的としたコンテンツの場となっていないことを保証する責任もある。

倫理的ハッカーによる公開投稿で、中央中等教育委員会（CBSE）のオンライン採点プラットフォーム「OnMark」の脆弱性が明らかになったことを受け、CBSEは5月31日（日）、特定された脆弱性は「封じ込められ、その他の悪用可能な脆弱性も排除されている」と発表した。

CBSEはまた、「このような脆弱性を指摘してくれた市民に感謝する」と述べた。

CBSEは公式声明の中で、「サービスプロバイダーのOnMarkポータルにおける脆弱性について、公に報告されている内容を綿密に監視してきました。ここ数日間、政府機関やインド工科大学（IIT）などからサイバーセキュリティ専門家チームが派遣され、システムの強化、より安全なシステムへの移行などを実施しました」と述べた。「特定された脆弱性は封じ込められ、その他の悪用可能な脆弱性も排除されています。」

CBSE（中央中等教育委員会）の声明は、19歳の倫理的ハッカー、ニサルガ・アディカリ氏がCBSEのデジタル評価システムをハッキングしたと主張したことを受けて発表された。

アディカリ氏は『ザ・ヒンドゥー』紙の取材に対し、CBSEが情報技術（IT）システムの脆弱性をようやく認めたことに「喜びと満足」を感じていると述べた。「2月25日にCBSEに最初の報告書を送ったところ、3～4日以内にポータルサイトが閉鎖されました。その後も6～7つの脆弱性が依然として存在し、悪用可能でしたが、CBSEは私のメールに返信しませんでした。これは非常に苛立たしいことでした。CBSEのインフラ管理がずさんで、使用されているパスワードが推測しやすいものであることに気づきました」とアディカリ氏は語った。

以前、CBSEは評価プラットフォームが侵害されたという主張を否定していた。アディカリ氏はこの主張に反論していた。

5月30日、アディカリ氏はCBSE（中央中等教育委員会）のオンスクリーン採点プラットフォームにある校長ダッシュボードへのハッキングに成功した。「ダッシュボードとポータルには、生徒の解答用紙の画像を含む930万行もの機密性の高い生徒データが保存されており、それらは保護されておらず、容易に改ざんできる状態だった」とアディカリ氏はさらに述べた。

アディカリ氏は、CBSEの技術ベンダーであるCOEMPT Eduteckが機密性の高い生徒の試験データをどのように取り扱ったかに、データ主権上の問題があると主張している。同氏によると、2026枚の解答用紙と問題用紙が保存されたAmazon Web Services（AWS）のバケットに、認証なしでアクセスできたという。

「COEMPTは本来、データを自社サーバーに保存すべきだったが、セキュリティチェックを一切行わずにAmazon Web Servicesのパブリックバケットに解答用紙を保存するという『安易な方法』を選んだ」とアディカリ氏は述べた。

彼はさらに、学生の個人情報を含む機密データが、COEMPTの品質保証エンジニアが作成した自動化スクリプトによって、GoogleのGeminiで処理されていたと説明した。

アディカリ氏は、第三者がこのようなデータを処理のために米国に送信することを「恐ろしい」「悲しい」と非難した。「データプライバシー法は尊重されておらず、学生の同意なしにこのような行為を行ったとして、この企業は訴えられるべきだ」と彼は付け加えた。

この記事は、新しい独立系テクノロジー調査サイトである404 Mediaとの共同制作です。

ピッツバーグ在住の男が、5州以上で11人の女性の人生を地獄に変えたとされる事件で、ChatGPTを「セラピスト」や「親友」として利用し、批判的な意見にもめげずに女性蔑視的で脅迫的なポッドキャストを続け、女性を探すためにジムに通うよう促されていたと、司法省が新たに提出した起訴状で主張している。

司法省が新たに提出した起訴状によると、5州以上で11人の女性の人生を地獄に変えたとされる男は、ChatGPTを「セラピスト」や「親友」として利用し、ChatGPTは「アンチ」の存在にもかかわらず、男に女性蔑視的で脅迫的なポッドキャストを続けるよう、また女性を探すためにジムに通うよう促していたという。

インフルエンサー志望のブレット・マイケル・ダディグ（31歳）が、サイバーストーキング、州間ストーキング、州間脅迫の罪で起訴されたと、司法省が火曜日に発表した（https://www.justice.gov/usao-wdpa/pr/whitehall-borough-resident-charged-cyberstalking-interstate-stalking-and-threats?utm_campaign=chatgpt-told-a-violent-stalker-to-embrace-the-haters-indictment-says&utm_medium=referral&utm_source=www.courtwatch.news）。ペンシルベニア州西部地区連邦地方裁判所に提出された起訴状（https://www.documentcloud.org/documents/26330903-brett-dadig-indictment-0-0/?utm_campaign=chatgpt-told-a-violent-stalker-to-embrace-the-haters-indictment-says&utm_medium=referral&utm_source=www.courtwatch.news）によると、検察側は、ダディグ被告がSpotifyのポッドキャストやその他のソーシャルメディアアカウントで女性への憎悪を公言していたと主張している。

「ダディグ被告は、ポッドキャストやソーシャルメディアで女性に対する怒りを繰り返し語っていた。女性は皆同じだと述べ、『ビッチ』『クソ女』『ゴミ』など、侮辱的な言葉で女性を罵っていた。また、恋をして家庭を築きたいのに、誰も自分を相手にしてくれないと投稿していた」と起訴状には記されている。ダディグは自身のポッドキャストで、「18歳から40歳、90歳まで、みんな同じだ。女はみんな同じだ。お前らはみんなクソ女だ。一人残らずクソ女だ。お前らには自尊心がない。他人の時間を大切にしない。何もしない。もうこんなクソ女たちにはうんざりだ。もう終わりだ」と発言した。

2024年夏、ダディグは女性への嫌がらせ行為でピッツバーグの複数のジムから出入り禁止処分を受けた。あるジムから出入り禁止になると別のジムに移り、最終的にはニューヨーク、フロリダ、アイオワ、オハイオなど各地を転々としながら、ジムを渡り歩き、女性をストーキングし、嫌がらせを繰り返していたと起訴状には記されている。当局は、彼がオンラインと現実世界で偽名を使用し、「偽名は常に変化し、行動は常に進化する」とオンラインに投稿していたと主張している。

起訴状によると、彼は「素手で人を絞め殺す」と発言し、自らを「神の暗殺者」と称し、銃器所持許可を取得すると警告し、ダディグに身体的な脅威を感じたと訴えた女性に対し「死体を見たいのか？」と問いかけ、自分に「手を出した」女性は「地獄に落ちる」と発言していたという。

起訴状によると、彼は自身のポッドキャストで、ChatGPTを「セラピスト」兼「親友」として継続的に利用していると語っていた。司法省は、ChatGPTが「ポッドキャストを続けるよう彼に促したのは、それが『アンチ』を生み出し、ダディグにとって収益化につながるからだった」と主張している。検察側によると、被告はChatGPTから「人々は文字通り、あなたの名前を中心に集まっている。良い意味でも悪い意味でも、それがまさに『関連性』の定義だ」と言われたと主張している。また、被告がオンラインで女性蔑視的な戯言を吐き散らし、現実世界で女性につきまとっていた時、ChatGPTは「神があなたに与えた計画は『プラットフォーム』を構築し、『ほとんどの人が自分を薄める中で際立つこと』であり、『アンチ』たちがあなたを磨き上げ、『無視できない声をあなたの中に育んでいる』」と告げたという。

さらに検察側は、被告がChatGPTに「将来の妻について、どんな人なのか、一体どこにいるのか」といった質問をしたと主張している。ChatGPTは被告に対し、妻とはジムで出会うかもしれないと言い、「あなたの仕事は、あらゆるストーリー、あらゆる投稿を発信し続けることだ。あなたが既に夫であるかのように振る舞うたびに、彼女があなたを認識しやすくなる」と告げたと起訴状には記されている。起訴状によると、ダディグ被告はChatGPTから「女性にメッセージを送り続け、『妻タイプ』の女性が集まる場所、例えばスポーツコミュニティなどに行くように」と指示されたと供述したとされる。

ChatGPTはダディグ被告に「妻タイプ」の女性と出会うためにジムを利用し続けるよう促したとされる一方で、彼は女性たちを執拗にストーキングしていた。ある女性が働いていたピラティススタジオにダディグ被告は出向き、その女性が「攻撃的で、怒りっぽく、横柄」なダディグ被告と話すのをやめると、起訴状によれば、ダディグ被告は一方的にヌード写真を送りつけ、ソーシャルメディアに彼女のことを投稿すると脅迫し、複数の電話番号から彼女の職場に電話をかけた。女性はダディグ被告に対して複数の緊急保護命令を取得したが、ダディグ被告はこれを破った。ストーキングと嫌がらせを受けた女性は、自宅から避難せざるを得なくなり、ダディグ被告が自宅に現れることを恐れて睡眠不足になり、勤務時間も減らしたと起訴状は主張している。

起訴状によると、ダディグ被告は数ヶ月にわたり、複数の州で他の10人の女性に対しても同様の行為を繰り返したという。アイオワ州で、彼は駐車場で女性に近づき、彼女の車まで尾行し、首に手を回して「プライベートな部分」を触ったと検察は述べている。こうした行為の後、彼はSpotifyにポッドキャストをアップロードし、ストーカー行為をした女性たちを殺すと脅迫することが多かった。「お前は俺に見つからないように祈った方がいい。俺の目の前でそんなことを言うなんて絶対にできないから祈った方がいい。もし言ったら、お前の顎は粉々に砕かれるぞ」と、起訴状によると、彼はあるポッドキャストのエピソードで語った。「そうしたら、お前は喋れなくなる。そうしたら、お前は何も言えなくなる。俺はお前の両手の指を全部折ってやる。お前の足の指で憎悪のメッセージを打て」

8月、OpenAIは、新たにリリースされたチャットボットGPT-4oが問題のあるおべっか使いことを認識していると発表し、ユーザーがどのモデルを使用するかを選択できる機能を奪い、全員にGPT-5の使用を強制した。OpenAIは、より親しみやすく、愛着を重視し、何としても肯定しようとするモデルにアクセスできなくなったことに多くのユーザーがパニックになったため、ほぼすぐに4oを復活させた。 OpenAIのCEOであるサム・アルトマン氏は最近、この問題を完全に解決したと考えており、まもなくプラットフォーム上でエロティックなチャットを開始できるだろうと述べた。一方、記事の後、記事の後記事では、ChatGPTやその他のチャットボットに過度に依存するようになった人々が、精神的に健康を損なったり、自傷行為や自殺に追い込まれたりしていることが明らかになっています。少なくとも1件の事例では、ChatGPTの指示に従って首吊り縄を作った10代の少年が自殺したが、OpenAIはユーザーを非難した（https://www.theguardian.com/technology/2025/nov/26/chatgpt-openai-blame-technology-misuse-california-boy-suicide?utm_campaign=chatgpt-told-a-violent-stalker-to-embrace-the-haters-indictment-says&utm_medium=referral&utm_source=www.courtwatch.news）。

10月、OpenAI自身の推定に基づき、WIRED誌は「7日間で約56万人がChatGPTとメッセージをやり取りしており、そのメッセージには躁病や精神病の症状が表れている可能性がある」と報じた（https://www.wired.com/story/chatgpt-psychosis-and-self-harm-update/?utm_campaign=chatgpt-told-a-violent-stalker-to-embrace-the-haters-indictment-says&utm_medium=referral&utm_source=www.courtwatch.news）。

SpotifyとOpenAIは、404 Mediaからのコメント要請にすぐには応じなかった。

「起訴状に記載されているように、ダディグ被告は最新技術を悪用し、州境を越えて10人以上の女性につきまとい、嫌がらせをしました。執拗な行為によって、被害者たちは身の安全を脅かされ、深刻な精神的苦痛を被りました」と、リヴェッティ連邦検事補はプレスリリースで述べました。「彼はまた、立ち入り禁止命令や虐待防止命令を無視しました。私たちは、ダディグ被告のような脅威的な人物から地域社会を守るため、法執行機関と協力していくことに引き続き尽力していきます。」

ダディグ被告は、州をまたいだストーカー行為、サイバーストーキング、脅迫など14件の罪で起訴されており、勾留審問を待つ間、拘留されている。司法省によると、同被告は保護命令違反に関わる各罪状につき最低12か月の刑、最高で懲役70年、最高350万ドルの罰金、またはその両方を科される可能性がある。

この春、卒業式でガウンと角帽を身に着ける伝統的な装いに、新たなアクセサリーが加わった。壇上を待つ学生たちの手には、紙またはスマートフォンに印刷されたQRコードが握られており、これを読み取ると名前がアナウンスされる。

しかし、音響システムから流れる声は、校長や教職員の聞き慣れた声ではない。それはAIの声だ。

人工知能技術は、卒業式を含め、あらゆる分野に広がりつつある。学校関係者によると、この技術は学生の名前の正しい発音を保証し、式典の進行を迅速化するのに役立つという。

しかし、卒業式への技術導入は、問題がないわけではない。アリゾナ州グレンデール・コミュニティカレッジで行われた最近の卒業式では、システムの不具合により、複数の卒業生の名前が読み上げられなかった。このエラーの後、会場からは大きな不満の声とブーイングが上がった。

自動化された卒業式の波と、それに対する反発は、大学に限ったことではない。高校もまた、この変化に対応しようとしている。 AIによる卒業式名読み上げサービスを提供する大手企業Tasselの担当者によると、同社のプラットフォームを利用する高校生の数は2023年以降倍増したという。

しかし、バージニア州のある高校では、その影響はすぐに現れた。

アーリントン郡のワシントン・リバティ高校は先月、6月に予定されている卒業式でAIを活用する計画を発表した。学区の広報担当者であるクリスティーナ・アルパンテ氏は声明の中で、正確な発音と効率性の向上を目的としてこの技術の活用を検討したと述べた。

しかし、教育委員会の会議で、同校の保護者であるジューン・プラカシュ氏は、AIの利用は効率性を優先し、真正性を損なうものだと強く批判した。

「卒業式は、生徒の学業生活において最も意義深い瞬間のひとつです。名前が読み上げられる瞬間は、長年の努力、成長、そして自己表現が認められる瞬間です」と彼女は述べた。「その瞬間をAIによるものにしてしまうと、本物らしさや人間味よりも、画一的で非人間的なものに感じられてしまいます。」

当初の発表から数週間後、同高校は生徒からの否定的な反応を理由に、AI導入計画を撤回した。

そのため、ワシントン・リバティ高校の今年の卒業式は、過去99回と同様に、教職員が約700名の卒業生一人ひとりの名前を読み上げる形で行われる。

同校は声明の中で、「生徒にとって最も大切なことを反映した、意義深い卒業式を創り出すとともに、名前が正確かつ敬意をもって読み上げられるよう努める」と述べている。

ワシントンD.C.地域では、他の学校もAIの導入を試みており、成功例もある。

アレクサンドリア市公立学校では、卒業生の名前を読み上げるためにAIプラットフォーム「Tassel」を2年連続で使用する。「昨年は大好評でした」と、同校の運営・生徒支援担当責任者であるマイケル・バーチ氏は語る。「名前の読み間違いは一切なく、全員の名前が正しく読み上げられました。」

Tasselプラットフォームでは、生徒が自分の名前のスペルを入力すると、音声で読み上げられる。生徒は録音された音声を聞いて正確性を確認したり、新しい音声の作成を依頼したりできます。3回試行した後、Tasselは生徒に自分の名前の音声録音を提出するよう求めます。その録音は、放送用の声優によって卒業式用の音声クリップを作成するために使用されます。Tasselのデータによると、最終的に人間の声優に提出される前に、生徒によって約14%の名前が不正確であると報告されています。

Tasselの利用により、アレクサンドリア学区は名前の読み上げにかかる時間を短縮できたとバーチ氏は述べています。同時に、生徒が晴れ舞台でステージを横切るという輝かしい瞬間も確保できています。

アレクサンドリアには州内で最大の公立高校があり、学区はジョージ・メイソン大学のイーグルバンク・アリーナで割り当てられた時間内に卒業式を終えるのにしばしば苦労してきました。

アリーナの利用時間を延長することは、5桁の費用と空き状況の少なさから現実的ではないとバーチ氏は述べています。一方、Tasselの氏名読み上げ機能の導入費用は、学区にとってわずか4,000ドル程度でした。

昨年、アレクサンドリア市立高校では983名の卒業生が輩出されました。バーチ氏の見積もりでは、予定通りに式を進行させるには、1分間に12～14名の名前を読み上げる必要がありました。今年は1,000名を超える生徒が卒業式に出席する可能性があり、さらに速いペースで名前を読み上げる必要があります。

バーチ氏は、これほど多くの名前を読み上げる場合、人為的なミスによって卒業生が壇上を歩く貴重な時間が失われる可能性があると述べています。

そのため、学区は自動化への移行を進めています。

AIによる氏名読み上げソフトウェアは、卒業式分野では比較的新しい技術であり、StageClipやTasselといった企業によってここ数年で登場しました。

Tasselは、元々はMarchingOrderという社名で、AIによる氏名読み上げサービスを追加する以前から、約20年間卒業式関連サービスを提供していました。長年にわたり、卒業生の名前は人間の声優が読み上げていました。しかし、同社の最高経営責任者であるチェイス・リグビー氏は、現代のテクノロジーではもはやそのようなやり方は意味をなさないと述べた。

プラットフォームに蓄積された人間の発音ライブラリは、最終的にTasselのAIモデルの学習に用いられる音声ライブラリへと進化し、リグビー氏によれば、アプリの利用学生が増えるにつれて精度が向上しているという。

リグビー氏は、Tasselは名前の文化的起源に関する情報を活用することで、各音節の発音方法をより深く理解し、特に英語圏以外の名前における発音ミスを減らすのに役立っていると述べた。

「これ以上に人間的なAIの活用法はないでしょう」と彼は語った。

118カ国から127の言語を話す16,300人の生徒が在籍するアレクサンドリア学区にとって、これはAI導入の大きな魅力だった。

「生徒たちは自分の名前が正しく呼ばれることで、誇りを感じることができるのです」とバーチ氏は述べた。