ケープブレトン出身のフィドル奏者アシュリー・マックアイザック氏は、先週GoogleがAI生成の概要で誤って性犯罪者と記載したとして、コンサートが中止となり、身の安全を心配している。
先週金曜日、ハリファックスの少し北にあるシペクネカティック・ファースト・ネーションでコンサートを行う予定だったマックアイザック氏は、指導者が方針を変更したことを知った。マックアイザック氏は、指導者がオンラインでマックアイザック氏にインターネットでの勧誘と性的暴行に関する有罪判決を受けたと伝えられた。
この情報は事実ではなく、後にGoogleのAI生成検索の概要がマックアイザック氏の経歴と、ニュ ーファンドランド・ラブラドール州在住で同姓の別の男性の経歴を混同していたことが判明した。シペクネカティック・ファースト・ネーションはマックアイザック氏に謝罪し、Googleはマックアイザック氏の検索結果を修正した。
このエラーは、テクノロジー企業が急成長する業界で覇権を争う時代に、AIが収集した誤情報がもたらす意図せぬ結果を如実に示している。「Googleのミスで、私は危険な状況に陥った」とマックアイザック氏はインタビューで語った。
このバイオリニストは、この出来事で自身の身の安全が危ぶまれたと語り、性的暴行の被害者が誤情報に刺激されて彼に詰め寄る可能性を懸念している。また、以前のプロモーターや会場が検索エンジンの誤情報のせいで彼の出演を見送っていた場合、気づかないうちに仕事を失う可能性についても懸念している。
入国審査官によるソーシャルメディアへの監視強化を考えると、彼の職業上の影響は、コンサートのために米国に入国する能力にも及ぶ可能性がある。彼は自身の経験が他の人々への警告となると考えている。
「人々は、自分のオンラインプレゼンスに他人の名前が載っていないか確認する必要があることを認識すべきだ」とマックアイザック氏は述べた。
ジュノー賞を受賞したこのミュージシャンは、ケルトのフィドル音楽とヒップホップ、エレクトロニック音楽、パンクロックの限界を押し広げる要素を融合させて 90 年代に名声を博しましたが、今日では平凡だと見なされるような行動や生き方、または後に 皮肉な と彼が呼ぶことになる 発言 で物議を醸すこともありました。 "https://www.huffpost.com/archive/ca/entry/ashley-macisaac-considers-federal-politics-despite-the-musician_n_3976824"。
マックアイザック氏が法律違反を犯した唯一の公的な記録は、20年以上前の大麻所持に関するもので、この件で彼は[除隊](https://www.theglobeandmail.com/arts/macisaac-discharged-for-fiddling-with-pot/article18417432/ "https://www.theglobeandmail.com/arts/macisaac-discharged-for-fiddling-with-pot/article18417432/"。
シペクネカティック・ファースト・ネーションは先週金曜日、マックアイザック氏への謝罪の中で、今後同氏が同コミュニティで演奏することを歓迎すると述べた。
「この誤りが皆様の評判、生活、そして身の安全感に与えた損害を深くお詫び申し上げます」と、シペクネカティック・ファースト・ネーションの事務局長スチュアート・ノックウッド氏は、首長と評議会を代表して書簡を送付しました。シペクネカティック・ファースト・ネーションの代表はコメント要請に応じませんでした。
マックアイザック氏がグローブ・アンド・メール紙に提供したこの書簡には、「この状況はAIのエラーによる誤認によるものであり、皆様の実体を反映するものではないことを明確に述べることが重要です」と記されています。
マックアイザック氏の名前に関するGoogle検索結果に表示される情報は、先週彼がソーシャルメディアに投稿して以来、流動的です。マックアイザック氏の名前のみを検索しても、AI生成の経 歴は表示されなくなりました。木曜日には、マックアイザック氏の名前と、もう一人のマックアイザック氏にゆかりのある町名の両方を含む検索クエリを実行したところ、「性的暴行で有罪判決を受けた」という結果が表示されました。この概要は表示されなくなりました。
Googleの広報担当者ウェンディ・マントン氏は電子メールで、「AI概要を含む検索は動的であり、最も役立つ情報を表示するために頻繁に変化しています。機能がウェブコンテンツを誤って解釈したり、文脈の一部を見落としたりするなどの問題が発生した場合は、それらの事例をシステムの改善に役立て、ポリシーに基づいて措置を講じる場合があります」と述べています。
企業が生成型AIを製品に導入するにつれ、インターネットは大規模な再編の真っ只中にあります。世界で最も価値のある企業の一つであるGoogleは、OpenAIのChatGPTなどのサービスが迫る中、リードを維持しようとAI生成の検索概要の導入を競っています。 （グローブ・アンド・メール紙を含むカナダのメディア組織は、OpenAIがモデルの学習のために同意や報酬を得ずに独自のニュースコンテンツをスクレイピングしたことで著作権法に違反したとして、2024年にOpenAIを提訴した。）
AI生成の誤情報を研究しているマクマスター大学のクリフトン・ファン・デル・リンデン准教授は、マックアイザック氏の状況は、AI時代における検索エンジンに対する国民の期待の変化の結果であると述べた。
ファン・デル・リンデン教授は、「検索エンジンは情報ナビゲーターからナレーターへと移行しつつある」と述べた。 「AIが生成した要約は、一般ユーザーから権 威あるものとみなされていることを示唆する証拠があると私は主張します。」
これは有害な結果をもたらす可能性があると彼は言う。しかし、現在のAI軍拡競争は、正確性を高める動機ではなく、むしろGoogleのような企業に優位性を維持する動機を与えていると彼は指摘する。
「Googleは、世界中のデフォルトの検索エンジンとなった戦略を再現しようとしている。それは、十分な数の人々に十分に信頼できる情報を提供し、人々が情報を探す際に利用するデフォルトの検索エンジンになることだ。」