アップルは、AI を利用した通知機能「Apple Intelligence」が「ルイジ・マンジョーネが自殺」という衝撃的な見出しを BBC に誤って帰属させたことで批判に直面している。この誤解を招く警告は、ニューヨークで起きたヘルスケア CEO ブライアン・トンプソンの有名な殺人事件の容疑者であるマンジョーネが自殺したと示唆していた。実際には、26 歳のマンジョーネはペンシルベニアで拘留されており、ニューヨークへの引き渡しを待っている。
この見出しに誤って名前がリンクされた BBC は、アップルに懸念を表明した。「BBC ニュースは世界で最も信頼されているニュース メディアです」と同放送局の広報担当者は述べた。「私たちの名前で公開される情報やジャー ナリズムを視聴者が信頼できることは、私たちにとって不可欠です。通知もその 1 つです」
アップルはこの論争についてコメントを控えている。
AI が生成した要約が精査される
この誤った通知は、単独の事件ではない。今週初めに英国で開始されたApple Intelligenceは、人工知能を使用して通知を要約およびグループ化しますが、その不正確さについて批判されています。
ニューヨークタイムズも同様の問題に直面しました。このツールがレポートを不正確に要約し、「ネタニヤフ逮捕」という警告が表示されました。見出しは、イスラエル首相に対する国際刑事裁判所の令状に関する記事を誤って伝えており、この機能の信頼性に対する懸念がさらに高まっています。
ロンドンシティ大学のメディア政策専門家であるペトロス・イオシフィディス教授は、この事件をAppleにとって「恥ずべき」ことだと述べました。「これは、完全に準備ができていない技術をリリースすることのリスクを示しています。偽情報が広がる危険性が実際にあります」と同教授は述べています。
より広範なAIの課題
iOS 18.1以降を実行する一部のデバイスで利用できるApple Intelligenceは、ユーザーが通知の優先順位を付けられるように導入されました。しかし、その限界は、今年初めにグーグルがAIで生成した検索候補で、ユーザーに石を食べるように、またはピザに「無毒の接着剤」を使うようにアドバイスしたなど、以前のAIの失策と比較されている。
BBCや他の出版社は、現在、このような誤りによる影響を管理するAppleの説明責任を疑問視している。AIがニュース配信でますます重要な役割を果 たすようになる中、この事件は、誤報を防ぎ、ジャーナリズムに対する国民の信頼を守るために、より強力な安全策が必要であることを強調している。