2024年後半に導入されたAppleの「Apple Intelligence」アップデートは、詐欺メッセージを本物らしく見せかけるとして非難を浴びている。通知を要約して優先順位を付けるAI搭載の機能は、iPhone、iPad、Macコンピューターで詐欺メッセージを優先アラートとしてフラグ付けしている。
Apple Intelligenceは複数の通知を1つの要約にまとめ、同僚や航空会社からのメールなどの緊急メッセージを強調表示する。しかし、ユーザーからは、AIが詐欺と本物のアラートを区別するのに苦労しているとの報告がある。
たとえば、あるiPhoneユーザーは、システムによって優先された、465ドルの借金があると主張する詐欺メールを見た。「このような詐欺を可能にするAIツールが何百万ものデバイスに搭載されていれば、人々は見破られ 、金銭的損害を被ることになるだろう」と彼は述べた。
ソーシャルメディア上の他のユーザーも同様の例を共有しており、UQのジェレミー・ハワード教授はAppleが詐欺を優先的にフラグ付けしていることを批判した。別のユーザーは、下のスクリーンショットに示すように、AIによって本物に見えるように要約された偽のUSPSメッセージを強調した。
これらの事件は、この機能が意図せず詐欺の効果を高める可能性があることを示している。
専門家は、この機能が要約に依存しているため重要なコンテキストが削除され、ユーザーが詐欺メッセージを識別するのが難しくなると警告している。ラトローブ大学のAI専門家であるダスウィン・デ・シルバ氏は、詳細が不足しているためユーザーはメッセージを再評価せざるを得なくなり、作業が増えると指摘した。彼はまた、潜在的なリスクに対処せずにAI機能を急いでいるテクノロジー企業を批判した。
Apple の予定されているアップデート
Apple は BBC に対し、混乱を減らすために、要約が AI によって生成されたものであるかどうかを明確にする機能のアップデートを計画していると語った。それまでは、専門家はフラグの付いたメッセージを手動で確認し、AI 要約には注意して対処することを推奨している。