ソーシャル メディア プラットフォーム Reddit と Panic のユーザーは、Apple の新しい人工知能 (AI) プラットフォームである Apple Intelligence がフィッシング メールを優先していると不満を述べています。
Reddit の 1 人のユーザーが、Reddit の IOSBeta コミュニティに、Apple Intelligence がユーザーの優先リストにフィッシング メールを追加したと投稿しました。
投稿には、「Apple がフィッシング メールを「優先」としてマークし、開くようにしている」というキャプションが付けられています。このメールは、インターネット、モバイル プラン、ケーブル TV サービスを提供する米国の通信会社 Xfinity.com から送信されたとされています。
投稿の下にある Reddit のコメントの一部は、ベータ版の Apple Intelligence に対するユーザーの感情を示しています。
あるユーザーは「Apple Intelligence は団塊世代の父親だ」と述べ、別のユーザーは「ナイジェリアの王子が凍結された銀行口座であなたの助けを必要としている」と叫び、詐欺師の真似をして状況を軽視しています。
メールのプレビューには、ユーザーが支払い情報を更新しない限り、請求の問題によりユーザーのアカウントが停止されるという緊急メッセージが表示されます。
同様に、分散型ソーシャル メディア ネットワーク Panic.com では、ソーシャル メディア サイトの共同創設者である Cabel Sasser というユーザーが同じ問題を経験していると主張しています。
「15.1 の Apple Intelligence がフィッシング メールを「優先」としてフラグ付けし、受信トレイの一番上に移動しました。これは... ひどいようです。」
Sasser に送信されたメールに関連付けられているアドレスは info@msnbilling.co.in です。インターネット最大の e コマース プラットフォームの 1 つである Shopify によると、この .co.in ドメインはインドで 2 番目に人気のあるドメインです。
オンライン メール検証ツールである Email Hippo を使用すると、このメールのようなメールが少なくとも 3 件あることが Web サイトで説明されました。このメールの評価は、アドレスが配信不能であるため「悪い」とマークされました。
AI の進歩もあり、これらのメールの正当性を検証するのは難しいが、両ユーザーはこれらがフィッシング メールであると主張している。
テキスト内の AI によるコンテンツを確認できる Web サイト GPTZero の CEO、エドワード ティアン 氏は、この点を裏付けている。「最近では、AI 技術によってフィッシング攻撃が強化されています。メールの本文や件名のテキストに人為的なエラーが少なくなったため、送信者情報などのデータを確認することがこれまで以上に重要になっています。」
これらの悪意のあるメッセージは通常、疑いを持たれず、緊急であり、常に問題があります。
なぜ Apple AI なのか?
Reddit と Panic の両方の多くのユーザーは、フィッシング メールで使用されるものと同様の緊急の用語やフレーズを使用していることが、Apple の AI がこれらのメッセージを優先としてフラグ付けした理由であると推測しています。
専門家も、メールの内容が優先リストに押し上げていることに同意しています。
「Apple Intelligence がフィッシングメールをスパムとしてマークするのではなく、優先メールとしてマークすることに問題を抱えている主な理由は、彼らのアルゴリズムの設計方法によるものです」と Tian 氏は述べた。
Tian 氏は、アルゴリズムはメールの件名と本文からデータを分析するように設計されていると説明した。
「入手可能なデータに基づくと、彼らはテキストとその構造、緊急性やトーン、全体的な文法だけを見ているようです」と、Cofense のグローバル脅威サービス担当副社長 Joshua Bartolomie 氏は述べた。
「これまで見てきたことから、彼らは、なりすましの送信者やドメインのなりすまし、または関連する検証やチェックなど、フィッシングの一般的な、または既知の手法を一切考慮していません」と Bartolomie 氏は結論付けている。
Apple Intelligence のウェブページでは、同社は「 メールの優先メッセージは、今日が期限の招待状や今日の午後のフライトのチェックイン リマインダーなど、時間的に敏感なメッセージを受信トレイの一番上に表示します」とさえ述べています。
どちらのメールも緊急性のレベルを示しており、Sasser のメールは受信者に 2024 年 8 月 4 日までにサブスクリプションを更新するよう促していることを考えると、時間的に敏感でした。
Sasser は、「適切に緊急性のあるスパム メッセージを書いた場合、AI はそれを独自の特別な小さな重要なセクションに配置することで、そのメッセージに信憑性と信頼性を与えることは間違いありません」と認めています。
さらに、GPTZero の CEO は、「AI テクノロジーは、フィッシング攻撃を識別するために不可欠な要素である送信者の情報などのデータを分析していません」と述べています。
専門家はまた、企業が AI モデル (まだベータ版) をトレーニングしてフィッシング攻撃を見つけ、適切に対応する必要があると述べています。
「メールのセキュリティが目的なら、Apple の AI のトレーニング データにはフィッシング メールの例が十分ではない可能性があります」と IRONSCALES の CEO、Eyal Benishti 氏は語ります。
「同社の AI にフィッシングの例を増やし、継続的に学習し、ユーザーからのフィードバックを反映させることで、検出と優先順位付けを改善できます。」
これらは単発的なインシデントのように見えるかもしれませんが、詐欺師は偏りがなく、フィッシング メールはいずれ誰にでも届きます。Reddit のユーザーの中にも、同様の問題に不満を漏らす人がいます。
Reddit の反応、Panic の反応
他の Reddit ユーザーも同じことを経験しており、いわゆる「Xfinity」のアドレスから同じフィッシング メールを受け取ったとさえ言っています。
別のユーザーは、「Xfinity の請求停止メールが頻繁に届くようになりました。ここ数か月、それが始まりました。」と述べています。
しかし、Panic で 1 人のユーザーが述べたように、「Apple Intelligence はこれらの言葉を重要なアカウント通知として認識しています。Apple Wisdom はクリックしないことを知っています。」と指摘することが重要です。
何をするにしても、そのリンクをクリックしないでください
フィッシングメールに遭遇した場合、ユーザーは「自分に送られてきたあらゆる種類のメッセージを見るときは常に識別力と適切なサイバーセキュリティ対策を実践する必要があります」とティアン氏は付け加えました。
フィッシングメールを受信した場合は、「送信者に返信せず、メールに記載されている指示や要求に従わないでください」とベニシュティ氏は述べました。
これらのメールに遭遇した場合は、必ず公式のサービスプロバイダーに問題を報告してください。「メールクライアントでフィッシングとして報告してください。メッセージが会社を偽装しようとしている場合は、その会社のWebサイトにアクセスして問題を報告してください」とベニシュティ氏は述べました。
この騒動の発端者であるカベル・サッサー氏は、同じ問題を経験したユーザーにこの問題を報告するよう強く求めています。 「(Apple のユーザーなら、新しい「体験を評価する」フィードバック システムを使用して、このバグを報告したようです: FB14656882)」
しかし、ある Reddit ユーザーが非常に良い点を指摘しました。彼らは、これらのバグは本来存在するはずであると述べました。ユーザーは次のように詳しく説明しました。
「ベータ版の目的は、このような問題を報告して、完全な公開リリースの前に修正できるようにすることだと皆さんはご存知ですよね? 早期アクセス版ではないので、バグだけでなく間違いもたくさん発生しますが、ベータ版ユーザーとして、AI が何を優先すべきか、何を優先すべきでないか、そして有能な人間と同じようにスパムなどをどのように見つけるかを学習するのを手伝うことになります。これは、ベータ版を実際の公開/開発者テストではなく、早期アクセス版として捉えている人向けです。」
Apple はこの問題を修正できるでしょうか?
確かに、いくつかの調整を行い、AI モデルにフィッシング攻撃に関するデータをさらに入力し、この種の電子メールを正しくマークするようにトレーニングすれば、この問題が再び表面化することはなくなるはずです。