Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

レポート 4483

関連インシデント

インシデント 8925 Report
Apple Intelligence Allegedly Flags Scam Messages as High Priority

Loading...
Apple Intelligenceはフィッシングメールを「優先」メッセージとみなす
lifehacker.com · 2024

Apple Intelligence は賢いかもしれないが、学ぶべきことはたくさんある。フィッシングメールは、その主張どおりのものではないという事実もそのひとつだ。(Apple Intelligence、実際には賞品を獲得していないので、誰かにお金を送金しないでください。)

Android Authority の報告によると、Apple Intelligence は現在、ユーザーの受信トレイでメールを優先順位付けする際に、フィッシングメールやスパムメールを排除するのに苦労している。このフィルタリングは iOS 18.1 の新しいメールエクスペリエンスの一部で、Apple Intelligence を使用して受信トレイをスキャンし、最も重要なメールをリストの一番上に表示します。理論上は、iOS 18.1 でメールを開くと、いつものジャンクメールやスパムの寄せ集めではなく、同僚、会社、友人からの緊急メールの厳選リストが表示されるはずです。しかし、一部のユーザーにとっては、そのようには機能していません。

今すぐ iPhone 15 Pro に iOS 18.1 ベータ版 をインストールすると、フィッシング スパムが受信トレイの一番上に表示されるだけでなく、重要なメールとして目立つように表示される可能性があります。 iOSBeta サブレディットの 1 人のユーザーが Apple Intelligence のテスト中に遭遇した例を投稿しました: AI は「Xfinity.com」からのメールを優先と判断し、受信トレイの一番上に強調表示しました。もちろん、この種のメールに慣れている人なら、すぐにフィッシング詐欺だと見抜くでしょう。メッセージはユーザーに「請求の問題によるアカウント停止」を通知するもので、自動支払いに再登録することで解決できます。おそらく、リンクの向こう側には偽の Web サイトがあり、喜んでクレジットカード情報をスクレイピングしているのでしょうが、Apple の AI は違いを識別できませんでした。

スレッドの他の Reddit ユーザーは、Apple Intelligence がスパムやフィッシング メールを優先することに関して同様の経験をしていると述べており、これは AI が企業や組織からの実際のメールからこれらの種類のメッセージを識別するのに苦労していることを示唆しています。

Apple Intelligence はまだベータ版です

Apple に公平を期すために言うと、Apple Intelligence は現在ベータ テスト中です。実際、iOS 18.1 は Apple の AI システムの最初のロールアウトであり、開発者がテストしてフィードバックを提供するためのものです。現時点では、iPhone 15 Pro や M シリーズの Mac または iPad に Apple Intelligence をインストールするだけでもいくつかのハードルをクリアする必要があるため、これは (まだ) この技術の広範な脆弱性ではありません。結局のところ、ベータ テストの目的は、ソフトウェアが一般に公開される前にこれらの種類の問題を根絶することであり、Apple は現在のスケジュールではおそらく 2 ~ 3 か月後にはそれを実現するでしょう。 (iPhone 15 Pro と 15 Pro Max のみが Apple Intelligence を実行できるため、影響を受けるユーザーの数が限られていることも役立ちます。)

ただし、ベータ版であろうとなかろうと、これは現在の AI がテクノロジーを即座に改善する確実な方法ではないという事実のもう 1 つの例です。これらの新機能のいくつかは便利ですが、AI は間違いを犯す可能性があり、実際に犯します。AI は「幻覚」を起こしたり、完全に作り話をしたりすることさえあります。Apple が Apple Intelligence を互換性のあるデバイスに正式に展開する頃には、AI がメールの内容についてもう少しシニカルになるようにトレーニングされていることを願っています。個人的には、明らかな詐欺にできるだけ早く対処するように促すよりも、AI がメッセージを優先しないほうがいいと思います。

情報源を読む

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd