Apple の新しい人工知能機能は、iPhone や Mac ユーザーへの詐欺メッセージやメールを、より正当なものに見せるために言い換え、優先フラグを付けることで、より多くの人々が騙されることになるのではないかとの懸念を引き起こしている。
昨年末、Apple は AI を搭載した「Apple Intelligence」アップデートをオーストラリアの iPhone、iPad、Mac コンピューターの何百万人ものユーザーに 展開 した。
その主力機能には、通知の要約と優先順位付け機能がある。これらは AI テクノロジーを使用して、1 つのメッセージに複数のプッシュ通知の意味を要約したり、特定のアラートを優先フラグ付けしたりしている。
Apple のこの要約の実際の 例 では、友人とのグループチャットが「土曜日のサッカーの後のブランチ。レストランまたは自宅でのホストをお勧めします」という 1 つの通知に凝縮されています。
同様に、Apple の優先順位付け機能 例 は、同社が「最も緊急のメール」にフラグを立てると宣伝しており、友人、同僚、航空会社からの差し迫った要求に関するメールを強調表示しています。
Apple は、これらの機能が BBC の見出しを繰り返し誤って要約したことですでに非難を浴びている。たとえば、ユナイテッドヘルスケアの CEO ブライアン・トンプソンを殺害したとされるルイジ・マンジョーネが自殺したと 虚偽の主張 するなどだ。
この問題は個人のコミュニケーションにも及んでいる。iPhone ユーザーのスクリーンショットを見ると、この新しい AI 搭載機能スイートは、実在の個人や組織が送信したメッセージと、他人になりすました詐欺師が行った偽のリクエストを区別できないようだ。実際、AI 搭載機能によって、ユーザーが最初は本物のメッセージと偽のメッセージを区別するのが難しくなる可能性もある。
スティーブは、仕事上メディアに話す権限がないため仮名で呼ばれているが、最近アップデートした iPhone が、オーストラリア税務署に所得明細書を提出しなければならないというメールを優先して要約しているのを見て驚いた。
「2024年11月から12月までの所得税751.23オーストラリアドルは、申告の準備中です」と強調表示された通知には書かれていた。
これはナンセンスだ。スティーブは、Appleの新機能がこの明らかな詐欺メッセージを優先としてフラグ付けしたことに失望した。
「AIをからかうのは楽しいが、何百万ものデバイスに搭載されているAIツールがこのような詐欺を可能にしていると、人々は見破られ、金銭的損害を被ることになる」と彼はメッセージで述べた。
他の人々もソーシャルメディアに同様の例を投稿している。UQ名誉教授のジェレミー・ハワードは、Blueskyで優先アラートのスクリーンショットを共有し、「Apple Intelligenceは、詐欺メールをセキュリティ目的であると要約して「優先」としてマークすべきではないのでは？」とコメントしている。
別の Bluesky ユーザー @colin.hoagie.fun は、アメリカの郵便サービス USPS からのものだと称する Apple が要約したテキスト メッセージのスクリーンショットを 共有 し、「Apple Intelligence が詐欺メッセージをわかりやすく要約するのではなく、実際にフラグ付けしていたらどうなるか想像してみてください」と示唆しています。
ラ・トローブ大学のAIと分析の教授で、データ分析と認知センターの副所長であるダスウィン・デ・シルバ氏は、2023年に詐欺で27億ドルを失ったと報告したオーストラリア人は、人々がAppleの要約を信じるようになるため、より大きなリスクにさらされるだろうと述べている。
「AIの誇大宣伝、これは本当に良いことだと言う専門家がたくさんいること、政府が多くのAIプログラムに資 金を提供していること、携帯電話にAIが搭載されていて、それを使って効率や生産性を高めることができると聞くと、私たちはこのAIを信頼するだろう」と同氏は述べた。
デ・シルバ氏は、要約は正当性の指標を取り除いて、詐欺であろうとなかろうとすべてのメッセージが同じに見えるようにすることで、人々が詐欺に引っかかる可能性を高める可能性があると述べた。「情報を減らそうとすることで、エンドユーザーや消費者が情報を評価し、説明要因を探し、実際のメッセージを調べて、もう一度すべて読み始めるという作業が増えているのです。」
デ・シルバ氏は、企業は新しい AI 機能のリリースに焦り、リリース後に問題に対処する必要があると述べた。
「人々はまだ AI での作業や AI との暮らしに慣れていないため、段階的にリリースする必要があります。数か月ごとに新しい機能をリリースしても、実際には役に立ちません。」 Appleはコメント要請には応じなかったが、今週初めにBBCに対し、表示されるテキストが「Apple Intelligenceによって提供された要約である場合はそれを明確にする」ように機能を更新すると語った。