Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

インシデント 861: Apple Intelligence Reportedly Notified Users That Luigi Mangione Shot Himself and Benjamin Netanyahu Had Been Arrested

レスポンスしました
概要: Apple Intelligence reportedly sent push notifications falsely claiming that BBC News had reported Luigi Mangione's suicide and that The New York Times had reported Benjamin Netanyahu's arrest. On 1/16/2025, Apple reportedly disabled Apple Intelligence's notification summaries.
Editor Notes: See also: Incident 892: Apple Intelligence Allegedly Flags Scam Messages as High Priority.

ツール

新しいレポート新しいレポート新しいレスポンス新しいレスポンス発見する発見する履歴を表示履歴を表示

組織

すべての組織を表示
推定: Apple と Apple Intelligenceが開発し提供したAIシステムで、The New York Times , Luigi Mangione , Benjamin Netanyahu , BBC News と Apple Intelligence usersに影響を与えた
関与が疑われるAIシステム: Apple Intelligence

インシデントのステータス

インシデントID
861
レポート数
9
インシデント発生日
2024-12-13
エディタ
Daniel Atherton
Applied Taxonomies
MIT

MIT 分類法のクラス

Machine-Classified
分類法の詳細

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

3.1. False or misleading information

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Misinformation

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

インシデントレポート

レポートタイムライン

+6
Apple Intelligenceは、ルイジ・マンジョーネが自殺したと虚偽の主張をしたようだ。
+2
Apple、ニュース通知を要約するAI機能を無効にする予定 - レスポンス
Apple Intelligenceは、ルイジ・マンジョーネが自殺したと虚偽の主張をしたようだ。

Apple Intelligenceは、ルイジ・マンジョーネが自殺したと虚偽の主張をしたようだ。

mashable.com

AppleのAI要約がルイージ・マンジョーネに関するBBCの見出しを台無しにした

AppleのAI要約がルイージ・マンジョーネに関するBBCの見出しを台無しにした

theverge.com

BBCは、放送局が作成したとされるAI生成のフェイクニュースについてアップルに苦情を申し立てたと発表

BBCは、放送局が作成したとされるAI生成のフェイクニュースについてアップルに苦情を申し立てたと発表

theguardian.com

BBC、誤解を招く銃撃事件の見出しでアップルに苦情

BBC、誤解を招く銃撃事件の見出しでアップルに苦情

bbc.com

「ルイジ・マンジョーネが自殺」:アップルのAIがBBCの誤報で��怒りを呼ぶ

「ルイジ・マンジョーネが自殺」:アップルのAIがBBCの誤報で怒りを呼ぶ

msn.com

アップルのAIがBBCの見出しを書き換えてルイージ・マンジョーネが自殺したと伝えるという悲惨な結果に

アップルのAIがBBCの見出しを書き換えてルイージ・マンジョーネが自殺したと伝えるという悲惨な結果に

gizmodo.com

Apple、ニュース通知を要約するAI機能を無効にする予定

Apple、ニュース通知を要約するAI機能を無効にする予定

nytimes.com

Appleの通知概要はひどすぎるのでオフにしよう

Appleの通知概要はひどすぎるのでオフにしよう

gizmodo.com

iOS 18.3では、一部のアプリのApple Intelligence通知概要が一時的に無効化されるなど

iOS 18.3では、一部のアプリのApple Intelligence通知概要が一時的に無効化されるなど

9to5mac.com

Apple Intelligenceは、ルイジ・マンジョーネが自殺したと虚偽の主張をしたようだ。
mashable.com · 2024
自動翻訳済み

Apple Intelligence は BBC ニュースの読者を誤解させたとされ、BBC ニュースはこれに不満を抱いている。

BBC ニュースが報じた記事 自体で、同メディアは Apple の AI 機能スイート (プッシュ通知でニュースの見出しを要約する機能を含む) が、ユーザーに明らかに虚偽のプッシュ通知を作成して送信したと非難した。この場合、プッシュ通知には、ユナイテッドヘルスケアの幹部ブライアン・トンプソンの射殺事件に関連して最近逮捕された Luigi Mangio…

AppleのAI要約がルイージ・マンジョーネに関するBBCの見出しを台無しにした
theverge.com · 2024
自動翻訳済み

Apple Intelligence が要約した通知の悪質さは すでに十分に目にしてきました が、この機能が英国で利用可能になった今、BBC はそれをあまり面白く思っていないようです。要約された通知は ユナイテッドヘルスケア銃撃事件の容疑者に関する BBC の見出しを台無しにし、ネットワークがルイジ・マンジョーネが自殺したと誤って報じたと示唆しました。

この通知に関する報道で、同ネットワークの広報担当者は、Appleに連絡して「この懸念を表明し、問題を解決する」と述べた。

要…

BBCは、放送局が作成したとされるAI生成のフェイクニュースについてアップルに苦情を申し立てたと発表
theguardian.com · 2024
自動翻訳済み

BBCは、iPhoneで共有され、同放送局のものとされたAI生成のフェイクニュースについて、米国のIT大手Appleに苦情を申し立てたと発表した。

今週英国で開始されたApple Intelligenceは、人工知能によって生成された複数の情報サイトからグループ化された通知を生成する。

そのうちの1つは、BBCニュースウェブサイトが、ニューヨークの医療幹部殺害で米国で逮捕されたルイジ・マンジョーネが自殺したと主張する記事を掲載したと示唆した。

「BBCニュースは世界で最も信頼…

BBC、誤解を招く銃撃事件の見出しでアップルに苦情
bbc.com · 2024
自動翻訳済み

BBCは、テクノロジー大手のiPhoneの新機能が米国での注目度の高い殺人事件に関する誤った見出しを生成したことについて、Appleに苦情を申し立てた。

今週初めに英国で開始されたApple Intelligenceは、人工知能(AI)を使用して通知を要約し、グループ化する。

今週、AIを利用した要約では、ニューヨークで医療保険会社のCEOブライアン・トンプソンが殺害された後に逮捕されたルイジ・マンジョーネ氏が自殺したという記事をBBCニュースが公開したと虚偽の印象を与えた。…

「ルイジ・マンジョーネが自殺」:アップルのAIがBBCの誤報で怒りを呼ぶ
msn.com · 2024
自動翻訳済み

アップルは、AI を利用した通知機能「Apple Intelligence」が「ルイジ・マンジョーネが自殺」という衝撃的な見出しを BBC に誤って帰属させたことで批判に直面している。この誤解を招く警告は、ニューヨークで起きたヘルスケア CEO ブライアン・トンプソンの有名な殺人事件の容疑者であるマンジョーネが自殺したと示唆していた。実際には、26 歳のマンジョーネはペンシルベニアで拘留されており、ニューヨークへの引き渡しを待っている。

この見出しに誤って名前がリンクされた …

アップルのAIがBBCの見出しを書き換えてルイージ・マンジョーネが自殺したと伝えるという悲惨な結果に
gizmodo.com · 2024
自動翻訳済み

Apple は、自社のデバイス向けに大いに宣伝された AI 機能スイートを 展開し始めたばかり ですが、すでに大きな問題が発生しています。その一例として、AI を利用した通知要約が BBC の見出しを書き換え、UHC CEO の殺人犯であるルイジ・マンジョーネが自殺したと伝えたことについて、BBC は Apple に苦情を申し立てました。マンジョーネは自殺しておらず、警察の拘留下にあります。

Apple Intelligence には、個々のアプリから届く通知をまとめ、要約す…

Apple、ニュース通知を要約するAI機能を無効にする予定
nytimes.com · 2025
自動翻訳済み
Tripp Mickleによるインシデント後のレスポンス

一連の人工知能機能を導入してから6か月も経たないうちに、Appleは同社の特徴的な機能の1つであるニュース通知の集約と要約を無効にする。

同社は木曜日、開発者向けのソフトウェアアップデートでこの変更を明らかにした。これは、Appleのソフトウェアがニュース報道を誤って伝えているとの英国メディアからの抗議を受けてのことだ。

12月、BBCはAppleにソフトウェアの変更を最初に求めた1つだった。この呼びかけは、BBCが読者に、ニューヨーク市で医療保険会社幹部のブライアン・トンプ…

Appleの通知概要はひどすぎるのでオフにしよう
gizmodo.com · 2025
自動翻訳済み
Thomas Maxwellによるインシデント後のレスポンス

Appleは苦情を受けて、AIを利用した通知サマリーに変更を加えている。iOS 18の新しいベータ版では、同社はニュースアプリのサマリーを完全にオフにし、サマリーを元の通知と区別しやすくするために斜体を使用する。_9to5Mac_は以前、この変更について報じていた。

この変更は、_BBC_が、新しいAIサマリーが幻覚を起こし、アプリから誤ったサマリーを作成していることを強調する記事を繰り返し書いた後に行われたもので、ある時は、ユナイテッドヘルスケアの銃撃犯とされるルイジ・マン…

iOS 18.3では、一部のアプリのApple Intelligence通知概要が一時的に無効化されるなど
9to5mac.com · 2025
自動翻訳済み
Chance Millerによるインシデント後のレスポンス

Appleは本日午後、開発者向けにiOS 18.3ベータ3をリリースしました。このアップデートには、Apple Intelligenceの通知概要機能に対するいくつかの変更が含まれています。

東部標準時午後4時30分更新: これらの変更を加えた新しいパブリックベータも利用可能になりました。

これらの変更は、BBCなどの報道機関からの苦情を受けて行われたものです。 2 週間前、Apple は今後のソフトウェア アップデートで「表示されるテキストが Apple Intellige…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください

よく似たインシデント

Selected by our editors
Apple Intelligence Allegedly Flags Scam Messages as High Priority

Apple’s new AI feature rewords scam messages to make them look more legit

Aug 2024 · 5 レポート
テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Images of Black People Labeled as Gorillas

When It Comes to Gorillas, Google Photos Remains Blind

Jun 2015 · 24 レポート
Bug in Facebook’s Anti-Spam Filter Allegedly Blocked Legitimate Posts about COVID-19

Facebook is wrongly blocking news articles about the coronavirus pandemic

Mar 2020 · 1 レポート
Inappropriate Gmail Smart Reply Suggestions

Computer, respond to this email: Introducing Smart Reply in Inbox by Gmail

Nov 2015 · 22 レポート
前のインシデント次のインシデント

よく似たインシデント

Selected by our editors
Apple Intelligence Allegedly Flags Scam Messages as High Priority

Apple’s new AI feature rewords scam messages to make them look more legit

Aug 2024 · 5 レポート
テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Images of Black People Labeled as Gorillas

When It Comes to Gorillas, Google Photos Remains Blind

Jun 2015 · 24 レポート
Bug in Facebook’s Anti-Spam Filter Allegedly Blocked Legitimate Posts about COVID-19

Facebook is wrongly blocking news articles about the coronavirus pandemic

Mar 2020 · 1 レポート
Inappropriate Gmail Smart Reply Suggestions

Computer, respond to this email: Introducing Smart Reply in Inbox by Gmail

Nov 2015 · 22 レポート

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 1420c8e