Apple は、自社のデバイス向けに大いに宣伝された AI 機能スイートを 展開し始めたばかり ですが、すでに大きな問題が発生しています。その一例として、AI を利用した通知要約が BBC の見出しを書き換え、UHC CEO の殺人犯であるルイジ・マンジョーネが自殺したと伝えたことについて、BBC は Apple に苦情を申し立てました。マンジョーネは自殺しておらず、警察の拘留下にあります。
Apple Intelligence には、個々のアプリから届く通知をまとめ、要約することでユーザーの疲労を軽減しようとする iOS の機能が含ま れています。たとえば、ユーザーが 1 人の人物から複数のテキスト メッセージを受け取った場合、それらすべてを長いリストで表示するのではなく、iOS はプッシュ アラートを 1 つの簡潔な通知に要約しようとします。
結局のところ、生成AIに詳しい人なら誰も驚かないだろうが、Apple Intelligenceの「知性」は、要約が時々残念なか、単に間違っているという事実を覆すものだ。通知の要約は、10月にリリースされたバージョン18.1で初めてiOSに導入された。今週初め、AppleはSiriにChatGPTとのネイティブ統合を追加した。
誤った要約を含むBBCアプリからの通知。
記事で、_BBC_はプッシュアラートとして送信された3つの異なるニュースを要約した通知のスクリーンショットを共有した。通知には次のように書かれている。「ルイジ・マンジョーネが自殺、シリア人の母親はアサドが代償を払うことを願う、」韓国警察がユン・ソクヨル氏の事務所を捜索」。他の要約は正しかったとBBCは伝えている。
BBCはAppleにこの状況について苦情を申し立てたが、これは同社にとって恥ずべきことだが、読者が誤報を発信していると信じればニュースメディアの評判を傷つけるリスクもある。iOSがプッシュ通知を要約する方法をBBCが制御することはできない。
「BBCニュースは世界で最も信頼されているニュースメディアです」とBBCの広報担当者はこの記事で述べた。「私たちの名前で公開される情報やジャーナリズムを読者が信頼できることが私たちにとって不可欠です。通知もこれに含まれます」。AppleはBBCのこの失態に関する質問には回答しなかった。
人工知能は多くの分野で大きな可能性を秘めているが、言語モデルはおそらく最も実装が劣っているものの1つだ。しかし、この技術が十分に向上し、企業が顧客サポートチャットや大量の社内データ検索などの用途に活用できるようになることを企業は大いに期待している。しかし、まだそこまでには至っていません。実際、AI を使用している企業は、AI が生み出す成果物に 多くの編集 を行う必要があると述べています。
このような信頼性が低く予測不可能なテクノロジーを自社製品に深く組み込むのは、Apple らしくない気がします。Apple は ChatGPT の出力を制御できません。チャットボットの作成者である OpenAI は言語モデルをほとんど制御できず、その動作は常に調整されています。短い通知の要約は AI がうまく処理できる最も簡単なことのはずですが、Apple はそれさえも失敗しています。
少なくとも、Apple Intelligence の機能の一部は、AI が実際にどのように使用できるかを示しています。より優れた写真編集機能や、どの通知を送信すべきかを理解するフォーカス モードは素晴らしいものです。しかし、洗練された体験を連想させる企業にとって、間違った通知の要約や幻覚的な ChatGPT は、iOS を洗練されていないものに感じさせる可能性があります。新しい iPhone の売り上げを伸ばすために、宣伝に躍起になっているように感じます。この機能を使用するには、iPhone 15 Pro 以降が必要です。