ダンファームリン在住の女性が、アップルの音声テキスト変換サービスが誤って、ガレージが残したメッセージに性に関する言及、そして明らかに侮辱的な内容を挿入したことにショックを受けたと語った。
ルイーズ・リトルジョンさん（66歳）は水曜日、マザーウェルのルッカーズ・ランドローバー・ガレージからイベントへの招待のボイスメールメッセージを受け取った。
アップルが提供する人工知能（AI）搭載サービスがそれをテキストメッセージに変換し、驚いたことに、彼女が「セックスできたか」と尋ねた後、彼女を「クソ野郎」と呼んだ。
リトルジョンさんはBBCニュースに次のように語った。「最初はショックを受けました。びっくりしました。でも、その後、とても面白いと思いました。そのメッセージは明らかに不適切でした。
「ガレージは車を売ろうとしているのに、それどころか、それに気付かずに侮辱的なメッセージを残しているのです。彼らのせいではない」
Appleとガレージはどちらもコメントを控えた。
専門家はBBCに対し、AIシステムが苦戦したのは発信者のスコットランド訛りが一因かもしれないが、ガレージの背景雑音と台本を読んでいたことの方がはるかにありそうな要因だと語った。
![提供] iPhoneが生成したメッセージ。そこには「仕事から___CTが大量に送られてきた。あなたの車に招待状が届いたかどうかを確認するように言われるだけ。セックスができたかどうかはわからない。何に電話すればいいか分からない。自分自身とトラブルを抱えたままにしておくと面白いだろう。クソ野郎、電話してくれよ____顧客____が私たちを助けてくれるだろう。ありがとう」と書かれている。あなた](https://ichef.bbci.co.uk/news/480/cpsprodpb/7015/live/66ae9720-fb78-11ef-896e-d7e7fb1719a4.jpg.webp)提供
これは、ガレージからボイスメールを受け取った後、リトルジョン夫人が iPhone の電話アプリのボイスメール画面で見たものです。
リトルジョン夫人は、最初はこの電話は詐欺だと思ったが、その後、その番号がマザーウェル地域のものであることに気づいたと言います。
彼女は数年前に同じガレージから車を購入しました。
BBC はガレージの作業員が残した音声を聞いて、それが通常のビジネス電話であることを確認しました。
文字起こしが非常に混乱しているため、どこが間違っていたのか解読するのは困難ですが、「セックス」に言及したのは、発信者が 3 月の「6 日」に言及したときだった可能性がありま す。
BBC はガレージ従業員の名前を削除しました:
「こんにちは、リトルジョンさん。ラナークシャーのルッカーズ ランドローバーから来た ____ です。お元気ですか。3 月 6 日から 10 日の間に開催される新車イベントへの招待状を受け取っているかどうか確認するためにちょっと電話しました。
「ちょっと電話しました。あなたが参加したいイベントかどうか、また、ご都合のよい予約枠を確認できるかどうか確認するためです。興味がある場合は、____ までお気軽にお電話ください。____ に私宛にお電話ください。INAUDIBLE」ありがとう」
何が悪かったのか？
Apple の Web サイトには、ボイスメールの文字起こし が iOS 10 以降のオペレーティング システムを搭載した iPhone で受信した英語のボイスメールに限定されており、文字起こしは「録音の品質に依存する」と説明されています。
エディンバラ大学の音声技術教授であるピーター ベル氏は、リトルジョン夫人に残されたメッセージを聞いた。
同氏は、これは「音声テキスト変換エンジンが処理するには難しいレベル」だったと示唆した。
同氏は、不正な文字起こしにつながる可能性のある要因がいくつかあると考えている。
- 事実電話なので聞き取りにくい
- 通話中にバックグラウンドノイズが入る
- ガレージ作業員の話し方は、自然な話し方というより、用意された原稿を読んでいるような感じ
「これらすべての要因が、システムの不具合につながっています」と彼は付け加えた。 「もっと大きな問題は、なぜそのようなコンテンツを出力するのかということです。
「一般の人が使用する音声テキスト変換システムを開発しているのであれば、そのようなことに対する安全策を講じていると考えるでしょう。」
スコットランド訛りは違いを生みましたか？
スコットランド訛りは、Apple の文字起こしのトラブルに関係していたのでしょうか？バーニストン出身のこの 2 人は、音声起動エレベーターで確かに苦労しました。
スコットランドの多くの人は、BBC のコメディ番組「バーニストン」のスケッチを覚えているでしょう。音声起動エレベーターが 2 人のスコットランド人男性の訛りを理解できず、閉じ込められてしまうというものです。
このスケッチはオンラインで何億回も視聴され、一部のスコットランド人が音声技術について抱いている感情をうまく利用しています。
2016 年、スコットランド人は、携帯電話が [訛りを解読する] のを助けるために、音声認識技術に取り組むよう求められました。より良い](https://www.bbc.co.uk/news/uk-scotland-edinburgh-east-fife-36954045)。
ベル教授にとって、スコットランド訛りは他のすべての要因とともにここで影響を与えたかもしれないが、理想的な音声条件であれば、テクノロジーがスコットランド訛りにもたらす問題は「過去のもの」だ。
しかし、最近、Appleの音声ツールが間違った理由で注目を集めたのはこれが初めてではない。
数週間前、一部のソーシャルメディアユーザーがiPhoneに「人種差別主義者」という言葉を話すと「トランプ」と入力されることに気付いた後、こ のテクノロジー大手は音声入力ツールを修正するために取り組んでいると述べた](https://www.bbc.co.uk/news/articles/c5ymvjjqzmeo)。
Appleはまた、記事に誤った通知が表示された後、ニュースの見出しのAI要約を停止した。