イーロン・マスク氏のAIチャットボット「Grok」に再び不具合が発生している。
今回の不具合に加え、このチャットボットは、ボンダイビーチで発生したハヌカの集会で少なくとも11人が死亡した銃乱射事件に関する誤情報を吐き出している。
犯人の1人は、最終的に傍観者によって銃を奪われた。身元確認 は、43歳のアハメド・アル・アハメドである。このやり取りを撮影した動画はソーシャルメディアで広く共有され、多くの人が彼の英雄的行為を称賛している。ただし、この悲劇に 乗じてイスラム恐怖症を広めようと躍起になっている者、特に傍観者を特定したという報道の信憑性を否定する者たちは別だ。
Grokは状況を悪化させている。少なくとも日曜の朝の時点では、チャットボットに不具合が発生しているようで、ユーザーの質問に対して無関係な回答、あるいは全く間違った回答を返すことがある。
あるユーザーがGrokに、アル・アハメドが銃撃犯にタックルする動画の裏話を尋ねたところ、AIは主張「これは、駐車場でヤシの木に登り、おそらく枝を切るために枝が落ちてきて駐車中の車に損傷を与えた、男性が映っている古い話題の動画のようです。複数の情報源を検索しましたが、場所、日付、負傷者などの確認は取れていません。これは仕組まれた可能性があり、真偽は不明です。」と回答した。
別の事例では、Grokは、負傷したアル・アハメドの写真は、10月7日にハマスに捕らえられたイスラエル人人質のものだと主張しました。
別のユーザーからの質問に対し、Grokは、イスラエル軍がガザの民間人を意図的に標的にしていたかどうかに関する無関係な段落の直後に、アル・アハメドとの衝突の信憑性を再び疑問視しました。
別の事例では、Grokはツイートに明記されていたシドニーでの銃撃戦を映した動画を、今年初めにオーストラリアを襲った熱帯低気圧アルフレッドの動画だと説明しました。しかし、このケースでは、ユーザーはGrokに再評価を求めるために返答 を強め、チャットボットは誤りに気づきました。
Grokは単に情報を誤認しているだけでなく、完全に混乱しているように見えます。あるユーザーは、テクノロジー企業Oracleに関する質問に対し、ボンダイでの銃撃事件とその余波に関する概要を表示しました。また、ボンダイ銃乱射事件と、オーストラリアでの事件のわずか数時間前に発生したブラウン大学銃乱射事件に関する情報も混乱を招いているようです。
この不具合はボンダイ銃乱射事件だけにとどまりません。 Grokは日曜の午前中を通して、有名サッカー選手を誤って特定したり、中絶薬ミフェプリストンについて質問された際に妊娠中のアセトアミノフェンの使用に関する情報を漏らしたり、英国の法執行機関の取り組みに関する全く別の主張を検証するよう求められた際にプロジェクト2025やカマラ・ハリスの再選の可能性について発言したりしました。
この不具合の原因は不明です。GizmodoはGrokの開発元であるxAIにコメントを求めましたが、返ってきたのは「旧来のメディアの嘘」といういつもの自動返信だけでした。
Grokが現実感を失ったのは今回が初めてではない。チャットボットは今年、かなり疑わしい応答をしてきた。「承認されていない修正」によって、南アフリカの「白人虐殺」に関する陰謀論ですべての質問に応答するようになったものから、「世界中のユダヤ人全員を殺す」よりも「殺す」ほうがましだと言うものまで、マスクの精神を蒸発させる。