Google の注目スニペットには、アドルフ・ヒトラーのナチ宣言『我が闘争』の Amazon AI 要約が取り込まれており、同書は「真の芸術作品」と評されている。これは、上位の検索結果に影響を及ぼしている最新の AI 関連の失態である。
執筆時点では、「我が闘争 肯定的なレビュー」を検索すると、Amazon リストのカスタマー レビュー の AI 生成要約から取り込まれた結果が返された。つまり、これは AI 要約を要約しようとしている検索アルゴリズムである。 Amazon の AI による完全な要約には、次のように書かれています。「お客様は、この 本が読みやすく興味深いと感じています。洞察力に富んだ知的な暴言を高く評価しています。印刷は見栄えがよく、平易です。読者はこの本を真の芸術作品と評しています。しかし、内容が退屈で陰鬱だと感じる人もいます。サスペンスに満ちた内容、歴史的正確さ、価格に見合う価値については意見が分かれています。」
この記事を書いている時点で、Google は「この検索では AI による概要は利用できません」と言っていますが、Amazon の AI による要約は、そのすぐ下、通常概要が表示されるスペース、他の Web 結果の上に大きな文字で表示されていました。これは Google が強調スニペットと呼んでいるものです。「Google の自動システムは、特定の検索リクエストにどれだけうまく答え、ユーザーにとってどれだけ役立つかに基づいて、強調スニペットを選択します」同社によると Google が追加した「読みやすく興味深い」というフレーズの上にハイライトが表示されました。注目すべきは、これの注目スニペットの結果は Amazon の AI からすべてを引用しているわけではないため、それ自体が要約であるということです。
[
木曜日早朝の時点での Google の「我が闘争 好意的なレビュー」の結果。Amazon のレビューが「注目の抜粋」として表示されています。
[
スクリーンショットAmazon の AI 生成レビュー要約
コーネル テックのセキュリティ、信頼、安全性イニシアチブのディレクターであり、以前は Google の信頼と安全性インテリジェンスのプリンシパルであった Alexios Mantzarlis 氏が、最初にこの結果を発見しました。
コメントを求めて Google に連絡したところ (執筆時点では同社からの回答はありません)、AI による概要が表示され、この本は「憎しみに満ちた人種差別的な思想で広く非難されている」が、「歴史的分析により、純粋に文学的または修辞的な観点から「肯定的」と見なせる側面が指摘される可能性がある」と記されています。
[
木曜日の午前遅くの時点での「我が闘争 好意的なレビュー」の Google 検索結果のスクリーンショット。AI の概要結果を示しています。
これは、少なくとも、Amazon の AI の概要が提供するヒトラーの本に関する会話のより良い要約です。 Amazon のリストにある AI 生成のレビュー概要には、「読みやすさ」、「読みやすいペース」、「サスペンスに満ちた内容」などの特定の単語に言及したレビューへのリンクも表示されます。多くの人が『我が闘争』を退屈だと言っているため、「退屈」のリンクもあります。
Amazon はコメントの要請にすぐには応じませんでした。
このヒトラーのファシスト宣言の特定のコピーに対する 2,067 件のレビューは、ほとんどが肯定的であり、文字通りに解釈すると、ナチズムの青写真は読みやすく、ある意味で「興味深い」ものです。しかし、レビューはそれよりもはるかに微妙です。世界で最も悪名高い大量虐殺の独裁者によるホロコーストのロードマップを「5 つ星」でレビューするのはひねくれているように思われますが、レビューは AI が明らかに理解できない微妙な方法で理解されていますが、人間には理解できます。
「アドルフ・ヒトラーの『我が闘争』は、平和、社会的責任、そして世界規模の協力に関心を持つ世界中のすべての人が読むべき」と、非常に長いレビューの冒頭で、正直言ってかなり心配そうな書き方をしている。しかし、彼らはさらに自分の見解を明確にする書き方を続ける。「この邪悪な本は、民主主義社会でロシアのような暴政を生み出すための暗いビジョンを提示している。[...] また、ヒトラーは優れた作家である。彼は、まとまりのない考えを書き、混乱した方法論を表現する、とりとめのない狂人ではない。彼の文章は読みやすく 、必読の世界的な古典である。」
別の 5 つ星のレビューでは、「この本を読み始めて、これがアドルフ・ヒトラーの書いた言葉だと気付くとぞっとする。読んで、彼が自分の言葉で言っていることを吸収すれば、すぐに彼の言っていることを理解できる。[...] 過去に犯された過ちを理解しなければ、歴史を繰り返すことになる。」と書かれている。
これらは「肯定的な」レビューではありません。5つ星のレビューのほとんどは、印刷や配送の品質を指摘しており、本の内容を推奨しているわけではありません。
『我が闘争』は米国で禁止されたことはありません（人種、性別、セックスに関する他の多くの本とは異なり）が、2020年にAmazonは一時的にプラットフォームからこの本のリストを禁止しましたが、その後復活しました。
GoogleのAI概要は頻繁にアルゴリズムの足を撃ち抜いているので、この結果を除外していることは注目に値します。 2024年5月にリリース 検索のデフォルト機能として導入されたとき、それは即座に大騒ぎとなり、人々に 接着剤を食べるのはクールだ と伝え、また 1日に小さな石を1つ消費する と伝えていました。1月には、この機能はユーザーに [世界で最も有名な大人のおもちゃを使用する] よう伝えていました。グーグルは、最も人気があり重要な製品である検索機能を悪用したAIオーバービューを、子供たちの行動問題で調査した。こうした奇妙な結果は、もっと重要な問題とは関係ない。グーグルが、自社の検索機能（同社の最も人気があり重要な製品）を悪用したことは、いまだに解決されていない深刻な問題であり、インターネットの健全性に実際に影響を及ぼしている。当初、AIオーバービューは非常にひどかったため、グーグルはそれを完全にオフにするオプションを追加したが、同社はこうした状況にもかかわらず、依然としてこの機能を維持している。
『我が闘争』のAIサマリーは、AIがオンラインで自らを蝕み始め、その亀裂が見え始めている例でもある。過去数年間の調査によると、AI モデルは AI 生成コンテンツをトレーニング データとして消費しており、その結果、モデル自体が汚染され、破壊されていることがわかりました。