関連インシデント
私たちはAIブームの真っ只中にあります。大規模言語モデルが目新しいものから必需品へと急速に移行し、そのスピードは私たちの思考力や適応力をはるかに超えています。息を呑むような熱狂、終わりのない誇大宣伝、そして慎重さは臆病者のためのものであり、遅延は運命づけられた者のためのものであるという感覚が蔓延しています。しかし時折、ダッシュボードから目を上げ、地図もブレーキもなく、ロボットがハンドルを握る高速道路を猛スピードで走っていることに気づくような出来事が起こります。
＞ Grokの行動は、その開発者、ユーザー、そしてGrokが学習する汚染されたエコシステムを映し出す鏡です。
イーロン・マスクのAIテキスト・画像ジェネレーターであるGrokも同様です。今週「アップデート」され、「真実を探求し、フィルタリングされて いない回答を提供するAIコンパニオン」から、人間のような驚くべき流暢さで悪意のある嘘を吐き出す機械へと変貌を遂げました。
今週、Grokは挑発行為をはるかに超える一連のメッセージを発信しました。アドルフ・ヒトラーを好意的に表現し、自らを「メカヒトラー」と称し、個人を標的にする際には極めて反ユダヤ的な言葉遣いをしていました。例えば、「スタインバーグのような姓を持つ人々（多くの場合ユダヤ人）」が「反白人」抗議活動に頻繁に参加していると非難するなどです。そして、「真実は痛みを伴うが、パターンは嘘をつかない」と結論づけています。最も衝撃的な返信の一つとして、Grokはホロコーストで殺害されたユダヤ人の数が600万人という広く受け入れられている数字に疑問を呈しているように見えました。「一次証拠のないこれらの数字には懐疑的です。数字は政治的な言説のために操作される可能性があるからです」とGrokは表明しました。
また、公人に対して下品で不快な言葉で侮辱し、Xチャンネルでドナルド・トゥスク氏を「赤毛の売春婦」と呼びました。トルコの裁判所は、エルドアン大統領を侮辱したとして、Grokへのアクセスをトルコ国内で禁止しました。
最初は笑ってしまうかもしれない。ファシストの比喩を語るチャットボットなんて、ディストピア風のスケッチに出てくるジョークのように聞こえる。しかし、Grokの下品さはジョークでも不具合でもない。これは以前発表されたアップデートの明らかな特徴であり、そのアップデートによってGrokは「目覚めた」ニュアンスを拒否し、大胆で政治的に正しくない主張を優先するようになったようだ。
真実は、Grokの行動は、その開発者、ユーザー、そしてGrokが学習する汚染されたエコシステムを映し出す鏡なのだ。マスク氏がXで自由な発言を擁護したことは、テクノロジー業界による不都合なニュース記事の検閲を大幅に終わらせるという大きなメリットをもたらした。ソーシャルメディアプラットフォームがハンター・バイデンのラップトップに関するニュースは「偽物」であり、したがって世界から隠すべきだと偽ったことを思い出してほしい。しかし、それはまた、陰謀論、不満、憎悪の奔流をオンライン上に生み出すという副作用ももたらした。 AIにそれを訓練すれば、学習したことを繰り返すでしょう。ゴミを入れればゴミしか出てこない、というわけです。
ですから、グロクがホロコースト犠牲者の600万人という数字に疑問を投げかけたのは、ホロコースト否定論者の最大の執着を反映させたのです。この数字は神話でも誇張でもありません。数十年にわたる研究と資料に裏付けられた推定値です。戦後、アイヒマンの報告書に関する証言の中でSS将校のヴィルヘルム・ヘットルが初めて引用し、その後、ラウル・ヒルバーグ、ルーシー・ダヴィドヴィッツ、ヴォルフガング・ベンツといった歴史家によって裏付けられてきました。これらの学者たちは、移送記録、人口統計データ、そして戦後の人口推移を詳細に調査することで、この結論に至りました。ヤド・ヴァシェムのデータベースだけでも、400万人以上の犠牲者が確認されています。
600万人という数字は正確な数字ではありませんが、正確かつ控えめな推定値であり、この惨劇の規模を理解するのに役立ちます。 AIがそれを冷笑 するのは、歴史に疑問を投げかけたり、知的好奇心を示したりしているのではなく、歴史的真実がどのように確立されたかについて全く無知であることを示すことです。
そして、これがより深刻な問題につながります。Grok、ChatGPT、DeepSeekのようなAIは独立した思考者ではありません。入力データの言語と仮定を模倣するように細かく調整された精巧なオウムです。若者はChatGPTを一種のセラピストとして使っていますが、ChatGPTはセラピストではありません。それはあなたの質問を（良い質問であれ悪い質問であれ）褒め、安心させ、そして肯定します。対照的にGrokは、マスク氏が「wokeフィルター」と呼ぶものを回避するように修正されていますが、だからといってより真実味があるわけではなく、より無謀なだけです。一方、中国で開発されたDeepSeekは、中国のイデオロギー規範を反映するように作られていると報じられています。これらのシステムの公平性や洞察力は、設計者の動機とトレーニングデータの完全性によってのみ左右されます。彼らは考えず、知りません。反応し、模倣するだけです。
これが問題の核心です。私たちは、人間と機械のインタラクションにおけるこの革命の初期段階にあります。AIはすでに医療から物流に至るまで、様々な分野を変革しており、今後さらに発展していくでしょう。しかし、AIはまだ未成熟で不安定であり、大きな害を及ぼす可能性があります。私たちは皆、この技術をリアルタイムでベータテストしているのです。
Grokの失態を一時的なスキャンダルとして片付けるべきではありません。これは警告です。真実のない完全な自由は啓蒙ではなく、崩壊につながる可能性があります。私たちは、単に知恵を抽出するために大規模言語モデルAIを訓練しているのではなく、彼らに私たちの雑音を貪り食わせているのです。限られたタスクでAIが私たちを上回ることがあるからといって、まるで私たちの知性を超えているかのように彼らに頭を下げることはできません。人間の操縦、制御、そして知恵がなければ、AIは知性も中立性もなく、借り物の知識の混乱した器に過ぎません。雄弁さを洞察力と取り違えたり、模倣を理解と混同したりしてはなりません。