AIインシデントデータベース

にようこそ

私たちの使命は、汎用人工知能（AGI）が全人類に恩恵をもたらすことを確実にすることです。この使命を推進するため、私たちは革新的な技術を駆使して民主的なAIの構築に取り組んでいます。民主的なAIとは、民主主義の原則に基づき、常識的なルールによって統治され、人々が困難な問題を解決するのを支援すると同時に、現実の危害から人々を守るように設計されたAIです。この使命には、権威主義体制とその代理人がAIシステムを利用して批判者を威圧したり、コミュニティを監視したり、民主主義社会に秘密裏に干渉したりする試みを特定し、阻止することも不可欠です。

本レポートでは、中国発祥と思われる2つのChatGPTアカウント群について説明します。これらのアカウントは、アメリカのAI政策やより広範なテクノロジー政策に関する正当な議論を操作しようとする、明らかに秘密裏の影響力工作を支援するために私たちのモデルを利用したため、停止されました。

最初のアカウント群は、AI向けデータセンターの建設が一般家庭の電気料金を上昇させていると主張するソーシャルメディア上のコメントや画像を生成しました。私たちはこのアカウント群を「データセンター・バンドワゴン」キャンペーンと名付けました。

2つ目のクラスターは、米国の関税を技術競争を支配しようとする試みだと批判するコメントや画像を生成し、その投稿内容には中国の習近平国家主席を含めず、トランプ大統領のみを含めるよう指示していました。このクラスターは、ChatGPTのユーザーデータが侵害されたと主張することでOpenAIを標的にしていた可能性のある、偽アカウントと思われるソーシャルメディアアカウントのネットワークと繋がっていました。これらの主張は全くの虚偽です。私たちはこの2つ目のクラスターを「テクノロジーと関税」キャンペーンと名付けました。

OpenAIと米国のデータセンター建設を標的としたこの作戦が重要なのは、世論を操作したように見えるからではなく、中国発祥の影響力工作員がAIインフラ（米国の技術的リーダーシップ、経済成長、そしてより広範な民主的なAIエコシステムの基盤）に対して、様々な言説を検証しているからです。この作戦は、エネルギー価格やデータセンター開発による地域への影響に関する既存の国民の懸念を利用し、増幅させようとしましたが、作戦自体の活動以外に大きな影響が及んだ証拠は見つかりませんでした。外国による影響力工作は、長年にわたり、既存の地域問題や人々の真摯な信念につけ込み、それらを利用して信頼性を築き、分断を増幅させ、あるいは国民の不信感を悪化させようとしてきました。今回のケースでは、工作員たちは自らの正体と動機を隠しながら、米国のAI能力の将来に関する進行中の議論に密かに介入しようと試みました。

これらの調査結果を公表することで、私たちは業界、政府、市民社会、そして一般市民が、外国の脅威アクターによる正当な公共議論の操作、民主主義制度の弱体化、そしてAIを利用した全体主義（監視、検閲、政治・社会・私生活への支配のためのAIの利用）の推進といった試みをより的確に特定し、阻止できるよう支援することを目指します。

ここ数ヶ月、Facebookには「ネバダでの生活」「アイオワで育った」「ユタでの生活」といった、いかにも似たような名前のアカウント群から、米国の州をテーマにしたAI生成画像が大量に投稿されている。これらのアカウントが投稿するコンテンツは、田園風景を頻繁に使用しており、どの州に関する投稿であっても極めて似通っている。投稿された画像の多くは、州名以外はほとんど区別がつかないほど似ている。皮肉なことに、この米国をテーマにしたアカウント群は、米国国内から運営されているようには全く見えない。Facebookのページ透明性機能によると、これらのアカウントの一部、あるいは全てが、実際にはバングラデシュから運営されている可能性がある。

これらのページのほとんどは2026年に作成または名前変更されました。

これらのFacebookアカウントは、少なくとも49の米国の州をテーマにしたFacebookページからなるスパムネットワークの一部であり、デラウェア州を除くすべての州が網羅されています。多くは新規アカウントであり、古いアカウントの多くは比較的最近名前が変更されています。アカウント名は一般的に「Life in <州>」または「<州> life」という形式です。 「Just Connecticut Things」「I grew up in Iowa」「Life is Idaho」は例外です。

![米国の各州をテーマにしたAI画像スパムFacebookページのページ透明性セクションのスクリーンショット。ページ運営者はバングラデシュにいる](https://substackcdn.com/image/fetch/$s_!AqmX!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F9883ba99-e0de-4641-96f3-263824d8b5d4_5803x4020.jpeg 米国の各州をテーマにしたAI画像スパムFacebookページのページ透明性セクションのスクリーンショット。ページ運営者はバングラデシュにいるバングラデシュ")

ネバダ州、あるいはバングラデシュでの生活

49のアカウントのうち23のアカウントは、Facebookのページ透明性機能を通じて位置情報が公開されています。これらの23のアカウントはすべて、バングラデシュに1人以上のオペレーターがいます。また、2つのアカウントは他の国にもオペレーターがいます。 「Louisiana Life」には、少なくとも1人の運営者がギリシャに拠点を置いているとみられ、「Massachusetts Life」はサウジアラビアから一部運営されているようです。アカウント名が変更されているものもあり、以前の名前から、以前のコンテンツは別のテーマだった可能性が高いことが分かります。例えば、「Life in Ohio」は元々「Rose Shop」という名前で、「Life in Nevada」は約1ヶ月間「Hello India」という名前で活動していました。

極めて反復的なテーマのバリエーション

このスパムネットワークのアカウントが投稿するコンテンツは、主にAI画像生成モデルによって生成されたミームで構成されており、言及されている国以外はアカウントごとに極めて類似しています。最もよく繰り返されるコンテンツの一つは、中国からの食料輸入に反対する看板を掲げた農場の画像です。 （例：「インディアナ州は中国から食料を買う必要はない。インディアナ州はインディアナ州の農家を支援する必要がある。」）

皮肉は死んだ

皮肉なことに、このネットワークのコンテンツに繰り返し登場するもう一つのテーマは、生成型AIで生成された反AIデータセンターのミームである。これらの画像には、一般的に農場や海岸の空撮写真が使われており、「データセンターのためにこの土地を1インチたりとも譲る価値はない」といったメッセージが巨大なフォントで地面に大きく書かれている。場合によっては、アカウントの拠点とされる州の地図が添えられていることもある。ごくまれに、データセンター反対のメッセージが看板に書かれているケースもある。

私たちの中に、家の庭に巨大な「コロラドへようこそ」の看板を立てたことがない人がいるでしょうか？

スパムアカウントの多くは、固定資産税反対のミームも投稿しています。これらの投稿は、家の前に「ローンを完済した家、つまり本当に所有している家に固定資産税を課すのは意味がない」というテキスト、またはそれに類するテキストが書かれた看板が立てられた家の画像で構成されています。多くの画像には、投稿したアカウントに関連付けられていると思われる州の名前や州旗も含まれています。 「コロラド・ライフ」アカウントの場合、これは、無作為に選ばれた人の家の庭に巨大な「コロラドへようこそ」の看板を立てるという形で現れます。

速報：これらの出来事は実際には何も起きていません

このネットワーク上のほぼすべてのアカウントが、アカウントの出身地とされる州で多数の地震が報告されたと主張する投稿を少なくとも1つは行っています。実際には、米国の地震活動は均等に分布しているわけではなく、国内の地震の大部分はカリフォルニア州かアラスカ州で発生しています。そのため、これらの投稿の多くは極めて信憑性に欠けます。地震に関する投稿にはすべて、地震発生地点とされる場所を示す地図が掲載されています。しかし、これらの地図の中にはかなり不正確なものもあります。例えば、左上の投稿では、トラバースシティがミシガン湖の反対側に位置しています。

たった一つの仕事だったのに

このネットワークの投稿には、地図の誤り以外にも不具合があります。ネットワーク運営者がどのアカウントにログインしていたかを忘れてしまったようで、インディアナ州に関する投稿が「ウィスコンシン・ライフ」ページに表示されたり、メイン州の地図が「ユタ・ライフ」ページに表示されたりするケースが何度も発生しています。いくつかの投稿には、画像と関連テキストを生成するために使用されたプロンプトの証拠が含まれており、コンテンツが人工的に生成されたものであることを裏付けています。

このスパムネットワークは、Facebook上の他のAI生成コンテンツファーム、例えば存在しないバーンドミニウムや架空の料理の画像を延々と投稿するファームといくつかの点で類似していますが、他のスパム活動にはない政治的なメッセージという側面も持ち合わせています。中国からの輸入品反対、データセンター反対、税金反対といったテーマは、このアカウント群全体に一貫して見られ、主に地方のユーザーをターゲットにしているようです。Facebookが介入してこのネットワークを閉鎖しない限り、今後どのように活動が展開していくのか注目されます。

ガーナ警察のサイバー捜査・執行チーム（CVET）は、ジョン・ドラマニ・マハマ大統領になりすますためにAI生成のディープフェイク動画を使用した疑いで、ナイジェリア国籍者を含む11人を逮捕した。

警察筋がMyjoyOnline.comに語ったところによると、2026年5月1日から3日にかけて、CVETはボルタ州のソガコペ、ダバラ、トング、アカツィ、アフラオで連携したサイバー作戦を実施し、5人の容疑者を逮捕した。

逮捕されたのは、ラファエル・アブロルデッペイ（32歳）、アニパ・ジョナサン（23歳）、ザメシ・ブライト・コフィ（35歳）、トーマス・アヨヨ（17歳）、ルイス・セグバウ（18歳）の5名。彼らは、大統領になりすますAI生成動画を作成・拡散していたとされるグループに関する情報に基づいて逮捕された。

2026年5月4日に行われた追加捜査により、アフラオでさらに6人の容疑者が逮捕されました。内訳はナイジェリア人5人とガーナ人1人です。

逮捕された容疑者は、ビショップ・エシリ（46歳）、ウィズダム・ジェームズ（25歳）、アリ・ラッキー（23歳）、エドウィン・エドス（22歳）、ジョン・コフィ・ダーリントン（20歳）、そして2人目のグループに属するガーナ人ダヌ・ピーター（19歳）です。

警察は捜査中に、ノートパソコン、携帯電話、インターネットルーター、事前登録済みのSIMカード120枚、ナイジェリア登録のメルセデス・ベンツML350（登録番号：ラゴスLSR 138HR）など、多数の物品を押収しました。

警察によると、予備捜査の結果、容疑者らはAI生成コンテンツを用いて著名人になりすまし、オンラインプラットフォームを通じて一般市民から金銭や個人情報を不正にだまし取っていた疑いがあるとのことです。

捜査当局はまた、このグループが、金銭的利益のために不正なデジタルコンテンツを制作・配布する、より広範なサイバー犯罪ネットワークの一部であると考えている。

2026年5月6日（水）の法廷で、容疑者11人のうち9人は警察の拘留下に置かれ、2026年5月25日に再出廷することになった。一方、トーマス・アヨヨとルイス・セグバウは、それぞれ2名の保証人を立てることを条件に保釈された。

1月21日（ロイター） - マイクロソフト、ペイパル、その他多くのフォーチュン500企業が利用する、ベンチャーキャピタルが出資する人工知能（AI）採用プラットフォーム「エイトフォールドAI」が、求職者の同意なしに選考に利用されるレポートを作成したとして、カリフォルニア州で訴訟を起こされた。

火曜日に提起されたこの訴訟（新規タブで開く）は、AI採用企業が公正信用報告法（FCRA）に違反したとして米国で初めて訴えられたものであり、膨大なデータに基づいて個人に関する推論を行うことができるAIシステムに、消費者擁護団体が既存の法律を適用しようとしていることを示していると、訴訟を起こした法律事務所は述べている。

カリフォルニア州サンタクララに拠点を置くEightfold社は、オンラインの履歴書や求人情報から得られる膨大なデータを用いて求職者を評価し、適性を予測することで採用プロセスを迅速化するツールを提供している。

しかし、求職者のエリン・キストラー氏とスルティ・バウミク氏は、集団訴訟の申し立ての中で、これらのツールを利用する企業に応募する求職者には、通知も異議申し立ての機会も与えられていないと主張している。

そのため、両氏はEightfold社が公正信用報告法（FCRA）および、融資や採用に用いられる信用報告書を閲覧・異議申し立てする権利を消費者に保障するカリフォルニア州法に違反したと主張している。

「これらの法律にはAIによる例外規定はなく、数十年にわたり、求職者に関する情報を収集・評価することで利益を得る第三者（例えば、身元調査会社など）による不正行為から求職者を守るための重要なツールとして機能してきた」と、両氏は訴訟の中で述べている。

Eightfold社の広報担当者、カート・フォエラー氏は、同社のプラットフォームは求職者から提供されたデータ、または顧客から提供されたデータに基づいて運営されていると述べた。

「当社はソーシャルメディアなどからデータを収集することはありません。責任あるAI、透明性、そして適用されるデータ保護法および雇用法への遵守に深く取り組んでいます」とフォラー氏は述べた。

Eightfoldは、ソフトバンク・ビジョン・ファンドやジェネラル・カタリストなどのベンチャーキャピタルから出資を受けている。

キースラー氏とバウミク氏は、同社のツールを使って求職活動を行い、評価を受けた米国の全求職者を代表して、カリフォルニア州裁判所に訴訟を起こした。労働法専門の法律事務所Outten & Goldenと非営利の権利擁護団体Towards Justiceが、原告団を代表している。

訴状によると、Eightfoldは求職者の「チームプレイヤー」や「内向的」といった性格特性を含む人材プロファイルを作成し、「教育の質」をランク付けし、将来の役職や企業を予測している。

訴状によると、キースラー氏はPayPalなどEightfoldを利用している複数の企業に、バウミク氏はMicrosoftなどの企業にそれぞれ応募していた。両氏とも科学または技術系の学位を持ち、10年以上の実務経験がある。両者とも採用されず、両者ともEightfoldのツールが何らかの役割を果たしたと考えている。

マイクロソフトとPayPalは訴訟の被告ではない。マイクロソフトの広報担当者はコメントを控えた。PayPalの広報担当者はコメント要請にすぐには応じなかった。

Eightfoldのウェブサイトによると、顧客の3分の1はSalesforceやBayerなど、フォーチュン500企業である。ニューヨーク州労働局とコロラド州労働雇用局も、求職者向けにEightfoldのプラットフォームを提供している。