Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

レポート 6779

関連インシデント

インシデント 13311 Report
Purported Deepfake Videos Reportedly Impersonated Yanis Varoufakis on YouTube and Social Media

Loading...
YouTubeで自分が絶対に言わないようなことを言っているのを見ている。これこそ私たちが立ち向かわなければならないディープフェイクの脅威だ
theguardian.com · 2026

義理の妹からプレゼントされた青いシャツが、全てを暴露した。それは、フョードル・ドストエフスキーの小説『二重人格』に登場する、身分の低い官僚ヤコフ・ペトローヴィチ・ゴリャートキンを彷彿とさせた。広大で非人間的な封建社会の中で、断片化された自己を揺さぶる探求だった。

すべては、尊敬する同僚から、地政学的なテーマのビデオ講演を祝福するメッセージが届いたことから始まった。自分が何を話したかを思い出そうと、添付されたYouTubeリンクをクリックした時、記憶力が以前ほど良くないのではないかと不安になり始めた。あのビデオはいつ撮影したのだろう?数分経って、何かがおかしいと気づいた。自分の発言に誤りがあると思ったからではなく、ビデオに映っていたのは、あの青いシャツを着てアテネのオフィスのデスクに座っている私だった。このシャツは、私の故郷である島から一度も持ち出したことがなかった。結局のところ、それはディープフェイクAIで作られた、私のドッペルゲンガーが登場するビデオだったのだ。

それ以来、私の顔と合成音声を使ったそのような動画が何百本もYouTubeやソーシャルメディアに拡散しました。今週末にも、ディープフェイクされた私がベネズエラのクーデターについて虚偽の発言をしている動画が次々と現れました。それらは説教じみたもので、私が言ったかもしれないことを言い、時には私が決して言わないであろうことを混ぜ合わせています。怒り狂い、独断的な発言をしています。中には下品なものもあれば、不穏なほど説得力のあるものもある。支持者たちは私にこれらの動画を送りつけ、「ヤニス、本当にそんなことを言ったのか?」と尋ね、反対派は私の愚かさの証拠として拡散します。さらにひどいことに、私のドッペルゲンガーの方が私よりも雄弁で説得力があると主張する人もいます。こうして私は、自分のデジタル人形の傍観者、つまりテクノ封建主義的機械の中の亡霊という奇妙な立場に立たされている。これは単に壊れているだけでなく、無力化するように設計されていると、私は長年主張してきた。

私の最初の反応は、GoogleやMetaなどにこれらの動画を削除するよう要求する手紙を書いたことだ。怒りに駆られ、いくつかのフォームに記入したが、1週間以上経った後、これらのチャンネルや動画の一部は削除された。しかし、それらはすぐに別の姿で再び現れた。数日のうちに私は諦めた。何をしようと、毎日何時間もかけて大手テクノロジー企業に私のAIドッペルゲンガーを倒してもらおうと試みたとしても、ヒドラのようにまた多くのドッペルゲンガーが再生するだろう。

すぐに、怒りは思索に変わった。結局のところ、私は巨大テック企業は資本主義をデジタル化しただけでなく、市場をクラウド領地へと、利益をクラウドレントへと変えるという大変革の先導役を担ったと主張した張本人ではないでしょうか?私のAIドッペルゲンガーは、このテクノ封建的な現実においてリベラルな個人は死に絶え、埋葬されていることを完璧に証明しているのではないでしょうか?

自己所有権の部分的な喪失を受け入れつつ、私はこれらのディープフェイクを究極の封建的囲い込み行為、つまりテクノ封建主義の下では私たちが何も所有していないことの証明として合理化することに慰めを求めた。労働によるデータ出力も、ソーシャルグラフも、そして今や視聴覚アイデンティティさえも。私たちの新たな領主たちは、私たちをクラウドランドの借家人、つまり彼らの肖像を意のままに利用して混乱をまき散らし、議論を濁らせ、この目的のために作られた合成ノイズの不協和音で真の反対意見をかき消すことができるアンドロイドと見なしているのだ。

しかし、その後、古代アテネを彷彿とさせる、より明るい考えが頭に浮かんだ。もし私のAIドッペルゲンガーが、真の民主主義そのものと同じくらい明るく、将来性がありながらも、まだ見ぬ原理であるイゼゴリア(ἰσηγορία)の先駆者だったらどうだろうか?複数のAIチャットボットに定義を尋ねたところ、いずれも忠実にその意味を歪曲し、isegoriaを言論の平等、発言権、あるいは議会で発言する自由と定義しました。しかし、アテネ人がこの言葉で意味していたのはそうではありませんでした。実際、彼らにとってisegoriaは今日の「言論の自由」とは正反対の意味を持っていました。彼らはそれを、虚空に向かって叫ぶ抽象的な権利として片付けるでしょう。アテネ人にとってisegoriaは、あなたが誰であるか、あるいはどれほど巧みに表現したかに関わらず、あなたの意見がその真価に基づいて真剣に評価される権利を意味していました。

AIディープフェイクは、isegoriaをテクノ封建主義的なディストピアの魔の手から救い出すことができるのでしょうか? YouTube動画で誰が話しているのかを検証することが不可能だと気づいたとき、私たちは誰が話しているのかではなく、話されている内容の価値を判断しざるを得なくなるのだろうか? 真正性を貶める過程で、大手テクノロジー企業はうっかりイゼゴリアにチャンスを与えてしまったのだろうか? これらの疑問は、かすかな希望の光を投げかけていた。

それは、アルゴリズムによるフィードが消し去ろうとしている、ゆっくりとした困難な民主的な作業、つまり投げかけられた意見や議論を批判的に評価するという作業に、私たちが顔を上げて取り組む動機さえあれば、民主主義の亡霊がまだ私たちの頭上に漂っているかもしれないという希望だった。悲しいかな、この希望は、たとえ具体的ではあっても、私たちのテクノ封建的な領主たちが2つの巨大で非対称的な優位性を保持している限り、不十分である。

まず、彼らはアゴラそのもの、つまりサーバー、フィード、アルゴリズムによるコミュニケーション手段を所有している。彼らはデジタルの印章で自らの発言を本物だと証明する一方で、私たちの発言を疑念と雑音の泥沼に沈めることができる。その結果は?「イゼゴリア」ではなく、真実が権力の特許財産となるデジタルの神権だ。

第二に、そしてより狡猾なことに、彼らはディープフェイクを必要としない。 彼らのイデオロギーはマシンに埋め込まれています。さまざまなデジタルデバイスを通じてクラウドに接続されたプロレタリアから剰余価値を抽出する力、彼らのプラットフォーム上の従属資本家からクラウドレントを搾取する論理、株主価値の暴政、[民営化]における差し迫った成功、マネー](https://www.project-syndicate.org/commentary/private-stablecoins-are-a-formula-for-financial-crisis-by-yanis-varoufakis-2025-07)。

ですから、私たちの仕事はこれらの支配者たちに検証を懇願することではなく、政治的な仕事なのです。クラウドキャピタル、つまり社会を変革し、ヒューマニズムを想像させるあらゆるものを破壊する、全能の新たな力であるクラウドキャピタルを社会化しなければなりません。

それまでは、デジタルドッペルゲンガーに語らせておきましょう。もしかしたら、彼らがスペクタクルを飽和させ、私たちはついに自分の声に耳を傾けることをやめ、彼らの言葉で議論を判断し始めるかもしれません。これはおそらく、鏡の回廊に散りばめられた、最も逆説的な希望のかけらでしょう。しかし、このカーニバルの中で、私たちはできる限りのあらゆる断片を掴もうとしているのです。

情報源を読む

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd