Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

レポート 4242

関連インシデント

インシデント 8283 Report
Uruguayan TV Program Santo y Seña Uses a Deepfake of Political Candidate Yamandú Orsi Without His Consent

Loading...
ストーンゲスト: オルシは「パスワード」には行かず、プログラムは AI を使って彼を連れて行った
montevideo.com.uy · 2024

「石の客」という表現は、スペイン黄金時代の最も多作な作家の一人であるスペインの劇作家ティルソ・デ・モリーナによる劇「セビリアのトリックスターと石の客」のタイトルの一部です。

長年にわたり、このフレーズは、パーティーや会議で場違いな、または発言力のない、不快なゲストや疎外されたゲストを指摘する方法としてスペイン語に浸透しました。

昨夜、チャンネル 4 で放送されたテレビ番組「サント・イ・セーニャ」の欠席中にブロードフロント候補者ヤマンドゥ・オルシが果たした役割はこれでした。

オルシ氏が同番組に出席しないという決定を受けて、プロデューサーらはウルグアイで前例のない決定を下し、警戒と論争を巻き起こした。人工知能(AI)を使ってオルシ氏の仮想イメージを作成し、チャンネルのスタジオでコロラド州の候補アンドレス氏と並んで座らせるというものだった。オジェダ、後者は肉体的にそうです。

番組司会者のイグナシオ・アルバレス氏は数日前、オルシ氏がサント・イ・セーニャへの参加を拒否したことについてソーシャルネットワーク上で表明していた。

「8月14日、私はヤマンドゥ・オルシと話し、都合が合えば『聖とセナ』でインタビューすることを提案した。彼は、そのことについてチームと話し合っているので、私に電話するつもりだと言いました。 9月7日以来、私は彼にメッセージと音声を送ったが彼は返事をしなかったので、先週フェルナンド・ペレイラに連絡したところ、返事をくれると約束された。他の機会に何度も主張した後、彼はただ親切に私に『彼らは行かないことに決めた』とだけ言ってくれた」と彼は書いている。

オルシは私を恐れています
8月14日、私はヤマンドゥ・オルシと話し、都合が合えばパスワードでインタビューすることを提案した。彼は、そのことについてチームと話し合っているので、私に電話するつもりだと言いました。 9月7日以来、私は彼にメッセージと音声を送りましたが、彼は返事をしなかったので、先週...

— イグナシオ・アルバレス (@igalvar71) 2024 年 10 月 3 日

「フレンテ・アンプリオ候補はウルグアイ人から何を隠したいのか、何を恐れているのか?面接が選挙に勝つ可能性を難しくする可能性があるのはなぜだと思いますか?」

オルシ氏の決定に直面して、番組制作側の反応は人工知能に訴えるものであった。番組放送の数時間前に、このアイデアはフレンテ・アンプリオ関係者の耳に届き、彼らはそれについて懸念を表明した。

「私たちは、人工知能を使って行われたインタビューがヤマンドゥ・オルシに対して生成された可能性があるという情報を受け取ったため、このキャンペーンの終わりに非常に懸念しています。つまり偽面接です。 「国民に細心の注意を払うように」と国会議員でオルシ氏の選挙対策マネージャーであるアレハンドロ・パチャ・サンチェス氏は土曜日、パイサンドゥのチャンネル4への声明で述べた。

「人工知能が、人が言っていないことを、同じ声と画像で言わせることができる世界に私たちが住んでいるとき、私たちは細心の注意を払う必要があります」とサンチェス氏は言う。 「ネガティブキャンペーンを許すことはできません。選挙まで残り15日となった今、これは汚い選挙運動の兆候である可能性があります。したがって、我々は、もしこのインタビューが存在したならば、もちろんそれは民主主義に非常に大きな損害を与えるだろうと非難している」と彼は述べた。

サント・イ・セーニャのイニシアチブに反対して上がったもう一つの声は、チャンネル10ニュース番組の元司会者で現在はFAの上院議員候補であるブランカ・ロドリゲスの声だった。

「ウルグアイではこれほど深刻な事態が起きた前例はなく、今回のキャンペーンでもそれが起こらなければ良かった」と同氏は『X』誌に書いた。

ウルグアイではこれほど深刻な事態が起こった前例はなく、今回のキャンペーンでもそれが起こらなければ良かったと思います。 https://t.co/r9FtqrAiFx

— ブランカ・ロドリゲス - 移民の娘。 (@blancarodgon) 2024年10月13日

番組の放送前に、制作側は新聞「エル・オブザーバドール」に対し、フレンテ・アンプリオで「すべてが解明された」と宣言し、AIモデルの作成に使用されたオルシの演説は、それが問題ではないことを示す方法として再現されたと発表した。発明の。さらに、その後番組内でも披露されたが、FA候補の虚像にはAIによる創作物であることを明らかにする伝説が添えられていた。

明らかに、仮想ヤマンドゥ オルシの製造に使用された原材料がどれほど真実であっても、その結果はテクノロジーによって模倣された人物の本物の存在と同等であることは決してあり得ません。

厳密に言えば、「偽オルシ」の参加は短期間かつ限定的であり、彼はテレビの世界で「トーキングヘッド」として知られているものであり、いくつかの基本的なフレーズを話すことに限定されていました。

珍しいですね!ヤマンドゥ・オルシは#SantoYSeñaに出演し、アンドレス・オヘダとの討論に応じた。これはChannel 4スタジオでのミーティングでしたpic.twitter.com/il3TcYUKW7。

— サント・イ・セーニャ (@santotv4) 2024 年 10 月 14 日

パスワードにオルシ。 ??????????????????????????????????????????? ???????????????????

いつものようにクラリト・オルシ.... pic.twitter.com/XWtkZkdRdJ

— エフレイン、ロックンロール (@efrain_rock) 2024 年 10 月 14 日

同様に、オルシの姿がアンドレス・オヘダの像の上にミニチュアで「浮遊」しているように見えたことで証明されたように、AI の使用にも欠陥がないわけではありません。

FA 候補者の仮想関係者の短い介入を超えて、この模倣の使用は不信感を引き起こさずにはいられませんでした。また、それが別の候補者とのインタビューの文脈で使用されたという事実も注目されました。たとえば、オルタナティバ FA のメンバーである教師ガストン ビカは、オヘダとオルシの間にこの誤った対比が生まれると、前者が有利になると考えました。

パスワードでの AI の使用はオルシに損害を与えることになります。 ??ここでは、彼らがオルシの言葉を改変しようとしていたかどうかは問題ではなく、オリジナルとは異なる文脈でそれを使用することは悪意のある改変を表します。

しかし、さらにひどいことがあります…(続き)。 pic.twitter.com/BaR4Bf7uD7

— ガストン・ビカ・ファルコン (@GBica1987) 2024 年 10 月 14 日

実際、オジェダは対戦相手の仮想的な存在に反応するのにそれほど時間はかかりませんでした。 「あなたは他の誰も達成できなかったことを達成した。彼が来て話すということだ」と彼は皮肉な口調でアルバレスに言った。

情報源を読む

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd