Description: AI-generated English-language Adolf Hitler speeches have been proliferating on TikTok. They are reportedly accumulating millions of views despite violating the platform’s hate speech policies. The clips are described as often pairing the audio with misleading translations and memes that glorify Hitler and distort historical facts. While some content has been removed, many accounts reportedly continue to post similar videos.
Editor Notes: Reconstructing the timeline of events: On April 7, 2024, Media Matters identified at least one AI-generated English-language speech being attributed to Hitler circulating on TikTok. By early September 2024, the number of videos featuring these speeches began to proliferate, with many gaining significant traction, receiving hundreds of thousands to millions of views. On September 1, 2024, one particularly prominent video featuring an AI-generated Hitler speech garnered over a million views before it was removed. On September 17, 2024, Media Matters published a report documenting the widespread presence of these AI-generated Hitler speeches on the platform. The following day, September 18, 2024, TikTok removed at least one account posting this content, although similar videos are reportedly continuing to circulate.
Note on "NazTok": See editor's note for Incident 810 for an explanation for "NazTok" deployer tag. Incident 809 is a subset of Incident 810.
Alleged: Unknown deepfake technology developers developed an AI system deployed by Unknown deepfake creators, which harmed TikTok users.
インシデントのステータス
インシデントID
809
レポート数
1
インシデント発生日
2024-04-07
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
mediamatters.org · 2024
- 情報源として元のレポートを表示
- インターネットアーカイブでレポートを表示
更新（2024年9月18日）： このレポートの公開後、TikTokは、AIによって生成されたと思われる英語のヒトラーの演説を投稿していると特定したアカウントを少なくとも1つ削除しました。この削除にもかかわらず、これらの演説のコンテンツはプラットフォーム上で引き続き流通しています。レポートの公開後、Media Mattersは、少なくとも273回使用されている別のヒトラーの音声を特定しました。
AIによって生成されたと思われる英語で演説するヒトラーの音声クリップがTikTokで…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
