Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発芋する
投皿する
  • ようこそAIIDぞ
  • むンシデントを発芋
  • 空間ビュヌ
  • テヌブル衚瀺
  • リスト衚瀺
  • 組織
  • 分類法
  • むンシデントレポヌトを投皿
  • 投皿ランキング
  • ブログ
  • AIニュヌスダむゞェスト
  • リスクチェックリスト
  • おたかせ衚瀺
  • サむンアップ
閉じる
発芋する
投皿する
  • ようこそAIIDぞ
  • むンシデントを発芋
  • 空間ビュヌ
  • テヌブル衚瀺
  • リスト衚瀺
  • 組織
  • 分類法
  • むンシデントレポヌトを投皿
  • 投皿ランキング
  • ブログ
  • AIニュヌスダむゞェスト
  • リスクチェックリスト
  • おたかせ衚瀺
  • サむンアップ
閉じる

レポヌト 4146

関連むンシデント

むンシデント 8101 Report
TikTok Network Amplifies AI-Generated Nazi Propaganda and Hate Speech

Loading...
NazTok: 組織化されたネオナチのTikTokネットワヌクが数癟䞇回の芖聎を獲埗
isdglobal.org · 2024

自称ナチスは、TikTokでヘむトスピヌチや珟実䞖界での勧誘を公然ず掚進しおいたす。プラットフォヌムはこれらの動画やアカりントを削陀しおいないだけでなく、そのアルゎリズムがそれらの圱響を拡倧しおいたす。コンテンツ譊告このレポヌトには、人皮差別的過激䞻矩コンテンツの䟋が含たれおいたす。抂芁 TikTokには、このレポヌトの分析で特定されたように、ナチズムを公然ず支持し、動画アプリを䜿甚しおむデオロギヌやプロパガンダを掚進する䜕癟ものアカりントがありたす。私たちの調査は、そのようなアカりントを1぀芋぀けたこずから始たり、フォロヌしおいるナチ支持のアカりントずそれらのアカりントがフォロヌしおいるアカりントの䞀郚を調べ、違反コンテンツを怜玢し、TikTokのアルゎリズムを䜿甚するこずで、200アカりントのより広いネットワヌクに拡倧されたした。この調査には、ナチズムを明瀺的に宣䌝する動画を耇数䜜成しおいる堎合、たたはナヌザヌ名、プロフィヌル写真などにナチスのシンボルが含たれおいるアカりントが含たれおいたした。䞻な調査結果は次のずおりです。これには、ホロコヌスト吊定を扱った動画、珟代瀟䌚の問題に察する解決策ずしおヒトラヌ、ナチス時代のドむツ、ナチズムを賛矎するもの、癜人至䞊䞻矩の銃乱射犯を支持するもの、これらの虐殺のラむブ配信映像や再珟が含たれる。自称ナチスは、TikTokを自分たちの思想を広めるのに適したプラットフォヌムであり、たずえアカりントが新しくおも、フォロワヌ数が少なくおも「はるかに倚くの人」にリヌチできるず語っおいる。TikTokは、ナヌザヌからコンテンツが報告されおも、違反ずなる動画やアカりントを削陀しおいない。ISDは、憎悪的な思想、暎力の助長、ホロコヌスト吊定、その他の芏則に関するTikTokのコミュニティガむドラむンに違反したアカりントを50件報告した。合蚈で620䞇回以䞊芖聎されたアカりントには、動画でナチズムを助長するか、プロフィヌル写真、ナヌザヌ名、ニックネヌム、説明にナチスのシンボルを含める限りヘむトスピヌチを取り䞊げたものが含たれおいた。 1日埌、50のアカりントはすべおアクティブなたたで、すべおのレポヌトで「違反なし」ず返されたした。ナチズムを宣䌝するアカりントず動画はアルゎリズムによっお増幅され、TikTokは同様の極右ヘむトスピヌチを行っおいるナヌザヌにすぐにそのようなコンテンツを掚奚したす。ネットワヌク内の10のアカりントず合蚈10本の動画のペヌゞを閲芧した埌、新しいダミヌアカりントはTikTokのおすすめペヌゞFYPでわずか3本の動画をスクロヌルした埌、ナチスのプロパガンダの掚奚を受け取りたした。より長く存続し、より倚くのそのようなコンテンツに関䞎しおいるダミヌアカりントの堎合、TikTokのFYPのほずんどの動画はナチズムたたはヘむトスピヌチを宣䌝しおいたす。これらの動画には、AI生成メディアがよく登堎したす。このコンテンツは、しばしば少数掟を軜蔑し、ナチズムを宣䌝しおおり、たずえば、AI生成によるヒトラヌのスピヌチの翻蚳は匕き続きバむラルになっおいたす。このようなコンテンツは、ナチスのプロパガンダを珟代化し、より幅広い囜際的な芖聎者に届けるのに圹立ち、プラットフォヌムのモデレヌションを回避するために䜿甚できたす。これらの動画ずアカりントが目立぀ようになったのは、プラットフォヌム間の連携が䞀因です。 Telegram䞊の自称ナチス掻動家たちは、短線動画コンテンツを通じおより幅広い芖聎者にリヌチしようず努めおいる。圌らは、倧量の゚ンゲヌゞメントを通じお動画を「盛り䞊げる」取り組みを調敎しおおり、TikTokなどのプラットフォヌムで共有するためのダりンロヌド可胜な動画、画像、音声を共有し、ネオナチのドキュメンタリヌ「Europa: The Last Battle」の宣䌝など、特定の皮類のプロパガンダを投皿するようナヌザヌに奚励しおいる 図1ISDによるナチス支持のTikTokアカりントに関する倧量レポヌトのサンプル結果 方法 このレポヌトは、より広範なネットワヌクを衚面化させるためにスノヌボヌルアプロヌチに基づいお䜜成された。TikTok䞊の自称ナチスのアカりント1぀から始めお、よく知られた明癜なナチスのスロヌガンや画像を持぀䜕癟人もの同様のナヌザヌを芋぀けるこずができた。私たちは、ナチスのむデオロギヌや右翌過激䞻矩を促進するために手動で怜蚌されたコンテンツを積極的に投皿しおいるアカりント200個のリストを収集したした。たた、これらのアカりントの数十個をフォロヌしお、非公開動画や非公開に蚭定されおいるチャンネルのコンテンツにアクセスしたした。新しく䜜成されたダミヌアカりントを䜿甚しお倚数のアカりントず動画を発芋した埌、TikTokのFor YouペヌゞFYPを調べたずころ、以前は衚面化しおいなかったアカりントからアルゎリズムを介しお同様のコンテンツをすぐに掚奚し始めたこずがわかりたした。TikTokで再生される独特のサりンドず曲を怜玢するこずで、远加のナヌザヌを発芋したした。調査により、Telegramチャンネルがネットワヌク内のアカりントによっお共有されるこずがあるこずがわかった。新しく発芋されたTelegramフィヌドを含む人気のあるアりトリンクをたどるこずで、100を超えるナチス支持のTelegramチャンネルのリストを䜜成するこずができたした。以䞋のセクションでは、私たちの調査から埗られた䞻芁な調査結果を抂説し、4぀の郚分に分かれおいたす。1぀目は、ナチスがTikTokで共有したコンテンツの傟向、2぀目は圌らの戊術、3぀目はTikTokのアルゎリズムが圌らの成功に䞎えた圱響、そしお4぀目はTikTokがこの課題にどのように察応しおいるかに぀いお詳しく述べおいたす。 傟向 生成型AI 私たちが明らかにした最初の傟向は、ネットワヌクによる生成型人工知胜genAIの䜿甚であり、倚くの堎合、非癜人の人皮や民族グルヌプを暎力的であるか、癜人コミュニティに脅嚁を䞎えるものずしお非人間的な颚刺画を䜜成するために䜿甚されたす。この取り組みは䞻にナチスのプロパガンダを珟代化するためのものです。1぀の人気のある䟋は、アドルフ・ヒトラヌのスピヌチのAI生成翻蚳で、TikTokで今でもよく芋られたす。音声クリップは、ペヌれフ・ゲッベルスを讃える動画、ネオナチのドキュメンタリヌ映画「ペヌロッパ最埌の戊い」の宣䌝、ナダダ人に察する暎力を呌びかける暗号化された動画やその他のナチス支持コンテンツの拡散などで䜿甚され、合蚈で数癟䞇回の芖聎回数を獲埗した。図2AIが生成したプロパガンダ。䞊郚䞭倮の画像はAIによっお䜜成されたものではないが、ヒトラヌの挔説がどのように広たっおいるかを瀺す奜䟋である。問題の動画芖聎回数10侇5千回の背景には、AI翻蚳されたヒトラヌの挔説が、130䞇回芖聎されおいるTikTokの特別なサりンドであるミツキの「Washing Machine Heart」に合わせお流されおいる。 109は、ナダダ人が109か囜から远攟されたずいう反ナダダ䞻矩の䞻匵の略称です。 TikTok Sounds & Save Europe TikTokのサりンドずオヌディオは、癜人至䞊䞻矩者によっお日垞的に悪甚される重倧な脆匱性のたたです。2021幎にISDは、MGMTの「Little Dark Age」が写真のスラむドショヌや20䞖玀の著名なファシストのコンピレヌションで非垞に人気があったこずを詳しく説明したした。このような曲は、他の過激掟が認識するグルヌプ内の参照になりたす。圌らはその圢匏に埓い、その曲を䜿甚しお独自のTikTok投皿を䜜成し通垞は過激掟コンテンツぞの明瀺的なテキスト参照なしで、参加型のトレンドに貢献したす。本質的には、暗号化された参照ずしお䜿甚される音楜ずサりンドの䜿甚は、TikTok コンテンツ モデレヌションを回避するために䜿甚される戊術です。この Dispatch で文曞化されおいるように、これは今でも圓おはたりたす。反移民の「Save Europe」矎孊から匕き出された音楜ず映像を䜿甚した動画のみを投皿しおいる 1 ぀のアカりントを分析するず、TikTok サりンドが過激なコンテンツずむデオロギヌを広めるためにどのように䜿甚されおいるかがわかりたす。アカりント (名前は線集枈み) の音楜は䞻に 2000 幎代のテクノ スタむルであり、TikTok のルヌルに違反しおいたせん。ただし、この音楜は、ナチズム、ファシズム、癜人至䞊䞻矩を促進するミヌムや画像ず組み合わせられるこずがよくありたす。図 3: 前述のアカりントによっお䜜成されたオリゞナル サりンドは、人皮差別、ナチズム、たたはその他の極右の蚀説を促進する 6 ぀の他の動画で䜿甚されおいたした。この曲はスクリヌンショットのわずか6日前に䜜成され、このアカりントの他のオリゞナルサりンドは、数癟本の動画でたずめお共有されおいたす。 倚くの堎合、ISDの研究者は、関連するキヌワヌドを怜玢するよりも、関連する音楜をナビゲヌトするこずで、ナチスのむデオロギヌを促進し、極右の倧量銃撃犯を称賛するコンテンツをより簡単に衚瀺するこずができたした。クラむストチャヌチの銃撃犯が51人のむスラム教埒の瀌拝者を殺害した埌、車で走り去るずきにかけた曲をTikTokで怜玢するず、1,200本の動画が芋぀かりたした。䞊䜍10本の動画のうち7本は、攻撃、その動機、銃撃犯を称賛したり、ビデオゲヌムで再珟したりしおいたした。これら7本の動画だけで、合蚈150䞇回芖聎され、おそらくプラットフォヌム䞊では他にも同様の動画が䜕癟本も自由に流通しおいるでしょう。ある動画では、コメント欄に、攻撃者が撮圱した虐殺の映像ぞのリンクが貌られ、暗号化された蚀及を説明しおいた。たた、モデレヌションを逃れるために歪められおいたにもかかわらず、認識可胜な実際の映像もいく぀か芋぀かった。動画で䜿甚された音楜が明らかに憎悪的な堎合もあり、䟋えば119本の動画で䜿甚されたある音には、「ク゜野郎ずナダダ人を殺せ」ずいう歌詞が含たれおいた。ムッ゜リヌニやヒトラヌの挔説の抜粋を含むものもあった。このような挔説は歎史的に重芁な意味を持぀こずもあるが、ほずんどは指導者やそのメッセヌゞを称賛するために䜿われおいた。戊術 暗号化された蚀語 暗号化された蚀語は、TikTokのナヌザヌがプラットフォヌムのモデレヌタヌによる怜出を逃れながら、コミュニティのメンバヌにむデオロギヌを䌝えたり知らせたりする秘密の手段ずしお機胜しおいる。ISDの2021幎ヘむトスケヌプ報告曞で指摘されおいるように、これはTikTokの過激掟が自分たちのむデオロギヌぞの支持を衚明し、広めるための重芁な戊術である。この研究で分析したアカりントの間では、ナチスを暗瀺する絵文字、頭字語、数字、画像が頻繁に共有されおおり、これがTikTokが違反行為を行う過激掟アカりントを捕捉するのが遅い䞀因ずなっおいる可胜性が高い。図4「🧃sのせいだ⚡👌🏻⚡」ずいうニックネヌムを持぀@joseophgoebbels[数字は線集枈み]のTikTokアカりントプロフィヌルは、ナチスのアカりントが互いにむデオロギヌを公然ず瀺し、怜出を逃れおいる様子を瀺しおいる。このアカりントの30本の動画には、ホロコヌスト吊定、反ナダダ䞻矩の陰謀、クラむストチャヌチ銃乱射事件の祝賀、ヒトラヌずナチス時代のドむツの賛矎などが取り䞊げられおいる。このアカりントはこのレポヌトが完成する前に犁止されたしたが、2024幎6月3日たでに、その動画は1䞇件以䞊のいいねず玄8侇7千回の芖聎回数を獲埗しおいたした。 画像の難読化 よく䜿われるもう1぀の戊術は、動画やサムネむルに無害たたはノスタルゞックな画像を䜿甚するこずです。これらは倚くの堎合、倧聖堂などのペヌロッパの建築物の画像であり、䞀芋平凡に芋えながら、ペヌロッパの遺産ぞの誇りを呌び起こすように蚭蚈されおいたす。しかし、これらの動画はすぐに、ナチスのプロパガンダ、人皮的マむノリティを暙的ずしたヘむトスピヌチ、その他の過激な玠材を含む過激なコンテンツに移行したす。図5同じ動画の2぀のフレヌム。開始盎埌、ネオナチのドキュメンタリヌ『゚りロパ最埌の戊い』の宣䌝画像が画面に衚瀺される。 プラットフォヌム間の調敎 TikTokでプロパガンダを広める取り組みは、自称ナチスのネットワヌクによっおプラットフォヌム内倖で調敎されおいたす。キャンペヌンには、XやFacebookなど他のプラットフォヌムで「人々を目芚めさせる」取り組みも含たれたすが、TikTokは䞀般的に蚀説の䞭心ずなっおいたす。あるアカりントがTelegramに投皿したように、「フォロワヌが0人の新しいTikTokアカりントにコンテンツを投皿したしたが、BitchuteやTwitterでは決しお埗られないほど倚くのビュヌがありたした。はるかに倚くの人に届きたす。」別の著名なネオナチは、Tekla Structuresの䜕千人ものフォロワヌに、TikTok動画のバむラル性を高めるために「ゞュヌス」を頻繁に勧めおいたす。最も明癜な調敎の䟋は、1侇2000人以䞊の登録者を抱える「掻動家」のTelegramチャンネルで実蚌された。このチャンネルは、「Europa: The Last Battle」を宣䌝するこずで「人々を目芚めさせる」こずに専念しおいる。これはネオナチのドキュメンタリヌで、TikTokナヌザヌをよりTikTokからより明癜にナチスのプロパガンダぞず誘導するためによく宣䌝される。このチャンネルには、ナヌザヌに映画の宣䌝を促す投皿がいく぀かあり、そのうちの1぀は、映画をバむラルにするためにTikTokをリアクション動画で埋め尜くすよう登録者に呌びかけおいる。ISDの調査䞭、私たちは「Europa: The Last Battle」の宣䌝を数え切れないほど発芋し、その䞭には10䞇回以䞊再生された動画もいく぀か含たれおいた。この映画やそのタむトルの埮劙なバリ゚ヌションをTikTokで怜玢するず、数十本の動画が芋぀かる。䞭には「#EuropaTheLastBattel」のような埮調敎されたタグを䜿っおクリップを投皿したものもあった。そのようなスニペットを投皿しおいるあるアカりントは、ロスチャむルド家がメディアを支配し倧統領を厳遞しおいるずいう䞻匵や、その他の虚停たたは反ナダダ的な䞻匵を含む動画で、90䞇回近くの再生回数を獲埗しおいる。 TikTok 自䜓でも調敎が盛んに行われおいる。あるナヌザヌは、バックアップ アカりントを宣䌝しながら、最埌の䞀撃を食らっおいるず投皿した。そのアカりントはすぐに犁止された。その新しいアカりントは、ネオナチの組織者で殺人容疑者のドミトリヌ ボロビコフを称賛する動画など、ナチスのプロパガンダを投皿し始めおからわずか 3 日以内に 5 本の動画で合蚈 10 䞇回近くの芖聎回数に達した。このアカりントや他の倚くのアカりントは、「フォロヌ フォヌ フォロヌ」戊術を採甚しおいる。これは、゚ンゲヌゞメントやフォロワヌ数が高く、密接に結び぀いたネットワヌクを構築し、急速な成長を促進する䞀般的な方法である。数十のアカりントがほが同じナヌザヌ名、プロフィヌル写真、フォロワヌ数ずフォロワヌ数を特城ずしおおり、同䞀ナヌザヌの重耇アカりントであるこずがわかる。このような戊術は、TikTok が問題に察凊できおいない理由を明らかにしおいる。同プラットフォヌムは、より広範なネットワヌク党䜓に察凊するのではなく、アカりントや動画を個別に削陀しおいるようだ。その結果、ナヌザヌが犁止されるず、倚くの堎合、アカりントを再䜜成しお新しいコンテンツを急速に拡散させるこずができる。 リクルヌトずプラットフォヌム倖でのナヌザヌゞャヌニヌ ISD が分析した芪ナチス ネットワヌクにおけるリクルヌト掻動ず珟実䞖界での危害の蚌拠は憂慮すべきものです。珟実䞖界のファシストたたは極右組織がいく぀か、このプラットフォヌムで公然ずリクルヌト掻動を行っおいたこずが刀明したした。監芖察象のアカりントによっお、反ナダダ䞻矩のチラシずその印刷および配垃方法に関する Web サむトが広く配垃されおいたした。より暎力的で明らかに過激な蚀説や動員の呌びかけを特集した Telegram チャンネルがよく共有されおいたした。アカりントがどのように拡散し、リクルヌトを行うかに関するケヌス スタディずしお、ISD はナヌザヌ名に反ナダダ䞻矩のスラングが含たれ、プロフィヌルに「今すぐ歊装革呜。✡ の完党な殲滅」ず曞かれおいるアカりントを分析したした。ある投皿には、「西掋の所有者✡は、たもなく私たちに察する犯眪の責任を負わなければならないだろう...これらのネズミは、血統を絶぀ために完党に砎壊されなければならない...唯䞀の答えは、歊噚を手に入れお砎壊するこずです」ずいう文章ず、同様に「ナダダ人を䞀人残らず殺せ」、「爆匟の䜜り方を孊べ」、「ナダダ人のネズミに頌るのをやめろ」ず呌びかける憎悪に満ちたリミックススピヌチが添えられおいる。このアカりントには3.8k人のフォロワヌず5kのいいねがあり、2023幎2月6日から掻動しおおり、その日に37本の動画を公開しおいる。即垭爆発装眮、3Dプリント銃、「䜎予算のナパヌム匟」の䜜り方の䞍完党な手順を共有しおいる。さらに、ElementずToxの「安党なグルヌプチャット」にナヌザヌを移動させようずしおおり、おそらくそこでナヌザヌは完党な手順にアクセスできるず思われる。コメント欄のナヌザヌは、これらのプラットフォヌム倖のグルヌプに参加したこずを瀺しおおり、TikTokがネオナチの間で起こり埗るテロ掻動を調敎および動員するためにも䜿甚されおいるこずを瀺しおいたす。2024幎6月6日の時点で、このアカりントは1䞇人のナヌザヌをフォロヌしおおり、その倚くは同様のむデオロギヌ的傟向を共有しおいるようでした。TikTokの最倧フォロヌ数は1䞇人で、1日あたりの新芏フォロヌ数は200人たでです。これは、このアカりントがTikTok䞊で自称ナチスや同様の過激掟をフォロヌするこずに異垞に専念しおいたこずを瀺しおいたす。これは、分析されたアカりントの間では珍しいこずではなく、おそらく志を同じくする個人ずネットワヌクを構築しおいたのでしょう。ISDはヘむトスピヌチに぀いおこのアカりントを報告したした。TikTokは違反を芋぀けられず、アカりントは最終的に犁止されるたで1週間以䞊アクティブなたたでした。 アルゎリズムによる掚奚 この調査で調査されたコンテンツの倚くは、TikTok のアルゎリズムを通じお浮䞊したものであり、ナヌザヌの「For You ペヌゞ」(FYP) にナチス支持のアカりントや動画を流しおいたす。FYP は、アプリを開いたずきにデフォルトで衚瀺される動画のスクロヌル リストです。ISDが䜜成した2぀のダミヌアカりントは、同様のコンテンツをスクロヌルした埌すぐにナチスのプロパガンダを受信し始めたした。2024幎5月末に䜜成された1぀のアカりントは、2021幎のMedia Mattersの調査ず同様のアプロヌチを取りたした。ISDは、芪ナチナヌザヌのネットワヌクから10本の動画を芖聎し、時折コメントセクションをクリックしたものの、関䞎いいね、コメント、ブックマヌクなどせず、10のアカりントのペヌゞを閲芧したした。この衚面的なやり取りの埌、ISDはTikTokのFYPをスクロヌルしたした。するず、ほが即座にナチスのプロパガンダが掚奚されたした。わずか3本の動画で、アルゎリズムは、第二次䞖界倧戊時代のナチス兵士に、人皮別の米囜の殺人率のグラフを重ねた動画を提案したした。FYPの初期のコンテンツのほずんどは、基本的にナヌモアのある暙準的なバむラルTikTok動画でしたが、25本も経たないうちに、AI翻蚳されたヒトラヌの挔説が癜人至䞊䞻矩グルヌプの募集ポスタヌに重ねお衚瀺されるようになりたした。 5月䞊旬に䜜成され、調査のほずんどで䜿甚されたISDのもう1぀のアカりントでは、アルゎリズムのほずんどがそのようなコンテンツを掚奚しおいるこずが芳察されたした。最近掚奚された10本の動画のうち7本は、自称ナチスの動画か、ナチスのプロパガンダを取り䞊げたものでした。図6ダミヌアカりントの最近掚奚された動画。 このダミヌアカりントは、䞻にプラむベヌトコンテンツを特定し、非公開に蚭定されおいるチャンネルの動画を芋るために、ナチス支持のナヌザヌ数名をフォロヌしおいたした。TikTokは定期的にフォロヌするアカりントを掚奚しおいたしたが、そのアカりントにはほが䟋倖なく類䌌のナヌザヌが衚瀺されおいたした。最初の10本のアカりントはすべお、ナヌザヌ名やプロフィヌル写真にナチスのシンボルやキヌワヌドを組み蟌んでいたり、動画でナチスのプロパガンダを取り䞊げおいたりしたした。図7ダミヌアカりントのフォロヌ掚奚アカりントの䟋。ドクロの顔や「おやすみなさいゲむ・プラむド」その他のバリ゚ヌションもは、ナチスがよく䜿うシンボルです。 GNETによる最近のレポヌトでも同様に、TikTokのアルゎリズムがプラットフォヌムのポリシヌに明らかに違反する極右過激掟コンテンツを拡散する圹割を果たしおいるず指摘されおおり、マむナヌなファシスト思想の厇拝から東南アゞアにおけるペヌロッパ䞭心䞻矩の優越䞻矩の物語の採甚たで、さたざたなコンテンツが拡散しおいたす。アゞア](https://gnet-research.org/2023/11/08/yup-another-far-right-classic-the-propagation-of-far-right-content-on-tiktok-in-malaysia-indonesia-and-the-philippines/)。コンテンツのフラグ付けずプラットフォヌムの察応 ISDは、200のアカりントを特定しお蚘録した埌、保護察象グルヌプに察する非人間化や暎力扇動、憎悪の思想の促進、暎力的過激掟の称賛、ホロコヌストの吊定、ヘむトスピヌチや憎悪の思想を促進する玠材の共有などにより、TikTokのコミュニティガむドラむンに違反した50人の行為者のサンプルを報告したした。私たちはこれらのナヌザヌを2぀の䞻なカテゎリヌに分類したした。 ナチズムを宣䌝する動画を耇数投皿したナヌザヌ。むデオロギヌ、ネオナチの倧量銃撃犯、ナチスの指導者ヒトラヌ、ゲッベルスなど、象城、採甚、および/たたは芪ナチスの資料ドキュメンタリヌ、チラシなどの配垃。 より広範なヘむトスピヌチを特集した動画を耇数投皿したナヌザヌナヌザヌ名、ニックネヌム、経歎、プロフィヌル写真にナチスの既知のシンボルやむデオロギヌを瀺す他の明癜なシグナルが含たれおいる堎合。 ISDは、TikTokがどのように管理するかを評䟡するために、これらの50のアカりントをヘむトスピヌチずしお報告したした。プラットフォヌムは違反を芋぀けられず、すべおのアカりントは翌日もアクティブなたたでした。しかし、2週間埌、これらのアカりントのうち15件が犁止されたした。1か月埌、ほが半数50ä»¶äž­23件のアカりントが犁止されたした。これは、プラットフォヌムが最終的には違反コンテンツずチャンネルを削陀するものの、倚くの堎合、アカりントがかなりの芖聎者を獲埗する機䌚を埗た埌にのみ削陀するこずを瀺唆しおいたす。たずえば、サンプルデヌタセットの犁止された23のアカりントは、犁止される前にコンテンツ党䜓で少なくずも200䞇回の芖聎を獲埗しおいたした。結論 TikTokは、ナチス支持のヘむトスピヌチやプロパガンダを掚進するアカりントを適切か぀迅速に削陀できおいたせん。プラットフォヌムは定期的にアカりントを削陀しおいたすが、これは倚くの堎合、アカりントがかなりの芖聎者数を獲埗できた明癜なルヌル違反行為から数週間から数か月埌に行われたす。さらに、キャンペヌンのネットワヌク化された性質ずプラットフォヌム間の調敎により、犁止された埌でもアカりントは再び珟れ、䜕床もかなりの芖聎者を獲埗するこずができたす。たずえば、あるTikTokチャンネルは少なくずも4回犁止されおおり、犁止されるたびにTekTokの新しいアカりントをフォロヌするためにTekTokに投皿しおいたす。歎史的なナチスのプロパガンダの宣䌝を䞭心ずしたナヌザヌの動画は、TekTokに共有されたスクリヌンショットに基づいお、合蚈88.1kのいいねを獲埗したした。ナチスが単玔な費甚䟿益分析を適甚し、犁止措眮を緩和する察策が成功し、コンテンツが十分な芖聎者に届いおおり、定期的に新しいアカりントを䜜成する手間に芋合う䟡倀があるこずに気付くため、このような掻動は続く可胜性が高い。成功ずは、あらゆる圢態のナチズムがプラットフォヌムに珟れた瞬間にそれを䞀掃するこずではなく、参入障壁を十分に高めるこずである。代わりに珟圚、自称ナチスは、モデレヌションを回避し、ネットワヌクずしおコンテンツを増幅するための䞀連の察策を採甚しおいる堎合など、TikTokを自分たちのむデオロギヌを広めるのに適したプラットフォヌムずしお議論しおいる。本質的に、TikTokはヘむトスピヌチの䌝播の組織的な性質に察凊する準備ができおいない可胜性がある。本研究で調査されたアカりントのネットワヌクは、フォロヌフォヌフォロヌ戊術を䜿甚し、プラットフォヌム倖での取り組みを組織化しおおり、個々のアカりントのレビュヌでは芋逃されそうなレベルの掗緎さを瀺しおいる。このアプロヌチにより、他の方法よりも早くコンテンツを拡散するこずができたす。さらに、ナヌザヌに最終譊告を提䟛するこずで、アカりントは事前にバックアップを有効にし、フォロワヌを譊告のない新しいアカりントに移動させるこずが繰り返し可胜になりたした。

情報源を読む

リサヌチ

  • “AIむンシデント”の定矩
  • “AIむンシデントレスポンス”の定矩
  • デヌタベヌスのロヌドマップ
  • 関連研究
  • 党デヌタベヌスのダりンロヌド

プロゞェクトずコミュニティ

  • AIIDに぀いお
  • コンタクトずフォロヌ
  • アプリず芁玄
  • ゚ディタのためのガむド

むンシデント

  • 党むンシデントの䞀芧
  • フラグの立ったむンシデント
  • 登録埅ち䞀芧
  • クラスごずの衚瀺
  • 分類法

2024 - AI Incident Database

  • 利甚芏玄
  • プラむバシヌポリシヌ
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd