Incidente 1355: Se denuncian suplantaciones de identidad de pastores mediante inteligencia artificial utilizadas en estafas de donaciones y tráfico de influencias en línea.
Descripción: Comunidades religiosas en Estados Unidos y en el extranjero denunciaron la circulación de videos y audios clonados, supuestamente generados por IA, que suplantaban la identidad de pastores y líderes religiosos, incluido el padre Mike Schmitz, para solicitar donaciones y difundir sermones incendiarios. Las suplantaciones supuestamente utilizaban herramientas de voz sintética y semejanza, y se distribuían a través de plataformas como TikTok, Facebook y aplicaciones de mensajería. Parte del contenido no se identificó como generado por IA y fue tratado como auténtico por los espectadores.
Entidades
Ver todas las entidadesAlleged: Deepfake technology developers y Synthetic audio generation technology developers developed an AI system deployed by Scammers y Scammers impersonating religious figures, which harmed Mike Schmitz , Religious leaders , Religious institutions , Religious communities , Churches , Congregants , General public y Epistemic integrity.
Sistemas de IA presuntamente implicados: TikTok , Facebook , Instagram , Social media platforms , Messaging apps , Deepfake technology y Synthetic audio generation technology
Estadísticas de incidentes
ID
1355
Cantidad de informes
1
Fecha del Incidente
2026-01-05
Editores
Daniel Atherton
Applied Taxonomies
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
Informes del Incidente
Cronología de Informes
Loading...
El padre Mike Schmitz, sacerdote católico y podcaster, se dirigió a su congregación en noviembre, con más de 1,2 millones de suscriptores de YouTube, con una homilía inusual. Schmitz comentó que no siempre se podía confiar en las palabras q…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?