Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Traducido por IA

Incidente 880: Estafadores utilizan deepfakes de expertos en salud y figuras públicas en Australia para vender suplementos y dar consejos perjudiciales.

Traducido por IA
Descripción:
Traducido por IA
Según informes, estafadores están utilizando deepfakes generados por IA de expertos en salud y figuras públicas en Australia para vender suplementos y dar consejos perjudiciales sobre la salud. Entre los casos reportados, se alega que los deepfakes muestran falsamente a Jonathan Shaw y Karl Stefanovic promocionando "Glyco Balance" para el control de la diabetes, mientras que Karl Kruszelnicki, según informes, aparece promocionando falsamente pastillas para la presión arterial.
Editor Notes: See also Incident 1076 for a variant of this incident ID, along with more information. Incidents 880 and Incident 1076 are closely related. Reconstructing the timeline of events for this ID: (1) November 2023: A fabricated interview transcript, allegedly attributed to Prof. Jonathan Shaw, is published online. The transcript reportedly claims he endorsed "Glyco Balance" as a breakthrough treatment for type 2 diabetes, and (2) AI-generated videos allegedly featuring Shaw and television host Karl Stefanovic appear on Facebook, promoting "Glyco Balance" with claims that reportedly misrepresent the effectiveness of the supplement and criticize established medications like metformin. (3) Earlier in 2024: Similar AI technology is reportedly used to create deepfake videos of Dr. Karl Kruszelnicki endorsing unproven blood pressure medications. These ads are widely circulated on Facebook and Instagram. (4) November 29, 2024: Meta removes the deepfake video of Shaw following a complaint from the Baker Institute. The removal reportedly required the filing of an intellectual property infringement claim. (5) December 9, 2024: The Australian Broadcasting Corporation publishes a report detailing these incidents.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Alleged: Unknown deepfake technology developer developed an AI system deployed by scammers, which harmed Karl Stefanovic , Karl Kruszelnicki , Jonathan Shaw , General public y Diabetes patients.
Sistema de IA presuntamente implicado: Unknown deepfake app

Estadísticas de incidentes

ID
880
Cantidad de informes
1
Fecha del Incidente
2024-12-09
Editores
Daniel Atherton
Applied Taxonomies
MIT

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

4.3. Fraud, scams, and targeted manipulation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Malicious Actors & Misuse

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Intentional

Informes del Incidente

Cronología de Informes

+1
Estafadores utilizan videos de médicos generados por IA para vender suplementos y consejos de salud nocivos - ABC News
Estafadores utilizan videos de médicos generados por IA para vender suplementos y consejos de salud nocivos - ABC News

Estafadores utilizan videos de médicos generados por IA para vender suplementos y consejos de salud nocivos - ABC News

abc.net.au

Estafadores utilizan videos de médicos generados por IA para vender suplementos y consejos de salud nocivos - ABC News
abc.net.au · 2024
Traducido por IA

Un experto en diabetes se vio obligado a tranquilizar a sus pacientes diciéndoles que estaban tomando la medicación adecuada después de ver un vídeo generado por IA en el que describía a las personas que recetaban el fármaco como "idiotas".…

Variantes

Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?

Incidentes Similares

Selected by our editors

Purported Unauthorized Deepfakes of Norman Swan and Others Circulated in Online Supplement Campaigns

May 2025 · 1 informe
Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Australian Automated Debt Assessment System Issued False Notices to Thousands

Australian Automated Debt Assessment System Issued False Notices to Thousands

Jul 2015 · 39 informes
Defamation via AutoComplete

Defamation via AutoComplete

Apr 2011 · 28 informes
Passport checker Detects Asian man's Eyes as Closed

Passport checker Detects Asian man's Eyes as Closed

Dec 2016 · 22 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Selected by our editors

Purported Unauthorized Deepfakes of Norman Swan and Others Circulated in Online Supplement Campaigns

May 2025 · 1 informe
Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Australian Automated Debt Assessment System Issued False Notices to Thousands

Australian Automated Debt Assessment System Issued False Notices to Thousands

Jul 2015 · 39 informes
Defamation via AutoComplete

Defamation via AutoComplete

Apr 2011 · 28 informes
Passport checker Detects Asian man's Eyes as Closed

Passport checker Detects Asian man's Eyes as Closed

Dec 2016 · 22 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 69ff178