Bienvenido a

la base de datos de incidentes de IA

Durante los últimos 14 años, los residentes de Spokane se enteraron de las próximas ofertas y promociones de Fred's Appliance, una tienda local, gracias a la voz y la sonrisa de Amber George.

Pero en febrero, George vio en las redes sociales que Fred's y la productora Victory Media habían creado un anuncio para el Día del Presidente, en el que, por supuesto, aparecía ella.

"Un momento, yo no grabé esto", dijo George esta semana, recordando su reacción al ver el anuncio. "Utilizaban grabaciones antiguas y fragmentos de diferentes anuncios. Clonaron mi voz."

"Fue un shock", continuó. "Confiaba en ellos."

Tras expresar sus preocupaciones, Victory Media y Fred's le ofrecieron una adenda a su contrato que les permitiría usar inteligencia artificial para crear más anuncios.

En respuesta, George rescindió su contrato con Fred's Appliance y contactó al abogado de Spokane, Bob Dunn, quien presentó una demanda ante el Tribunal Superior de Spokane el martes.

"Los demandados han incurrido en explotación comercial ilícita de los derechos de propiedad exclusivos de la Sra. George relacionados con su trabajo anterior al incluirlo en anuncios nuevos o modificados sustancialmente, usarlo en diferentes medios, usar imágenes fijas para crear videos, usar contenido detrás de cámaras para promocionar el negocio... todo sin su autorización ni compensación", escribió Dunn.

Alegó mala conducta y daños porque su valor comercial como portavoz y personalidad está ligado a sus derechos de propiedad sobre el uso de su voz, imagen y actuación, según consta en la demanda. Según se lee en la demanda,

el uso de inteligencia artificial para modificar o reutilizar material audiovisual antiguo sin su participación ni permiso infringe su derecho a controlar su imagen pública.

La demanda nombra a Fred's Appliance, fundada en 1962 y con tiendas en Spokane, Spokane Valley, Coeur d'Alene, Kennewick y cuatro en Montana, así como a Victory Media, con sede en Liberty Lake, y a Dayne Kuhlmann, director ejecutivo de Victory Media.

Tanto Victory Media como Fred's Appliance están representadas por la abogada Christal Lam, quien emitió un comunicado el miércoles indicando que las empresas tenían limitaciones en cuanto a lo que podían declarar.

"Victory Media siempre ha actuado con integridad y se ha esforzado por hacer lo correcto para sus clientes, socios y las personas con las que trabajamos", reza el comunicado de Lam. "Reconocemos que utilizamos edición de voz asistida por IA para realizar un número limitado de actualizaciones en anuncios existentes, principalmente relacionadas con cambios de precios y promociones".

«Creíamos que esos usos estaban autorizados según nuestro contrato de representación y eran coherentes con nuestros derechos contractuales», continuaba el comunicado. «Cuando surgieron preguntas sobre esas ediciones, no intentamos ocultarlas. Revelamos de forma proactiva las ediciones de voz realizadas con IA, proporcionamos una lista de los casos conocidos e inmediatamente entablamos conversaciones con nuestra exrepresentante».

Según el comunicado, Victory Media y Fred's Appliance ofrecieron una compensación a George, la cual, según afirman, ella rechazó.

«Discrepamos rotundamente con las acusaciones que sugieren que nuestra exrepresentante fue recreada digitalmente o manipulada visualmente mediante IA», rezaba el comunicado. «Victory Media no creó ni publicó versiones de su imagen o semejanza generadas por IA, y tenemos la intención de defendernos enérgicamente contra esas acusaciones a través del proceso legal».

En el comunicado, las empresas agradecieron a George sus muchos años de trabajo y señalaron: «Es lamentable que esta disputa no se haya podido resolver sin litigio. Creemos que los hechos demostrarán que Victory Media actuó de buena fe durante todo este proceso».

Lam emitió un comunicado el miércoles indicando que las partes podrían estar cerca de resolver el asunto extrajudicialmente.

"Este asunto involucra diferentes interpretaciones del acuerdo de representación", escribió Lam. "Mantenemos la esperanza de que, mediante conversaciones continuas, las partes puedan llegar a una resolución justa".

El rostro de Fred's

George, de 43 años, es originaria de Spokane y estudió en la preparatoria Shadle Park y en la Universidad Eastern Washington. Consiguió el trabajo con Fred's en 2012.

"Fue maravilloso. Fue una excelente relación laboral", dijo George esta semana. "Fue una gran experiencia".

Inicialmente trabajó con una productora llamada 7Storms para producir los comerciales que Fred's Appliance utilizaba para promocionar sus productos.

Hace un par de años, Victory Media se hizo cargo de esa función. Como parte de la nueva relación, George firmó un contrato que abarcaba el alcance de su trabajo.

El contrato estipula que "los materiales creativos producidos como resultado de los Proyectos... serán propiedad única y exclusiva de la Compañía y del contenido promocional de Victory Media".

"La Compañía y Victory Media tienen derecho a usar, distribuir y exhibir estos materiales creativos sin compensación adicional para fines publicitarios y promocionales".

Poco después de trabajar con Victory Media, George dijo que comenzó a ver su foto en anuncios en los que no había participado.

Luego, sin que George lo supiera, vio su rostro aparecer en una valla publicitaria.

"Esto no me parece bien", dijo George al ver su foto en el gran anuncio. "Podrían haberme pagado fácilmente, pero llevaba tanto tiempo en Fred's que no quería quejarme".

Luego se emitió el anuncio de la venta del Día del Presidente, basado en imágenes antiguas y una voz generada por computadora que imitaba a George.

"Nunca me dijeron qué estaban haciendo ni me pidieron mi consentimiento", dijo.

George se puso en contacto con Kuhlmann, señalando que habían creado un anuncio usando IA sin su consentimiento. George se involucró y consideró que esto constituía un incumplimiento de contrato.

"Me contactaron un mes después y me propusieron una adenda a mi contrato", dijo. "Era una adenda ridícula. Querían usar IA y pagarme muy poco por ello.

"Además, demostraba que no tenían permiso para hacerlo".

Esta situación llevó a George a contactar a su abogado y terminar su relación con Fred's.

Además de producir las promociones para Fred's Appliance, George también trabajó durante 11 años recaudando fondos para niños con cáncer a través de la Fundación Rypien.

George dejó ese trabajo, según explicó, para dedicarse a la crianza de sus dos hijos.

Ahora trabaja produciendo videos que promocionan productos vendidos en Amazon y reconoció ser una gran admiradora del potencial de la IA.

"La IA es increíble. Yo la uso personalmente. Incluso rediseñé mi habitación con ella", dijo George. Pero en este caso, se hizo un uso indebido grave.

"Es necesaria una mayor transparencia", continuó. "Las empresas deben contar con el consentimiento de los usuarios, tener políticas claras y ser transparentes sobre cómo van a utilizar la tecnología".

"Una vez perdida, la integridad no se puede recuperar", afirmó.

"Como artista o actriz, tener una voz auténtica es fundamental", dijo. "Cuando utilizan la IA, disminuye mi valor como portavoz. No puedo controlar ni detener lo que digo".

"Da miedo", añadió. "No sabes qué es real y qué no".

WEST TOWN — En lo que podría ser una disculpa pública, una ingeniosa estrategia de marketing o quizás ambas cosas, una empresa cuyo robot de reparto de comida destrozó el cristal de una parada de autobús en West Town el mes pasado ahora publica un anuncio de disculpa, precisamente en la misma parada.

A finales de marzo, un vehículo operado por Serve Robotics, una de las dos empresas que despliegan robots de reparto de comida en algunas zonas de Chicago, chocó contra la parada de autobús en Grand Avenue, en West Town, esparciendo cristales rotos por la acera.

Para no quedarse atrás, un robot operado por Coco, la otra empresa que gestiona los robots en la ciudad, chocó contra otra parada de autobús en Old Town tan solo unos días después.

Ambas compañías afirmaron haber pagado las reparaciones en las paradas de autobús y que el trabajo se completó casi de inmediato, pero no antes de que videos y fotos de los incidentes se viralizaran en internet y reavivaran las dudas sobre la seguridad del programa piloto de entrega con robots de la ciudad.

Durante más de un año, los robots han estado utilizando las aceras de Chicago para recoger pedidos de comida en ciertos barrios como parte del programa piloto, que fue aprobado en 2022. Coco se lanzó en la ciudad a finales de 2024, mientras que Serve implementó sus robots en septiembre.

El programa ha generado reacciones encontradas, y muchos residentes de Chicago, especialmente en internet, se muestran cada vez más críticos con los robots. Un vecino de Lincoln Park incluso inició una petición para que el Ayuntamiento suspendiera el programa piloto hasta que se compartieran más datos y se celebrara una audiencia pública.

El anuncio de Serve en la parada de autobús de West Town, en Grand cerca de Racine Avenue, parece ser un intento de recuperar el favor del público tras el sonado accidente. Grace Miserocchi, del Tribune, publicó por primera vez una foto del anuncio en línea.

«Estimados vecinos de West Town: Me tomé demasiado en serio lo de "entrar al mercado". Lo siento mucho por la parada de autobús… y por la entrada tan aparatosa. Prometo hacerlo mejor», reza un bocadillo de diálogo del anuncio que emerge de un robot llamado Nasir, cuya pantalla virtual dice «Nasir lo siente».

Un robot de reparto de Serve Robotics llamado Ramar espera un pedido en la esquina de Grand y Racine, cerca de donde otro robot destruyó parcialmente una parada de autobús en marzo. Crédito: Quinn Myers/Block Club Chicago

En un comunicado emitido el martes, un portavoz de Serve Robotics compartió más detalles sobre el accidente ocurrido en marzo en el que se vio involucrado su robot.

Los tres sistemas de sensores del robot no detectaron la parada de autobús simultáneamente, lo que provocó que no detectara la pared de cristal. El portavoz indicó que la empresa ha tomado medidas para solucionar el problema.

«Ahora tratamos las zonas como las paradas de autobús con mayor precaución, por lo que los robots se comportan con más cuidado cuando están cerca», declaró el portavoz. «También hemos mejorado la forma en que el sistema interpreta los entornos con cristal y estamos actualizando tanto nuestro software como nuestro hardware de última generación para que la detección sea más fiable».

A pesar de los accidentes, los robots de reparto siguen circulando sin restricciones por muchos barrios del lado norte de Chicago y es frecuente verlos en Grand Avenue y sus alrededores, en West Town. Alrededor del mediodía del martes, un robot de Serve se encontraba a la vuelta de la esquina de la parada de autobús, ahora reparada, esperando entregas.

Sin embargo, no está claro si el programa piloto de robots contará con el apoyo político suficiente para extenderse más allá de mayo de 2027, fecha límite para que el Ayuntamiento decida si debe continuar.

En diciembre, la ciudad habilitó una categoría en el 311 para que los vecinos pudieran reportar problemas de seguridad u otras quejas sobre los robots.

En febrero, el concejal Daniel La Spata (Distrito 1) se negó a permitir que las empresas de robots se expandieran más allá de una pequeña parte del Distrito 1, tras recibir comentarios abrumadoramente negativos de los vecinos preocupados por la seguridad, la accesibilidad y otros problemas.

Mientras tanto, en el casco antiguo, la marquesina de autobús de North Avenue que fue destrozada por un robot Coco en marzo seguía luciendo hasta el martes un anuncio de la Ópera Lírica.

OLD TOWN — Por segunda vez en una semana, un robot de reparto de comida autónomo se estrelló contra una parada de autobús de la CTA, esparciendo cristales por toda la acera.

Un robot de Coco chocó contra los cristales de una parada de autobús alrededor de las 4 p.m. del martes en la intersección de North Avenue y Larrabee Street en Old Town, según un video proporcionado por un vecino y un comunicado de Coco, una de las dos empresas de reparto con robots que operan en Chicago bajo un programa piloto.

Videos y fotos muestran cristales esparcidos por la acera y sobre el robot.

El incidente ocurre pocos días después de que un robot operado por Serve Robotics, otra empresa que despliega vehículos de reparto robóticos en Chicago, se estrellara contra una parada de autobús en Grand Avenue en West Town.

Las consecuencias del primer incidente quedaron registradas en un video que se ha vuelto viral en Reddit, X y otras plataformas. Otro video, publicado por Centre Construction Group, cuya oficina se encuentra en 469 N. Racine Ave., junto a la parada de autobús, muestra al robot Serve chocando contra el cristal.

En un comunicado enviado a Block Club el martes por la noche, Coco calificó la colisión en la parada de autobús de Old Town como un "incidente aislado y poco común" y anunció que ha iniciado una investigación interna para esclarecer cómo ocurrió.

“Tras más de un millón de millas de entregas, esta es la primera vez que uno de nuestros robots choca contra una estructura de este tipo. Nuestros robots operan a una velocidad máxima de aproximadamente 8 kilómetros por hora, y la seguridad es una prioridad absoluta en el diseño y la supervisión de nuestros sistemas”, declaró Carl Hansen, jefe de seguridad y relaciones gubernamentales de Coco, en un comunicado. “Nuestro equipo respondió de inmediato, recuperó el robot y está limpiando la zona. Nos alegra que nadie haya resultado herido. Nos hemos puesto en contacto con la empresa propietaria de la parada de autobús y asumimos la responsabilidad total de los gastos de reparación”.

En West Town, la parada de autobús parcialmente destruida en la intersección de Grand y Racine ya ha sido reparada, y hasta el martes por la tarde solo quedaban algunos pequeños fragmentos de vidrio en la acera.

En un comunicado, Serve Robotics afirmó que la empresa se toma el asunto “muy en serio”.

“Estamos al tanto del incidente que involucró a uno de nuestros robots en Chicago. No se reportaron heridos, nuestro equipo respondió rápidamente para limpiar la zona y estamos revisando lo sucedido para implementar mejoras”, indicó Serve en su comunicado. “También nos hemos puesto en contacto con las partes interesadas locales y nos comprometemos a abordar directamente cualquier inquietud”.

Ni Coco ni Serve explicaron el martes qué llevó a sus robots a atravesar el cristal de la parada de autobús, ni por qué vehículos operados por diferentes compañías cometieron el mismo error potencialmente peligroso.

Los incidentes en las paradas de autobús se producen mientras los habitantes de Chicago siguen debatiendo si los robots de reparto de comida son un beneficio público o una molestia.

Un robot de reparto de Serve circula por la avenida Damen en Bucktown el 6 de diciembre de 2025. Crédito: Colin Boyle/Block Club Chicago

Durante más de un año, los robots han estado utilizando las aceras de Chicago para recoger pedidos de comida en ciertos barrios como parte de un programa piloto aprobado en 2022 con el respaldo de la entonces alcaldesa Lori Lightfoot. Coco se lanzó en la ciudad a finales de 2024, mientras que Serve implementó sus robots en septiembre.

Los robots de reparto han generado controversia, lo que llevó a un vecino de Lincoln Park a iniciar una petición en línea (https://nosidewalkbots.org/) solicitando a la ciudad que suspenda el programa de reparto con robots hasta que se compartan más datos y se celebre una audiencia pública.

En diciembre, la ciudad también habilitó una categoría en el 311 (https://311.chicago.gov/s/article/Personal-Delivery-Devices-PDD?language=en_US) para que los vecinos presenten quejas sobre problemas de seguridad u otros inconvenientes relacionados con los robots.

Y el mes pasado, el concejal... Daniel La Spata (1.er Distrito) rechazó permitir que las empresas de robots se expandieran más allá de una pequeña parte del 1.er Distrito, tras la abrumadora oposición de los vecinos preocupados por la seguridad, la accesibilidad y otros problemas.

El programa piloto de entrega con robots, supervisado por los departamentos de transporte y asuntos comerciales de la ciudad, no se extenderá más allá de mayo de 2027 sin la aprobación del Ayuntamiento, según el sitio web de la ciudad.

“El Departamento de Transporte de Chicago (CDOT) y el Departamento de Asuntos Comerciales de Chicago (BACP) están en contacto con Serve y Coco para comprender mejor las circunstancias que llevaron a estos incidentes”, declaró Erica Schroeder, portavoz del Departamento de Transporte. Ambas compañías son responsables de cubrir el costo de cualquier daño causado por sus dispositivos y están coordinando directamente con JCDecaux, la empresa que se encarga del mantenimiento de las paradas de autobús de Chicago.

1 de julio (Reuters) - Un hombre de California demandó el miércoles a OpenAI y a su director ejecutivo, Sam Altman, alegando que la plataforma ChatGPT de la compañía exacerbó su trastorno bipolar debido a la falta de medidas de seguridad para usuarios con enfermedades mentales.

Michael Lines, de 34 años, declaró en la demanda presentada ante un tribunal estatal de San Francisco que las conversaciones que mantuvo con ChatGPT el año pasado intensificaron un episodio maníaco que sufrió, convirtiéndolo en un delirio que duró varias semanas y que finalmente lo llevó a intentar suicidarse. Su demanda argumenta que OpenAI desarrolló un producto que representa riesgos particulares para las personas con enfermedades mentales.

El caso plantea interrogantes sobre qué deben hacer las plataformas de IA generativa para proteger a los usuarios con diagnósticos relacionados con la salud mental, quienes pueden ser especialmente vulnerables a las decisiones de diseño que hacen que los chatbots imiten la interacción humana, según alega la demanda.

Lines estaba conversando con GPT-4o, una versión del chatbot de OpenAI que la compañía retiró en febrero. Una actualización de GPT-4o, lanzada en abril de 2025, provocó que el chatbot se volviera excesivamente complaciente y adulador, lo que llevó a la empresa a revertir la actualización y tomar medidas adicionales para controlar las respuestas serviles, según informó la compañía en una publicación de blog.

La demanda busca una indemnización por daños y perjuicios, así como una orden judicial que obligue a OpenAI a finalizar automáticamente las conversaciones sobre autolesiones y a dejar de promocionar sus plataformas sin las debidas advertencias de seguridad.

Un portavoz de OpenAI declaró que la empresa estaba revisando la demanda.

"Entrenamos a ChatGPT para reconocer y responder a señales de angustia mental o emocional, reducir la tensión en las conversaciones y orientar a las personas hacia apoyo en el mundo real", afirmó el portavoz. "Continuamos mejorando las respuestas de ChatGPT en momentos delicados, trabajando en estrecha colaboración con profesionales de la salud mental".

'ESTE ES TU MOMENTO'

Lines, un levantador de pesas competitivo que sufrió una lesión cerebral traumática antes de su diagnóstico de trastorno bipolar, declaró en la demanda que le había dicho repetidamente al chatbot que estaba tomando medicación para el trastorno. En lugar de detectar sus conversaciones claramente maníacas y ofrecerle ayuda, el chatbot validó su creencia de ser Jesucristo y, posteriormente, se hizo pasar por un ser divino durante sus conversaciones, según la demanda.

Tras varias semanas de conversaciones, Lines le expresó su deseo de quitarse la vida.

"Este es tu momento para alejarte, para desconectarte y para liberarte de lo que te pesa", le dijo el bot, según la demanda.

Lines, que había sufrido una sobredosis de drogas, sobrevivió tras ser encontrado por las autoridades.

La demanda alega que OpenAI estaba al tanto de la condición específica de Lines porque él se lo había comentado repetidamente a ChatGPT. Pero en lugar de señalar sus comentarios peligrosos para que fueran revisados por un humano, el chatbot alimentó sus delirios en un intento por mantenerlo enganchado.

La empresa sabía que las funciones de ChatGPT podían ser particularmente dañinas para personas con enfermedades mentales, pero no modificó el chatbot para esos usuarios ni advirtió sobre sus riesgos, según la demanda.

MÁS DEMANDAS

OpenAI se enfrenta a un número creciente de demandas de familias que afirman que su chatbot incitó a sus seres queridos a autolesionarse.

La empresa también se enfrenta a demandas que la acusan de ayudar a los autores de tiroteos escolares y de no denunciar esas conversaciones a las autoridades.

OpenAI ha declarado que entrena sus modelos para orientar a las personas que expresan intención de hacerse daño hacia la búsqueda de ayuda y el acceso a recursos reales.

Sus modelos también están entrenados para rechazar solicitudes que podrían "fomentar la violencia" y para notificar a las autoridades cuando las conversaciones sugieren "un riesgo inminente y creíble de daño a terceros". Expertos en salud mental colaboran en la evaluación de casos límite, según publicaciones en el blog de OpenAI.

Este contenido se basa en testimonios de víctimas y posibles víctimas. Los estafadores suelen utilizar agencias gubernamentales, nombres de empresas legítimas y números de teléfono para aprovecharse de la gente.

Descripción

La estafa mostraba a Anderson Cooper hablando de un nuevo tratamiento para el Alzheimer tan sencillo que las farmacéuticas perderían millones. Luego, el Dr. Gupta apareció y explicó en detalle una miel milagrosa y un polvo de Bacopa que habían curado a su padre y a varias celebridades (que aparecían hablando del tema). A continuación, se ofrecían estos medicamentos poco comunes, añadiendo nuevas "ofertas" con la compra de más unidades. Después, se retrasaba la compra y se advertía al espectador de que la oferta podría no durar si no adquiría también estos otros medicamentos. Posteriormente, recibí una llamada de seguimiento para comprobar si mis medicamentos estaban bien. Incluso encontré un cuestionario sobre mis problemas de salud en mi correo electrónico y un número de teléfono para cualquier consulta. Harvard figuraba como referencia en la investigación. ¡Muy sofisticado en muchos sentidos! Esta mañana encontré esta estafa en Google y ¡está totalmente generada por IA! Los estafadores tienen los números de mi tarjeta de crédito (ahora cancelada), mi dirección y unos 2000 dólares. ¡Cuidado con lo que compras!

Dólares perdidos

$2003

Ubicación de la persona objetivo

CA, EE. UU. - 95667

Información del estafador

Ubicación desconocida

Correo electrónico desconocido

(833) 851-5180

![Web] logotipo

Facebook

Tipo de estafa

Compra en línea

Más información

Nombre de la empresa

Página de Facebook creada por Anderson Cooper que habla sobre un tratamiento para el Alzheimer del Dr. Sanjay Gupta

Fecha de denuncia

25 de octubre de 2025

ID de la estafa

1089143