Incidentes Asociados
El violinista de Cabo Bretón, Ashley MacIsaac, sufrió la cancelación de un concierto y está preocupado por su seguridad tras afirmar que Google lo describió incorrectamente como delincuente sexual en un resumen generado por IA la semana pasada.
El viernes pasado, MacIsaac tenía previsto dar un concierto en la Primera Nación Sipekne'katik, un poco al norte de Halifax, cuando se enteró de que sus líderes habían cambiado de opinión. Según le informaron al Sr. MacIsaac, habían leído en línea que tenía condenas relacionadas con la captación de personas por internet y la agresión sexual.
Esa información es falsa y, posteriormente, se reveló que se debía a que el resumen de búsqueda generado por IA de Google combinaba la biografía de MacIsaac con la de otro hombre, que parece ser un residente de Terranova y Labrador con el mismo apellido. La Primera Nación Sipekne'katik se ha disculpado con MacIsaac y Google ha modificado los resultados de búsqueda del músico.
El error muestra las consecuencias imprevistas de la desinformación generada por IA en una época en la que las empresas tecnológicas compiten por el dominio de un sector en auge. "Google metió la pata y me puso en una situación peligrosa", declaró MacIsaac en una entrevista.
El violinista afirma que la experiencia le generó preocupación por su seguridad, temiendo que una víctima de agresión sexual podría reaccionar ante la información falsa y confrontarlo. También le preocupa el trabajo que podría haber perdido sin darse cuenta, si promotores y salas anteriores decidieron no contratarlo debido a la desinformación de los motores de búsqueda.
Las consecuencias profesionales podrían extenderse a su posibilidad de entrar a Estados Unidos para conciertos, dado el mayor escrutinio en redes sociales por parte de los agentes fronterizos. Considera su experiencia como una señal de alerta para los demás.
"Las personas deberían ser conscientes de que deben revisar su presencia en línea para ver si aparece el nombre de otra persona", dijo el Sr. MacIsaac.
El músico ganador del premio Juno saltó a la fama en los años noventa al fusionar la música celta de violín con elementos innovadores del hip hop, la música electrónica y el punk rock, aunque a veces generaba controversia por actuar y vivir de maneras que hoy se considerarían prosaicas, o por comentarios que más tarde llamaría sarcasmo.
El único registro público disponible de un incidente del Sr. MacIsaac con la ley se refiere a la posesión de cannabis hace más de dos décadas, por lo que se le exoneró de la pena.
La Primera Nación Sipekne'katik declaró el viernes pasado, en su disculpa al Sr. MacIsaac, que sería bienvenido a actuar en su comunidad en el futuro.
"Lamentamos profundamente el daño que este error causó a su reputación, sus medios de vida y su seguridad personal", escribió Stuart Knockwood, director ejecutivo de la Primera Nación, en nombre de su jefe y consejo. Representantes de la Primera Nación Sipekne'katik no respondieron a las solicitudes de comentarios.
La carta, que el Sr. MacIsaac compartió con The Globe and Mail, continuaba: "Para nosotros es importante dejar claro que esta situación fue el resultado de una identidad errónea causada por un error de IA, no un reflejo de quién es usted".
La información que aparece en los resultados de búsqueda de Google sobre el nombre del Sr. MacIsaac ha sido fluida desde que lo publicó en redes sociales la semana pasada. Buscar solo el nombre del Sr. MacIsaac ya no muestra una biografía generada por IA. El jueves, una búsqueda que incluía tanto su nombre como una ciudad relacionada con el otro Sr. MacIsaac arrojó un resultado que indicaba que había sido "condenado por agresión sexual". Ese resumen ya no aparece.
En un correo electrónico, la portavoz de Google, Wendy Manton, declaró: «La búsqueda, incluyendo las vistas generales de IA, es dinámica y cambia con frecuencia para mostrar la información más útil. Cuando surgen problemas, como si nuestras funciones malinterpretan el contenido web o pierden contexto, utilizamos esos ejemplos para mejorar nuestros sistemas y podemos tomar medidas conforme a nuestras políticas».
Internet se encuentra en una profunda reestructuración a medida que las empresas adoptan la IA generativa en sus productos. Google, una de las empresas más valiosas del mundo, se ha apresurado a incluir resúmenes de búsqueda generados por IA para mantener su liderazgo, con servicios como ChatGPT de OpenAI pisándole los talones. Medios de comunicación canadienses, como The Globe and Mail, demandaron a OpenAI en 2024 por presunta violación de la ley de derechos de autor al extraer contenido de noticias patentado sin consentimiento ni pago para entrenar sus modelos.
Clifton van der Linden, profesor asociado de la Universidad McMaster y experto en desinformación generada por IA, describió la situación del Sr. MacIsaac como consecuencia de un cambio en las expectativas del público sobre los motores de búsqueda en la era de la IA.
"Estamos observando una transición en los motores de búsqueda: de navegadores de información a narradores", afirmó el profesor van der Linden. Diría que hay evidencia que sugiere que los usuarios comunes consideran los resúmenes generados por IA como fiables.
Esto, afirma, puede tener consecuencias perniciosas. Pero la actual carrera armamentística de la IA, añade, no incentiva la precisión; al contrario, incentiva a empresas como Google a mantener su dominio.
Google quiere replicar la estrategia que lo llevó a ser el motor de búsqueda predeterminado del mundo: generar un retorno lo suficientemente fiable para un segmento suficiente de la población como para convertirse en el motor de búsqueda predeterminado al que la gente recurre para encontrar información.