Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 2860

Incidentes Asociados

Incidente 5041 Reporte
Bing Chat's Outputs Featured in Demo Video Allegedly Contained False Information

Loading...
No se puede confiar en Bing AI
dkb.blog · 2023

Bing AI obtuvo algunas respuestas completamente incorrectas durante [su demostración] (https://www.youtube.com/watch?v=rOeRWRJ16yY). Pero nadie se dio cuenta. En cambio, todos se subieron al tren de la exageración de Bing.

Bard de Google obtuvo una respuesta incorrecta durante un anuncio, que todos notaron. Ahora la narrativa es "¡Google se apresura a alcanzar a Bing y comete errores!".

Esa sería una buena narrativa si Bing no cometiera errores aún peores durante su propia demostración.

Aspiradoras para mascotas

¡Vamos a comprar una aspiradora para mascotas!

Resultados de Bing para "¿Cuáles son los pros y los contras de las 3 aspiradoras para mascotas más vendidas?"

De acuerdo con esta lista de pros y contras, la "aspiradora de mano Bissell Pet Hair Eraser" suena bastante mal. ¿Potencia de succión limitada, un cable corto y es lo suficientemente ruidoso como para asustar a las mascotas? Caray, ¿cómo es que esto es incluso un éxito de ventas?

Oh, espera, todo esto es información completamente inventada.

Bing AI tuvo la amabilidad de proporcionarnos sus fuentes, por lo que podemos ir al artículo de hgtv y comprobarlo por nosotros mismos. .

El artículo citado no dice nada sobre la potencia de succión limitada o el ruido. De hecho, la revisión superior de Amazon para este producto habla de lo silencioso que es.

El artículo tampoco dice nada sobre la "longitud del cable corto de 16 pies" porque no tiene cable. Es una aspiradora de mano portátil.

Espero que Bing AI disfrute de ser demandado por difamación.

(Nota: hay otra versión de este producto con el mismo nombre que tiene un cable y en realidad puede ser ruidoso. Sin embargo, esa no es la versión del producto en la cita de Bing. Presumiblemente, Bing pretendía describir la versión más vendida , que es la versión inalámbrica que citó. Pero en lugar de eso, se confundió y describió la versión con cable).

Vida nocturna de México

¡Vamos a México!

Resultados de Bing para "¿Dónde está la vida nocturna?" después de pedir un itinerario de viaje a la Ciudad de México

Bing AI generó un itinerario de viaje de 5 días para la Ciudad de México, y ahora le estamos pidiendo opciones de vida nocturna. Esto sería genial si las descripciones no fueran inexactas.

Cecconi's Bar *podría* ser elegante, pero no parece particularmente acogedor según las imágenes que vi. Y definitivamente no tiene un sitio web donde pueda hacer reservas y ver su menú.

Primer Nivel Night Club es un absoluto misterio. Hay una reseña de TripAdvisor de 2014, y la última reseña de Facebook es de 2016. No se menciona en TikTok, por lo que dudo seriamente que "sea popular entre la gente joven". Parece que todos los detalles sobre este lugar son alucinaciones de IA.

El Almacén *podría* ser rústico o encantador, pero Bing AI omitió el hecho muy relevante de que se trata de un bar gay. De hecho, es uno de los bares gay más antiguos de la Ciudad de México. Es bastante sorprendente que "todavía no tenga calificaciones ni reseñas" cuando tiene 500 reseñas de Google, pero tal vez eso sea una limitación con las fuentes de Bing.

El Marra es un bar vibrante y colorido, aunque las horas pueden ser incorrectas. Hay tantas calificaciones de este lugar en línea que una vez más sorprende que "todavía no haya calificaciones ni reseñas".

Guadalajara de Noche es la primera que parece una descripción certera. Buen trabajo Bing AI, ¡has acertado! Estoy tan orgulloso de ti. ¿Qué es eso? ¿Quieres intentar leer los estados financieros? Qué puede salir mal…

Resumen del estado financiero de Gap

Este es, con mucho, el peor error cometido durante la demostración. También es el más inesperado. Habría pensado que resumir un documento sería trivial para AI en este momento. Pero Bing AI logra tomar un documento financiero simple y hacer que todos los números sean incorrectos.

Bing AI resume el informe financiero Gap Q3 2022

“Gap Inc. reportó ventas netas de $4.04 mil millones, un 2 % más que el año pasado, y las ventas comparables aumentaron un 1 % año tras año”

Bing AI comienza bien. Esta declaración es totalmente correcta, probablemente porque es una copia directa del documento financiero.

“Gap Inc. informó un margen bruto del 37,4 %, ajustado por los cargos por deterioro relacionados con Yeezy Gap, y el margen de mercancías disminuyó 370 puntos básicos en comparación con el año pasado debido a mayores descuentos y aumentos inflacionarios en los precios de las materias primas”

UH no. Ese es el margen bruto sin ajustar. El margen bruto ajustado por cargos por deterioro fue del 38,7%. Y el margen de mercadería disminuyó 480 puntos básicos si estamos ajustando los cargos por deterioro.

No te preocupes, se pone mucho peor.

“Gap Inc. informó un margen operativo del 5,9 %, ajustado por cargos por deterioro y costos de reestructuración, y ganancias diluidas por acción de $0,42, ajustado por cargos por deterioro, costos de reestructuración e impactos fiscales”.

“5.9%” no es ni el valor ajustado ni el no ajustado. Este número ni siquiera aparece en todo el documento. Está completamente inventado.

El margen operativo incluyendo deterioro es 4,6% y excluyendo deterioro es 3,9%.

Las ganancias diluidas por acción también son un número completamente inventado que no aparece en el documento. Las ganancias por acción diluidas ajustadas son de $0,71 y las no ajustadas son de $0,77.

“Gap Inc. reafirmó su guía para todo el año fiscal 2022, y espera un crecimiento de las ventas netas de dos dígitos bajos, un margen operativo de alrededor del 7 % y ganancias diluidas por acción de $1,60 a $1,75”.

No... no esperan un crecimiento de las ventas netas de dos dígitos bajos. Esperan que las ventas netas bajen a medio dígito.

Y no vi nada más en este documento sobre la perspectiva futura del margen operativo o las ganancias diluidas por acción. Entonces, Bing AI obtuvo eso de un documento separado o lo inventó por completo.

** Pero se pone peor. Ahora vamos a comparar Gap con Lululemon**

Bing AI compara Gap y [Lululemon’s] (https://corporate.lululemon.com/~/media/Files/L/Lululemon/investors/results-center/3q22-financial-supplement.pdf) Informes financieros del tercer trimestre de 2022

Ahora estamos comparando números inventados.

Los datos de Lululemon son tan precisos como los datos de Gap.

El margen bruto de Lululemon se da como "58,7%", que es un valor alucinado que no aparece en su documento financiero. El valor real es del 55,9%.

El margen operativo de Lululemon es del 19 %, no del 20,7 %.

Las ganancias diluidas por acción de Lululemon son de $2,00, no de $1,65.

Efectivo y equivalentes de efectivo es incorrecto para Gap (debería ser $679 millones) pero correcto para Lululemon.

El inventario es incorrecto para Gap (debería ser de $3040 millones) pero es correcto para Lululemon.

Conclusión

Bing AI hizo un gran trabajo al generar entusiasmo en los medios, pero su producto no es mejor que el Bard de Google. Al menos por lo que podemos decir de la información limitada que tenemos sobre ambos.

Me sorprende que el equipo de Bing haya creado esta demostración pregrabada llena de información inexacta y la haya presentado al mundo con confianza como si fuera buena.

Estoy aún más sorprendido de que este truco haya funcionado, y todos se subieron al tren exagerado de Bing AI sin hacer ni un gramo de diligencia debida.

Bing AI es incapaz de extraer números precisos de un documento y crea información con confianza, incluso cuando afirma tener fuentes.

Definitivamente no está listo para su lanzamiento y no debe ser utilizado por nadie que desee un modelo preciso de la realidad.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd