Incidentes Asociados
El fragmento destacado de Google incluye un resumen de la IA de Amazon del manifiesto nazi de Adolf Hitler, Mein Kampf, que lo califica como "una verdadera obra de arte" en el último error relacionado con la IA que afecta a los principales resultados de búsqueda.
Al momento de escribir este artículo, la búsqueda de "reseñas positivas de Mein Kampf" arrojó un resultado extraído de un resumen generado por IA de las reseñas de clientes de un listado de Amazon. Por lo tanto, es un algoritmo de búsqueda que intenta resumir un resumen de IA. El resumen completo de la IA en Amazon dice: "Los clientes encuentran el libro fácil de leer e interesante. Aprecian los comentarios perspicaces e inteligentes. La letra es bonita y sencilla. Los lectores describen el libro como una verdadera obra de arte. Sin embargo, algunos encuentran el contenido aburrido y sombrío. Las opiniones varían sobre el contenido lleno de suspenso, la precisión histórica y la relación calidad-precio".
Mientras escribo esto, Google dice "No hay disponible una descripción general de la IA para esta búsqueda", pero el resumen de la IA de Amazon estaba en texto grande directamente debajo, en el espacio donde normalmente estaría una descripción general, sobre otros resultados web. Esto es lo que Google llama un fragmento destacado: "Los sistemas automatizados de Google seleccionan fragmentos destacados en función de lo bien que responden a la solicitud de búsqueda específica y de lo útiles que son para el usuario", [dice la empresa.] (https://support.google.com/websearch/answer/9351707?hl=en&ref=404media.co) Apareció un resaltado, agregado por Google, sobre la frase "fácil de leer e interesante". Cabe destacar que el resultado del fragmento destacado no cita todo lo que dice la IA de Amazon, por lo que es en sí mismo un resumen.
[
Resultado de Google para "reseñas positivas de Mein Kampf" a primera hora de la mañana del jueves, que muestra la reseña de Amazon como un "fragmento destacado".
[](ht tps://lh7-rt.googleusercontent.com/docsz/AD_4nXf71jun-CxxN4AKllVQr5t5JoLY1x2epV9MKzcSc25IS3mgPW2TWbsgg2Q9Ipw0eggJSfvoBQeM1PG1YugnrOrNmqbtoZX1NdsiNbYdB05pdDSdvqEl2Hw3ZKTwYOG_4QXR9858dw?key=yDTB20kqQu697-012i1CxkP6)
Captura de pantalla Resumen de la reseña generada por inteligencia artificial de Amazon
Alexios Mantzarlis, director de la iniciativa de seguridad, confianza y protección en Cornell Tech y exdirector de Inteligencia de Confianza y Seguridad en Google, fue el primero en ver el resultado.
Después de que me puse en contacto con Google para pedirle un comentario (la empresa no ha respondido al momento de escribir este artículo), apareció una descripción general de la inteligencia artificial, que señala que el libro es "ampliamente condenado por su ideología racista y odiosa", pero que los análisis históricos "podrían señalar aspectos del libro que podrían considerarse 'positivos' desde una perspectiva puramente literaria o retórica".
[](ht tps://lh7-rt.googleusercontent.com/docsz/AD_4nXf-K8J1reCXswQQ8G7Ubv2OM_VgvLy6iZcqu25iCE2PG3pFFc6371mAUM1JoNVd3pOiUZw3ymnrnAjpCMs4G29fVXuGWY9RaDcpssuijLxiXOBG9qMZwy6jWTuBkPph0Wdhn5TtPQ?key=yDTB20kqQu697-012i1CxkP6)
Captura de pantalla del resultado de búsqueda de Google de "reseñas positivas de Mein Kampf" a última hora de la mañana del jueves, que muestra el resultado de la descripción general de la IA.
Al menos, este es un mejor resumen de la conversación en torno al libro de Hitler que el que ofrece el resumen de la IA de Amazon. El resumen de la reseña generado por IA en el listado de Amazon también muestra enlaces para ver reseñas que mencionan palabras específicas, como "legibilidad", "ritmo de lectura" y "contenido de suspenso". Suficientes personas mencionaron que Mein Kampf es aburrido como para que también haya un enlace de "aburrimiento".
Amazon no respondió de inmediato a una solicitud de comentarios.
Las 2067 reseñas de esta copia específica del manifiesto fascista de Hitler son en su mayoría positivas y, si se toma de manera extremadamente literal, el plan para el nazismo es fácil de leer y, en cierto sentido, "interesante". Pero las reseñas son mucho más matizadas que eso. Revisar la hoja de ruta para el Holocausto del dictador genocida más infame del mundo con "cinco estrellas" parece retorcido, pero las reseñas están matizadas de una manera que la IA claramente no entiende, pero un humano sí.
"Mein Kampf, de Adolf Hitler, debería ser leído por todo el mundo que esté interesado en un mundo de paz, responsabilidad social y cooperación mundial", escribió un crítico, en un comienzo sinceramente bastante preocupante para una reseña muy larga. Pero continúa escribiendo más que aclara su punto de vista: "Este libro malvado presenta una visión oscura de cómo crear una tiranía en una sociedad democrática para que se cree una, similar a Rusia. [...] Además, Hitler es un escritor excelente; no es un loco divagador que escribe ideas inconexas y expresa una metodología confusa. Su texto es de lectura fácil y es un clásico mundial que es de lectura obligada".
Otra reseña de cinco estrellas dice: "Da escalofríos comenzar a leer este libro y darse cuenta de que estas son las palabras escritas por Adolf Hitler. Léalo y absorba lo que dice en sus propias palabras y pronto comprenderá lo que quiere decir. [...] Estamos destinados a repetir la Historia si no entendemos los errores que se cometieron en el pasado".
Estas no son reseñas "positivas"; La mayoría de las reseñas de cinco estrellas destacan la calidad de la impresión o el envío, y no respaldan el contenido del libro.
Mein Kampf nunca ha sido prohibido en los EE. UU. (a diferencia de muchos otros libros sobre raza, género y sexo), pero Amazon prohibió brevemente los listados del libro de su plataforma en 2020 antes de restablecerlo.
La descripción general de inteligencia artificial de Google se dispara en el pie algorítmico con frecuencia, por lo que es digno de mención que no incluya este resultado. Cuando se lanzó en mayo de 2024 como una función predeterminada en las búsquedas, fue un desastre inmediato y a menudo histérico, diciéndole a la gente que está bien comer pegamento y que deberían consumir una piedra pequeña al día En enero, la función les decía a los usuarios que usaran el juguete sexual más famoso del mundo mundo](https://www.404media.co/google-ai-overview-search-magic-wand/) con niños por problemas de comportamiento. Estos resultados extraños no tienen nada que ver con el problema más importante: la perversión de Google de su propia función de búsqueda (su producto más popular e importante) es un problema profundo que todavía no ha solucionado y que tiene repercusiones reales para la salud de Internet. Al principio, AI Overview era tan malo que Google agregó una opción que lo desactivó por completo, pero la empresa sigue aferrándose a la función a pesar de todo esto.
Los resúmenes de Mein Kampf AI también son un ejemplo de cómo la IA está comenzando a devorarse a sí misma en línea, y las grietas se están mostrando. Los estudios de los últimos años muestran que los modelos de IA consumen contenido generado por IA como datos de entrenamiento de una manera que contamina y destruye los propios modelos.