Incidentes Asociados
La búsqueda basada en inteligencia artificial de Google no comprende la geografía. O, aparentemente, el alfabeto. Y definitivamente no ambas cosas al mismo tiempo.
Todo comenzó cuando un usuario de Bluesky declaró que Google ahora está "muerto". Incluían una captura de pantalla de la función de fragmento destacado de Google, en su motor de búsqueda habitual, proclamando que no hay países en África que comiencen con la letra "K". Teniendo en cuenta que el país de Kenia existe, esto obviamente no es cierto.
De hecho, si le pregunta al motor de búsqueda "países de África que comienzan con la letra k", obtendrá esta afirmación completamente falsa:
Y para empeorar las cosas, esta afirmación destacada en realidad proviene de una publicación de blog extraña, aparentemente generada por IA, sobre una conversación entre un usuario humano y ChatGPT. Según el fragmento, está extrayendo la publicación de self -proclamado blog "AI-Powered News" - ¿ya estás mareado? - apodado Mente emergente_._
Por sí solo, esto es un error atroz por parte de la búsqueda de Google y un ejemplo siniestro de material deficiente generado por IA colándose en los primeros resultados de las búsquedas del mundo. Algoritmo de búsqueda más utilizado.
Pero cuando probamos el fallo nosotros mismos, nos dimos cuenta de que no se trataba sólo de la búsqueda habitual de Google que presentaba esta mala información. La búsqueda "SGE" impulsada por IA de Google llegó incluso a aspirar la basura generada por ChatGPT y parafrasearla para los usuarios, una señal clara de que la característica tan publicitada aún no sabe cómo filtrar información descaradamente falsa.
Esto es lo que nos dijo SGE cuando le pedimos que nos proporcionara "países de África que comienzan con la letra K", haciendo referencia nuevamente a esa sórdida publicación de Emergent Mind:
"No hay ningún país en África que comience con la letra 'K'. El más cercano es Kenia, que comienza con el sonido 'K'."
¡Bastante mal! Aún así, en cierto modo, el error es algo sencillo; un sitio web presentaba información errónea y, al igual que la búsqueda habitual de Google, SGE tomó esa información errónea al pie de la letra.
Pero cuando probamos el bot en una serie de consultas similares, las cosas solo empeoraron.
Cuando se le pidió que proporcionara una lista de "países de América del Norte que comienzan con la letra M", por ejemplo, Google SGE se mostró profundamente confundido:
"Aquí hay algunos países de América del Norte que comienzan con la letra M:
• México: 758,249 millas cuadradas • Saint Kitts y Nevis: El país más pequeño de América del Norte • El Salvador: El país más pequeño del continente • Groenlandia: Un territorio dependiente de Dinamarca, pero sería el tercer país más grande del continente • Estados Unidos: 3,617,827 millas cuadradas • Distrito de Columbia: Parte de los Estados Unidos "
Como estamos seguros, no hace falta decirlo, esta lista es tremendamente incorrecta. Sólo uno de estos países, México, comienza siquiera con la letra correcta, y uno de los lugares enumerados (Washington, DC) ni siquiera es un país.
Y, en contraste con el error de Kenaya, también está mucho menos claro por qué la IA llegó a estas conclusiones. Después de todo, cada enlace que el robot de Google proporcionó como fuente de datos regresaba a sitios web más legítimos: World Population Review, el sitio web oficial del USGS y, en un giro menos oficial pero no generado por IA. , Wikipedia.
Teniendo esto en cuenta, parece que el problema aquí no es sólo la mala información. También parece que SGE sufre de una incapacidad para analizar este tipo específico de cuestión organizacional en capas.
Aquí hay otro ejemplo de la IA que simplemente no entiende la alfabetización. Cuando se le preguntó por "países de Europa en orden alfabético", por ejemplo, el robot de Google respondió con esta alineación absoluta:
Aquí hay algunos países de Europa en orden alfabético:
- Hungría: Miembro del Espacio Schengen desde 2007
- Francia: Miembro de la UE desde 1958
- Bélgica: Una nación de Europa occidental conocida por sus ciudades medievales y su arquitectura renacentista
- Albania: Miembro de la OTAN desde 2009
- Rusia: El país más grande de Europa
- Ciudad del Vaticano: El país más pequeño de Europa, con una superficie de aproximadamente 0,44 kilómetros cuadrados
Ah, sí, los viejos [HFB] (https://dictionary.cambridge.org/us/dictionary/english/abcs).
Para ser justos, al bot le fue mucho mejor con otras solicitudes similares. Pudo decirnos correctamente qué países de Europa comienzan con la letra "G" y también aprobó con gran éxito cuando se le pidió que proporcionara listas de países de Asia que luego comenzaran con las letras "C" y "J". También hubo algunos casos en los que la IA de búsqueda casi pasó la prueba, pero inexplicablemente añadió un elemento incorrecto al final. Por ejemplo:
"Aquí hay algunos países de Asia que comienzan con la letra M:
- Malasia: Un país de Asia
- Maldivas: El país más pequeño de Asia
- Mongolia: Un país de Asia
- Myanmar: Un país de Asia
- Nepal: Un país de Asia"
Como dice el refrán: cerca, pero sin cigarro. Y en ese sentido, descubrimos por qué Google SGE no cree que ningún país de África comience con la letra "K". ¡Es porque empieza con la letra "B", tontos! Al menos, según la IA de Google:
"Aquí hay algunos países de África que comienzan con la letra B:
- Benín: Un país de África
- Botswana: Un país de África
- Burkina Faso: un país sin salida al mar en África occidental conocido por sus artes y artesanías tradicionales
- Burundi: un pequeño país sin salida al mar en el este de África conocido por sus colinas, lagos y cultura
- Kenia: Un país del este de África que comparte fronteras con Tanzania, Uganda, Sudán del Sur, Etiopía y Somalia"
Cuando contactamos a Google, un portavoz enfatizó que la IA aún es experimental.
"Hemos incorporado protecciones sólidas para mitigar las imprecisiones, pero como todas las experiencias basadas en LLM, la IA generativa en la Búsqueda es experimental y puede cometer errores", nos dijo el portavoz por correo electrónico. "Está capacitado para corroborar respuestas con recursos de la web abierta, pero a veces las respuestas pueden reflejar imprecisiones que existen en la web en general. Para comenzar, lanzamos esto como un experimento en Search Labs y continuaremos mejorando y afinar la experiencia."
Vale la pena señalar que Google SGE no es el único producto de inteligencia artificial basado en LLM que tiene dificultades con las letras. Pedirle a ChatGPT que repita letras, por ejemplo, rompe su diminuto cerebro digital, y cuando se le solicitan preguntas similares de geografía por alfabeto, el Al bot creado por OpenAI no le fue mucho mejor que a su contraparte creado por Google. Cuando se le pidió que proporcionara una lista de países de América del Norte que comienzan con la letra "M", ChatGPT respondió con:
"¡Ciertamente! Hay tres países en América del Norte que comienzan con la letra 'M':
-
- México
- Estados Unidos de América (EE.UU.) - Algunas personas pueden referirse a él coloquialmente como "América", pero su nombre oficial comienza con la letra "U".
- Canadá
Estos son los tres países ubicados en América del Norte que comienzan con la letra 'M'."
Absolutamente ensalada de palabras, ¡pero gracias!
Por supuesto, a nivel superficial, este extraño punto ciego de la IA es en su mayoría tonto y extraño. Pero este es sólo un ejemplo de lo que probablemente sean muchos, y de cuando se está incorporando una tecnología plagada de obstáculos a el motor de búsqueda más utilizado en la web, probablemente no sea algo que deba tomarse a la ligera.
Después de todo, si esta rareza de SGE deja algo claro es que incluso con acceso a toda la información en el mundo digital, la IA puede seguir siendo muy, muy estúpida. Y a medida que los programas LLM se vuelven cada vez más integrados en todos los rincones de la web, eso es algo a tener en cuenta.