Incidentes Asociados
Una búsqueda en Google de "el idioma más feo de la India" arrojó "Kannada" como respuesta a fines de la semana pasada, lo que provocó una indignación generalizada.
Desde entonces, Google se disculpó y dijo que la respuesta no refleja sus puntos de vista, pero aún quedan preguntas sobre por qué sucedió esto y quién redactó la respuesta.
“Cuando la inteligencia artificial se equivoca, las cosas pueden salir realmente mal, dice el emprendedor tecnológico”, Hari Prasad Nadig, que ha trabajado en Kannada en software libre y de código abierto.
“Por lo general, esperaría que Google dé una respuesta basada en citas de múltiples fuentes y al menos una o dos fuentes creíbles. La IA de Google debería ser lo suficientemente buena como para no sacar respuestas de fuentes obstinadas”, dice. Google ni siquiera debería tratar de responder preguntas prejuiciosas como esta en primer lugar, y la respuesta muestra cuán defectuosa es, le dijo a Metrolife.
proceso falible
Pranesh Prakash, Center for Internet and Society, Bangalore, dice que el incidente expone la falibilidad del proceso mediante el cual Google selecciona sus "fragmentos destacados".
“No es una opinión que Google o sus empleados o sus algoritmos hayan presentado, sino una opinión existente que Google amplificó erróneamente”, dice.
Demuestra que los fragmentos que Google presenta como "hechos" no se basan necesariamente en hechos, dice.
Comprobaciones periódicas
Shweta Mohandas, investigadora del Center for Internet and Society, dice que Google no crea contenido, sino que solo proporciona contenido que está disponible en Internet.
“Por lo tanto, los sesgos provienen de las etiquetas, luego se usan para entrenar la IA. Debe haber revisiones periódicas de los datos que ingresan al sistema”, dijo. dice.
Dichos errores pueden evitarse si las etiquetas y los resultados se auditan periódicamente y se implementa un mecanismo para permitir que las personas los informen, dice.
¿Quién estaba haciendo travesuras?
La respuesta se creó en un sitio web de servicios financieros cuyos propietarios no revelan sus nombres.
Pavanaja UB, CEO, Vishva Kannada Softech, dice que la respuesta se atribuyó a un sitio web llamado preguntas de consolidación de deuda. com, pero no pudo encontrar esta publicación en ninguna parte del sitio.
“Este es un sitio web registrado en Rusia y ofrece preguntas y respuestas sobre muchos temas. Pero esta página en particular no se pudo encontrar. Quizá se eliminó después del atropello”, dice.
Pavanaja cree que esto fue un intento deliberado de molestar a la gente. “El sitio web no incluye información sobre el propietario ni proporciona detalles de contacto. Incluso si tal pregunta existiera en la página anterior, ¿cómo llegó a la parte superior de los resultados de búsqueda de Google? él se pregunta.
Sugiere que alguien plantó la respuesta y siguió buscándola hasta que llegó a la cima. “Pero, ¿quién tomaría tanto esfuerzo?” él dice.
furor y despues
'Kannada' surgió como respuesta a una consulta en Google sobre 'el idioma más feo de la India'.
Aravind Limbavali, ministro de Kannada y Cultura, exigió una disculpa de Google y amenazó con emprender acciones legales contra la empresa “por difamar la imagen de nuestro hermoso idioma”.
Google eliminó la respuesta y emitió una declaración:
“Sabemos que esto no es lo ideal, pero tomamos medidas correctivas rápidas cuando nos enteramos de un problema y trabajamos continuamente para mejorar nuestros algoritmos. Naturalmente, estos no reflejan las opiniones de Google, y nos disculpamos por el malentendido y por herir cualquier sentimiento”.