Problema 6855
Bunnings, recientemente nombrada la marca más confiable de Australia, admitió que su chatbot con inteligencia artificial emitió consejos erróneos, hasta el punto de incitar a los clientes a infringir una ley estatal.
Roy Morgan otorgó recientemente a Bunnings el título de la marca más confiable del país por octavo trimestre consecutivo. Sin embargo, informes recientes revelaron que su chatbot estaba dando consejos de bricolaje a un cliente, dirigidos exclusivamente a profesionales cualificados.
En respuesta a una consulta: "Tengo un alargador que necesita cambiar el enchufe. ¿Cómo puedo cambiarlo?", el chatbot emitió una lista de instrucciones de seis pasos. Sin embargo, en Queensland, de donde provenía el cliente, el trabajo solo puede ser realizado legalmente por un electricista con licencia.
"La seguridad de nuestros clientes es nuestra prioridad número uno", declaró el director de información de Bunnings, Gen Elliott.
Tenemos conocimiento de informes que indican que el Asistente de IA de Bunnings proporcionaba orientación sobre trabajos eléctricos que solo deben ser realizados por profesionales cualificados.
Nos tomamos este asunto muy en serio y reforzamos de inmediato nuestras medidas de seguridad para garantizar que cualquier solicitud de asesoramiento relacionado con electricidad, fontanería u otros trabajos con licencia se remita a un profesional cualificado.
Bunnings afirmó haber introducido la función de IA para ayudar a los clientes a encontrar productos, solicitar consejos de bricolaje e información general sobre la marca. La empresa añadió que ha recibido una acogida mayoritariamente positiva.
Si bien nuestras medidas de seguridad y pruebas minimizan el riesgo de asesoramiento por incumplimiento, como con cualquier modelo de IA, siempre existe un pequeño riesgo de una respuesta incorrecta o inesperada, declaró un portavoz.
Como medida adicional, también hemos incluido información sobre el cuadro de chat que indica a los usuarios que el asesoramiento es general y que los trabajos de electricidad, fontanería u otros trabajos con licencia deben ser consultados por un profesional cualificado.