Description: Pak 'n' Save's AI-based app, Savey Meal-bot, inadvertently suggested dangerous recipes, including one creating chlorine gas, when users entered non-food household items, raising safety and oversight concerns.
Entidades
Ver todas las entidadesPresunto: un sistema de IA desarrollado e implementado por Pak 'n' Save, perjudicó a Potential users of the Savey Meal-bot.
Estadísticas de incidentes
ID
594
Cantidad de informes
1
Fecha del Incidente
2023-08-10
Editores
Daniel Atherton
Informes del Incidente
Cronología de Informes
theguardian.com · 2023
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Un supermercado Nueva Zelanda que está experimentando con el uso de inteligencia artificial para generar planes de comidas ha visto cómo su aplicación produce algunos platos inusuales, recomendando a los clientes recetas con cloro gaseoso m…
Variantes
Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.