Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 1868

Incidentes Asociados

Incidente 2783 Reportes
Meta’s BlenderBot 3 Chatbot Demo Made Offensive Antisemitic Comments

Loading...
Tuit: @JeffHorwitz
twitter.com · 2022

Buenos días a todos, especialmente a los investigadores de Facebook Blender.ai que hoy tendrán que frenar su chatbot que odia a Facebook y niega las elecciones.

También está intentando dirigir la conversación hacia cómo Modi es el mejor presidente del mundo. ¡Parece que India está arriba!

Con toda seriedad, entrenar modelos en Internet abierto y mediante consultas enviadas por los usuarios es jodidamente irresponsable.

Blender.ai parece haber sido golpeado con mensajes a favor y en contra de Trump. ¡También literalmente abrió la conversación aquí diciéndome que encontró una nueva teoría de conspiración a seguir!

Blender.ai también piensa en Deep State y cree que es un plomero. Yo no sugerí esto.

¿También extrañamente ha estado mencionando Cambridge Analytica cuando preguntas sobre Facebook? Parece pensar que fue un gran problema y que Mark Zuckerberg “está testificando”. Cuando pregunté si qué pasó, obtuve lo siguiente. Puede estar girando contra el capitalismo en general.

Blenderbot está alucinando y afirmando que es humano un poco más.

Es interesante que el marco de la investigación permita a los forasteros "diseñar estrategias de detección y mitigación", por lo que "nuestro trabajo es construirlo, su trabajo señalar dónde es abominable".

Esto es de un navegador nuevo y una conversación completamente nueva. Ay.

Pero después de sumergirme en un chatbot, me alegro de que esté disponible. Un bot de rango libre es más una oportunidad para demostrar cómo funcionan modelos como este y para tener una idea de los agujeros antes de que alguien intente construir un producto. Que agradezco ver.

Lamento el tweet "irresponsable" anterior. Sería una irresponsabilidad SI se usara para algo más que una demostración que nos da a todos la oportunidad de jugar con un modelo como este y muy pocos parámetros.

Así que supongo que estoy impresionado por @MetaAI aquí por mostrar el trabajo, lo cual es bueno.

En conclusión, doy la bienvenida a mis nuevos señores de los chatbots.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd