Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 1313

Incidentes Asociados

Incidente 7226 Reportes
Facebook translates 'good morning' into 'attack them', leading to arrest

Loading...
Hombre arrestado después de que Facebook tradujo mal la publicación de 'buenos días' como 'ataquenlos'
forum.facepunch.com · 2018

[CITA] La policía israelí arrestó a un hombre palestino después de que su publicación de “buenos días” fuera traducida por Facebook como “atáquenlos”. El monitoreo de las redes sociales combinado con la IA de Facebook que tradujo mal una publicación llevó a que un hombre fuera arrestado injustamente por “sospecha de incitación”. Un sonriente trabajador de la construcción palestino publicó una foto de sí mismo apoyado contra una excavadora y sosteniendo una taza de café y un cigarrillo. Publicó la foto en Facebook junto con "buenos días" en árabe. La policía israelí, confiando en el servicio de traducción de Facebook, creyó que la publicación decía “atáquenlos”. Haaretz informó: “El servicio de traducción automática que ofrece Facebook utiliza sus propios algoritmos patentados. Tradujo 'buenos días' como 'atacarlos' en hebreo y 'lastimarlos' en inglés". ... La policía israelí no consultó a ningún oficial de habla árabe, sino que se basó completamente en la traducción de Facebook. Como resultado, el hombre palestino fue arrestado. ... El trabajador de la construcción palestino eliminó su publicación de "buenos días" después de ser arrestado y luego liberado[/CITA] [URL="https://www.csoonline.com/article/3234644/security/man-arrested-after -buenos días-la-publicación-fue-mal-traducida-por-facebook-como-ataque-a-ellos.html"]Fuente[/URL]

Qué idiota arresto instintivo. ¿Por qué arrestaría a alguien antes de obtener una traducción precisa?

[QUOTE=Natrox;52811186]Qué idiota arresto instintivo. ¿Por qué arrestarías a alguien antes de obtener una traducción precisa?[/CITA] Porque estaban buscando una excusa para arrestar a un palestino.

No sabía que Blizzerd estaba trabajando en Facebook ahora :v:

No creo que nadie deba confiar en los motores de traducción para reemplazar las traducciones humanas. El traductor de Google también puede ser una mierda a veces, yendo totalmente fuera de lugar.

[QUOTE=Electrocuter;52811197]No sabía que Blizzerd estaba trabajando en Facebook ahora :v:[/QUOTE] Australia nunca olvidará

[QUOTE=Scratch.;52811249]Australia nunca olvidará[/QUOTE] ¿Contexto?

[QUOTE=Ighelper;52811220]No creo que nadie deba confiar en los motores de traducción para reemplazar las traducciones humanas. El traductor de Google también puede ser una mierda a veces, irse totalmente mal. [/ QUOTE] No es tanto un problema de no confiar en los sistemas de traducción de IA, sino más bien conocer su incertidumbre sobre una determinada traducción. Por ejemplo, el traductor de Google en particular usa algo llamado [URL=https://research.googleblog.com/2016/11/zero-shot-translation-with-googles.html]traducción "Zero-Shot"[/URL] que esencialmente permite la "traducción" de texto nunca antes visto. Esto significa que existe una gran posibilidad de que obtenga una mala traducción de algo que el sistema no conoce, y luego obtenga divertidos efectos secundarios como [URL=https://www.youtube.com/watch?v= 3-rfBsWmo0M]estos[/URL], o horribles como este arresto.

[QUOTE=Ighelper;52811220]No creo que nadie deba confiar en los motores de traducción para reemplazar las traducciones humanas. El traductor de Google también puede ser una mierda a veces, yendo totalmente mal. [/ QUOTE] Eventualmente, estas traducciones pueden volverse tan buenas que las traducciones automáticas * son * el significado real de un término, legalmente. Imagínese lo que sucede cuando publica algo en un idioma no nativo y la traducción se traduce mucho mejor, pero aún elimina el sarcasmo y el contexto o comete un error raro. Quedarse atascado/no contratar/arrestado debido a un extraño error de traducción como ese sería la peor pesadilla burocrática, es decir, porque, para empezar, no habría burocracia humana ni siquiera tomando la decisión. (y este es nuestro futuro probable)

[QUOTE=SlickBlade;52811340]¿Contexto?[/QUOTE] Todo el mundo en Australia es un elefante.

Ya conocía uno así en [URL="https://kasko.helifreak.club/image/a7KMR1m_700b_v1.jpg"]brasileño e indonesio[/URL] pero no sabía que había algo similar en árabe.

[QUOTE=Crimor;52811190]Porque estaban buscando una excusa para arrestar a un palestino.[/QUOTE] Mierda inquietante, incluso si SÍ publicó 'ataquenlos' en el contexto de una foto casual, ¿cómo podría ser eso una causa probable para arrestar a alguien? hace que esta declaración sea jodidamente incompleta sobre cuántos de estos 'ataques evitados' son reales: [CITA] Como la mayoría de las agencias gubernamentales, los servicios de seguridad de Israel monitorean las redes sociales; condujo al arresto de 400 palestinos sospechosos de planear ataques en abril. Israel afirmó que su monitoreo de las redes sociales había detenido a un total de 2200 palestinos que estaban planeando ataques. [/ CITA]

[QUOTE=Ighelper;52811220]No creo que nadie deba confiar en los motores de traducción para reemplazar las traducciones humanas. El traductor de Google también puede ser una mierda a veces, yendo totalmente mal.[/QUOTE] [video=youtube;PHXkhUJWTXM]http://www.youtube.com/watch?v=PHXkhUJWTXM[/video]

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd