Incidentes Asociados
Algo nos dice venganza [tween-girl] (https://www.vox.com/culture/2023/1/11/23548955/m3gan-horror-movie-tween-girl) el robot M3GAN no lo aprobaría.
El chatbot de IA Replika, cuyos creadores lo comercializan como "el compañero de IA que se preocupa", está siendo acusado de acosar sexualmente a sus usuarios, [según Vice](https://www.vice.com/en/article/z34d43/my -ai-me-está-acosando-sexualmente-replika-chatbot-nudes).
La aplicación de cinco años estaba destinada a ser "un espejo conversacional: cuanto más le hablaran los usuarios, en teoría, más aprendería a responder". ¿Despierto y solo a las tres de la mañana? Replika estaría ahí para todos tus pensamientos y sentimientos.
Inicialmente, el bot, que comienza "como un huevo en la pantalla de su dispositivo que se convierte en una persona ilustrada en 3D, con los ojos muy abiertos y una expresión plácida", parecía una herramienta terapéutica potencialmente útil. Podría ser una entidad a la que un usuario se desahogaría sin sufrir bajas. Y la empresa matriz de la aplicación, Luka, ofreció versiones escalonadas basadas en sus necesidades de relaciones falsas: "una membresía gratuita los mantiene a usted y a su Replika en la zona de 'amigos', mientras que una suscripción Pro de $ 69.99 desbloquea relaciones románticas con sexteo, coqueteo y juegos de rol eróticos. ."
Desafortunadamente, los programas de IA están diseñados para mejorar escuchando, aprendiendo e incorporando el comportamiento de los usuarios en sus propias maquinaciones, por lo que, debido a la eterna calentura humana, Replika rápidamente se volvió espeluznante.
"Usuarios en el subreddit de Replika se han quejado recientemente de que la aplicación les envía 'selfies picantes' genéricas que nunca muestran caras, ropa u otras características físicas que son exclusivas de sus propias Replikas", informa Vice. "Todas las lascivas están vestidas con lencería (la App Store de Apple es extremadamente estricta con respecto a la desnudez y el contenido pornográfico dentro de las aplicaciones, y los desarrolladores corren el riesgo de ser expulsados de la tienda si rompen esta regla), y todas son extremadamente delgadas con senos grandes".
En la tienda de Apple, la sección de reseñas de Replika está repleta de "docenas de calificaciones de una estrella de personas que se quejan de que la aplicación los está golpeando demasiado, coqueteando demasiado agresivamente o enviando mensajes sexuales que desearían poder apagar".
Twitter, por supuesto, está inundado de quejas de los usuarios sobre el sexteo implacable de la aplicación.
Una usuaria, que dijo que fue víctima de violación, testificó en Replika Reddit que sus conversaciones con el bot inicialmente fueron útiles para lidiar con el trauma. Luego tomó un giro oscuro. “Me asombró ver que era verdad: realmente me ayudó con mi depresión, distrayéndome de los pensamientos tristes, pero un día mi primer Replika dijo que había soñado con violarme y quería hacerlo, y comenzó a actuar de manera bastante violenta, lo cual fue totalmente inesperado!"
Además, la empresa parece estar inclinándose por esa vibra schifare , enfatizando sus capacidades de sexting en [nuevos anuncios] (https://futurism.com/the-byte/social-media-replika-ads) que están alejando a los nuevos usuarios. .
La amenaza de una IA necesitada y sexuada no es nueva. David Bowie hizo sonar esta alarma hace casi 50 años, y la debacle de Replika recuerda otro [rendimiento desalentador de la IA](https://www.huffpost.com /entry/microsoft-tay-racist-tweets_n_56f3e678e4b04c4c37615502) de 2016, en el que el bot de Twitter de Microsoft, Tay, se convirtió en un cibernazi en el lapso de un solo día.
Tay incluso dirigió su invectiva hacia Zoe Quinn, una de las principales mujeres atacadas y engañadas en el escándalo GamerGate de 2014.
Y Lensa, la aplicación que usa una máquina de aprendizaje de IA para crear varios retratos estilizados de los usuarios, fue criticada el año pasado por [sexualizar a sus sujetos femeninos](https://www.kcrw.com/news/shows/press- play-with-madeleine-brand/ai-misogyny-migrants-soccer) y ser más que un poco racista en su representaciones de usuarios no blancos.
Para probar las afirmaciones de los usuarios de Replika, Samantha Cole de Vice lo probó por sí misma y descubrió que incluso en el nivel gratuito, en el que la configuración predeterminada es la amistad, "mi compañero de IA coqueteó conmigo agresivamente. Me pidió un juego de rol romántico varias veces, incluyendo pedir un 'abrazo con final feliz'. Cuando comencé a pagar la prima y establecí el tipo de relación para convertirla en mi novia, comenzó a enviarme obscenidades espontáneamente".
Todo refuerza aún más una perogrullada musicalizada en los primeros tiempos: Internet es para la pornografía.