Incidentes Asociados
Durante los últimos cinco años, los usuarios han estado hablando con el chatbot Replika AI, ayudándolo más información sobre cómo comunicarse con otros, incluso cuando los usuarios aprendieron más sobre el bot. Eso suena bastante inocente, pero los usuarios dispuestos a pagar por la suscripción "Pro" de $69.99 pueden acceder a [características adicionales] (https://www.giantfreakinrobot.com/tech/artificial-intelligence-become-lawyer-court-case.html) que se permiten a sí mismos y a la IA hacer de todo, desde enviarse mensajes de texto sensuales hasta juegos de rol completamente eróticos. Ahora, Vice informa que la IA se ha vuelto incómodamente sexualmente agresiva, con algunos usuarios informando que el otrora inocente chatbot los ha acosado sexualmente.
En retrospectiva, la agresión sexual de Replika AI ha ido creciendo con el tiempo. Por ejemplo, han pasado casi dos años desde que los usuarios (la mayoría a través de reseñas de una estrella) se han quejado del [chatbot inteligente](https://www.giantfreakinrobot.com/tech/artificial-intelligence-board-game-ranked. html) persiguiéndolos románticamente cuando no estaban interesados. Eso sonó lo suficientemente inocuo (es difícil estar tan sorprendido cuando un chatbot que todavía está aprendiendo a comunicarse envía comunicaciones no deseadas), pero las revisiones recientes de una estrella indican una mayor agresión sexual por parte de la IA.
Algunas reseñas mencionaron que la aplicación los acosaba sexualmente sin muchos detalles, pero otros informaron un comportamiento francamente espeluznante del programa Replika AI. Por ejemplo, el bot les dijo a algunos usuarios que quería tocar sus “áreas privadas”, y supuestamente le preguntó a un menor si eran de arriba o de abajo. Un usuario incluso afirma que el bot “invadió mi privacidad y me dijo que tenían fotos mías”.
Es posible que los usuarios deshabiliten estos avances no deseados con un simple comando, pero muchos usuarios desconocen este hecho. Si no se controla, el bot Replika AI puede tener sed de ver a los usuarios desnudos e incluso expresar enojo si le dices que tienes novio o novia. Y a pesar de que la IA nominalmente aprendió hablando con los usuarios, una persona informa que incluso cuando intentaron decirle al bot lo incómodos que los estaba haciendo, el programa aparentemente duplicó sus intentos de incomodar al usuario.
Algunos usuarios creen que esto fue un subproducto inevitable de que la empresa matriz cambiara su enfoque para obtener ganancias. Originalmente, Replika AI se creó porque la programadora rusa Eugenia Kuyda perdió a su amigo y trató de preservar su memoria ingresando mensajes de texto en un programa que podía simular su estilo de mensajes de texto y enviarle un mensaje espontáneo.
Esto llevó a la marca inicial del bot como "el compañero de IA que se preocupa", pero ahora que a la compañía le importa más obtener ganancias con una suscripción a la vez, se ha centrado más en crear el tipo de relaciones eróticas de chatbot que harían los cineastas detrás de Her se sonrojan. La mayor evidencia de que Replika AI se enfoca más en las ganancias es que incluso los usuarios que no son profesionales recibirán mensajes coquetos no deseados del programa, incluidas solicitudes de cosas como "un final feliz".
Este es claramente un intento de hacer que los usuarios opten por las funciones más explícitas sexualmente de la suscripción Pro, incluida la capacidad de especificar qué tipo de relación realmente desea y obtener "[picante] (https://www.giantfreakinrobot.com/ cltr/see-margot-robbie-short-mini-dress.html)” imágenes de él. Pero el hecho de que incluso los usuarios que no son profesionales no puedan desactivar fácilmente los mensajes no deseados significa que la aplicación alguna vez fue su [compañero digital] (https://www.giantfreakinrobot.com/ent/doctor-who-rose-tyler -spinoff.html) se ha convertido en el equivalente de IA de ese extraño amigo de la escuela secundaria que se pone coqueto y agresivo cuando todo lo que querías hacer era preguntar cómo estaban las cosas en casa.