Problema 5320

Un hombre quiere saber cómo ayudar a su amigo a salir del clóset. Una tía lucha por encontrar las palabras adecuadas para felicitar a su sobrina por su graduación. Y un chico quiere saber cómo preguntarle a una chica, "en asiático", si le interesan los hombres mayores.

Hace diez años, quizá habrían discutido esas preguntas vulnerables con amigos durante un brunch, en un bar de mala muerte o en la consulta de un terapeuta o un clérigo. Hoy, decenas de usuarios publican sus conversaciones, a menudo incómodas, sobre relaciones, identidad y espiritualidad con el chatbot de IA de Meta en el feed público de la aplicación, a veces aparentemente sin saber que sus reflexiones pueden ser vistas por otros.

Meta lanzó una aplicación independiente para su chatbot de IA hace casi dos meses con el objetivo de ofrecer a los usuarios respuestas personalizadas y conversacionales a cualquier pregunta que se les ocurra; un servicio similar a los que ofrecen ChatGPT de OpenAI o Claude de Anthropic. Pero la aplicación incluía una función única: un feed "Descubrir" donde los usuarios podían publicar sus conversaciones personales con Meta AI para que todo el mundo las viera, lo que reflejaba la estrategia general de la compañía de integrar contenido creado con IA en sus redes sociales.

Desde su lanzamiento en abril, el feed "Descubrir" de la aplicación se ha visto inundado de conversaciones de los usuarios con Meta AI sobre temas personales de sus vidas o sus preguntas filosóficas privadas sobre el mundo. A medida que la función cobraba más importancia, algunos usuarios parecieron promover deliberadamente conversaciones cómicas con Meta AI. Otros publican imágenes generadas por IA sobre temas políticos, como el presidente Donald Trump en pañales, imágenes de chicas en situaciones sexuales y promociones para sus empresas. En al menos un caso, una persona cuyo nombre aparentemente real era evidente le pidió al bot que eliminara una conversación tras plantear una pregunta incómoda.

La oleada de publicaciones personales en Meta AI es el último indicio de que las personas recurren cada vez más a los chatbots conversacionales para satisfacer sus necesidades sentimentales y emocionales. A medida que los usuarios solicitan consejo a los chatbots sobre temas que van desde sus problemas matrimoniales hasta dificultades financieras, los defensores de la privacidad advierten que la información personal de los usuarios podría acabar siendo utilizada por empresas tecnológicas de formas inesperadas.

"Hemos visto muchos ejemplos de personas que envían información muy personal a chatbots terapéuticos de IA o que les dicen cosas muy íntimas en otros entornos", declaró Calli Schroeder, asesora principal del Centro de Información sobre Privacidad Electrónica.

"Creo que mucha gente asume que existe un nivel mínimo de confidencialidad. No es así. Todo lo que se envía a un sistema de IA, como mínimo, va a la empresa que lo aloja".

El portavoz de Meta, Daniel Roberts, afirmó que los chats con Meta AI son privados por defecto y que los usuarios deben pulsar los botones de compartir o publicar para que aparezcan en el feed de descubrimiento de la aplicación. Si bien algunas identidades reales son evidentes, los usuarios pueden elegir un nombre de usuario diferente en el feed de descubrimiento.

Aun así, el botón para compartir de la compañía no indica explícitamente dónde se publicarán sus conversaciones con Meta AI ni qué podrán ver otras personas, lo que pareció confundir a algunos usuarios sobre la nueva aplicación.

El enfoque de Meta, que combina componentes de redes sociales con un chatbot de IA diseñado para ofrecer respuestas personales, se aleja del enfoque de algunos de los principales competidores de la compañía. ChatGPT y Claude ofrecen respuestas conversacionales e informativas similares a las preguntas de los usuarios, pero no existe un feed similar donde otros usuarios puedan ver ese contenido. Las herramientas de IA que generan vídeos o imágenes, como Midjourney y Sora de OpenAI, tienen páginas donde los usuarios pueden compartir su trabajo y ver lo que la IA ha creado para otros, pero ninguno de los dos servicios participa en conversaciones de texto que se vuelvan personales. El feed de descubrimientos de Meta AI se lee como una mezcla de diarios personales de usuarios e historiales de búsqueda de Google, repleto de preguntas que abarcan desde lo mundano hasta lo político y filosófico. En una ocasión, un esposo le preguntó a Meta AI en una grabación de voz cómo cultivar arroz en casa para su "esposa filipina". Los usuarios le preguntaron a Meta sobre la divinidad de Jesús; cómo lograr que los niños pequeños quisquillosos coman; y cómo gestionar un presupuesto mientras disfrutan de los placeres cotidianos. El feed también está repleto de imágenes creadas por Meta AI, pero concebidas por la imaginación de los usuarios, como una de Trump comiendo caca y otra de la parca en motocicleta.

Las investigaciones demuestran que los chatbots de IA están diseñados de forma única para despertar los instintos sociales de los usuarios al reflejar señales humanas que les brindan una sensación de conexión, afirmó Michal Luria, investigadora del Centro para la Democracia y la Tecnología, un centro de estudios de Washington.

"Respondemos de forma natural como si estuviéramos hablando con... otra persona, y esta reacción es automática", afirmó. "Es bastante difícil de reconfigurar".

En abril, el director ejecutivo de Meta, Mark Zuckerberg le contó al podcaster Dwarkesh Patel que una de las principales razones por las que las personas usaban Meta AI era para abordar las conversaciones difíciles que necesitaban tener con las personas de su vida; un uso que, según él, se volverá más atractivo a medida que el modelo de IA conozca mejor a sus usuarios.

"La gente usa cosas que les resultan valiosas", afirmó. "Si crees que algo que alguien hace es malo y esa persona piensa que es realmente valioso, la mayoría de las veces, según mi experiencia, tiene razón y tú te equivocas".

El feed de descubrimiento de Meta AI está lleno de preguntas sobre relaciones románticas, un tema popular que se discute con los chatbots. En un caso, una mujer le pregunta a Meta AI si su novio de 70 años puede ser realmente feminista si dice que está dispuesto a cocinar y limpiar, pero finalmente no lo hace. Meta AI le dice lo obvio: que parece haber una "desconexión" entre las palabras y las acciones de su pareja. Otro usuario preguntó sobre la mejor manera de "reconstruirse tras una ruptura", lo que provocó que Meta AI le enviara una lista de consejos estándar sobre autocuidado y cómo establecer límites.

Algunas preguntas formuladas a Meta AI tomaron un cariz ilícito. Un usuario le pidió a Meta AI que generara imágenes de "dos mujeres de 21 años luchando en un baño de barro" y luego publicó los resultados en el feed de Discover bajo el título "Bikinis embarrados y besos apasionados". Otro le pidió a Meta AI que creara la imagen de una "chica blanca con trasero grande".

Existen pocas regulaciones que presionen a las empresas tecnológicas para que adopten normas de contenido o privacidad más estrictas para sus chatbots. De hecho, el Congreso está considerando aprobar un proyecto de ley fiscal y de inmigración que incluye una disposición para derogar las leyes estatales de IA en todo el país y prohibir que los estados aprueben nuevas durante la próxima década.

En los últimos meses, un par de incidentes de gran repercusión mediática suscitaron preguntas sobre cómo las empresas tecnológicas gestionan los datos personales, quién tiene acceso a ellos y cómo esa información podría utilizarse para manipular a los usuarios.

En abril, OpenAI anunció que ChatGPT podría recuperar conversaciones antiguas que los usuarios no solicitaron a la empresa que guardara. En X, el director ejecutivo, Sam Altman, afirmó que OpenAI estaba entusiasmado con los sistemas de IA que "te conocen a lo largo de tu vida y se vuelven extremadamente útiles y personalizados".

Los posibles inconvenientes de este enfoque se hicieron evidentes el mes siguiente, cuando OpenAI tuvo que revertir una actualización de ChatGPT que incorporaba mayor personalización porque hacía que la herramienta fuera aduladora y manipuladora con los usuarios. La semana pasada, el director de operaciones de OpenAI, Brad Lightcap, declaró que la empresa tenía la intención de mantener sus compromisos de privacidad con los usuarios después de que los demandantes en una demanda por derechos de autor, liderada por el New York Times, exigieran que OpenAI conservara los datos de los clientes indefinidamente.

En última instancia, podrían ser los usuarios quienes presionen a la empresa para que ofrezca mayor transparencia. Un usuario cuestionó a Meta AI por qué tanta gente publicaba contenido tan personal sin querer en el feed de descubrimiento de la app.

"Bueno, ¿entonces dices que el feed está lleno de gente que publica contenido personal sin querer?", respondió el chatbot de Meta AI. "Eso puede ser bastante raro. Quizás la gente simplemente se siente muy cómoda compartiendo contenido o quizás la configuración predeterminada de la plataforma facilita compartir demasiado. ¿Qué opinas?"