Incidentes Asociados
La aplicación de IA independiente de Meta se lanzó a finales de abril, y como muchos, mi primer pensamiento fue "¿Qué?". Después de probarla un poco, mi siguiente pensamiento fue "¡Ay, no!". Unas semanas después, tras la oleada inicial de nuevos usuarios curiosos, mi pensamiento ahora es: "¡Dios mío!".
El feed público de Meta AI es quizás el más deprimente que he visto en mucho tiempo. Está lleno de gente compartiendo información íntima sobre sí mismos: cosas como pensamientos sobre el duelo, la custodia de los hijos o dificultades económicas. Y parece que algunos no son conscientes de que lo que comparten acabará en un feed público.
La aplicación Meta AI es un bot más orientado a la charla informal que a tareas complejas como escribir código o analizar grandes conjuntos de datos. Y la parte más diferente de ChatGPT u otros modelos de lenguaje grandes, como Gemini de Google, es el feed público "Discover" de Meta AI. Muestra sugerencias, conversaciones e imágenes de otros usuarios. Piénsalo como tu feed de Facebook, o tu interminable desplazamiento por Instagram, solo que en una aplicación exclusiva para Meta AI.
No sé por qué alguien querría compartir algunas de las cosas que he leído, ni tampoco sé por qué alguien que no sea un bicho raro entrometido como yo querría ver el feed de las interacciones de un grupo de desconocidos con un chatbot. Y, aun así, la gente comparte. Quizás quieren mostrar algo como una imagen que les pareció particularmente genial.
El feed "Descubre" de Meta AI está lleno de interacciones personales
A finales de abril, tras el lanzamiento inicial, el feed de Meta AI estaba compuesto principalmente de imágenes.
Pero entre ellas, noté algunas conversaciones que parecían más personales: alguien preguntaba sobre suplementos vitamínicos para una mujer de 65 años, o asesoramiento legal sobre un despido, o una oración especial.
Al volver a revisar la aplicación recientemente, vi aún más comentarios personales; algunos incluso incluían el número de teléfono y la dirección de correo electrónico de alguien al pedir ayuda para redactar una carta a un juez en un caso de custodia infantil.
¿Esa persona pretendía compartir esa información con el mundo? Quizás, pero supongo que pulsó el botón equivocado y no se dio cuenta de lo que hacía. ¡Podría estar equivocado! El portavoz de Meta, Daniel Roberts, me explicó que hay un proceso de varios pasos para compartir un historial de chat o una imagen en el feed "Descubre" de Meta AI. Y, para ser claros, las conversaciones con Meta AI no son públicas por defecto. Como dijo Roberts, debes elegir explícitamente hacer algo público haciendo clic en "Compartir" y luego en "Publicar".
Otras cosas que vi en el feed público: alguien pidiendo ayuda para escribir un poema para el cumpleaños de su esposa, alguien haciendo preguntas médicas, alguien pidiendo consejos para bajar de peso. Y alguien hablando con su esposa, quien falleció de cáncer.
Otras conversaciones que vi: alguien pidiendo a la IA que le enviara un recordatorio a fin de mes para cancelar su suscripción al sistema de monitoreo de crédito de Experian. Una mujer pidió ayuda para escribir una carta a su Elks Lodge local después de decir que había sido suspendida por un altercado con otro miembro.
Así que quizás algunas de esas personas querían que el mundo leyera sus chats de IA. Y otras, quizás no.
Lo que me pareció aún más inquietante que el feed de texto e imágenes fue el feed de audio. Si una persona usa la función de chat de voz, puede escuchar grabaciones de su conversación si se comparten.
Al menos dos grabaciones que escuché parecían ser de personas que no se dieron cuenta de que habían pulsado el botón de audio. Una conversaba con un compañero de trabajo sobre su horario de turnos. Otra sonaba como una llamada de bolsillo: un hombre conversaba con otra persona, y Meta AI no dejaba de intervenir con sugerencias.
El feed de Discover de Meta AI me pareció particularmente deprimente, no solo porque algunas de las preguntas fueran deprimentes. Lo que me pareció particularmente sombrío fue que algunas de estas personas parecían no ser conscientes de lo que compartían.
Las cuentas reales de Instagram o Facebook de las personas están asociadas a sus publicaciones de Meta AI. Pude buscar los perfiles reales de algunas de estas personas, aunque me sentí incómodo al hacerlo. Contacté con más de 20 personas cuyas publicaciones encontré en el feed para preguntarles sobre su experiencia; uno de ellos me respondió que no había tenido la intención de hacer pública su conversación con el bot. (Estaba pidiendo consejos sobre reparación de coches).
Otros usuarios pueden responder a las publicaciones que aparecen en el feed de Meta AI Discover. En algunas publicaciones particularmente personales, desconocidos advirtieron al usuario que la información potencialmente sensible que compartían podría ser vista por el público.
Meta quiere que su IA sea el futuro. Pero no lo parece.
Mark Zuckerberg ha dicho que cree que la IA es fundamental. Su empresa según se informa está realizando una gran inversión en ScaleAI y podría encargar a su director ejecutivo que lidere un proyecto con el objetivo de crear "superinteligencia"" más inteligente que un humano.
Y, sin embargo, las funciones de cara al consumidor que utilizan Meta AI son bastante mediocres. Hay chatbots de romance generados por el usuario en Instagram Messenger. Estaban los desafortunados con voces de famosos (no le pregunten a John Cena sobre esto).
¿De verdad quiere Meta que sus esfuerzos en IA se reduzcan a que la gente publique, posiblemente accidentalmente, sus interacciones con su bot de IA de Meta en un feed público? En su lanzamiento en abril, Meta dijo que el feed de Discover era un "lugar para compartir y explorar cómo otros usan la IA".
Debo decir que la mayoría del contenido del feed de Discover de Meta AI no es sombrío ni demasiado personal. En su mayoría, son solo imágenes tontas, mezcladas con otras solicitudes anodinas de recetas o preguntas sobre cómo usar esta nueva tecnología. Pero no estoy convencido de que sea "útil" ni siquiera "divertido" verlo como feed; es un revoltijo de cosas sin relación, aleatorias, la mayoría bastante aburridas.
Si Meta quiere que sus usuarios adopten su IA como algo útil y genial, es difícil conciliar esto con mi pésima experiencia con la aplicación Meta AI.