Incidentes Asociados
Apple acaba de empezar a implementar un conjunto de funciones de inteligencia artificial para sus dispositivos, y ya estamos viendo problemas importantes. Un ejemplo es la BBC, que se quejó a Apple después de que un resumen de notificaciones basado en inteligencia artificial reescribiera un titular de la BBC para decir que el asesino del director ejecutivo de UHC, Luigi Mangione, se había disparado. Mangione no se disparó y sigue bajo custodia policial.
Apple Intelligence incluye una función en iOS que intenta aliviar la fatiga de los usuarios agrupando y resumiendo las notificaciones que llegan de aplicaciones individuales. Por ejemplo, si un usuario recibe varios mensajes de texto de una persona, en lugar de mostrarlos todos en una lista larga, iOS ahora intentará resumir las alertas push en una notificación concisa.
Resulta que, y esto no debería sorprender a nadie familiarizado con la IA generativa, la "inteligencia" de Apple Intelligence contradice el hecho de que los resúmenes a veces son desafortunados o simplemente incorrectos. Los resúmenes de notificaciones se introdujeron por primera vez en iOS en la versión 18.1 que se lanzó en octubre; a principios de esta semana, Apple agregó la integración nativa con ChatGPT en Siri.
Una notificación de la aplicación de la BBC que incluye un resumen incorrecto.
En un artículo, la BBC compartió una captura de pantalla de una notificación que resume tres historias diferentes que se habían enviado como alertas push. La notificación dice: "Luigi Mangione se dispara; madre siria espera que Assad pague el precio; La policía de Corea del Sur allana la oficina de Yoon Suk Yeol”. Los otros resúmenes eran correctos, dice la BBC.
La BBC se ha quejado a Apple sobre la situación, que es embarazosa para la empresa tecnológica pero también corre el riesgo de dañar la reputación de los medios de comunicación si los lectores creen que están enviando información errónea. No tienen control sobre cómo decide iOS resumir sus alertas push.
“BBC News es el medio de comunicación más confiable del mundo”, dijo un portavoz de la BBC para la historia. “Es esencial para nosotros que nuestras audiencias puedan confiar en cualquier información o periodismo publicado en nuestro nombre y eso incluye las notificaciones”. Apple se negó a responder a las preguntas de la BBC sobre el problema.
La inteligencia artificial tiene mucho potencial en muchas áreas, pero los modelos de lenguaje son quizás una de las peores implementaciones. Pero hay muchas esperanzas corporativas de que la tecnología se vuelva lo suficientemente buena como para que las empresas puedan confiar en ella para usos como el chat de soporte al cliente o la búsqueda en grandes colecciones de datos internos. Pero aún no ha llegado el momento: de hecho, las empresas que utilizan IA han dicho que todavía tienen que hacer mucha edición del trabajo que produce.
Parece poco habitual que Apple integre profundamente una tecnología tan poco fiable e impredecible en sus productos. Apple no tiene control sobre los resultados de ChatGPT: el creador del chatbot, OpenAI, apenas puede controlar los modelos de lenguaje y su comportamiento se modifica constantemente. Los resúmenes de notificaciones breves deberían ser lo más fácil de hacer bien para la IA, y Apple está fallando incluso en eso.
Como mínimo, algunas de las funciones de Apple Intelligence demuestran cómo la IA podría tener usos prácticos. Una mejor edición de fotos y un modo de enfoque que comprenda qué notificaciones deben enviarse son agradables. Pero para una empresa asociada con experiencias pulidas, los resúmenes de notificaciones erróneos y un ChatGPT alucinante podrían hacer que iOS parezca poco pulido. Parece que se están subiendo al tren de la publicidad para aumentar las ventas del nuevo iPhone: se necesita un iPhone 15 Pro o más nuevo para usar sus funciones.