Problema 6914

Los riesgos de usar inteligencia artificial generativa para educar a niños y adolescentes actualmente eclipsan los beneficios, según un nuevo estudio del Centro para la Educación Universal de Brookings Institution.

Este exhaustivo estudio incluye grupos focales y entrevistas con estudiantes de primaria y secundaria, padres, educadores y expertos en tecnología en 50 países, así como una revisión bibliográfica de cientos de artículos de investigación. El estudio concluyó que el uso de la IA en la educación puede "socavar el desarrollo fundamental de los niños" y que "los daños que ya ha causado son desalentadores", aunque "reparables".

Dado que la IA generativa aún es incipiente (ChatGPT se lanzó hace poco más de tres años) (https://openai.com/index/chatgpt/), los autores del informe calificaron su revisión de "premortem", cuyo objetivo es estudiar el potencial de la IA en el aula sin considerar los beneficios del tiempo, los datos a largo plazo ni la retrospectiva.

A continuación, se presentan algunas de las ventajas y desventajas que el informe presenta, junto con una muestra de las recomendaciones del estudio para docentes, padres, directores escolares y funcionarios gubernamentales:

Ventajas: La IA puede ayudar a los estudiantes a aprender a leer y escribir

Los docentes encuestados para el informe afirmaron que la IA puede ser útil en la adquisición de idiomas, especialmente para estudiantes que aprenden una segunda lengua. Por ejemplo, la IA puede ajustar la complejidad de un pasaje según la habilidad del lector y ofrece privacidad a los estudiantes con dificultades en grupos grandes.

Los docentes informaron que la IA también puede ayudar a mejorar la escritura de los estudiantes, siempre que se utilice para apoyar sus esfuerzos y no para hacer el trabajo por ellos: "Los docentes informan que la IA puede 'despertar la creatividad' y ayudar a los estudiantes a superar el bloqueo del escritor. En la etapa de borrador, puede ayudar con la organización, la coherencia, la sintaxis, la semántica y la gramática. En la etapa de revisión, la IA puede facilitar la edición y reescritura de ideas, así como con la puntuación, las mayúsculas y la gramática".

Pero, si hay una objeción en el informe, es esta: la IA es más útil cuando complementa, no reemplaza, los esfuerzos de un profesor de carne y hueso.

Desventaja: La IA representa una grave amenaza para el desarrollo cognitivo de los estudiantes.

Encabezando la lista de riesgos de Brookings se encuentra el efecto negativo que la IA puede tener en el desarrollo cognitivo de los niños: cómo aprenden nuevas habilidades y cómo perciben y resuelven problemas.

El informe describe una especie de círculo vicioso de dependencia de la IA, donde los estudiantes transfieren cada vez más su propio pensamiento a la tecnología, lo que conduce al tipo de deterioro cognitivo o atrofia más comúnmente asociado con el envejecimiento cerebral.

Rebecca Winthrop, una de las autoras del informe e investigadora sénior de Brookings, advierte: «Cuando los niños usan IA generativa que les dice la respuesta… no están pensando por sí mismos. No están aprendiendo a distinguir la verdad de la ficción. No están aprendiendo a comprender qué constituye un buen argumento. No están aprendiendo sobre las diferentes perspectivas del mundo porque, en realidad, no se involucran con el material».

La descarga cognitiva no es nueva. El informe señala que los teclados y las computadoras redujeron la necesidad de escribir a mano, y las calculadoras automatizaron las matemáticas básicas. Pero la IA ha potenciado este tipo de descarga, especialmente en escuelas donde el aprendizaje puede parecer transaccional.

Como dijo un estudiante a los investigadores: «Es fácil. No necesitas usar el cerebro».

El informe ofrece abundante evidencia que sugiere que los estudiantes que usan IA generativa ya están experimentando un deterioro en el conocimiento del contenido, el pensamiento crítico e incluso la creatividad. Y esto podría tener enormes consecuencias si estos jóvenes se convierten en adultos sin aprender a pensar críticamente.

Ventajas: La IA puede facilitar el trabajo del profesorado

El informe señala que otro beneficio de la IA es que permite al profesorado automatizar algunas tareas: "generar correos electrónicos para padres, traducir materiales, crear hojas de trabajo, rúbricas, cuestionarios y planes de clase", entre otras.

El informe cita múltiples estudios de investigación que han descubierto importantes beneficios en el ahorro de tiempo del profesorado, incluyendo un estudio estadounidense que reveló que el profesorado que utiliza IA ahorra un promedio de casi seis horas a la semana y aproximadamente seis semanas a lo largo de un año escolar completo.

Ventajas/Desventajas: La IA puede ser un motor de equidad (o inequidad)

Uno de los argumentos más sólidos a favor del uso educativo de la IA, según el informe de Brookings, es su capacidad para llegar a los niños que han sido excluidos del aula. Los investigadores citan el caso de Afganistán, donde los talibanes han negado el acceso a la educación formal postprimaria a niñas y mujeres.

Según el informe, un programa para niñas afganas "ha empleado IA para digitalizar el currículo afgano, crear lecciones basadas en él y difundir contenido en dari, pastún e inglés mediante clases de WhatsApp".

La IA también puede ayudar a que las aulas sean más accesibles para estudiantes con diversas discapacidades de aprendizaje, incluida la dislexia.

Pero Winthrop advierte que "la IA también puede aumentar enormemente las brechas existentes". Esto se debe a que las herramientas de IA gratuitas, más accesibles para estudiantes y escuelas, también pueden ser las menos fiables y menos precisas.

"Sabemos que las comunidades y escuelas más ricas podrán permitirse modelos de IA más avanzados", afirma Winthrop, "y sabemos que esos modelos de IA más avanzados son más precisos. Esto significa que esta es la primera vez en la historia de la tecnología educativa que las escuelas tendrán que pagar más por información más precisa. Y eso perjudica enormemente a las escuelas que carecen de muchos recursos". ### Desventaja: La IA representa serias amenazas para el desarrollo socioemocional

Las respuestas a la encuesta revelaron una profunda preocupación por el hecho de que el uso de la IA, en particular los chatbots, "está socavando el bienestar emocional de los estudiantes, incluyendo su capacidad para establecer relaciones, recuperarse de los reveses y mantener la salud mental", según el informe.

Uno de los muchos problemas del uso excesivo de la IA por parte de los niños es que esta tecnología es inherentemente aduladora: ha sido diseñada para reforzar las creencias de los usuarios.

Winthrop afirma que si los niños desarrollan habilidades socioemocionales principalmente a través de interacciones con chatbots diseñados para estar de acuerdo con ellos, "se vuelve muy incómodo estar en un entorno donde alguien no está de acuerdo contigo".

Winthrop ofrece el ejemplo de un niño que interactúa con un chatbot, "quejándose de sus padres y diciendo: 'Quieren que lave los platos; es muy molesto. Odio a mis padres'. El chatbot probablemente dirá: 'Tienes razón. Te malinterpretan. Lo siento mucho. Te entiendo'. En comparación con un amigo que diría: "Amigo, lavo los platos todo el tiempo en mi casa. No sé de qué te quejas. Es normal". Ahí está el problema.

Una encuesta reciente del Centro para la Democracia y la Tecnología, una organización sin fines de lucro que defiende los derechos y las libertades civiles en la era digital, reveló que casi 1 de cada 5 estudiantes de secundaria afirmó haber tenido una relación romántica con inteligencia artificial. Y el 42 % de los estudiantes encuestados afirmó haber usado la IA como compañía.

El informe advierte que la cámara de eco de la IA puede frenar el crecimiento emocional de un niño: "Aprendemos empatía no cuando nos comprenden a la perfección, sino cuando malinterpretamos y nos recuperamos", afirmó uno de los expertos encuestados.

Qué hacer al respecto

El informe de Brookings ofrece una larga lista de recomendaciones para ayudar a padres, docentes y legisladores, sin mencionar a las propias empresas tecnológicas, a aprovechar las ventajas de la IA sin exponer a los niños a los riesgos que esta tecnología supone actualmente. Entre estas recomendaciones:

• La educación en sí misma podría centrarse menos en lo que el informe denomina "finalización de tareas transaccionales" o un objetivo final basado en calificaciones, y más en fomentar la curiosidad y el deseo de aprender. Los estudiantes estarán menos inclinados a pedirle a la IA que haga el trabajo por ellos si se sienten comprometidos con él.
• La IA diseñada para niños y adolescentes debería ser menos aduladora y más "antagónica", rechazando las ideas preconcebidas y animando a los usuarios a reflexionar y evaluar.
• Las empresas tecnológicas podrían colaborar con los educadores en "centros de codiseño". En los Países Bajos, un centro respaldado por el gobierno ya reúne a empresas tecnológicas y educadores para desarrollar, probar y evaluar nuevas aplicaciones de IA en el aula.
• La alfabetización holística en IA es crucial, tanto para docentes como para estudiantes. Algunos países, como China y Estonia, cuentan con directrices nacionales integrales sobre alfabetización en IA.
• A medida que las escuelas continúan adoptando la IA, es importante que los distritos con fondos insuficientes en comunidades marginadas no se queden atrás, permitiendo que la IA aumente aún más la desigualdad.
• Los gobiernos tienen la responsabilidad de regular el uso de la IA en las escuelas, asegurándose de que la tecnología utilizada proteja la salud cognitiva y emocional de los estudiantes, así como su privacidad. En EE. UU., la administración Trump ha intentado prohibir que los estados regulen la IA por su cuenta, incluso cuando el Congreso hasta ahora no ha logrado crear un marco regulatorio federal.

Con este análisis preliminar, argumentan los autores, es hora de actuar. Los riesgos de la IA para niños y adolescentes ya son abundantes y evidentes. La buena noticia es que también lo son muchas de las soluciones.