Un grupo de investigación de la USC profundiza en los peligros de la Inteligencia Artificial en contacto con la infancia
Una investigación de la USC defiende que la IA puede convertirse en una nueva infraestructura de persuasión sobre la infancia. En este contexto, los juguetes inteligentes representan uno de los ejemplos más representativos al combinar conversación, personalización y recopilación de información emocional que, potencialmente, se podría emplear con fines comerciales. Estas son algunas de las principales conclusiones del capítulo ‘La colonización de la IA en la infancia: entre la educación, el juego y la persuasión’, elaborado por Isaac Maroto González, doctor en Comunicación e Información Contemporánea y miembro del grupo de investigación Nuevos Medios (PSM Research Team) de la USC, y Verónica Crespo Pereira, de la UDC. El trabajo analiza diferentes experiencias desarrolladas en Estados Unidos y China y expone la necesidad de abordar la incorporación de la IA a la infancia desde una perspectiva tecnológica, educativa, legislativa y ética.
El capítulo de la investigación sobre los menores lleva por título ‘Cuando la infancia entra en contacto con la IA: juego, aprendizaje y persuasión’, del que Maroto es autor principal, y forma parte del libro La inteligencia artificial en el espejo. Guía social, ética y cultural para entender el presente y el futuro digital, que publicará McGraw Hill Aula Magna en acceso abierto a mediados del mes de septiembre, tras la fase final de edición.
La inteligencia artificial está entrando de forma creciente en espacios vinculados a la educación y al ocio infantil, abriendo nuevas posibilidades para personalizar el aprendizaje, detectar dificultades y desarrollar herramientas educativas, pero también generando importantes interrogantes sobre la privacidad, la vigilancia, la dependencia tecnológica y la capacidad de influencia sobre niños y niñas.
De herramienta educativa a nuevo agente de influencia
El estudio señala que la IA puede contribuir a personalizar el aprendizaje, detectar dificultades de forma temprana y mejorar determinados procesos educativos. Sin embargo, advierte de que su utilización también puede convertir el entorno educativo en un espacio cada vez más condicionado por la recopilación y análisis de datos, la vigilancia algorítmica y las decisiones automatizadas. En este contexto, los autores recuerdan que la infancia constituye una etapa especialmente sensible, ya que durante estos años se desarrollan capacidades cognitivas, afectivas y sociales. La introducción de sistemas capaces de analizar el comportamiento, la atención o el rendimiento puede terminar influyendo en las preferencias y procesos de aprendizaje de los menores.
La investigación recupera además precedentes como Channel One, en Estados Unidos, que permitió la entrada de contenidos publicitarios en centros educativos a cambio de proporcionar determinados recursos tecnológicos. Para los investigadores, este tipo de experiencias muestran cómo la atención de los menores puede convertirse en un activo de interés comercial y cómo la tecnología puede transformar progresivamente espacios educativos en territorios de influencia.
China y el modelo de educación monitorizada
El trabajo analiza también el caso de China, donde la inteligencia artificial se está incorporando a diferentes niveles del sistema educativo mediante plataformas de aprendizaje personalizado, tutorías inteligentes, robots y sistemas capaces de registrar información sobre el rendimiento del alumnado. Aunque estas herramientas persiguen mejorar la eficiencia y adaptar la enseñanza a las necesidades de cada estudiante, los autores alertan sobre los riesgos de una monitorización constante. La utilización de datos psicofisiológicos y biométricos, así como de sistemas capaces de detectar estados de tensión o frustración, plantea interrogantes sobre la privacidad, la autonomía y la libertad del alumnado.
El estudio advierte asimismo de que una educación excesivamente centrada en la eficiencia puede limitar la espontaneidad, el pensamiento divergente y la capacidad crítica. La interacción humana, la escucha y las relaciones sociales son consideradas elementos esenciales del proceso educativo que no deberían quedar relegados por la tecnología.
Los juguetes inteligentes: entre el juego y la persuasión
Otro de los ámbitos analizados es el desarrollo de juguetes conversacionales dotados de inteligencia artificial. El capítulo aborda, entre otros ejemplos, el acuerdo anunciado entre OpenAI y Mattel para incorporar tecnología conversacional a conocidas marcas de juguetes. Según el estudio, estos dispositivos pueden pasar de ser simples herramientas de entretenimiento a convertirse en auténticos interlocutores para los menores, capaces de establecer relaciones personalizadas y recopilar información relacionada con sus conversaciones, preferencias y emociones.
Esta capacidad de interacción expone nuevos riesgos. El autor alerta de que el vínculo afectivo generado entre el menor y el dispositivo podría facilitar mecanismos de persuasión difíciles de identificar para un niño. La recopilación de información sobre miedos, deseos o necesidades emocionales podría utilizarse para orientar comportamientos o preferencias, especialmente cuando detrás del dispositivo existen intereses comerciales.
La principal conclusión del trabajo es que la incorporación de la IA a la infancia debe estar orientada a reforzar la autonomía, la creatividad, la pluralidad, la interacción humana y el pensamiento crítico, evitando que la tecnología se convierta en una herramienta de captura de atención, extracción de datos o persuasión opaca. El reto, concluyen los autores, no consiste únicamente en incorporar la inteligencia artificial a las aulas y al juego, sino en garantizar que su desarrollo y gobernanza sitúen el bienestar y la autonomía de los niños y niñas por encima de los intereses comerciales o de eficiencia tecnológica.