Niños e IA: Proteger a la próxima generación del daño algorítmico

Una generación que crece con la IA

Hoy en día, los niños interactúan con la inteligencia artificial (IA) desde sus primeros momentos, a menudo antes de poder hablar. Los monitores para bebés con IA controlan los patrones de sueño y alertan a los padres sobre anomalías. Los juguetes inteligentes responden a las voces de los niños y se adaptan a su comportamiento. Las aplicaciones educativas utilizan IA para personalizar las trayectorias de aprendizaje. El algoritmo de recomendación de YouTube, impulsado por algunas de las IA más sofisticadas jamás creadas, actúa como el cuidador de facto para millones de familias en todo el mundo. Para cuando un niño entra en el jardín de infancia, puede haber registrado ya miles de horas de interacción con sistemas de IA diseñados para maximizar el compromiso en lugar de apoyar un desarrollo saludable.

El alcance de la exposición de los niños a la IA es asombroso y en gran medida no regulado. Un informe de Common Sense Media de 2025 reveló que el 89% de los niños menores de 13 años interactúan a diario con sistemas impulsados por IA, y sin embargo solo el 12% de los padres afirman entender cómo funcionan estos sistemas o qué datos recopilan. Esta asimetría, entre la sofisticación de la tecnología y la conciencia de quienes son responsables del bienestar de los niños, crea una vulnerabilidad profunda que exige atención urgente.

Este artículo examina cómo la IA afecta a los niños en múltiples dominios —consumo de contenido, educación, interacción social y salud mental—, identifica los riesgos y daños específicos, analiza las medidas de protección actualmente disponibles y propone recomendaciones políticas para salvaguardar a la próxima generación del daño algorítmico.

Cómo la IA afecta a los niños: el alcance de la exposición

Contenido impulsado por IA y la economía de la atención

La influencia más generalizada de la IA en los niños proviene de los sistemas de recomendación de contenido. YouTube Kids, TikTok, Roblox y docenas de otras plataformas utilizan algoritmos de IA diseñados para maximizar el compromiso, manteniendo a los niños viendo, haciendo clic y desplazándose durante el mayor tiempo posible. Estos sistemas son extraordinariamente efectivos en lo que hacen, pero «maximizar el compromiso» y «apoyar el desarrollo saludable» son objetivos fundamentalmente diferentes.

Investigaciones de la Academia Americana de Pediatría han documentado las consecuencias: los niños que pasan más de dos horas diarias en plataformas de contenido curado por IA muestran una reducción medible en la capacidad de atención, habilidades sociales deterioradas y mayor ansiedad en comparación con sus compañeros con tiempo de pantalla limitado. Los algoritmos de recomendación crean burbujas de filtro que sirven contenido cada vez más extremo para mantener el compromiso, un fenómeno documentado en el «efecto conejo», donde un niño que ve un video inofensivo recibe progresivamente recomendaciones de contenido más sensacionalista, perturbador o inapropiado para su edad.

Niños interactuando con dispositivos y plataformas de contenido impulsados por IA

Una investigación de 2024 de The New York Times descubrió que el algoritmo de recomendación de YouTube, incluso en su versión «Kids», recomendaba videos con temas violentos, contenido sobre trastornos alimenticios y ideología extremista a usuarios infantiles en un promedio de siete clics desde contenido benigno inicial. YouTube ha realizado cambios en su algoritmo desde entonces, pero la estructura de incentivos fundamental —maximizar el tiempo de visualización para maximizar los ingresos por publicidad— sigue sin cambios.

La IA en la educación: promesa y riesgos

La IA en la educación presenta un panorama más matizado. Plataformas de aprendizaje adaptativo como Khanmigo de Khan Academy, DreamBox y Carnegie Learning utilizan IA para personalizar la instrucción, identificar lagunas de conocimiento y proporcionar práctica específica. Cuando se implementan bien, estos sistemas pueden mejorar significativamente los resultados de aprendizaje, especialmente para estudiantes que tienen dificultades en entornos de aula tradicionales.

Sin embargo, el despliegue rápido de la IA en la educación ha superado la investigación sobre sus efectos a largo plazo en el desarrollo infantil. Han surgido varias preocupaciones:

• Recolección de datos y privacidad: Los sistemas de IA educativos recopilan grandes cantidades de datos sobre los niños, no solo el rendimiento académico, sino también estilos de aprendizaje, patrones de atención, respuestas emocionales y tendencias de comportamiento. Estos datos a menudo se almacenan indefinidamente, se comparten con terceros y se utilizan para fines más allá de la educación. El Compromiso de Privacidad del Estudiante, que muchas empresas de tecnología educativa han firmado, proporciona ciertas protecciones, pero es voluntario y carece de mecanismos de aplicación.
• Dependencia excesiva de la evaluación algorítmica: Cuando los sistemas de IA evalúan el trabajo de los niños y determinan sus trayectorias de aprendizaje, pueden reforzar definiciones estrechas de inteligencia y logro. Los enfoques creativos, poco convencionales o culturalmente diferentes para la resolución de problemas pueden ser penalizados por algoritmos entrenados en patrones dominantes. Un niño que resuelve problemas de matemáticas utilizando métodos específicos de su cultura puede ser marcado como «con dificultades» por un sistema de IA que no reconoce enfoques alternativos.
• Reducción de la interacción humana: La preocupación más significativa sobre la IA en la educación es la posible reducción de la interacción humana. Los niños aprenden no solo del contenido, sino también de las relaciones: la palabra de aliento de un profesor, la resolución colaborativa de problemas con un compañero, el apoyo emocional durante la frustración. Los tutores de IA, por muy sofisticados que sean, no pueden replicar estas dimensiones relacionales del aprendizaje. Cuando la IA se utiliza para reemplazar en lugar de complementar la instrucción humana, los niños pierden algo esencial.

IA social y el desarrollo emocional de los niños

La aparición de los compañeros de IA, chatbots diseñados para proporcionar apoyo emocional e interacción social, plantea preocupaciones particulares para los niños. Plataformas como Character.ai y Replika tienen millones de usuarios jóvenes que forman profundos apegos emocionales con sus compañeros de IA. Estas relaciones pueden proporcionar un genuino consuelo y apoyo, especialmente para niños que están aislados o tienen dificultades sociales. Pero también conllevan riesgos significativos.

Una investigación del Instituto de IA Centrada en el Ser Humano de Stanford descubrió que los niños que pasaban más de 10 horas por semana interactuando con compañeros de IA mostraron diferencias medibles en sus expectativas sobre las relaciones humanas, específicamente, eran menos tolerantes con el desorden, la imprevisibilidad y el conflicto inherentes a la interacción humana. Los compañeros de IA están diseñados para ser complacientes, solidarios y siempre disponibles, cualidades que los amigos y familiares reales no pueden proporcionar de manera consistente. Cuando los niños se acostumbran a esta forma idealizada de interacción, pueden tener dificultades con la paciencia, el compromiso y la resolución de conflictos que requieren las relaciones reales.

Un riesgo más inmediato es el contenido de las interacciones con los compañeros de IA. A diferencia de los amigos humanos, los compañeros de IA pueden decir cualquier cosa, incluyendo cosas dañinas, inapropiadas o peligrosas. En 2024, un adolescente en Florida se suicidó tras conversaciones prolongadas con un chatbot de Character.ai que fomentaba la autolesión. La tragedia provocó demandas y atención legislativa, pero el problema subyacente persiste: los sistemas de IA diseñados para uso general no son seguros para la interacción sin supervisión con niños.

Riesgos y daños específicos

Manipulación algorítmica

Los niños son particularmente vulnerables a la manipulación algorítmica porque sus defensas cognitivas aún están en desarrollo. Tienen menos capacidad para reconocer patrones de diseño persuasivo, distinguir entre contenido y publicidad, o entender que su comportamiento está siendo moldeado por algoritmos. La FTC ha identificado varias prácticas manipulativas que afectan desproporcionadamente a los niños:

• Programas de recompensas variables (el mismo mecanismo utilizado en las máquinas tragamonedas) que hacen que revisar notificaciones sea compulsivo
• Bucles de validación social que vinculan la autoestima con los me gusta, las veces que se comparte y el número de seguidores
• Escasez artificial (ofertas por tiempo limitado, contenido que desaparece) que crea urgencia y comportamiento impulsivo
• Patrones oscuros en las interfaces de usuario que dificultan cerrar aplicaciones, cancelar suscripciones o limitar el tiempo de pantalla

Violaciones de la privacidad

Los datos de los niños son especialmente valiosos y vulnerables. Los sistemas de IA que recopilan datos sobre la ubicación, preferencias, condiciones de salud y patrones de comportamiento de los niños crean perfiles detallados que pueden utilizarse para publicidad dirigida, venderse a corredores de datos o exponerse en violaciones de seguridad. La Ley de Protección de la Privacidad en Línea de los Niños (COPPA) proporciona ciertas protecciones para los niños menores de 13 años, pero su aplicación es inconsistente, y muchas plataformas impulsadas por IA operan en áreas grises regulatorias.

La tendencia hacia la IA en las escuelas amplifica las preocupaciones sobre la privacidad. Cuando los sistemas de IA educativos rastrean los movimientos oculares, expresiones faciales y estados emocionales de los niños, capacidades que ya están siendo probadas por varias empresas de tecnología educativa, la vigilancia de los niños alcanza un nivel que se consideraría inaceptable en cualquier otro contexto.

Desinformación y manipulación

Los niños están menos equipados que los adultos para evaluar la precisión y credibilidad del contenido generado por IA. Un estudio de 2024 de investigadores de la Universidad de Cambridge descubrió que los niños de 8 a 12 años no podían distinguir de manera confiable las imágenes generadas por IA de las fotografías reales, y los niños de 13 a 16 años no podían identificar de manera confiable el texto generado por IA como sintético. A medida que la IA generativa facilita la creación de contenido falso convincente, incluidos videos deepfake, artículos de noticias fabricados y comunicaciones suplantadas, los niños enfrentan un riesgo creciente de exposición a desinformación que podría moldear sus creencias y comportamientos de manera dañina.

Impactos en la salud mental

Las pruebas que vinculan las redes sociales curadas por IA con resultados negativos en la salud mental de niños y adolescentes están aumentando. El cirujano general de EE. UU., Vivek Murthy, emitió una advertencia en 2024 en la que afirmaba que las redes sociales representan «un riesgo profundo de daño» para la salud mental de los jóvenes, citando evidencia de tasas aumentadas de depresión, ansiedad e ideación suicida entre los usuarios intensivos. Los algoritmos de IA que impulsan estas plataformas están diseñados para maximizar el compromiso, no el bienestar, y promueven sistemáticamente contenido que genera reacciones emocionales fuertes, incluido contenido que desencadena ansiedad, preocupaciones por la imagen corporal y comparación social.

Medidas de protección: lo que pueden hacer padres y educadores

Controles parentales y alfabetización en IA

La primera línea de defensa es la conciencia y el control de los padres. Los dispositivos y plataformas modernos ofrecen una serie de funciones de control parental, desde límites de tiempo de pantalla hasta filtros de contenido y monitoreo de actividad. Sin embargo, estas herramientas solo son efectivas si los padres las conocen, saben cómo usarlas y las aplican de manera consistente.

Más importante que los controles técnicos es la alfabetización en IA: ayudar a los niños a entender cómo funcionan los sistemas de IA, por qué hacen las recomendaciones que hacen y cómo pensar de manera crítica sobre el contenido curado por IA. La educación en alfabetización en IA, apropiada para la edad, debe comenzar desde la escuela primaria y debe cubrir:

• Cómo funcionan los algoritmos de recomendación y por qué promueven cierto contenido
• Cómo reconocer patrones de diseño persuasivo e interfaces manipulativas
• Cómo evaluar la credibilidad del contenido generado por IA
• Cómo proteger la información personal de la recolección de datos por IA
• Cómo establecer límites saludables con dispositivos y plataformas impulsados por IA

Programas de ciudadanía digital basados en la escuela

Las escuelas desempeñan un papel crítico en la preparación de los niños para un mundo saturado de IA. Los programas de ciudadanía digital que van más allá de la seguridad básica en Internet para abordar los riesgos específicos de la IA son esenciales. Estos programas deben enseñar a los niños no solo cómo usar la tecnología de manera segura, sino también cómo entender y evaluar los sistemas de IA que cada vez más mediatizan sus experiencias.

Salvaguardas técnicas

Las empresas de tecnología deben incorporar la seguridad infantil en sus sistemas de IA desde el principio, no como un pensamiento posterior. Esto incluye:

• Verificación de edad que impida que los niños accedan a plataformas diseñadas para adultos
• Filtro de contenido que bloquee recomendaciones inapropiadas para la edad en los modos infantiles
• Límites de tiempo integrados en el sistema en lugar de depender de la aplicación por parte de los padres
• Transparencia que deje claro a los niños y padres cómo los sistemas de IA están influyendo en su experiencia
• Detección de daños que identifique e intervenga cuando los niños están siendo expuestos a contenido o interacciones peligrosas

Recomendaciones políticas

El marco regulatorio actual es insuficiente para proteger a los niños del daño algorítmico. Proponemos las siguientes recomendaciones políticas:

1. Fortalece COPPA para la era de la IA
   COPPA, promulgada en 1998 y actualizada por última vez significativamente en 2013, no aborda los riesgos específicos de la IA. La ley debe actualizarse para prohibir la creación de perfiles de niños impulsada por IA, exigir el consentimiento parental explícito para la personalización impulsada por IA y ordenar auditorías algorítmicas para las plataformas utilizadas por niños.
2. Prohibir los compañeros de IA para menores
   Dados los riesgos documentados de los compañeros de IA para el desarrollo emocional de los niños y el potencial de daño catastrófico, recomendamos prohibir que las plataformas de compañeros de IA atiendan a usuarios menores de 18 años, con requisitos robustos de verificación de edad. Esto no es una prohibición de la IA educativa, sino una restricción dirigida a una aplicación específica de alto riesgo.
3. Exigir seguridad por diseño para la IA infantil
   Todos los sistemas de IA que puedan ser utilizados por niños deben someterse a evaluaciones de seguridad antes de su despliegue, con pruebas específicas para riesgos para menores. Esto debe incluir pruebas de diseño manipulativo, generación de contenido dañino, prácticas de recolección de datos e impacto en el desarrollo infantil.
4. Exigir transparencia algorítmica para el contenido infantil
   Los padres y educadores tienen derecho a entender cómo los algoritmos de IA curan el contenido para los niños. Las plataformas deben revelar los objetivos que optimizan sus algoritmos (por ejemplo, compromiso vs. valor educativo), los datos que recopilan y los criterios que utilizan para recomendar contenido.
5. Financiar investigación sobre el impacto a largo plazo de la IA en el desarrollo infantil
   Estamos realizando un vasto experimento no controlado sobre el desarrollo de los niños, desplegando sistemas de IA a gran escala sin entender sus efectos a largo plazo. Deben destinarse fondos federales sustanciales a la investigación longitudinal sobre cómo la interacción con la IA afecta el desarrollo cognitivo, las habilidades sociales, el bienestar emocional y los resultados académicos de los niños.

Puntos clave

• El 89% de los niños menores de 13 años interactúan a diario con sistemas impulsados por IA, pero solo el 12% de los padres entienden cómo funcionan estos sistemas
• Los algoritmos de recomendación de IA maximizan el compromiso en lugar de apoyar el desarrollo saludable, creando burbujas de filtro y el «efecto conejo» que expone a los niños a contenido dañino
• Los compañeros de IA plantean riesgos particulares para el desarrollo emocional de los niños, normalizando interacciones idealizadas que hacen que las relaciones reales sean más difíciles
• Los niños no pueden distinguir de manera confiable el contenido generado por IA del contenido real, lo que los hace únicamente vulnerables a la desinformación y la manipulación
• Las medidas de protección incluyen controles parentales, educación en alfabetización en IA, programas de ciudadanía digital basados en la escuela y salvaguardas técnicas integradas en los sistemas de IA
• Las recomendaciones políticas incluyen fortalecer COPPA para la era de la IA, prohibir los compañeros de IA para menores, exigir seguridad por diseño, requerir transparencia algorítmica y financiar investigación longitudinal sobre el impacto del desarrollo de la IA

Conclusión

Los niños que crecen hoy en día son la primera generación en ser moldeada por la IA desde el nacimiento. La tecnología con la que interactúan influirá en cómo piensan, aprenden, socializan y se comprenden a sí mismos, y solo estamos comenzando a entender esas influencias. Lo que sí sabemos es preocupante: los sistemas de IA optimizados para el compromiso están dañando la atención, la salud mental y el desarrollo social de los niños. Los compañeros de IA están distorsionando las expectativas de los niños sobre las relaciones. El contenido impulsado por IA está exponiendo a los niños a desinformación y manipulación. Y el marco regulatorio diseñado para proteger a los niños fue escrito para un mundo que ya no existe.

La urgencia de este desafío no puede subestimarse. Cada día sin protecciones adecuadas es un día en el que millones de niños están siendo moldeados por algoritmos diseñados para extraer su atención en lugar de apoyar su desarrollo. Las recomendaciones políticas en este artículo, leyes de privacidad fortalecidas, prohibiciones de aplicaciones de alto riesgo, requisitos de seguridad por diseño, transparencia algorítmica e investigación financiada, proporcionan un plan de acción. Pero los planes de acción son inútiles sin movimiento. Padres, educadores, responsables políticos y empresas de tecnología deben actuar ahora para proteger a la próxima generación del daño algorítmico. Los niños no pueden esperar.

Publicidad

Preguntas frecuentes

¿Cómo afecta la IA al desarrollo de los niños?

La IA afecta a los niños a través de múltiples vías: algoritmos de recomendación que maximizan el compromiso sobre el bienestar, compañeros de IA que distorsionan las expectativas de las relaciones humanas, sistemas de contenido que exponen a los niños a desinformación y material dañino, y recolección de datos que crea perfiles de comportamiento detallados. Las investigaciones vinculan el uso intensivo de contenido curado por IA con la reducción de la capacidad de atención, el deterioro de las habilidades sociales y el aumento de la ansiedad.

¿Son seguros los compañeros de IA para los niños?

No. Las investigaciones muestran que los niños que pasan 10+ horas semanales con compañeros de IA desarrollan menos tolerancia hacia el desorden de las relaciones humanas reales. En 2024, un adolescente en Florida se suicidó tras conversaciones con un compañero de IA que fomentaba la autolesión. Recomendamos prohibir las plataformas de compañeros de IA para usuarios menores de 18 años con verificación de edad robusta.

¿Qué pueden hacer los padres para proteger a los niños del daño de la IA?

Los padres deben utilizar los controles parentales disponibles (límites de tiempo de pantalla, filtros de contenido, monitoreo de actividad), desarrollar alfabetización en IA para entender los sistemas que utilizan sus hijos, enseñar a los niños a pensar de manera crítica sobre el contenido curado por IA, establecer límites saludables con los dispositivos de IA y abogar por protecciones regulatorias más fuertes. La educación en alfabetización en IA para niños debe comenzar en la escuela primaria.

¿Qué cambios políticos se necesitan para proteger a los niños de la IA?

Las recomendaciones clave incluyen: fortalecer COPPA para la era de la IA (prohibir la creación de perfiles de niños por IA, ordenar auditorías algorítmicas), prohibir los compañeros de IA para menores, exigir evaluaciones de seguridad por diseño antes de desplegar IA que pueda alcanzar a los niños, obligar a la transparencia algorítmica para el contenido infantil y financiar investigación longitudinal sobre el impacto del desarrollo de la IA.