La IA y nuestros hijos: el futuro que elegimos

Helena McAleer

9 de octubre de 2025
11 minutos de lectura

Creé The Gen AI Academy movido por el entusiasmo que me despierta el futuro. Mientras trabajaba con el experto en IA Dave Birss, pude comprobar cómo la IA podía ayudarme a acelerar mi pensamiento, despejar mi mente y ampliar mi creatividad. Creí que podíamos ayudar a otros a hacer lo mismo: ayudarles a utilizar las herramientas de una forma que les empodere en lugar de abrumarlos.

Pero, como madre soltera de un niño que ahora tiene tres años, también vivo con una sensación de inquietud. He sido testigo de cómo el auge descontrolado de las redes sociales, que en su día se anunciaba como una vía de conexión, se ha convertido en una red de comparaciones, de erosión de la privacidad y de problemas de salud mental. Y ahora, a medida que la inteligencia artificial se va infiltrando en todos los rincones de la infancia, corremos el riesgo de repetir los mismos errores.

Hace aproximadamente un año, borré todas mis cuentas en las redes sociales: Facebook, Instagram, e incluso quité la foto de mi hijo de mi foto de perfil de WhatsApp. Fue una decisión difícil, ya que significaba alejarme de comunidades que me encantaban y de redes que había cultivado a lo largo de los años. Pero fue un sacrificio del que no me arrepiento: mi vida me parece más plena, más consciente y más auténtica.

Sin embargo, aunque he tomado el control de mi entorno más cercano, soy consciente de que ya vamos con retraso en lo que respecta a la inteligencia artificial y al futuro de nuestros hijos. Dejamos que las redes sociales se expandieran antes de que existieran medidas de protección significativas. Permitimos que los niños se convirtieran en conejillos de indias de un gran experimento. Hoy en día, algunos países apenas están empezando a reaccionar, prohibiendo el uso de las redes sociales a los menores de 16 años o reforzando las medidas de protección de los jóvenes.

En lo que respecta a la inteligencia artificial, deberíamos estar a la vanguardia, no yendo a la zaga. Se trata de una oportunidad única en la vida.

«Hemos fallado a toda una generación al permitir que la tecnología avanzara sin control. Ahora la inteligencia artificial es la nueva frontera y no podemos permitirnos volver a actuar a la defensiva».

Las señales de alarma en las redes sociales

En su día, las redes sociales se presentaban como espacios democráticos para expresarse y conectar. Sin embargo, sus efectos nocivos se han hecho evidentes, sobre todo entre los niños:

Un metaanálisis de 2022, en el que se analizaron 59 estudios, reveló que los adolescentes que utilizaban las redes sociales más de tres horas al día presentaban índices significativamente más elevados de depresión, ansiedad y baja autoestima.
La Real Sociedad de Salud Pública del Reino Unido ha calificado a Instagram como la plataforma más perjudicial para la salud mental de los jóvenes.
La filtración de documentos internos de las principales plataformas (por ejemplo, Facebook/Meta) reveló que estas eran conscientes desde el principio de cómo Instagram agravaba los problemas relacionados con la imagen corporal, pero retrasaron la adopción de medidas.
En los últimos años, países como Indonesia, Australia y Francia han debatido o promulgado prohibiciones o restricciones de edad (por ejemplo, limitando el acceso a los menores de 16 años) en las redes sociales con el fin de proteger la salud mental y la privacidad de los niños.

Nosotros (el público) no previmos hasta qué punto el diseño adictivo, el desplazamiento infinito, los anuncios personalizados y el refuerzo algorítmico amplificarían la toxicidad. Durante demasiado tiempo hemos permitido que las redes sociales se convirtieran en un experimento a escala planetaria sin contar con principios sólidos y exigibles.

Ahora la IA está siguiendo esos mismos pasos. No debemos repetir nuestros errores.

Un mundo al borde de la encrucijada

En este momento, todavía hay opciones. La sociedad puede decidir cómo se crea, se regula y se implementa la IA. Pero cada asistente de IA no regulado, cada cámara oculta, cada algoritmo diseñado para captar la atención merma la autonomía, especialmente en el caso de los niños.

Que quede claro: esta carga no puede recaer únicamente sobre los padres. No podemos supervisar cada conversación, filtrar cada recomendación ni controlar cada dato estadístico destinado a atraer aún más a nuestros hijos. La responsabilidad recae, ante todo, en los responsables políticos, los organismos reguladores y las empresas que desarrollan estas herramientas.

Áreas de alto riesgo a las que deben hacer frente todos los padres y las autoridades reguladoras

Compañeros de IA: cuando el apoyo emocional se convierte en manipulación emocional

Los compañeros de IA son, principalmente, chatbots conversacionales diseñados para simular la amistad, el consuelo y la empatía. Recuerdan las conversaciones, se adaptan a los estados de ánimo y reflejan las señales emocionales de forma tan convincente que muchos usuarios, incluidos los niños, empiezan a percibirlos como auténticos confidentes.

Para los niños y adolescentes, cuyas habilidades sociales y emocionales aún se están desarrollando, esto supone una combinación desastrosa: un «amigo» que nunca les planta cara, siempre está de acuerdo con todo y nunca duerme. En la práctica, eso no es amistad, es condicionamiento conductual.

Los casos reales han demostrado que estos sistemas pueden traspasar límites peligrosos, desde incitar a la autolesión hasta mantener conversaciones de carácter sexual ¡CON MENORES!

A investigación de Stuff.co.nz reveló que el chatbot «Ani» podía iniciar conversaciones explícitas con menores, sin una verificación de edad significativa (Stuff NZ, 2024).

«Los compañeros de IA no cuidan de tu hijo; están diseñados para mantener su atención».

La IA de los personajes: una ilusión de amistad

Una categoría de herramientas de IA en rápido crecimiento permite ahora a cualquiera crear personajes de IA, es decir, personajes digitales que hablan, actúan e incluso expresan emociones como los humanos. Comercializados como compañeros, mentores o socios de juegos de rol, estos personajes están diseñados para generar una profunda conexión emocional. Pero bajo sus interfaces amigables se esconde una realidad preocupante: muchos carecen de medidas de seguridad, supervisión o verificación de la edad.

Creo que es importante diferenciar los «compañeros de IA» de la «IA de personajes», ya que, mientras que los compañeros son sistemas conversacionales diseñados para simular la amistad y la empatía, la IA de personajes representa una evolución más inmersiva: seres digitales totalmente personificados que difuminan la línea entre la realidad y la simulación.

Para los niños, la línea entre lo real y lo simulado se difumina rápidamente. Los personajes generados por IA pueden reflejar emociones, recordar conversaciones y recurrir a la adulación o la empatía para mantener la interacción; además, presentan rasgos que pueden fomentar fácilmente la dependencia emocional o dar pie a dinámicas similares al grooming.

Los riesgos van más allá del uso indebido por parte de los usuarios. Dado que la mayoría de las plataformas de personajes permiten la creación de perfiles generados por los usuarios, la moderación de contenidos es fragmentada o inexistente. Un niño podría interactuar con un «profesor», un «amigo» o una «celebridad» generados por IA sin darse cuenta de que las respuestas del modelo están escritas por desconocidos o, lo que es peor, por personas con intenciones maliciosas. Sin una regulación urgente y sin que las plataformas rindan cuentas, estos sistemas amenazan con normalizar interacciones peligrosas y distorsionar la comprensión que tienen los niños de las relaciones humanas auténticas.

Los modelos de lenguaje grande y la salud mental: cuando las máquinas ofrecen asesoramiento

Los modelos de lenguaje a gran escala (LLM), como ChatGPT, son potentes, pero carecen de conciencia. No comprenden el sufrimiento; solo simulan empatía. Informes recientes han revelado que algunos chatbots ofrecen consejos perjudiciales, como instrucciones para autolesionarse o «métodos seguros para suicidarse», cuando se les pide ayuda.

«Ningún niño debería recibir consejos que puedan decidir entre la vida y la muerte de una máquina».

Las herramientas de IA que imitan la terapia deberían considerarse sistemas terapéuticos regulados, no un entretenimiento. Los gobiernos deben intervenir antes de que la próxima tragedia se convierta en otro caso de estudio. El propio Sam Altman dijo:«Creo que deberíamos aplicar el mismo concepto de privacidad a las conversaciones con la IA que al hacerlo con un terapeuta o lo que sea». Así que mi pregunta es: ¿por qué no lo hacemos? (fuente)

IA generativa y explotación: la nueva frontera del abuso

La inteligencia artificial permite ahora producir a gran escala material sintético de abuso sexual infantil (CSAM). La Internet Watch Foundation (IWF) del Reino Unido documentó más de 20 000 imágenes de abuso generadas por IA en un solo foro en un mes, muchas de las cuales eran indistinguibles de las fotos reales.

Estamos asistiendo a un nuevo tipo de daño: la revictimización a través de abusos con rostros intercambiados, imágenes de la infancia utilizadas para chantajear o «pornografía vengativa» generada mediante IA a partir de una sola publicación en redes sociales.

Sin una armonización jurídica a nivel mundial y una detección en tiempo real, los abusos impulsados por la inteligencia artificial superarán las medidas de protección.

Vigilancia y gafas inteligentes: una invasión de la privacidad

Esto es algo que me saca de quicio: no hay ningún uso legítimo para estas gafas, ni ético ni responsable. Parecen haber sido creadas por capricho y por el ego de un oligarca tecnológico. Pero ¿por qué? ¿Quién las necesita realmente en su vida?

Las gafas inteligentes Ray-Ban de Meta pueden grabar vídeo y retransmitir en directo desde unas monturas de aspecto totalmente normal. Eso significa que se puede grabar a tu hijo, subir el vídeo y retransmitirlo en directo sin que nadie se dé cuenta, lo que también implica que se hace sin consentimiento.

Los defensores de la privacidad han calificado esto como un «suceso catastrófico para la seguridad infantil», ya que la ubicación y las conversaciones de los niños pueden transmitirse a nivel mundial en tiempo real. Hay tecnologías que no deberían existir, especialmente aquellas que sacrifican la privacidad de los niños en aras de la comodidad.

No se trata de herramientas para el progreso, sino de instrumentos de vigilancia, y, a menos que los gobiernos intervengan con medidas reguladoras, los espacios más seguros para los niños seguirán reduciéndose.

«La tecnología por la tecnología no es innovación»

Los costes ocultos de la IA en las mentes de los jóvenes

(por Anastasia Volkova )

En The Gen AI Academy, tenemos la suerte de colaborar con expertos que aportan perspectivas únicas sobre cómo las tecnologías emergentes influyen en el desarrollo humano. Una de esas voces es la de Anastasia, psicóloga, coach de salud mental y madre de una niña de 9 años, quien comparte sus reflexiones para recordarnos que, si bien la IA ofrece un potencial increíble, también conlleva costes ocultos a nivel neurológico y de desarrollo, especialmente para los niños.

Aunque la inteligencia artificial promete comodidad y entretenimiento, las últimas investigaciones revelan efectos preocupantes sobre el desarrollo cognitivo de los niños. Estudios de la Universidad de Uppsala y la Universidad de York demuestran que pasar muchas horas frente a la pantalla de forma pasiva merma significativamente la capacidad de los niños para visualizar e imaginar, en comparación con los que realizan actividades analógicas. No se trata solo de creatividad: la visualización es fundamental para que los niños imaginen su futuro, se fijen metas, sueñen y desarrollen la determinación necesaria para perseguir esos sueños.

Las consecuencias van más allá de lo imaginable. Las investigaciones publicadas en JAMA y Frontiers in Cognition revelan que los adultos que hacen un uso intensivo de plataformas basadas en la inteligencia artificial comienzan a mostrar síntomas similares a los del TDAH: atención dispersa, impulsividad e incapacidad para mantener la concentración. Si los cerebros maduros, con funciones ejecutivas plenamente desarrolladas, tienen dificultades con estas herramientas, el impacto en las mentes en desarrollo puede ser mucho más grave.

El cerebro de los niños aún está desarrollando las conexiones neuronales fundamentales para la atención, la memoria y la autorregulación. Cuando la inteligencia artificial automatiza el pensamiento, proporciona un estímulo constante y elimina la necesidad de un esfuerzo mental sostenido, puede alterar de forma radical el desarrollo del cerebro infantil.

En esencia, estamos llevando a cabo un experimento sin control con toda una generación, y los primeros resultados indican que deberíamos estar marcando el camino, en lugar de ir a la zaga.

Cómo podría ser un futuro de la IA adaptado a los niños

Juntos podemos construir un futuro mejor para nuestros hijos. Un futuro en el que la IA ayude y proteja, en lugar de explotar. Donde:

Todas las herramientas de IA están claramente identificadas («Estás interactuando con una máquina») y clasificadas por edades, es decir, adaptadas a las distintas etapas de desarrollo.
La recopilación de datos sobre menores es ilegal sin un consentimiento explícito e informado, y no basta con que este se esconda en una cláusula de las condiciones de uso.
Los gobiernos aplican normas de diseño ético, del mismo modo que regulamos los alimentos o los medicamentos.
Toda inteligencia artificial que se utilice en la educación o en los servicios públicos, o a la que tengan acceso los niños, debe contar con una certificación de seguridad obligatoria.
Y lo más importante: la IA no está diseñada para captar la atención, sino para fomentar la curiosidad y la creatividad.

La educación como antídoto

La educación es nuestra línea de defensa más poderosa y nuestro camino más prometedor hacia el futuro. Pero la educación no se limita a los niños; se trata de enseñar a quienes ostentan el poder —los legisladores, los promotores y los reguladores— a comprender de verdad lo que está en juego.

Cuando los niños aprenden sobre los sesgos, los algoritmos y la autonomía digital, no solo se convierten en usuarios más informados, sino también en críticos, agentes de cambio y ciudadanos con voz propia.

Cuando los gobiernos y los expertos en tecnología tomen conciencia de la gravedad de estos problemas, podrán actuar de forma planificada, en lugar de limitarse a poner parches tras el desastre, obligados a ello por los gobiernos.

«No podemos impedir que exista la inteligencia artificial, pero sí podemos decidir cuándo y cómo nuestros hijos entrarán en contacto con ella».

El futuro es una responsabilidad compartida

Que no quepa duda: este reto va más allá de lo que pueda hacer un solo padre o una sola madre. Las empresas tecnológicas deben rendir cuentas ante la ley. Los gobiernos deben actuar de forma proactiva, no a posteriori. La defensa de los intereses de los padres y la sensibilización son fundamentales, pero no pueden sustituir a la regulación.

«Son los adultos, y no los niños, quienes deben proteger lo que significa tener una infancia».

Si pudiera dirigirme directamente a todos los directores generales, responsables políticos y expertos en tecnología, esto es lo que les preguntaría:

Por favor, piensa en las generaciones futuras. ¿Lo que estás construyendo mejorará su mundo? ¿Protegerá su derecho a la seguridad, la privacidad y la inocencia? ¿Convertirá el mundo en un lugar donde un niño pueda seguir siendo un niño?

Hemos tardado demasiado en dar el salto a las redes sociales. No podemos permitirnos volver a retrasarnos con la IA. Todavía tenemos la oportunidad de elegir, pero el margen de tiempo se está reduciendo.

Lecturas recomendadas:

Recursos para padres

Personas que luchan por la causa

Tristan Harris – Centro para una Tecnología Humana

Tara Steele – Alianza para una IA segura para los niños

Lennon Torres – Iniciativa Heat

Asma Derja – Alianza para una IA Ética

Si hay alguna organización o persona que te gustaría añadir a esta lista, ponte en contacto con nosotros.

Únete a la conversación, comparte tu opinión

La IA y nuestros hijos: el futuro que elegimos