IA segura para menores: qué debe cumplir un tutor de IA en el aula
ChatGPT no se diseñó para un niño de 10 años. Qué exige el RGPD y el AI Act para menores, y cómo se construye una IA controlada con foco en aprender.
La primera pregunta de cualquier familia (y de cualquier dirección) cuando la IA entra en el aula es la misma: ¿es seguro para mi hijo? Es la pregunta correcta. Las herramientas de IA de consumo no se diseñaron para menores, y la diferencia entre una IA generalista y una IA controlada para menores no es un matiz: es toda la arquitectura.
Por qué ChatGPT no es para un aula de primaria
Un chatbot generalista optimiza por dar respuesta, no por enseñar. Eso produce tres problemas en un menor:
- Hace el trabajo por él. El atajo está a un clic y ningún filtro pedagógico lo impide.
- No hay supervisión. El docente no ve las conversaciones ni puede intervenir.
- Los datos viajan. Las condiciones de uso de las herramientas de consumo no están pensadas para datos de menores en un contexto escolar.
Qué exige la normativa
El RGPD trata los datos de menores como categoría especialmente protegida: hace falta base legal clara, minimización de datos y el centro como responsable del tratamiento. El AI Act añade obligaciones para sistemas usados en educación: supervisión humana, transparencia y registro de actividad. Traducido a la práctica, un tutor de IA para menores debe poder responder que sí a esto:
- ¿Las conversaciones quedan dentro del entorno del centro?
- ¿El docente puede ver, revisar e intervenir?
- ¿Hay límites de contenido adaptados a la edad?
- ¿El sistema enseña a llegar a la respuesta, o la regala?
Cómo se construye una IA con foco en aprender
Un tutor como ZOE invierte la lógica del chatbot: en lugar de resolver, acompaña. Ante un ejercicio de matemáticas no da el resultado; pregunta, da pistas, detecta dónde se atasca el alumno y adapta la dificultad. La conversación queda registrada en el entorno del centro y el docente ve el progreso: comprensión y autonomía, no horas de pantalla.
Esa es también la diferencia de fondo para las familias: no se trata de prohibir la IA (la van a usar igual), sino de que su primer contacto sea una IA que enseña a pensar, en un entorno donde un adulto puede mirar.
Checklist rápida para dirección y familias
| Pregunta | Respuesta que deberías oír |
|---|---|
| ¿Dónde viven los datos? | En el entorno del centro, RGPD, sin salir del ecosistema |
| ¿Quién supervisa? | El docente ve actividad y puede intervenir |
| ¿Da las respuestas? | No: guía con pistas y preguntas socráticas |
| ¿Se adapta a la edad? | Límites de contenido y tono por etapa |
| ¿Qué ve la familia? | Progreso del alumno, no promesas de marketing |
¿Quieres saber cómo encaja un tutor seguro dentro del ecosistema completo? Empieza por la guía de IA para centros o pide ver ZOE en una clase real.