Una de las frases que más se ha repetido desde la aprobación del Reglamento Europeo de Inteligencia Artificial es que la IA en educación es de alto riesgo.

La frase parece prudente, pero necesita matices. Si la aceptamos tal como está, sin distinguir usos, funciones y consecuencias, corremos el riesgo de generar más miedo que criterio. Y el miedo, en educación, rara vez diseña buenas soluciones.

La IA no es de alto riesgo por el simple hecho de entrar en un aula. Un profesor que utiliza una herramienta para preparar ejemplos, adaptar un texto, revisar una explicación o diseñar una actividad no está necesariamente en el terreno más delicado del Reglamento Europeo. Tampoco lo está quien usa IA para ordenar ideas, comparar versiones de una rúbrica o preparar materiales que luego revisa antes de llevarlos a clase.

Pero eso no significa que todos los usos sean iguales.

El riesgo no depende solo de la herramienta. Depende, sobre todo, de la función que le damos dentro del proceso educativo.

No es lo mismo una IA que ayuda a preparar materiales que una IA que evalúa resultados de aprendizaje. No es lo mismo una herramienta que propone preguntas de repaso que otra que clasifica alumnos por nivel. No es lo mismo usar IA para detectar patrones de error bajo supervisión docente que utilizarla para decidir agrupamientos, recomendar itinerarios o vigilar estudiantes durante una prueba.

La pregunta, por tanto, no debería ser simplemente si usamos IA.

La pregunta importante es otra:

¿Qué papel ocupa la IA en la decisión educativa?

Ahí empieza el análisis serio.

El Reglamento distingue usos, no intenciones

El Reglamento Europeo de Inteligencia Artificial adopta un enfoque basado en el riesgo. Esto significa que no trata todos los sistemas de IA del mismo modo, sino que distingue entre prácticas prohibidas, sistemas de alto riesgo, obligaciones específicas de transparencia y otros usos menos intensamente regulados.

En educación, el punto más relevante aparece en el Anexo III, donde se incluyen determinados sistemas de IA destinados a finalidades especialmente sensibles: determinar el acceso o la admisión, asignar personas a instituciones o programas, evaluar resultados de aprendizaje, influir de manera sustancial en el proceso educativo o supervisar y detectar comportamientos prohibidos durante pruebas. El propio Reglamento explica que estos usos pueden afectar a la trayectoria educativa y profesional de una persona.

Este matiz es fundamental.

El Reglamento no dice que cualquier uso educativo de IA sea de alto riesgo. Lo que señala es que algunos usos lo son porque se acercan a decisiones que pueden condicionar el aprendizaje, la evaluación o las oportunidades del alumno.

Por eso, leer el marco legal como una prohibición general sería un error. Pero leerlo como si no cambiara nada también lo sería.

La clave está en distinguir.

Preparar, analizar, decidir

Para entenderlo mejor, puede ayudar pensar en tres niveles.

El primero es preparar. Aquí la IA ayuda al docente a generar materiales, ejemplos, actividades, explicaciones o borradores de rúbricas. Estos usos pueden ser mejores o peores, y siempre exigen revisión, pero no implican por sí mismos una decisión sobre un alumno concreto.

El segundo es analizar. En este nivel, la IA puede trabajar con evidencias reales de aprendizaje para detectar patrones, señalar dificultades, ordenar errores o proponer feedback. Este uso ya exige más cuidado, porque puede implicar producciones reales de alumnos y, por tanto, datos que deben protegerse. Pero sigue siendo un uso legítimo si está bien diseñado, si se minimizan los datos, si se protege la identidad y si el docente conserva el control.

El tercer nivel es decidir. Aquí la IA asigna notas, determina niveles, recomienda agrupamientos, orienta itinerarios o produce resultados que condicionan decisiones académicas. Este es el terreno más sensible. No porque toda decisión apoyada por IA sea automáticamente imposible, sino porque entramos en un espacio donde las garantías deben ser mucho mayores y donde la supervisión humana no puede ser decorativa.

Esta distinción permite salir de la falsa alternativa entre prohibir y permitir.

PedagoIA no defiende que la IA lo haga todo. Pero tampoco defiende que solo pueda usarse con ejemplos artificiales. Si queremos que ayude de verdad al aprendizaje, en muchos casos tendrá que trabajar con evidencias reales.

La cuestión es cómo.

Usar evidencias reales no es el problema

Este punto conviene decirlo con claridad.

Usar IA con producciones reales de alumnos no es, por sí mismo, una mala práctica. De hecho, si queremos mejorar el feedback, detectar patrones de error o comprender mejor lo que ocurre en un grupo, las evidencias reales son necesarias. Un writing inventado no muestra las dificultades reales de un alumno. Una interacción simulada no revela los bloqueos de una clase concreta. Un ejemplo artificial puede servir para preparar, pero no para entender con precisión lo que está pasando en el aprendizaje.

El problema no está en que la IA analice evidencias reales. El problema aparece cuando ese análisis se hace sin finalidad clara, sin minimización de datos, sin protección suficiente, sin revisión docente o convirtiendo la salida de la herramienta en una decisión automática.

Dicho de otra manera:

Trabajar con evidencias reales no es el problema. El problema es convertir el análisis en decisión automática.

Un sistema que analiza producciones seudonimizadas, sin datos identificativos visibles, con finalidad formativa, conservación limitada y supervisión docente real, no ocupa el mismo lugar que una plataforma que califica, clasifica o decide por el profesor.

Esta diferencia es esencial. Si no la mantenemos, terminamos transmitiendo una idea equivocada: que la única forma segura de usar IA en educación es no dejarla tocar nunca el aprendizaje real. Pero entonces la IA queda reducida a generar materiales genéricos, y perdemos una de sus posibilidades más valiosas: ayudar al profesor a observar mejor.

La línea sensible: evaluación y orientación

El Anexo III menciona expresamente sistemas destinados a evaluar resultados de aprendizaje. Aquí el cuidado debe ser especial, porque evaluar no significa simplemente señalar errores. Evaluar implica emitir un juicio sobre lo que una producción demuestra, relacionarlo con criterios y, muchas veces, tomar decisiones que afectan al alumno.

Una IA puede ayudar a analizar una redacción, identificar problemas de cohesión, detectar errores recurrentes o proponer un feedback más claro. Pero si esa salida queda bajo revisión del docente, que la contextualiza y decide qué valor tiene, la herramienta está asistiendo al juicio profesional.

Otra cosa muy distinta es que la IA asigne una nota, determine un nivel o produzca un resultado que se incorpore directamente a la evaluación.

La diferencia no es cosmética. Cambia el papel de la herramienta.

La IA puede ayudar a mirar mejor. No debería ocupar el lugar desde el que se decide.

Algo parecido ocurre con la orientación del aprendizaje. Una herramienta que sugiere ejercicios de refuerzo puede ser útil. Una plataforma que etiqueta a un alumno como no preparado, recomienda un itinerario o condiciona sus oportunidades entra en otro terreno. Las recomendaciones educativas no son neutras: pueden abrir caminos, pero también pueden cerrarlos.

Por eso, cuando la IA orienta, hay que preguntarse qué peso tiene esa orientación en la decisión final. Si es una pista que el docente revisa, puede ser una ayuda. Si se convierte en el criterio efectivo, el riesgo cambia.

Vigilancia y reconocimiento emocional

Hay usos donde la cautela debe ser aún mayor. El Reglamento incluye entre los sistemas de alto riesgo algunos destinados a supervisar y detectar comportamientos prohibidos durante pruebas en instituciones educativas. Esto afecta a herramientas de proctoring automatizado que analizan mirada, movimiento, cámara o patrones de comportamiento para generar alertas de posible fraude.

Aquí conviene recordar algo básico: una alerta algorítmica no es una prueba. Un alumno puede apartar la vista porque está pensando, moverse porque está nervioso o comportarse de forma que el sistema interpreta como anómala por razones que nada tienen que ver con hacer trampas.

Más clara todavía es la línea del reconocimiento emocional. El Reglamento prohíbe, salvo excepciones médicas o de seguridad, los sistemas destinados a inferir emociones en centros educativos o lugares de trabajo.

Esto tiene una traducción pedagógica inmediata. Debemos ser extremadamente cautelosos con herramientas que prometen medir atención, interés, cansancio, estrés o implicación mediante rostro, voz, gestos o señales biométricas. La promesa puede resultar atractiva, pero convertir el estado interno de un alumno en una inferencia automatizada transforma la relación educativa en una relación de vigilancia.

Y esa no es una cuestión menor.

Supervisar no es aceptar lo que dice la máquina

El Reglamento Europeo da un papel central a la supervisión humana en los sistemas de alto riesgo. Esa supervisión debe permitir comprender las capacidades y limitaciones del sistema, interpretar correctamente sus salidas y decidir no utilizarlas, ignorarlas, anularlas o revertirlas cuando sea necesario.

En educación, esto significa que no basta con decir: “el profesor supervisa”.

Supervisar no es mirar una salida generada por IA y aceptarla porque parece razonable. Supervisar es poder cuestionarla, corregirla, descartarla y explicar por qué se acepta o se rechaza.

Esto importa porque la IA puede producir respuestas muy bien redactadas y, aun así, pedagógicamente pobres. Puede sonar objetiva y estar aplicando criterios genéricos. Puede detectar errores, pero no distinguir cuáles son relevantes en ese momento del aprendizaje. Puede generar un feedback convincente y no haber entendido qué se trabajó realmente en clase.

La supervisión humana solo protege cuando el docente conserva una capacidad real de decisión. Y esa capacidad exige criterio, tiempo, formación y una política de centro que no convierta al profesor en simple validador de la herramienta.

La ley clasifica riesgos. La pedagogía diseña sentido.

Hay una última distinción importante. Que un uso no sea de alto riesgo en sentido legal no significa automáticamente que sea pedagógicamente valioso.

Una IA puede no estar prohibida y, aun así, vaciar una tarea de pensamiento. Puede ser legalmente viable y producir un feedback inútil. Puede ahorrar tiempo y no mejorar el aprendizaje. Puede parecer innovadora y limitarse a acelerar prácticas que ya necesitaban ser revisadas.

Por eso la pregunta “¿está permitido?” es necesaria, pero insuficiente.

La pregunta educativa es más exigente:

aunque esté permitido, ¿ayuda realmente a aprender?

Ese es el espacio de PedagoIA. No negar los riesgos, sino gobernarlos. No convertir la ley en excusa para no avanzar, sino usarla como marco para diseñar mejor. No defender la IA porque sea nueva, sino porque, bien integrada, puede ayudar al docente a observar, intervenir y acompañar mejor.

La IA no es de alto riesgo.

Algunos usos sí lo son.

Y una escuela que quiera usarla con seriedad tendrá que aprender a distinguir entre preparar, analizar y decidir.

Porque ahí se juega casi todo.

Fuentes normativas consultadas

Más artículos Solicitar formación