Protocolo para el uso ético y
conforme a la normativa de Inteligencia Artificial en los Centros Educativos de
Castilla y León: directrices y recomendaciones para docentes y centros.
Por: Luis Ángel González Ortega
Resumen
El presente protocolo se ha elaborado como una guía fundamental
para la integración responsable, ética y legal de la inteligencia artificial
(IA) en el sistema educativo de Castilla y León. Ante la ausencia, a fecha de publicación
de este protocolo, de una normativa autonómica específica que regule este
ámbito, los centros educativos y el profesorado se enfrentan al desafío de
interpretar y aplicar un complejo marco regulatorio de ámbito europeo y
nacional. Este documento busca llenar ese vacío, ofreciendo un marco de
referencia detallado y de aplicación inmediata para la comunidad educativa de
la región.
El análisis de la legislación vigente y las directrices
internacionales revela que la IA, si bien ofrece un potencial transformador
para personalizar el aprendizaje, aumentar la productividad docente y mejorar
la accesibilidad, también introduce riesgos significativos relacionados con la
privacidad, la seguridad y la equidad. La inminente entrada en vigor de
apartados clave del Reglamento de IA de la Unión Europea (Reglamento UE
2024/1689), a partir del 2 de agosto de 2025, exige a los centros una revisión proactiva
de sus políticas.
Las principales recomendaciones de este protocolo se centran en:
●
Cumplimiento normativo estricto: Acatar las prohibiciones expresas del Reglamento de IA,
especialmente en lo relativo al reconocimiento de emociones, la puntuación
social y la identificación biométrica en el aula.
●
El juicio humano como prioridad: Mantener al docente en el centro del proceso educativo,
utilizando la IA como una herramienta de apoyo que nunca sustituya la
supervisión humana ni la toma de decisiones pedagógicas cruciales.
●
Protección de datos de menores: Implementar rigurosas medidas de seguridad y obtener el
consentimiento informado de las familias para el tratamiento de datos
personales, prestando especial atención al uso de herramientas de terceros.
●
Integración en la planificación del centro: Incorporar una política clara sobre el uso de la IA en el Plan
Digital de Centro, la Programación General Anual (PGA) y los proyectos
curriculares.
●
Formación y alfabetización digital: Capacitar a toda la comunidad educativa, incluyendo docentes,
alumnado y familias, en el uso crítico y ético de la IA.
Este protocolo se posiciona como una herramienta esencial que
dota a los centros educativos de las directrices necesarias para navegar en el
panorama tecnológico actual, garantizando un uso de la IA que sea innovador,
seguro, equitativo y plenamente alineado con los derechos humanos y los valores
democráticos.
1. Contexto Estratégico
y Normativo de la IA en Educación
1.1. La IA como eje de transformación
educativa: 0portunidades y desafíos
La inteligencia artificial (IA) se ha consolidado como un
catalizador de la transformación educativa, ofreciendo un abanico de
oportunidades para modernizar los procesos de enseñanza y aprendizaje. Su
capacidad para procesar grandes volúmenes de datos permite una personalización
del aprendizaje sin precedentes, adaptando los contenidos y las actividades a
las necesidades individuales de cada estudiante.1 Esta personalización es
particularmente relevante para el alumnado con necesidades educativas
especiales o con discapacidades, proporcionando una mayor accesibilidad y
equidad en el acceso a una educación de calidad.1
Para el personal docente, las herramientas de IA ofrecen un
apoyo significativo, permitiendo una mayor productividad y creatividad.
Asistentes como Gemini o Copilot pueden generar planes de clase, rúbricas o
borradores de informes, liberando tiempo valioso para que los educadores se
dediquen a la interacción directa con sus estudiantes y a la labor de mentoría.4 La IA generativa, en
particular, revoluciona la creación de contenidos, facilitando la elaboración
de materiales didácticos atractivos y dinámicos.2
Sin embargo, la implementación de la IA en el entorno educativo
no está exenta de desafíos y riesgos. La recopilación masiva de datos
personales, el riesgo de sesgos algorítmicos que perpetúen estereotipos y la
posible erosión de la privacidad son preocupaciones centrales.7 Un uso irresponsable
podría generar desinformación, fomentar la dependencia tecnológica o, en el
peor de los casos, derivar en la sustitución del juicio pedagógico por
decisiones automáticas.9 La necesidad de una regulación clara y de unos principios
éticos sólidos se vuelve imperativa para mitigar estos riesgos y asegurar que
la IA se utilice para potenciar, y no para menoscabar, el rol humano en la
educación.3
1.2. Marco normativo europeo
y nacional
El uso de la IA en la educación española está directamente
regulado por el marco jurídico de la Unión Europea y las leyes nacionales. Un
pilar fundamental es el Reglamento (UE) 2024/1689, la Ley de IA de la UE, que
establece un enfoque basado en el riesgo para la regulación de los sistemas de
IA.4 Este reglamento, que
entrará en vigor de manera escalonada, con sus apartados más importantes
activándose el 2 de agosto de 2025, prohíbe explícitamente ciertos usos de la
IA en el ámbito educativo.4
La Ley de IA clasifica los sistemas en cuatro niveles de riesgo:
mínimo, limitado, alto e inaceptable. Los sistemas considerados de "riesgo
inaceptable" son aquellos que contravienen los valores fundamentales de la
Unión Europea y los derechos humanos. En el contexto educativo, esto tiene
implicaciones directas, prohibiendo de manera taxativa diversas prácticas.12
Las Prácticas prohibidas
de IA en el ámbito educativo, según la Ley de IA y las directrices de la
Comisión Europea, incluyen:
●
Reconocimiento de emociones: Se
prohíbe el uso de sistemas de IA que infieran emociones en entornos educativos
o laborales, salvo por razones médicas o de seguridad.12 La Comisión Europea
considera esta tecnología intrusiva y discriminatoria, ya que afecta la
privacidad, la dignidad humana y la libertad de pensamiento de docentes y
estudiantes.12
●
Puntuación social (Social Scoring): Se prohíben los sistemas que clasifiquen a personas o grupos
basándose en su comportamiento social o características personales, si esta
clasificación lleva a un trato perjudicial o desfavorable.4
●
Identificación biométrica remota en tiempo real: Salvo excepciones muy justificadas para fines de seguridad o
aplicación de la ley, está prohibida la identificación biométrica remota en
espacios públicos como las escuelas.4 El uso de sistemas de vigilancia o
proctoring que incluyan reconocimiento facial se considera una
medida desproporcionada, especialmente con menores.14
●
Manipulación y explotación: Se
prohíbe el uso de sistemas de IA que empleen técnicas subliminales,
manipuladoras o engañosas para distorsionar el comportamiento, o que exploten
vulnerabilidades de los menores, como su edad o situación social, para
causarles un daño significativo.12
Una conclusión importante que se deriva de este marco es la
distinción entre lo prohibido y lo de "alto riesgo". Herramientas que
analizan el rendimiento académico y predicen futuros resultados 1 o que asisten en la
corrección automática de exámenes 14 no están expresamente prohibidas, pero sí se sitúan en la
categoría de "alto riesgo". Esto implica que no pueden ser utilizadas
para tomar decisiones educativas relevantes de forma automática, como la
repetición de curso o la asignación a programas especiales.4 El juicio pedagógico y
la revisión humana deben ser siempre la instancia final y definitiva,
asegurando que el docente tiene la última palabra sobre el proceso evaluativo y
la toma de decisiones.
1.3. Principios éticos y
de gobernanza internacionales (UNESCO, OCDE, Comisión Europea)
Más allá de la normativa vinculante, las directrices de
organismos internacionales como la UNESCO y la OCDE establecen los principios
éticos que deben guiar la integración de la IA en la educación. Estos
principios proporcionan un marco filosófico para asegurar que el desarrollo y
uso de la tecnología se alinee con los derechos humanos y el bien común.15
La Recomendación de la
UNESCO sobre la Ética de la IA se basa en cuatro valores fundamentales,
como el respeto a los derechos humanos y la dignidad humana, y diez principios
básicos.15 Entre los más
relevantes para el contexto educativo se encuentran:
●
Supervisión y decisión humanas: Los Estados Miembros deben garantizar que la responsabilidad
legal y ética de los sistemas de IA recaiga siempre en personas físicas o
entidades jurídicas.15 Esto refuerza la idea de que la IA es una herramienta, no una
entidad autónoma, y que la última instancia de control debe ser humana.3
●
Transparencia y explicabilidad: El despliegue ético de la IA depende de su transparencia y de
que sus resultados sean explicables.15 En educación, esto significa que los estudiantes y sus familias
tienen el derecho a comprender cómo se utilizan los sistemas de IA en los
procesos de enseñanza y evaluación.14
●
Equidad y no discriminación: Los
sistemas de IA deben diseñarse para promover la justicia social y combatir la
discriminación, garantizando que sus beneficios sean accesibles para todos.11
Por su parte, la OCDE
ha actualizado sus principios sobre IA, enfocándose en valores como la
seguridad, la robustez, la rendición de cuentas y la interoperabilidad.16 Un concepto clave
promovido por la OCDE es el modelo de seis niveles de automatización 18, que ayuda a los
docentes a comprender su papel pedagógico en la interacción con la IA, desde el
control total del profesor hasta la delegación parcial de tareas organizativas.
Este enfoque subraya la importancia de involucrar a los profesionales de la educación
en la investigación y el desarrollo de la IA para asegurar que las tecnologías
se adapten a las necesidades pedagógicas reales.18
La Comisión Europea,
en el marco del Plan de Acción de Educación Digital, ha publicado directrices
para ayudar a los docentes a comprender y abordar el uso de la IA de manera
positiva, crítica y ética, enfatizando la necesidad de una alfabetización
digital integral para toda la comunidad educativa.7
2. Fundamentos de privacidad
y protección de datos: El núcleo del protocolo
2.1. El Eje de la protección
de datos de menores
Los centros educativos, al manejar una gran cantidad de
información personal sensible de estudiantes y personal, están obligados a
cumplir con el Reglamento General de Protección de Datos (RGPD) y la Ley
Orgánica de Protección de Datos Personales y garantía de los derechos digitales
(LOPDGDD).19 La dirección o administración del centro actúa como responsable
del tratamiento de los datos, y la ley exige la designación de un Delegado de
Protección de Datos (DPD) en los supuestos recogidos en la normativa.19
La protección de los datos de menores es un pilar fundamental de
la regulación. El RGPD concede derechos a los menores, incluyendo el derecho de
acceso, rectificación, supresión y oposición al tratamiento de sus datos
personales.21 La Ley de IA de la UE, a su vez, exige una protección reforzada
para el tratamiento de datos de menores, dada su vulnerabilidad.14
Los centros deben implementar una serie de medidas de seguridad
para proteger la información personal que manejan. Estas incluyen el
establecimiento de políticas claras, la limitación del acceso a los datos
únicamente al personal autorizado, la formación periódica sobre protección de
datos, y la implementación de medidas de seguridad física e informática, como
firewalls y cifrado de datos.19 Es vital que estas medidas estén en constante revisión, a
través de evaluaciones de riesgos, para asegurar el cumplimiento normativo.19
2.2. Requisitos de consentimiento
informado
El consentimiento es un aspecto crucial en el tratamiento de los
datos personales. La normativa española establece una distinción clara en
función de la edad del menor:
●
Menores de catorce años: El tratamiento de datos
personales de menores de 14 años, basado en el consentimiento, solo será lícito
si cuenta con la autorización expresa del titular de la patria potestad o
tutela.21
●
Mayores de catorce años: A partir de los 14
años, el menor tiene la capacidad legal para prestar su propio consentimiento
para el tratamiento de sus datos personales.21
Una de las excepciones más importantes en el ámbito educativo es
que el tratamiento de datos para funciones inherentes a la enseñanza reglada,
como la impartición de clases o la realización de exámenes, no requiere el
consentimiento del alumnado o de sus padres, ya que está legitimado por la
propia función educativa.21 Sin embargo, esta excepción no se aplica a todos los
escenarios.
Aquí radica una de las principales complejidades y áreas de
riesgo. El uso de herramientas de IA de terceros, como ChatGPT, Grammarly o
Canva, para tareas que van más allá de lo "reglado" o que almacenan
datos personales fuera de la UE, no se ampara en esta excepción legal. Por lo
tanto, el uso de estas plataformas sin la debida diligencia de un centro o un
docente constituye una potencial violación de la normativa de protección de
datos, que podría acarrear sanciones económicas de hasta 35 millones de euros,
según el régimen sancionador de la Ley de IA.4 Por ello, para
cualquier plataforma de terceros que no sea de uso corporativo o que pueda
recopilar datos personales, se debe obtener un consentimiento específico y
explícito de las familias.14 Es esencial que los centros realicen una Evaluación de Impacto
de Protección de Datos (DPIA) para cada nueva herramienta de IA antes de su
implementación.
A continuación, se presenta una tabla que resume los usos de IA
que, según la normativa actual, están prohibidos o implican un alto riesgo para
los centros educativos.
|
Uso de IA |
Descripción |
Normativa Aplicable |
Implicación para el Centro/Docente |
|
Reconocimiento de
Emociones |
Sistemas que analizan el estado emocional de estudiantes o
docentes. |
Reglamento de IA de la UE (Art. 5) 12 |
Uso Prohibido. Sanciones económicas muy elevadas.4 Riesgo legal y ético
máximo. |
|
Puntuación Social
(Social Scoring) |
Sistemas que clasifican a alumnos por su conducta social o
características. |
Reglamento de IA de la UE (Art. 5) 4 |
Uso Prohibido. Atenta contra la equidad y los derechos de los estudiantes. |
|
Identificación
Biométrica Remota |
Sistemas que usan la biometría (facial, voz) para la
vigilancia o control. |
Reglamento de IA de la UE (Art. 5) 12 |
Uso Prohibido. Considerado una medida desproporcionada y una invasión de la
privacidad.14 |
|
Decisiones Educativas
Automatizadas |
Tomar decisiones importantes (promoción, repetición) basándose
únicamente en resultados de algoritmos. |
Reglamento de IA de la UE 4 |
Uso de Alto Riesgo. Requiere supervisión humana obligatoria. El docente debe
tener siempre la última palabra.14 |
|
Uso de Datos
Personales en Prompts |
Introducir nombres, expedientes o diagnósticos de alumnos en
herramientas de IA generativa. |
RGPD 4 |
Uso de Alto Riesgo. Constituye una violación de la protección de datos que puede
llevar a sanciones graves.4 |
3. Protocolo de actuación
para centros y docentes
3.1. Directrices a nivel
de centro educativo
La integración de la IA no puede ser una iniciativa aislada del
profesorado; debe ser una política clara y consensuada a nivel institucional.
Los centros educativos deben incluir una política detallada sobre el uso de la
IA como un componente esencial de su Plan Digital de Centro, la Programación
General Anual (PGA) y los proyectos curriculares.4
El primer paso es establecer un comité o grupo de trabajo para
la Selección y aprobación de herramientas.
Este comité debe evaluar las herramientas de IA según criterios rigurosos que
incluyan:
●
Cumplimiento normativo: Verificación de que la
herramienta cumple con el RGPD y la Ley de IA de la UE.14 Se debe priorizar el
uso de herramientas de nivel empresarial que anonimicen los datos compartidos y
que no almacenen datos fuera de la UE.14
●
Ausencia de sesgos: Las herramientas deben
ser revisadas minuciosamente para detectar posibles sesgos que puedan
perjudicar o discriminar a algún colectivo del alumnado.23
●
Transparencia: La herramienta debe ser
clara en cuanto a cómo utiliza los datos y cómo genera sus resultados.
●
Relevancia pedagógica: La herramienta debe ser
evaluada por su pertinencia para el plan de estudios y por su capacidad para
mejorar la experiencia educativa.23
La Transparencia institucional
es un imperativo ético. El centro tiene la obligación de comunicar su política
de IA de manera clara y comprensible a toda la comunidad educativa, incluyendo
a las familias.23 Esto implica informar sobre las herramientas que se usan, para
qué fines, cómo se protegen los datos de los estudiantes y cómo se puede
ejercer el derecho al consentimiento informado cuando corresponda.23 Se debe crear un
entorno de confianza y diálogo en el que docentes, familias y estudiantes
puedan discutir abiertamente sobre el uso de la IA.
3.2. Directrices para el
profesorado: el juicio pedagógico como brújula ética
El profesorado es el actor central en la implementación de la IA
en el aula. Su rol, lejos de ser sustituido, se ve potenciado y redefinido.3 La IA es un asistente,
no un sustituto del conocimiento y la experiencia docente.3 La premisa fundamental
es que el juicio pedagógico debe ser la brújula ética que guíe cada interacción
con la tecnología.
Una de las responsabilidades clave es la verificación y el pensamiento crítico. Los docentes deben revisar y
verificar minuciosamente todo el contenido generado por la IA para evitar la
desinformación, los sesgos y los errores inherentes a estos sistemas.9 Esta práctica debe ser
enseñada también a los estudiantes como una habilidad fundamental de la
ciudadanía digital crítica.
El arte de la escritura
de prompts se convierte en una competencia digital docente esencial.24
Un prompt es la instrucción que se le da a la IA para generar
una respuesta. La forma en que se estructura este prompt tiene un impacto
directo en la seguridad, la precisión y la ética de la interacción. Un prompt
seguro y ético es aquel que evita la inclusión de datos personales o sensibles
de los estudiantes.4 En lugar de individualizar la solicitud con datos de los
alumnos, se debe generalizar el contexto.
A continuación, se presenta una guía práctica para el
profesorado sobre cómo estructurar sus prompts de manera ética y segura.
|
Objetivo |
Ejemplo de Prompt Incorrecto |
Ejemplo de Prompt Correcto |
Justificación Ética y de Privacidad |
|
Crear una rúbrica |
"Crea una rúbrica
para la evaluación de un trabajo de investigación sobre la Guerra Civil
española, para mi alumno Juan Pérez de 2º de la ESO, que tiene dificultades
con la estructura y la bibliografía." |
"Crea una rúbrica
para evaluar un trabajo de investigación de un estudiante de 2º de la ESO
sobre la Guerra Civil española. La rúbrica debe enfocarse en la estructura
del trabajo y en la correcta citación de las fuentes." |
El prompt incorrecto
incluye el nombre del alumno y sus necesidades específicas, lo que expone
datos personales sensibles a un tercero. El prompt correcto mantiene la
privacidad al generalizar el contexto pedagógico. |
|
Adaptar una actividad |
"Adapta la
actividad de la página 35 del libro de texto de Matemáticas para el alumno
Carlos, que tiene discalculia y le cuesta resolver problemas con
decimales." |
"Adapta una
actividad sobre la resolución de problemas con decimales para estudiantes con
dificultades en el cálculo. Proporciona ejemplos paso a paso y usa un
lenguaje visual." |
La inclusión del
nombre del alumno y su diagnóstico específico (discalculia) es una violación
de la protección de datos. La versión correcta se centra en la necesidad
pedagógica, no en el individuo. |
|
Generar ideas para un
proyecto |
"Dame ideas para
un proyecto de ciencias sobre el medio ambiente para mi clase de 5º de
Primaria, específicamente para mi grupo de 10 alumnos que están mostrando un
comportamiento apático y no participan." |
"Dame ideas
creativas y participativas para un proyecto de ciencias sobre el medio
ambiente, dirigido a alumnos de 5º de Primaria que necesitan dinámicas
lúdicas y atractivas." |
El prompt incorrecto
etiqueta al grupo con un rasgo de personalidad que, si bien es una
observación docente, no debe ser compartida con un sistema de IA. El prompt
correcto reformula la necesidad de manera general. |
4. Aplicaciones y protocolos
diferenciados por etapa educativa
La integración de la IA debe ser contextualizada y adaptada a
las características del desarrollo de los estudiantes en cada etapa educativa.
Los riesgos asociados a la privacidad y al desarrollo socioemocional de un niño
de infantil son cualitativamente diferentes de los de un adolescente de
bachillerato. Un protocolo efectivo debe reflejar esta diferenciación.
4.1. Educación Infantil
(0-6 años): creatividad, narrativa y desarrollo socioemocional
En esta etapa, la IA no debe sustituir la interacción humana,
sino complementar el juego y la exploración. Los objetivos pedagógicos se centran en el desarrollo de la
creatividad, la expresión artística y la narrativa, utilizando la IA como una
herramienta para la creación de recursos educativos audiovisuales o la
asistencia en actividades de dibujo.2 Las herramientas de IA pueden generar cuentos personalizados o
sugerir ideas para actividades teatrales, fomentando la autoexpresión y la
confianza.25 El enfoque debe ser lúdico, como si la IA fuera un "pincel
digital" o una "caja de cuentos interactiva".25
Los riesgos y salvaguardas
son cruciales en esta etapa. La principal preocupación es la privacidad, ya que
los niños pequeños tienden a compartir información personal con plataformas de
IA y a humanizar estos sistemas, asumiendo que tienen sentimientos o
habilidades sociales.8 Esto podría afectar negativamente su desarrollo social. El
protocolo debe insistir en la supervisión
total del docente en todo momento y desaconsejar el uso de juguetes o
asistentes de voz con IA en el aula que no estén controlados por el centro.8 Las herramientas deben
ser cuidadosamente seleccionadas para que no recopilen datos personales y para
que su uso esté limitado a actividades específicas bajo la guía del docente. La
dependencia tecnológica es otro riesgo a evitar.25
4.2. Educación Primaria
(6-12 años): personalización y desarrollo de competencias básicas
En esta etapa, la IA puede ser una aliada para la personalización y el desarrollo de competencias
básicas. Las herramientas pueden adaptarse a diferentes estilos de
aprendizaje, permitiendo una mejor absorción de los conceptos.2 Se pueden utilizar para
fortalecer la alfabetización digital y del lenguaje, así como para mejorar la
retención de información a través de actividades lúdicas y gamificadas.2
El principal riesgo y salvaguarda
es el tratamiento de datos de menores de 14 años sin el consentimiento
informado de sus padres.21 Es fundamental que el centro cuente con las autorizaciones
explícitas para el uso de cualquier herramienta de terceros. Se recomienda el
uso de
Herramientas y usos como ejemplo de uso de IA para la personalización y la
gamificación en el aula. Por ejemplo, es posible utilizar herramientas como
Quizizz AI para generar cuestionarios de evaluación formativa6, MagicSchool AI para
crear planes de clase diferenciados y adaptados a la inclusión 6, y Canva con IA para
proyectos creativos en los que los estudiantes puedan diseñar infografías o
presentaciones de forma visual6. Se debe inculcar en los estudiantes la necesidad de verificar
siempre la información generada por la IA.
4.3. Educación
Secundaria y Bachillerato (12-18 años): pensamiento crítico, investigación y creatividad
En esta etapa, la IA se convierte en un asistente sofisticado
para tareas más complejas, con el objetivo de fomentar el pensamiento crítico, la investigación y la creatividad.26 Los estudiantes pueden
utilizarla para agilizar procesos como la revisión bibliográfica o la
corrección de textos, liberando tiempo para dedicarse a la investigación
profunda y al análisis.27
Los riesgos y salvaguardas
se centran en la integridad académica y el plagio. Es imperativo que el
protocolo establezca pautas claras para el uso de la IA en la redacción de
trabajos.9 Se debe promover la
"contribución significativa" por parte del estudiante, diferenciando
claramente el trabajo intelectual humano del material producido por la IA.
En cuanto a herramientas
y usos, es posible utilizar herramientas como Grammarly para mejorar las
habilidades de escritura, DeepL para la traducción de idiomas, y Research
Rabbit para la exploración bibliográfica asistida.27 La utilización de
plataformas como Turnitin, que detectan el plagio mediante IA, puede ser útil
para promover la honestidad académica.27 Asimismo, el uso de chatbots generativos como Copilot o ChatGPT
debe ser transparente, y el docente debe enseñar a los alumnos a citar
apropiadamente las fuentes de información, tal como harían con cualquier otra
fuente, y a verificar la veracidad de los datos.
5. Herramientas y
Recursos de Apoyo Práctico
5.1. Cuadro comparativo
de herramientas de IA y sus usos aprobados
La implementación de este protocolo requiere una guía práctica
de herramientas disponibles en el mercado. La siguiente tabla ofrece una
comparativa de herramientas de IA que pueden ser utilizadas de manera segura y
ética en los diferentes niveles educativos, siempre que se sigan las
directrices mencionadas en este documento.
|
Herramienta |
Etapa Educativa Recomendada |
Uso Recomendado |
Buenas Prácticas Éticas y de Privacidad |
|
MagicSchool AI |
Primaria, Secundaria |
Generación de planes
de clase y actividades diferenciadas, apoyo a la educación inclusiva.6 |
No introducir datos
personales de estudiantes. Revisar y adaptar siempre los contenidos
generados. |
|
Quizizz AI |
Primaria, Secundaria |
Creación de
cuestionarios gamificados para evaluación formativa y repaso.6 |
Promueve el
pensamiento crítico sobre las respuestas. No usar para evaluación sumativa
sin supervisión humana. |
|
Canva con IA |
Infantil, Primaria,
Secundaria |
Asistencia en el
diseño de presentaciones e infografías. Creación de materiales visuales con
textos automáticos.6 |
Revisar los textos
generados. Enfatizar la creatividad del estudiante en el diseño visual. |
|
ChatGPT / Gemini / Copilot |
Secundaria,
Bachillerato |
Asistentes para la
investigación, redacción de borradores, lluvia de ideas y análisis de textos.5 |
Uso condicional. Requiere formación
intensiva en prompts seguros.9 No introducir datos personales. Enseñar a los estudiantes a
verificar y citar. |
|
Turnitin-Originality |
Secundaria,
Bachillerato |
Detección de plagio
para garantizar la integridad académica.27 |
Uso condicional. Asegurar que los
datos están protegidos. No usar la herramienta para proctoring o vigilancia
de comportamiento. |
|
Grammarly |
Secundaria,
Bachillerato |
Mejora de la gramática
y el estilo en la escritura de ensayos e informes.27 |
Promover la versión
gratuita para funciones básicas. Supervisar el uso y no permitir que
sustituya el proceso de aprendizaje del estudiante. |
5.2. Casos prácticos y ejemplos
de escenarios
Para ilustrar la aplicación del protocolo, se exponen dos
escenarios comunes en la práctica docente:
Escenario 1: planificación
de una unidad didáctica
●
Docente: Un profesor de 3º de la
ESO de Historia, que ha de diseñar una unidad sobre el Siglo de las Luces.
●
Uso incorrecto: El profesor copia y
pega el temario oficial en un chatbot y le solicita que genere un examen y una
rúbrica, sin revisión posterior.
●
Uso correcto: El profesor utiliza la
IA para generar una lluvia de ideas sobre actividades innovadoras, crear
borradores de rúbricas basadas en el prompt "Crea una rúbrica para evaluar
un proyecto grupal de 3º de la ESO...", y sugerir recursos multimedia. El
docente, sin embargo, revisa y modifica el material para asegurar su coherencia
pedagógica y la ausencia de sesgos. El examen lo elabora él mismo, asegurando
que se evalúen las competencias curriculares de forma justa. La IA asiste, pero
el control pedagógico es total.
Escenario 2: feedback y evaluación
de trabajos
●
Docente: Un profesor de
Bachillerato que debe corregir 30 ensayos sobre un tema filosófico.
●
Uso incorrecto: El profesor sube los 30
ensayos de sus alumnos a una plataforma de IA, solicitando una calificación y
un comentario para cada uno. La calificación final se basa en el resultado del
algoritmo.
●
Uso correcto: El profesor utiliza una
herramienta de IA (como Grammarly) para obtener sugerencias de corrección
gramatical y de estilo en los textos, pero la revisión y la feedback pedagógico
son realizados por él mismo. La IA puede generar sugerencias de mejora en la
redacción, pero el docente lee cada trabajo, emite un juicio cualitativo sobre
el contenido y asigna la calificación final. La IA actúa como un asistente de
edición, no como un sustituto del juicio evaluativo.
Conclusiones y recomendaciones
estratégicas.
La integración de la inteligencia artificial en el sistema
educativo es una realidad ineludible que, para ser exitosa, requiere de una
visión estratégica clara y un marco de actuación unificado. El presente
protocolo ha demostrado que, si bien no existe una normativa regional
específica, la complejidad de las regulaciones europeas y nacionales exige que
la respuesta institucional sea proactiva y no meramente reactiva.
La mayor vulnerabilidad para los centros y docentes es la falta
de conocimiento sobre las implicaciones legales y éticas de sus prácticas
cotidianas, lo que los expone a riesgos de seguridad, privacidad y,
potencialmente, a cuantiosas sanciones económicas. La ausencia de un marco
institucional explícito deja a cada centro con la responsabilidad de
interpretar una normativa compleja, creando un vacío que puede llevar a la
inacción o a la adopción de prácticas de alto riesgo.
En este contexto, se formulan las siguientes recomendaciones
estratégicas dirigidas a la administración educativa:
1.
Adopción y difusión de un protocolo unificado: Se recomienda que dicha administración adopte este protocolo
como documento de referencia para todos los centros educativos, facilitando su
difusión a través de canales oficiales y promoviendo su integración obligatoria
en los Planes Digitales de Centro.
2.
Inclusión de la alfabetización en IA en la formación permanente: Se propone que la administración educativa incluya la ética y
el uso responsable de la IA como un pilar fundamental en la formación continua
del profesorado, a través de cursos específicos que aborden tanto la normativa
como la aplicación práctica. Cursos como el ya reconocido con créditos por la
administración educativa son un excelente punto de partida.28
3.
Creación de un repositorio de herramientas validadas: Se sugiere establecer un comité de expertos para evaluar y
validar herramientas de IA para su uso en el aula. Un repositorio oficial de
herramientas que cumplan con el RGPD y los principios éticos del presente
protocolo proporcionaría a los docentes una lista de recursos fiables y
seguros.
4.
Establecimiento de un sistema de monitorización continua: Dado el rápido ritmo de los avances tecnológicos en IA, es
crucial que la administración educativa establezca un proceso de revisión y
actualización periódica del protocolo. Este proceso debe incorporar las
aportaciones de los docentes, estudiantes, familias y otros expertos, como lo
sugieren las propias directrices.15
La implementación de estas recomendaciones no solo protegerá a
la comunidad educativa de los riesgos inherentes a la IA, sino que también
posicionará a la administración como una pionera en la integración de la
tecnología de manera ética, segura e innovadora, preparando a las futuras
generaciones para los desafíos y oportunidades de la era digital.
Bibliografía y fuentes
utilizadas.
American Academy of Pediatrics. (s. f.). Cómo la inteligencia artificial (IA) afectará a los niños.
HealthyChildren.org. Recuperado el 2 de septiembre de 2025, de https://www.healthychildren.org/Spanish/family-life/Media/Paginas/how-will-artificial-intelligence-AI-affect-children.aspx
Agustinoy, A., & Sala, M. (2024, 3 de junio). La OCDE apuesta por una IA con mayor
seguridad, integridad y transparencia de la información, interoperabilidad,
sostenibilidad y responsabilidad. Cuatrecasas. https://www.cuatrecasas.com/es/spain/propiedad-intelectual/art/ocde-actualiza-principios-ia
AEPD. (s. f.-a). ¿Cuál es
la edad para que los menores puedan prestar consentimiento para tratar sus
datos personales?. Agencia Española de Protección de Datos. https://www.aepd.es/preguntas-frecuentes/10-menores-y-educacion/FAQ-1001-cual-es-la-edad-para-que-los-menores-puedan-prestar-consentimiento-para-tratar-sus-datos-personales
AEPD. (s. f.-b). Preguntas
frecuentes: 10. Menores y educación. Agencia Española de Protección de
Datos. https://www.aepd.es/preguntas-frecuentes/10-menores-y-educacion
Artificial Intelligence Act.eu. (s. f.). Artículo 61: Consentimiento informado para participar en pruebas en
condiciones reales fuera de los "cajones de arena" reguladores de la
IA. Ley de Inteligencia Artificial de la UE. https://artificialintelligenceact.eu/es/article/61/
Atlantic Schools. (s. f.). Cómo
la IA generativa puede ayudar en el desarrollo de los más pequeños. Atlantic Schools. https://atlanticschools.net/ia-generativa-ayuda-en-el-desarrollo-de-los-mas-pequenos/
British Council. (s. f.). 10
principios para un uso ético, justo e inclusivo de la IA en la educación. British Council. https://www.britishcouncil.es/about/press/10-principios-para-un-uso-etico-justo-e-inclusivo-de-la-ia-en-la-educacion
CDE. (s. f.). Directrices
para ayudar al personal docente a abordar ideas erróneas sobre la inteligencia
artificial. CDE. https://cde.ugr.es/index.php/union-europea/noticias-ue/1476-directrices-para-ayudar-al-personal-docente-a-abordar-ideas-erroneas-sobre-la-inteligencia-artificial
Code INTEF. (s. f.). La
Comisión Europea lanza las Directrices sobre prácticas prohibidas de
inteligencia artificial (IA). Code INTEF. https://code.intef.es/noticias/ce-lanza-directrices-practicas-prohibidas-ia/
Conecta, T. (s. f.). Conoce
más de 10 aplicaciones y herramientas sugeridas por el experto del Tec para
ayudarte en tu vida estudiantil. Conecta, Tec. https://conecta.tec.mx/es/noticias/nacional/educacion/aplicaciones-herramientas-inteligencia-artificial-ia-estudiantes
CyL Digital. (s. f.). Transforma
tu vida digital: aplica la Inteligencia Artificial en tu día a día. CyL
Digital. https://www.cyldigital.es/servicio/transforma-tu-vida-digital-aplica-la-inteligencia-artificial-en-tu-dia-dia
Datusmas. (s. f.). Protección
de datos en centros educativos. Datusmas. https://www.datusmas.com/protecci%C3%B3n-datos-centros-educativos/
Education 3.0. (s. f.). IA
en los centros educativos: lo que permite (y lo que no) la ley europea.
Educación 3.0. https://www.educaciontrespuntocero.com/noticias/ley-de-la-ia-en-centros/
EPALE. (2025, 12 de marzo). Directrices
sobre las prácticas prohibidas de IA en educación. EPALE. https://epale.ec.europa.eu/es/content/directrices-sobre-las-practicas-prohibidas-de-ia-en-educacion
Escuelas Católicas de Castilla y León. (2023, 10 de noviembre). La inteligencia artificial revolucionará la
educación del futuro. https://www.eccastillayleon.org/congreso-innovacion-educativa-2023/
Escuelas Católicas de Castilla y León. (2025, 21 de enero). Inteligencia Artificial en Educación – Nivel
avanzado. https://www.eccastillayleon.org/inteligencia-artificial-en-educacion-nivel-avanzado/
Google. (s. f.). Usamos
IA. para mejorar la educación. Google. https://edu.google.com/intl/es-419_ALL/ai/education/
Guerra Jáuregui, M. (2024, 12 de febrero). Principios éticos de la educación con Inteligencia Artificial (IA).
Observatorio del Instituto para el Futuro de la Educación. https://observatorio.tec.mx/principios-eticos-de-la-educacion-con-inteligencia-artificial-ia/
ICAB. (2020, 13 de febrero). Publicada
la guía de la AEPD para adecuación al RGPD de tratamientos que incorporan IA.
Ilustre Colegio de la Abogacía de Barcelona. https://www.icab.es/es/actualidad/noticias/noticia/Publicada-la-guia-de-la-AEPD-para-adecuacion-al-RGPD-de-tratamientos-que-incorporan-IA/
IDUS. (s. f.). Propuesta
de proyecto de innovación educativa con el uso de la Inteligencia Artificial:
"Descubriendo Familias: Un Viaje Creativo a Través de la Diversidad".
Universidad de Sevilla. https://idus.us.es/bitstreams/30bfb8e6-3f18-41da-a6f5-25ee5385da67/download
IES Fernando I. (2025). GUÍA
BÁSICA PARA EL USO DE CHAT GPT Y COPILOT. IES Fernando I. http://iesfernandoprimero.centros.educa.jcyl.es/sitio/upload/GUIA_BASICA_USO_DE_CHAT_GPT_Y_COPILOT_24-1-25.pdf
INTEF. (2022). Perspectivas
de la Educación Digital de la OCDE 2021: Superando las Fronteras con
Inteligencia Artificial, Blockchain y Robótica. INTEF. https://intef.es/wp-content/uploads/2022/10/2022_02_Pushing-the-frontiers_INTEF.pdf
L3Tcraft Educación. (2025, 2 de agosto). Uso responsable de la inteligencia artificial. https://l3tcrafteducacion.com/uso-responsable-de-la-inteligencia-artificial/
Martínez Arrue, I. (2018). Guía
Sectorial AEPD: Guía para centros educativos. Unión Sindical de Inspectores
de Educación. https://usie.es/wp-content/uploads/2018/07/SP21-49-EstudiosyDocumentos-Guia-Sectorial-AEPD-Centros-Educativos-MARTINEZ-ARRUE.pdf
Net-Learning. (s. f.). 5
herramientas de IA para transformar tu práctica docente. Net-Learning. https://www.net-learning.com.ar/blog/5-herramientas-de-ia-para-transformar-tu-practica-docente.html
Pucheta, L. L. (2022, 24 de enero). Recomendaciones sobre ética de la inteligencia artificial promovidas
por Unesco. Centro de Bioética. https://www.saij.gob.ar/DACF220017
Ricart-Domingo, L. (2024, 22 de mayo). El uso de la inteligencia artificial (IA) en las aulas de secundaria y
bachillerato. Generalitat Valenciana. https://portal.edu.gva.es/blogs/s1/l_ricartedomingo/el-uso-de-la-inteligencia-artificial-ia-en-las-aulas-de-secundaria-y-bachillerato/
UNESCO. (s. f.). Recomendación
sobre la Ética de la IA. UNESCO. https://www.unesco.org/es/artificial-intelligence/recommendation-ethics
Universidad Externado de Colombia. (2024). Lineamientos para el uso de IA. Universidad Externado de Colombia. https://www.uexternado.edu.co/wp-content/uploads/2024/10/Lineamientos-para-el-uso-de-IA-1.pdf
XarxaTIC. (2023). PROTOCOLO_IA_CENTROSEDUCATIVOS.pdf.
https://xarxatic.com/wp-content/uploads/2023/08/PROTOCOLO_IA_CENTROSEDUCATIVOS.pdf
Obras citadas
1.
educaIA – Dinámicas docentes con inteligencia artificial, fecha
de acceso: septiembre 2, 2025, https://educationai.es/
2.
La IA ayuda en el desarrollo de los más pequeños-Atlantic
School, fecha de acceso: septiembre 2, 2025, https://atlanticschools.net/ia-generativa-ayuda-en-el-desarrollo-de-los-mas-pequenos/
3.
10 principios para un uso ético, justo e inclusivo de la IA en
la educación | British Council, fecha de acceso: septiembre 2, 2025, https://www.britishcouncil.es/about/press/10-principios-para-un-uso-etico-justo-e-inclusivo-de-la-ia-en-la-educacion
4.
Uso responsable de la Inteligencia Artificial - Letcraft
Educación, fecha de acceso: septiembre 2, 2025, https://l3tcrafteducacion.com/uso-responsable-de-la-inteligencia-artificial/
5.
Usamos IA para mejorar la educación - Google for Education,
fecha de acceso: septiembre 2, 2025, https://edu.google.com/intl/es-419_ALL/ai/education/
6.
5 herramientas de IA para transformar tu práctica docente - Net
..., fecha de acceso: septiembre 2, 2025, https://www.net-learning.com.ar/blog/5-herramientas-de-ia-para-transformar-tu-practica-docente.html
7.
Directrices para ayudar al personal docente a abordar ideas
erróneas sobre la inteligencia artificial - Centro de Documentación Europea -
Universidad de Granada, fecha de acceso: septiembre 2, 2025, https://cde.ugr.es/index.php/union-europea/noticias-ue/1476-directrices-para-ayudar-al-personal-docente-a-abordar-ideas-erroneas-sobre-la-inteligencia-artificial
8.
¿Cómo afectará la inteligencia artificial (IA) a los niños? -
HealthyChildren.org, fecha de acceso: septiembre 2, 2025, https://www.healthychildren.org/Spanish/family-life/Media/Paginas/how-will-artificial-intelligence-AI-affect-children.aspx
9.
Guía básica para el uso de inteligente artificial en centros
educativos - IES Fernando I - Junta de Castilla y León, fecha de acceso:
septiembre 2, 2025, http://iesfernandoprimero.centros.educa.jcyl.es/sitio/upload/GUIA_BASICA_USO_DE_CHAT_GPT_Y_COPILOT_24-1-25.pdf
10.
LINEAMIENTOS PARA EL USO DE INTELIGENCIA ARTIFICIAL |
Universidad Externado de Colombia, fecha de acceso: septiembre 2, 2025, https://www.uexternado.edu.co/wp-content/uploads/2024/10/Lineamientos-para-el-uso-de-IA-1.pdf
11.
Principios éticos de la educación con Inteligencia Artificial
(IA), fecha de acceso: septiembre 2, 2025, https://observatorio.tec.mx/principios-eticos-de-la-educacion-con-inteligencia-artificial-ia/
12.
Límites de la IA en educación - EPALE, fecha de acceso:
septiembre 2, 2025, https://epale.ec.europa.eu/es/content/directrices-sobre-las-practicas-prohibidas-de-ia-en-educacion
13.
La Comisión Europea lanza las Directrices sobre prácticas
prohibidas de inteligencia artificial (IA), según se definen en la Ley de IA. -
Code INTEF, fecha de acceso: septiembre 2, 2025, https://code.intef.es/noticias/ce-lanza-directrices-practicas-prohibidas-ia/
14.
Ley de la IA en los centros: esto es lo que debes saber -
Educación 3.0, fecha de acceso: septiembre 2, 2025, https://www.educaciontrespuntocero.com/noticias/ley-de-la-ia-en-centros/
15.
Ética de la inteligencia artificial | UNESCO, fecha de acceso:
septiembre 2, 2025, https://www.unesco.org/es/artificial-intelligence/recommendation-ethics
16.
La OCDE actualiza sus Principios sobre la IA - Cuatrecasas,
fecha de acceso: septiembre 2, 2025, https://www.cuatrecasas.com/es/spain/propiedad-intelectual/art/ocde-actualiza-principios-ia
17.
Recomendaciones sobre ética de la inteligencia artificial
promovidas por Unesco - SAIJ, fecha de acceso: septiembre 2, 2025, https://www.saij.gob.ar/DACF220017
18.
Perspectivas de la Educación Digital de la OCDE 2021: Superando
las Fronteras con Inteligencia Artificial, Blockchain y Robótica - INTEF, fecha
de acceso: septiembre 2, 2025, https://intef.es/wp-content/uploads/2022/10/2022_02_Pushing-the-frontiers_INTEF.pdf
19.
Protección datos centros educativos - Datusmas, fecha de acceso:
septiembre 2, 2025, https://www.datusmas.com/protecci%C3%B3n-datos-centros-educativos/
20.
Protección de datos en centros educativos: obligaciones,
tratamiento y riesgos - SMOWL, fecha de acceso: septiembre 2, 2025, https://smowl.net/es/blog/proteccion-de-datos-centro-educativo/
21.
10.- MENORES Y EDUCACIÓN | AEPD, fecha de acceso: septiembre 2,
2025, https://www.aepd.es/preguntas-frecuentes/10-menores-y-educacion
22.
¿Cuál es la edad para que los menores puedan prestar
consentimiento para tratar sus datos personales? | AEPD, fecha de acceso:
septiembre 2, 2025, https://www.aepd.es/preguntas-frecuentes/10-menores-y-educacion/FAQ-1001-cual-es-la-edad-para-que-los-menores-puedan-prestar-consentimiento-para-tratar-sus-datos-personales
23.
Protocolo del uso de inteligencia artificial (IA) en los centros
educativos | XarxaTIC, fecha de acceso: septiembre 2, 2025, https://xarxatic.com/wp-content/uploads/2023/08/PROTOCOLO_IA_CENTROSEDUCATIVOS.pdf
24.
Transforma tu vida digital: aplica la Inteligencia Artificial en
tu día a día - CyL Digital, fecha de acceso: septiembre 2, 2025, https://www.cyldigital.es/servicio/transforma-tu-vida-digital-aplica-la-inteligencia-artificial-en-tu-dia-dia
25.
MARIA OLIVA HERRERA - idUS - Universidad de Sevilla, fecha de
acceso: septiembre 2, 2025, https://idus.us.es/bitstreams/30bfb8e6-3f18-41da-a6f5-25ee5385da67/download
26.
El uso de la Inteligencia Artificial (IA) en las aulas de
Secundaria y Bachillerato, fecha de acceso: septiembre 2, 2025, https://portal.edu.gva.es/blogs/s1/l_ricartedomingo/el-uso-de-la-inteligencia-artificial-ia-en-las-aulas-de-secundaria-y-bachillerato/
27.
10 herramientas y aplicaciones de IA para estudiantes |
Tecnológico de Monterrey, fecha de acceso: septiembre 2, 2025, https://conecta.tec.mx/es/noticias/nacional/educacion/aplicaciones-herramientas-inteligencia-artificial-ia-estudiantes
28.
Inteligencia Artificial en Educación - Nivel avanzado - Escuelas
Católicas Castilla y León, fecha de acceso: septiembre 2, 2025, https://www.eccastillayleon.org/inteligencia-artificial-en-educacion-nivel-avanzado/
