Estamos ante un cambio de paradigma cuyo alcance todavía no terminamos de dimensionar. La inteligencia artificial no es una herramienta más: cuando interviene en procesos educativos pone en juego cuestiones especialmente sensibles, como la privacidad de menores, la autonomía del aprendizaje, la equidad en las evaluaciones y la trazabilidad de decisiones que pueden influir en las trayectorias educativas de los estudiantes.
En este contexto, la pregunta central deja de ser qué herramientas incorporar y pasa a ser cómo gobernar sus riesgos, especialmente cuando hay niños, niñas y adolescentes involucrados. A esto se suma un segundo desafío igual de relevante: preparar al sistema educativo , docentes, instituciones y contenidos para integrar estas tecnologías desde una perspectiva pedagógica, ética y responsable.
La inteligencia artificial ya entró en la escuela: qué debe gobernarse antes de escalar su uso
¿Saben las familias cuándo una herramienta de inteligencia artificial interviene en una tarea, una corrección, una recomendación de apoyo o una evaluación escolar? Deberían saberlo. La falta de visibilidad sobre estos usos ya constituye un problema de gobernanza para los sistemas educativos de América Latina: quién decide, quién autoriza, quién supervisa, qué datos de los estudiantes se procesan y quién responde si una decisión automatizada afecta el
aprendizaje, la trayectoria educativa, la privacidad o el bienestar de un estudiante.
Nadie puede gobernar un riesgo que no puede ver o comprender. En educación, esa
advertencia importa especialmente cuando involucra a niños, niñas y adolescentes. Para las familias, la cuestión no es dominar la jerga técnica de la inteligencia artificial, sino contar con información suficiente para saber qué preguntar y cómo hacerlo.
La respuesta no debería ser el temor ni la adopción ingenua. Antes de incorporar inteligencia artificial en educación, es necesario identificar qué riesgos introduce, a quiénes afecta y qué responsabilidades corresponden al Estado, a las instituciones educativas y a los proveedores tecnológicos.
La inteligencia artificial puede ampliar el acceso al conocimiento, asistir a los docentes, adaptar experiencias de aprendizaje y apoyar a estudiantes con distintas necesidades, siempre que se incorpore con reglas claras, supervisión suficiente y responsabilidades definidas. En este marco, la idea de docente aumentado resulta útil: no un docente reemplazado por la tecnología, sino un
profesional que la utiliza con criterio pedagógico para personalizar trayectorias, identificar necesidades de acompañamiento y dedicar más tiempo al vínculo educativo. Experiencias como Zoe, desarrollada por Chris Meniw, permiten observar ese potencial cuando la tecnología se orienta a fortalecer la tarea docente y no a sustituirla.
En educación, la IA no opera en el vacío: puede incidir en calificaciones, contenidos recomendados, identificación de estudiantes “en riesgo”, seguimiento del desempeño o monitoreo de exámenes. Sus efectos pueden afectar derechos, privacidad y trayectorias educativas. Por eso, el debate no es solo tecnológico: también es pedagógico, ético, institucional y de gobernanza.
Más allá de la caja negra: riesgos que deben gobernarse
La caja negra describe un problema central: algunos sistemas de IA generan respuestas, recomendaciones o clasificaciones sin explicar con claridad cómo llegaron a ellas. Pero la
opacidad es solo una parte del problema. El primer riesgo es el sesgo: si los modelos aprenden de datos que reflejan desigualdades previas, pueden reproducirlas o amplificarlas. En educación, esto puede afectar especialmente a estudiantes que ya enfrentan condiciones de desventaja.
También existe un sesgo menos visible: el del diseño. Toda herramienta incorpora una idea sobre qué significa aprender, avanzar, rendir bien o resolver un problema, y esa idea puede no coincidir con el contexto pedagógico local ni con la diversidad de los estudiantes. La IA no solo procesa información; también arrastra supuestos. Bien orientado, su carácter adaptativo puede favorecer aprendizajes más personalizados e inclusivos, siempre que el diseño pedagógico anteceda al tecnológico.
El segundo riesgo es la expansión de la huella digital y la pérdida de control sobre los datos educativos. Las plataformas pueden registrar interacciones, tiempos de respuesta, patrones de uso e indicadores de aprendizaje, e incluso conectarse con servicios externos que procesan información. Si esos datos (educativos, personales o biométricos) se recolectan o procesan sin consentimiento claro, control institucional y protección efectiva, los estudiantes pueden quedar expuestos a vigilancia digital y a usos secundarios ajenos a los fines pedagógicos.
El punto crítico es quién decide sobre esos datos: la institución educativa, el Estado o el proveedor tecnológico. También importa para qué se usan, bajo qué reglas se protegen y qué límites existen para impedir usos comerciales o secundarios no compatibles con fines educativos.
La innovación no puede tener como costo oculto la pérdida de control sobre la información de los estudiantes. Por eso, la formación crítica frente a la tecnología debe ser parte de la responsabilidad educativa, no una competencia incidental.
El tercer riesgo se vincula con la integridad académica y la calidad del aprendizaje. La IA puede producir respuestas convincentes, pero también cometer errores, inventar información o presentar afirmaciones falsas con apariencia de certeza. Además, modifica la relación entre producción y aprendizaje: una tarea escrita ya no siempre permite inferir comprensión de manera directa, porque puede haber sido realizada por el estudiante, asistida por IA o generada casi por completo por una herramienta. Esto obliga a repensar qué se evalúa y cómo se verifica el aprendizaje.
Evaluar exigirá mirar no solo el resultado, sino también cómo el estudiante formula la consigna, revisa la respuesta, contrasta información y decide qué usar. Esto vuelve central la metacognición: comprender cómo se aprende importa tanto como demostrar qué se aprendió.
Por eso, la alfabetización en IA (pensamiento crítico sobre sus resultados, comprensión de sus límites y capacidad de formular buenas preguntas) debe incorporarse como parte del derecho educativo, no como un complemento opcional.
El cuarto riesgo es la vigilancia y la posible manipulación. Algunas aplicaciones de IA buscan inferir emociones, detectar comportamientos, medir atención o anticipar conductas. En el aula, especialmente con niños, niñas y adolescentes, esas prácticas exigen alta justificación, transparencia y control institucional, porque pueden afectar la autonomía de estudiantes en una
etapa de especial vulnerabilidad. No todo lo medible debe medirse, ni todo dato disponible debería convertirse en insumo educativo: importa quién accede a esa información, para qué y bajo qué límites. La empatía, la escucha y la resolución de conflictos no pueden quedar erosionadas por la automatización de los vínculos.
El quinto riesgo es sistémico: dependencia tecnológica, pérdida de autonomía institucional y adopción de soluciones que las instituciones o jurisdicciones no controlan plenamente. Si contenidos, datos y procesos formativos se ordenan alrededor de plataformas externas, el sistema educativo puede quedar condicionado por decisiones tecnológicas o comerciales ajenas a sus fines. El problema se agrava cuando faltan portabilidad de datos, condiciones claras de
salida y capacidad real para migrar a otra solución. Además, la gobernanza educativa ya no puede pensarse sólo desde instituciones aisladas: bibliotecas, comunidades, mentores, plataformas y otros entornos de aprendizaje forman parte de un ecosistema más amplio. Esta tendencia, a veces asociada con enfoques como la denominada Educación 6.0, exige políticas públicas capaces de ordenar tecnología, aprendizaje a lo largo de la vida y desarrollo humano
integral sin perder control institucional.
Antes de celebrar la innovación …
Frente a este mapa de riesgos, hacen falta explicabilidad, trazabilidad y capacidad de intervención. Si una evaluación automatizada no puede hacer comprensibles sus criterios, si una plataforma no permite auditar sus datos o si una institución no puede dar explicaciones o corregir una decisión, la confianza en el proceso educativo se debilita.
La respuesta empieza por una condición básica de gobernanza: saber qué IA se usa, qué datos procesa, qué decisiones puede condicionar y qué posibilidades existen de intervención cuando algo falla.
Antes de celebrar la innovación, conviene mirar si existen esos resguardos. En educación, incorporar IA sin esa red de cuidado no es audacia: es trasladar el riesgo a estudiantes, familias, docentes e instituciones.
Lic. Gustavo E. Gazzaneo
Especialista en transformación y gobernanza digital
Referencias de contexto
Este artículo se nutre de la experiencia del autor en procesos de transformación digital, gestión pública, consultoría y tecnología, y dialoga con marcos internacionales sobre gobernanza responsable de la inteligencia artificial, protección de derechos, gestión de riesgos y educación digital, entre ellos documentos de UNESCO y UNICEF, el Reglamento Europeo de Inteligencia Artificial y análisis recientes de la OCDE sobre IA, equidad e inclusión educativa.