La transparencia como factor crítico
en los usos educativos de la IA
Transparency as a Critical Factor in the Educational Uses of AI
Graciela Caldeiro, Valeria Odetti
Universidad de Buenos Aires, Argentina
E-mail: odettivaleria@gmail.com
Fecha de recepción: 15 de Octubre 2024 • Aceptado: 11 de Diciembre 2024
CALDEIRO, G.; ODETTI, V. (2024). La transparencia como factor crítico en los usos educativos de la IA Virtualidad,
Educación y Ciencia, 28 (15), pp. 46-53.
Virtualidad, Educación y Ciencia
Año 15 - Número 28 - 2024
ISSN: 1853-6530
Resumen
Este trabajo analiza la importancia de la transparencia en el uso de la inteligencia articial generativa
(IAG) en la educación, resaltando su valor ético y pedagógico. Basado en una investigación sobre la
implementación de IAG en el diseño didáctico, se explora el impacto de estos recursos como asistentes
del docente. Se propone que, al igual que se espera que los estudiantes informen sobre el uso de IAG
en sus producciones, los docentes también deberían hacerlo cuando utilizan estas herramientas en
la preparación de sus clases. El artículo revisa la escala AIAS de Perkins et al. (2024) y la adaptación
de De Haro (2024), que gradua los niveles de uso de IA en instancias de evaluación. A partir de
estas referencias, se desarrolla la escala EIADD, que adapta la graduación para describir el nivel de
intervención de la IA en el diseño didáctico.
Finalmente, el trabajo enfatiza la necesidad de fomentar un uso transparente y crítico de la IAG,
subrayando que su implementación puede inuir en los procesos educativos, afectando no solo aspectos
cognitivos, sino también sociales, emocionales y éticos.
Palabras claves: inteligencia articial
Abstract
This paper examines the importance of transparency in the use of generative articial intelligence (GAI)
in education, highlighting its ethical and pedagogical value. Based on research on the implementation
of GAI in instructional design, it explores the impact of these resources as teaching assistants. It
proposes that, just as students are expected to disclose their use of GAI in their work, educators
should also acknowledge their use of these tools when preparing lessons.The article reviews the AIAS
scale by Perkins et al. (2024) and its adaptation by De Haro (2024), which grades levels of AI use in
evaluation contexts. Building on these references, the EIADD scale is developed to adapt the grading
to describe the level of AI intervention in instructional design.
Finally, the paper emphasizes the need to promote a transparent and critical use of GAI, stressing
that its implementation can inuence educational processes, affecting not only cognitive aspects but
also social, emotional, and ethical dimensions.
Keywords: articial intelligence
Virtualidad, Educación y Ciencia
Año 15 - Número 28 - 2024
ISSN: 1853-6530
48 VEsC - Año 15 - Número 28 - 2024: 46-54 https://revistas.unc.edu.ar/index.php/vesc/article/view/47960
Introducción
Hace muchos años que las autoras nos preguntamos por la inclusión de tecnologías digitales
en la enseñanza como una forma de reconocer que, hasta que no somos usuarios activos, no
comprendemos la totalidad de la inclusión de estas herramientas en los procesos de aprendizaje. Fue
natural, entonces, que nuestra primera investigación1 sobre el uso de Inteligencia Artificial Generativa
(en adelante IAG) en educación se centrara en la enseñanza. Elegimos, además, el nivel educativo
del que menos evidencia había: la escuela primaria. Sin embargo, a lo largo del proceso, nos resultó
evidente que el nivel al que recortamos el objeto de estudio no limitaba el alcance de los hallazgos
porque los resultados son aplicables a todas las prácticas de enseñanza.
Lo que buscamos fue explorar en qué medida era posible usar la IA generativa como asistente
para la toma de decisiones de la población docente respecto del diseño de actividades y materiales
didácticos. Esta exploración en el punto de partida, nos permitió identificar categorías y analizar
la oferta de herramientas de IAG al comenzar el estudio. La diferenciación más relevante fue la
identificada entre herramientas con IAG creadas o actualizadas con un perfil educativo deliberado
y dirigidas a docentes de otras, de uso genérico (Caldeiro, Odetti y Ordiz, 2024). Si bien dentro de
nuestros hallazgos encontramos otras diferencias en el valor de esa asistencia en distintos tipos de
recursos, en el presente trabajo, vamos a dejar de lado esta diferenciación.
En la primera etapa de la investigación trabajamos con la exploración de herramientas disponibles
registrando qué productos podrían generarse, cuál era la curva de aprendizaje en el uso de la
herramienta y qué tipo de iteraciones eran necesarias para lograr un resultado plausible de llevarse
al aula. Durante ese proceso, surgieron algunas preguntas: ¿en qué medida debíamos readaptar los
diseños didácticos creados por la IAG en un proceso iterativo si luego planificábamos evaluar la
calidad de esos recursos diseñados en su implementación? ¿Hasta qué punto los ajustes realizados
por el docente, finalmente, borraban las marcas de la asistencia original de la IA en el producto
final? Determinar esta frontera no siempre parecía posible ya que el proceso de diseño es complejo y
suponía la reelaboración del producto en versiones sucesivas donde la incidencia de la IA podía tener
diferentes niveles de incidencia según la herramienta involucrada o el número de versión.
Pero, a partir de esta discusión, surgió otra idea poderosa que es el eje del presente trabajo: dada la
preocupación de los docentes, en general, por el uso que los estudiantes hacen de la IA y, sobre todo,
por el impacto que esto tiene en las formas tradicionales de evaluación, es necesario preguntarnos si
los docentes deberían transparentar frente a sus estudiantes cuando ellos han utilizado este tipo de
asistencia en la propuesta de enseñanza. Creemos que sí, no sólo por una cuestión ética, sino también
por su relevancia pedagógica: enseñar sobre el uso de estas herramientas mostrando cómo las usamos.
Construir una herramienta que nos permita analizar el vínculo entre trabajo docente e IA
A fin de dar curso al análisis de esta pregunta, buscamos antecedentes que nos permitieran pensar
las diferentes formas en que la iteración con IA generativa se pone en evidencia en la construcción
1 El presente trabajo se enmarca en el proyecto de investigación Educación e Inteligencia Artificial generativa:
Experimentación con usos didácticos en el nivel Nivel Primario desarrollado entre 2023 y 2024 . La misma fue financiada
por la Universidad de Buenos Aires. El equipo está conformado por Graciela Caldeiro (Directora), Valeria Odetti (Co-
directora), Marcela Ordiz y Paola Dellepiane (Investigadoras principales) Pilar Aguirre y Florencia Hermida (Becarias).
Fundamentos e Investigación Graciela Caldeiro, Valeria Odetti
VEsC - Año 15 - Número 28 - 2024: 46-54 49 https://revistas.unc.edu.ar/index.php/vesc/article/view/47960
de un diseño didáctico, sea cuál sea el nivel del que estemos hablando. Tomamos, entonces, como
referencia inicial la escala desarrollada por Mike Perkins, Jasper Roe, Jason MacVaugh y Leon Furze
(2024), la cual ofrece un marco para compartir con los estudiantes en torno a usos aceptables y
consensuados de la IA Generativa en el trabajo académico. La escala original busca categorizar el
vínculo entre el estudiante y la IA, especialmente, en instancias en que se requiere relevar evidencias
de aprendizaje para la evaluación.
Nos interesa el trabajo de estos autores porque parten de una descripción muy habitual en el campo
académico: la necesidad de detectar el plagio (Arce, 2023; Anders, 2023; Khalil, 2023). En general,
antes que el potencial del uso de alguna herramienta o de la reflexión acerca de la transformación
de procesos cognitivos que las herramientas generan lo que se espera es controlar su uso, más aún
cuando este uso está vinculado con la evaluación de contenidos. Señalan que la primera reacción
de las instituciones, como los casos comentados a partir de las decisiones de las universidades de
Australia, fue volver a exámenes en papel con el propósito de evitar el uso de recursos como el chat
GPT2.
Los autores, pensaron, entonces, una escala que permita explicitar el tipo de uso que se hace de
estas herramientas en una evaluación estructurando matices entre el no uso y el uso total y tomando
como elementos articuladores la simplicidad y la claridad.
Encontramos una publicación de De Haro (2024) que, en su blog personal, realiza una adaptación
para describir usos docentes de la IA con el objetivo de proponer un marco para la integración de
la IA generativa en las tareas educativas. En su versión de la escala, la graduación considera como
criterio esencial la proporción en la que se encuentra involucrada la IA. La escala que propone De
Haro es la siguiente:
Nivel 0: Solo intervención humana;
Nivel 1: La IA realiza tareas mecánicas sin influir en ideas o contenido;
Nivel 2: la IA estructura y genera ideas pero es el humano quien desarrolla a continuación el
contenido;
Nivel 3: la IA produce parte del contenido que luego el humano revisa, mejora e íntegra;
Nivel 4: Se plantea un diálogo continuo humano-IA, colaboración cercana, contenido fusionado
y,
Nivel 5: IA autónoma genera contenido con una mínima intervención humana.
Pensamos que si bien esta escala es aplicable al diseño didáctico (especialmente hasta el cuarto
nivel) deja por fuera algunos matices específicos en torno a las posibilidades que hoy brindan las
herramientas de IA creadas para asistir a los docentes como diseñadores didácticos. Aunque hemos
considerado algunas de las apreciaciones de la adaptación de la escala publicada por De Haro,
2 https://www.elperiodico.com/es/sociedad/20230110/universidades-australia-papel-boli-examenes-inteligencia-
artificial-81001504
https://www.eleconomista.es/tecnologia/noticias/12110981/01/23/El-retorno-al-lapiz-y-papel-ChatGPT-amenaza-a-
los-examenes-de-las-universidades.html
Fundamentos e InvestigaciónGraciela Caldeiro, Valeria Odetti
50 VEsC - Año 15 - Número 28 - 2024: 46-54 https://revistas.unc.edu.ar/index.php/vesc/article/view/47960
hemos optado para nuestra versión, y atendiendo los resultados de nuestro estudio, ajustarnos más
estrictamente al trabajo original de Perkins et al (2024)
Trabajamos, entonces, en una escala pensando en el vínculo entre el docente y la IA, considerando
estrategias y usos que los docentes pueden hacer de la IA para el diseño didáctico. La tabla 1 muestra
en la segunda columna nuestra propuesta respecto del uso de IAG por parte de la población docente
y, en la tercera columna, la propuesta original de los autores respecto del uso de IAG por parte del
estudiantado.
Tabla 1. Comparación escalas IIAD y Escala AIAS
Fuente: Elaboración propia
Categorías
Escala EIADD
Escala Inteligencia Artificial y diseño
didáctico
Escala AIAS 1
Escala Inteligencia Artificial y
Evaluación
1 Conservamos la sigla en inglés:
Artificial Intelligence Assessment
Scale
Roles y vínculos
IA ←→ Docente
IA ←→Estudiante
Sin IA
El uso de la IA no se
encuentra permitido
Algunos docentes pueden desestimar el
uso de recursos de IA por razones tales
como:
Desconfianza / reservas éticas
Desconocimiento
Imposibilidad tecnológica
Las tareas se realizan enteramente
sin asistencia de IA en un entorno
controlado, asegurando que los
estudiantes dependan únicamente
de sus conocimientos,
comprensión y habilidades
existentes.
Planificación con IA
La IA como punto de partida
Herramientas como los chatbots pueden
ser un punto de partida para obtener
ideas generales para diseñar actividades,
materiales o secuencias didácticas. Estas
ideas pueden continuar desarrollándose
con o sin asistencia de la IA, o pueden
simplemente descartarse o convertirse
en inspiración para otras ideas.
La IA puede ser utilizada para
actividades previas a la tarea,
como lluvia de ideas,
esquematización e investigación
inicial. Este nivel se enfoca en el
uso efectivo de la IA para
planificación, síntesis y
generación de ideas, pero las
evaluaciones deben enfatizar la
capacidad de desarrollar y
reformular estas ideas de manera
independiente.
Colaboración con IA
La IA como asistente
El diseño didáctico puede utilizar
diferentes herramientas de IAG y
combinar sus resultados para obtener un
producto adecuado. Algunos ejemplos:
adaptación de contenidos, redacción de
consignas, elaboración de imágenes y
vídeos, generación de guías de
La IA puede ser utilizada para
ayudar a completar la tarea,
incluyendo la generación de ideas,
redacción, retroalimentación y
refinamiento. Los estudiantes
deben evaluar críticamente y
modificar los resultados sugeridos
Fundamentos e Investigación Graciela Caldeiro, Valeria Odetti
VEsC - Año 15 - Número 28 - 2024: 46-54 51 https://revistas.unc.edu.ar/index.php/vesc/article/view/47960
Cabe mencionar en este apartado, un comentario sobre la posibilidad de diseñar actividades donde
los estudiantes utilicen deliberadamente IA de forma exploratoria. Si bien es algo que comienza a
estudiarse, resulta controvertido especialmente en nivel primario (nivel en el que focalizamos nuestra
investigación) por lo que debería considerarse con cautela ya que sus implicancias (impacto cognitivo,
percepciones, representaciones sobre la tecnología, etc) son aún desconocidas.
En una segunda instancia contrastamos la reformulación realizada respecto del vínculo entre IAG
y diseño didáctico con los hallazgos de nuestra investigación, este anaĺisis se encuentra sistematizado
en la tabla 2.
Fuente: Elaboración propia
Fundamentos e InvestigaciónGraciela Caldeiro, Valeria Odetti
52 VEsC - Año 15 - Número 28 - 2024: 46-54 https://revistas.unc.edu.ar/index.php/vesc/article/view/47960
Tabla 2. Hallazgos de investigación en torno a la escala EIADD
Conclusiones
La experimentación con la IA como asistente en el diseño didáctico que hemos realizado en este
trabajo de investigación nos ha permitido observar que, utilizar estas tecnologías, significa adoptar
nuevas estrategias en la planificación de la enseñanza. Porque no se trata tan solo de la incorporación
de herramientas tecnológicas novedosas, con los desafíos técnicos que ello supone, sino también la
necesidad de una importante reconversión de los métodos de diseño tradicionales.
Es interesante señalar también que esta investigación relevó las percepciones iniciales sobre el
uso de IA en el diseño didáctico entre los docentes que expresan una combinación de expectativas
y preocupaciones. Los docentes que participaron voluntariamente de este estudio expresaron tanto
interés como inquietud por estas herramientas que han ganado popularidad en muy poco tiempo.
Mientras que algunos ven en la IA un gran potencial para mejorar la eficiencia y calidad de las
Fuente: Elaboración propia
Categorías escala EIADD
Hallazgos de nuestra investigación
Sin IA
El uso de la IA no se encuentra
permitido
No se contempló este escenario puesto que se propuso, justamente,
analizar el uso de la IA en el diseño didáctico.
Planificación con IA
La IA como punto de partida
Para determinar en qué medida las ideas iniciales han influido en el
producto final, es necesario un registro meticuloso que describa en qué
medida el resultado final ha sido influido por las sugerencias de la IA.
Colaboración con IA
La IA como asistente
El uso crítico de la IA desde la perspectiva del diseño didáctico supone:
criterio y habilidad para el uso diferentes lenguajes
necesidad de triangular resultados comparando diferentes herramientas
vigilancia epistemológica (respecto de los contenidos disciplinares y
problemas de transposición didáctica)
atención a los supuestos pedagógicos asumidos por la IA que se reflejan
en el tipo de productos generados
100% IA
Uso integral y absoluto de la IA
La diversidad de herramientas IA permite identificar diferentes tipos,
algunas de las cuales son específicas para uso educativo. Sin embargo,
ya sea por la particularidad de la implementación o por las limitaciones
actuales de la IA, no es posible utilizarlas de manera exclusiva sin
mediar algún proceso de revisión y ajuste en los productos obtenidos.
.
Exploración de la IA
La IA para explorar, descubrir e
innovar
Los usos creativos y exploratorios de la IA registraron muchas
dificultades para obtener imágenes adecuadas a las expectativas. Esto no
solo refiere a la dificultad para elaborar un prompt adecuado, sino para
advertir que elementos son necesarios detallar para que lo obtenido sea
útil en términos didácticos.
Otro aspecto relevante es que los usos de la IA en diseño didáctico dan
cuenta de tensiones en los modelos pedagógicos subyacentes con
frecuencia más próximos al entrenamiento que al pensamiento crítico y
reflexivo, limitando así el valor de los resultados obtenidos en términos
de innovación y resolución de problemas didácticos.
Fundamentos e Investigación Graciela Caldeiro, Valeria Odetti
VEsC - Año 15 - Número 28 - 2024: 46-54 53 https://revistas.unc.edu.ar/index.php/vesc/article/view/47960
propuestas educativas, otros muestran dudas sobre la autenticidad y originalidad del contenido
generado.
Además, la complejidad del diseño didáctico asistido por IA se manifiesta principalmente en
la amplia oferta de herramientas disponibles y en la necesidad de desarrollar nuevas competencias
para utilizarlas de manera efectiva. Este proceso no se trata solo de automatización, sino de una
transformación que requiere replantear las estrategias de diseño y comprender a fondo las capacidades
y limitaciones de cada herramienta de IA. Desde esta perspectiva, las estrategias necesarias para un
uso efectivo de las herramientas de IA en el diseño didáctico pueden clasificarse en dos tipos:
Estrategias de Comprensión: Estas estrategias son esenciales para navegar el vasto campo de la
IA en la educación. Implican el desarrollo de una interacción sofisticada con diversas herramientas,
reconociendo sus características únicas y su dinámica de diálogo. La capacidad para comprender
y adaptarse a estas herramientas es clave para maximizar su potencial en el diseño didáctico.
Estrategias de Organización: Estas estrategias requieren un enfoque metódico y reflexivo hacia los
procesos iterativos del diseño. Incluyen la identificación de prioridades, la secuenciación de tareas y
la toma de decisiones sobre el nivel de intervención humana. Equilibrar la eficiencia que ofrece la IA
con la necesidad de control y personalización es crucial para obtener resultados óptimos.
Por último es importante destacar que las primeras experiencias de diseño didáctico asistido con
IA dan cuenta tanto de la complejidad como del potencial transformador de su uso. En consecuencia,
adquiere relevancia lo importante de un diálogo iterativo, la triangulación de recursos y la necesidad
de una seria vigilancia epistemológica. Estos hallazgos enfatizan tanto las oportunidades como los
desafíos que presenta la IA en la educación, abriendo otros interrogantes para futuras investigaciones.
Entre ellos, surgen nuevas preguntas que giran en torno los niveles transparencia en el uso de la IA
por parte estudiantes y docentes — profundizando lo abordado en este trabajo — pero también,
el impacto de la IA en el ejercicio de la creatividad, la limitación de originalidad en el diseño
didáctico asistido y las consecuencias éticas relacionadas con el entrenamiento de los modelos de
IA a partir del feedback de los usuarios. Estas y otras preguntas nos invitan a seguir explorando los
usos educativos de las tecnologías emergentes. Es cada vez más evidente que estas herramientas no
pueden ser vistas simplemente como recursos neutrales de asistencia. Y en esta línea, es fundamental
considerar la discusión sobre usos transparentes ya que sus características específicas pueden influir,
sin intencionalidad explícita, en los procesos educativos, afectando aspectos cognitivos, sociales,
emocionales y éticos.
Referencias bibliográficas
ARCE, D. D. (2023). Inteligencia artificial vs. Turnitin: implicaciones para el plagio académico.
Revista Cognosis. ISSN 2588-0578, 8(1), 15-26. Recuperado de: https://doi.org/10.33936/cognosis.
v8i1.5517
ANDERS, B. A. (2023). Is using ChatGPT cheating, plagiarism, both, neither, or forward thinking?.
Patterns, 4(3). Recuperado de: https://www.cell.com/patterns/pdf/S2666-3899(23)00025-9.pdf
CALDEIRO, G.; ODETTI, V.; ORDIZ, M. (2024) Educación e inteligencia artificial generativa:
experimentación con usos didácticos en el nivel primario, en Actas Primer Congreso Internacional en
Inteligencia Artificial y Educación. ISBN 978-950-658-634-8, 409
Fundamentos e InvestigaciónGraciela Caldeiro, Valeria Odetti
54 VEsC - Año 15 - Número 28 - 2024: 46-54 https://revistas.unc.edu.ar/index.php/vesc/article/view/47960
DE HARO, J (2024) Marco para la integración de la IA generativa en las tareas educativas,
en Bilateria, blog sobre educación. Disponible en: https://educacion.bilateria.org/marco-para-la-
integracion-etica-de-la-ia-generativa-en-las-tareas-educativas
FURZE, L. (2024) Updating the AI Assessment Scale Disponible en: https://leonfurze.
com/2024/08/28/updating-the-ai-assessment-scale/
KHALIL, M., & Er, E. (2023). Will ChatGPT get you caught? Rethinking of plagiarism detection.
arXiv preprint arXiv:2302.04335. Recuperado de: https://arxiv.org/abs/2302.04335
PERKINS, M., FURZE, L., ROE, J., & MACVAUGH, J. (2024). The Artificial Intelligence
Assessment Scale (AIAS): A Framework for Ethical Integration of Generative AI in Educational
Assessment. Journal of University Teaching and Learning Practice, 21(06). https://doi.org/10.53761/
q3azde36
Fundamentos e Investigación Graciela Caldeiro, Valeria Odetti
