From ethics to agency: Participatory design of a teacher training course for AI in education

Abstract

[EN] Artificial Intelligence is increasingly being integrated into educational settings, yet its ethical implications and impact on pedagogical agency remain underexplored. This thesis investigates the ethical challenges and agency-related concerns in education through an educational design research process, with the aim of developing a teacher training course for K-12 educators, designed through their own voices. The study begins with a systematic literature review (2011–2022), conducted using PRISMA guidelines, which maps the current state of research on AI in education. This phase identifies substantial gaps in ethical frameworks, teacher-specific guidance, and the preservation of educational agency. Building on this foundation, the research adopts a participatory futures methodology, using the Delphi Method to co-construct eight future scenarios. These scenarios explore the socio-technical imaginaries shaping AI's pedagogical implications, including issues of equity, assessment, student voice, and professional autonomy. Subsequent research phases engage teacher educators through iterative focus groups, exploring how AI alters agency dynamics, subjective, intersubjective, and collective, within educational contexts. Findings reveal a pressing need to move beyond dominant techno-solutionist narratives and instead support teachers in reclaiming their roles as ethical and relational agents. These insights inform the co-design of a professional development course, which integrates dialogic, experiential, and reflective learning practices. The course is hosted on a custom-designed Canva platform and structured around a three-layered framework of educational agency, offering educators conceptual and practical tools to critically engage with AI. By foregrounding the symbolic, relational, and ethical dimensions of education, this thesis argues that responsible AI integration must not only be technically sound but also aligned with the core purposes of education: subjectification, qualification, and socialisation. It proposes that sustaining teacher agency requires special attention to the preservation and care of the educational lexicon, one that sustains complexity, openness, ethical discernment, as well as desire and memory in the face of algorithmic pressures. For it is through desire that alternative imaginaries of socio-technical systems and comprehensive educational ecosystems are made possible. This dissertation contributes four main outcomes: (1) a comprehensive ethical mapping of AI in education, (2) a participatory ethical dilemma toolkit, (3) a conceptual framework of agency in AI-mediated education, and (4) a context-responsive, agency-centred professional development course for K–12 educators. Together, these outcomes constitute a theoretically grounded and empirically informed contribution to ongoing scholarly and professional efforts aimed at cultivating educational environments in which decisions regarding the use of AI, and the conditions under which it is integrated, are co-constructed through dialogic, participatory processes that uphold educational purpose, human agency, and the democratic ethos of schooling. It counters the depoliticising and deprofessionalising tendencies of technocratic models by supporting teachers in critically engaging with AI, resisting unreflective automation, and challenging algorithmic normativisation.

[ES] La Inteligencia Artificial está siendo cada vez más integrada en entornos educativos, pero sus implicaciones éticas y su impacto sobre la agencia pedagógica siguen siendo insuficientemente explorados. Esta tesis investiga los desafíos éticos y las preocupaciones relacionadas con la agencia en la educación mediante un proceso de investigación basada en el Educational Design Research, con el objetivo de desarrollar un curso de formación para profesores de Educación Primaria y Educación Secundaria diseñado a partir de sus propias opiniones. El estudio comienza con una revisión sistemática de literatura entre 2011 y 2022, realizada según las directrices PRISMA, que mapea el estado actual de la investigación sobre la IA en la educación. Esta fase identifica vacíos significativos en los marcos éticos, en la orientación específica para docentes y en la preservación de la agencia educativa. Sobre esta base, la investigación adopta una metodología de futuros, utilizando el método Delphi para construir de manera colectiva ocho escenarios futuros. Estos escenarios exploran los imaginarios sociotécnicos que configuran las implicaciones pedagógicas de la IA, incluyendo cuestiones de equidad, evaluación, voz estudiantil y autonomía profesional. Las fases posteriores de la investigación involucran a formadores de docentes mediante grupos focales iterativos con el fin de explorar cómo la IA transforma las dinámicas de la agencia subjetiva, intersubjetiva y colectiva en contextos educativos. Los hallazgos revelan una necesidad urgente de superar las narrativas tecnosolucionistas dominantes y, en su lugar, apoyar a los docentes en la recuperación de su rol como agentes éticos y relacionales. Estas ideas informan el diseño conjunto de un curso de desarrollo profesional que integra prácticas de aprendizaje dialógicas, experienciales y reflexivas. El curso se aloja en una plataforma personalizada basada en Canva y se estructura en torno a un marco tridimensional de agencia educativa, ofreciendo a los docentes herramientas conceptuales y prácticas para involucrarse críticamente con la IA. Al poner en primer plano las dimensiones simbólicas, relacionales y éticas de la educación, esta tesis sostiene que la integración responsable de la IA no solo debe ser técnicamente sólida, sino también coherente con los fines fundamentales de la educación: subjetivación, cualificación y socialización. Se propone que la sostenibilidad de la agencia docente requiere una atención especial a la preservación y al cuidado del léxico educativo, un léxico que sostenga la complejidad, la apertura, el discernimiento ético, así como el deseo y la memoria frente a las presiones algorítmicas. Es a través de este deseo que pueden emerger nuevos imaginarios de los sistemas sociotécnicos y de ecosistemas educativos más integrales. Esta tesis ofrece cuatro aportes principales. En primer lugar, un mapeo comprensivo sobre la IA en la educación y la ética. En segundo lugar, un toolkit de dilemas éticos aplicados a la IA en la educación. En tercer lugar, un marco conceptual de agencia en contextos educativos mediados por IA. Y, en cuarto lugar, un curso de formación docente contextualizado y centrado en la agencia. En conjunto, estos resultados constituyen una contribución teórica y empíricamente fundamentada a los esfuerzos académicos y profesionales que buscan cultivar entornos educativos en los cuales las decisiones sobre el uso de la IA, y las condiciones bajo las cuales se implementa, se construyan colectivamente mediante procesos dialógicos y participativos que sostengan el propósito educativo, la agencia humana y el horizonte democrático de la escuela. Esta investigación contrarresta las tendencias despolitizadoras y desprofesionalizadoras de los modelos tecnocráticos al apoyar al profesorado en su compromiso crítico con la Inteligencia Artificial, en su resistencia a la automatización irreflexiva y en el cuestionamiento de la normativización algorítmica.