La inteligencia artificial en la educación: retos legales y éticos para garantizar el derecho a una enseñanza equitativa
Resumen
La inteligencia artificial (IA) representa una oportunidad transformadora para la educación, al facilitar evaluaciones rápidas y personalizadas, y optimizar los procesos de aprendizaje. Sin embargo, su implementación plantea desafíos legales y éticos significativos, particularmente en relación con la equidad educativa. Este estudio analiza los principales retos asociados al uso de la IA en el ámbito educativo, incluyendo la discriminación algorítmica, los sesgos en los datos y la falta de marcos normativos específicos que regulen su aplicación. A través de una revisión de literatura cualitativa, se identifican implicaciones clave y propuestas para mitigar estos riesgos. Los resultados destacan que los desafíos legales, como la privacidad de los datos y la representación inadecuada de grupos vulnerables, junto con dilemas éticos como la opacidad en las decisiones automatizadas, pueden perpetuar desigualdades estructurales. Frente a estos problemas, se proponen estrategias como la alfabetización tecnológica, la creación de estándares éticos internacionales y la capacitación docente en el uso responsable de la IA. Estas acciones buscan garantizar que estas tecnologías no solo optimicen los procesos educativos, sino que también promuevan una enseñanza inclusiva y equitativa. Este artículo aporta una visión integral sobre la necesidad de marcos regulatorios y enfoques éticos para maximizar el potencial de la IA en la educación, contribuyendo a una implementación que respalde el derecho a una enseñanza equitativa y de calidad.
Descargas
Citas
Adiguzel, T., Kaya, M. H., & Cansu, F. K. (2023). Revolutionizing education with AI: Exploring the transformative potential of ChatGPT. Contemporary Educational Technology, 15(3), ep429. https://doi.org/10.30935/cedtech/13152
Akgun, S., & Greenhow, C. (2021). Artificial intelligence in education: Addressing ethical challenges in K-12 settings. AI and Ethics 2021 2:3, 2(3), 431–440. https://doi.org/10.1007/S43681-021-00096-7
Clemente, A. A., Cabrera, A., & García, E. (2024). La inteligencia artificial en la educación: desafíos éticos y perspectivas hacia una nueva enseñanza. LATAM Revista Latinoamericana de Ciencias Sociales y Humanidades, 5(6), 464-472–464 – 472. https://doi.org/10.56712/LATAM.V5I6.3019
Buccella, A. (2023). “AI for all” is a matter of social justice. AI Ethics, 3(4), 1143–1152. https://doi.org/10.1007/s43681-022-00222-z
Chan, C. K. Y., & Hu, W. (2023). Students’ voices on generative AI: perceptions, benefits, and challenges in higher education. International Journal of Educational Technology in Higher Education, 20(1), 1–18. https://doi.org/10.1186/S41239-023-00411-8/TABLES/5
Chaudhry, M. A., & Kazim, E. (2021). Artificial Intelligence in Education (AIEd): a high-level academic and industry note 2021. AI and Ethics 2021 2:1, 2(1), 157–165. https://doi.org/10.1007/S43681-021-00074-Z
Chiu, T. K. F. (2023). The impact of generative AI (GenAI) on practices, policies and research direction in education: a case of ChatGPT and Midjourney. Interact. Learn. Environ. https://doi.org/10.1080/10494820.2023.2253861
Cornejo-Plaza, I., & Cippitani, R. (2023). Consideraciones éticas y jurídicas de la Inteligencia Artificial en Educación Superior: desafíos y perspectivas. Revista de Educación y Derecho, 28. https://doi.org/10.1344/REYD2023.28.43935
Dabbagh, H., Earp, B. D., Sebastian, ·, Mann, P., Plozza, M., Salloch, S., & Savulescu, · Julian. (2024). AI ethics should be mandatory for schoolchildren. AI and Ethics 2024, 1–6. https://doi.org/10.1007/S43681-024-00462-1
Dabis, A., & Csáki, C. (2024). AI and ethics: Investigating the first policy responses of higher education institutions to the challenge of generative AI. Humanities and Social Sciences Communications, 11(1), 1–13. https://doi.org/10.1057/S41599-024-03526-Z/TABLES/1
Zepeda, M. H., Cardoso, E., & Cortés, J. (2024). Influencia de la inteligencia artificial en la educación media y superior. RIDE. Revista Iberoamericana Para La Investigación y El Desarrollo Educativo, 14(28), 679. https://doi.org/10.23913/RIDE.V14I28.1949
Henz, P. (2021). Ethical and legal responsibility for Artificial Intelligence. Discover Artificial Intelligence, 1(1), 1–5. https://doi.org/10.1007/S44163-021-00002-4/METRICS
Hernández-León, N., & Rodríguez-Conde, M. J. (2024). Inteligencia artificial aplicada a la educación y la evaluación educativa en la Universidad: introducción de sistemas de tutorización inteligentes, sistemas de reconocimiento y otras tendencias futuras. Revista de Educación a Distancia (RED), 24(78), 30–2024. https://doi.org/10.6018/RED.594651
Holmes, W., Porayska-Pomsta, K., Holstein, K., Sutherland, E., Baker, T., Shum, S. B., Santos, O. C., Rodrigo, M. T., Cukurova, M., Bittencourt, I. I., & Koedinger, K. R. (2022). Ethics of AI in Education: Towards a Community-Wide Framework. International Journal of Artificial Intelligence in Education, 32(3), 504–526. https://doi.org/10.1007/S40593-021-00239-1/FIGURES/1
Kazimzade, G., Patzer, Y., & Pinkwart, N. (2019). Artificial Intelligence and Inclusive Education: Artificial Intelligence in Education Meets Inclusive Educational Technology—The Technical State-of-the-Art and Possible Directions (J. Knox, Y. Wang, & M. Gallagher, Eds.; Vol. 2). Springer Singapore. https://doi.org/10.1007/978-981-13-8161-4
Nguyen, A., Ngo, H. N., Hong, Y., Dang, B., & Nguyen, B. P. T. (2023). Ethical principles for artificial intelligence in education. Education and Information Technologies, 28(4), 4221–4241. https://doi.org/10.1007/S10639-022-11316-W/TABLES/1
O’Regan, G. (2024). Ethics and AI. 137–161. https://doi.org/10.1007/978-3-031-52664-0_7
Ottenbreit-Leftwich, A., Glazewski, K., Jeon, M., Jantaraweragul, K., Hmelo-Silver, C. E., Scribner, A., Lee, S., Mott, B., & Lester, J. (2023). Lessons Learned for AI Education with Elementary Students and Teachers. International Journal of Artificial Intelligence in Education, 33(2), 267–289. https://doi.org/10.1007/S40593-022-00304-3/METRICS
Pant, A., Hoda, R., Tantithamthavorn, C., & Turhan, B. (2024). Ethics in AI through the practitioner’s view: a grounded theory literature review. Empirical Software Engineering, 29(3), 1–48. https://doi.org/10.1007/S10664-024-10465-5/FIGURES/6
Schiff, D. (2022). Education for AI, not AI for Education: The Role of Education and Ethics in National AI Policy Strategies. International Journal of Artificial Intelligence in Education, 32(3), 527–563. https://doi.org/10.1007/S40593-021-00270-2/TABLES/1
Tereza, A., Tafur, V., Enrique, R., & Molina, F. (2023). Incidencia de la Inteligencia Artificial en la educación. Educatio Siglo XXI, 41(3), 235–264. https://doi.org/10.6018/EDUCATIO.555681
Vakkuri, V., Jantunen, M., Halme, E., Kemell, K. K., Nguyen-Duc, A., Mikkonen, T., & Abrahamsson, P. (2021). Time for AI (Ethics) maturity model is now. CEUR Workshop Proceedings, 2808.
Yu, J. H., Chauhan, D., Iqbal, R. A., & Yeoh, E. (2024). Mapping academic perspectives on AI in education: trends, challenges, and sentiments in educational research (2018–2024). Educational Technology Research and Development, 1–29. https://doi.org/10.1007/S11423-024-10425-2/METRICS
Descargas
Publicado
Cómo citar
Número
Sección
Licencia
Derechos de autor 2025 Miguel Ángel Lombeida Aguilar, Maritza Alexandra Mora Vargas
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial-CompartirIgual 4.0.
La revista Magazine de las Ciencias permite que se mantengan los derechos de autoría sobre los artículos sin restricciones, así como los derechos de publicación sin restricciones.