Evaluación de sistemas de inteligencia artificial: métodos y prácticas en el contexto sociopolítico de américa latina y el caribe

Patricia Jimbo Santana; Mónica Jimbo Santana

Evaluación de sistemas de inteligencia artificial: métodos y prácticas en el contexto sociopolítico de américa latina y el caribe

Autores/as

Patricia Jimbo Santana Universidad Central del Ecuador
Mónica Jimbo Santana Universidad Central del Ecuador

Resumen

En la implementación de sistemas de inteligencia artificial, la evaluación rigurosa es crucial para garantizar su eficacia, equidad y seguridad. Este artículo examina los métodos y prácticas de evaluación de sistemas de IA en el contexto sociopolítico de América Latina y el Caribe, una región caracterizada por su diversidad cultural y variabilidad en marcos normativos y legales. Se analizan los métodos técnicos, éticos y legales de evaluación, destacando la necesidad de adaptarlos a los contextos locales. La evaluación técnica incluye pruebas de rendimiento y robustez, mientras que la evaluación ética aborda la equidad y la no discriminación, y la evaluación legal se centra en la conformidad con las leyes locales de protección de datos. Además, se discuten las prácticas de participación comunitaria, colaboración internacional y capacitación profesional como estrategias para fortalecer la evaluación de sistemas de Inteligencia Artificial en la región. Los desafíos incluyen la infraestructura tecnológica limitada y la diversidad cultural, pero también se identifican oportunidades para desarrollar soluciones innovadoras y adaptadas a los contextos locales. Este análisis subraya la importancia de un enfoque multidimensional y colaborativo para asegurar que los sistemas de Inteligencia Artificial beneficien a todas las comunidades de manera justa e inclusiva. Finalmente, se sugieren líneas de investigación futura para mejorar las prácticas de evaluación y promover la equidad en los sistemas de Inteligencia Artificial en América Latina y el Caribe.

Descargas

Los datos de descargas todavía no están disponibles.

Citas

Binns, R. (2018). Fairness in Machine Learning: Lessons from Political Philosophy. Proceedings of the 2018 Conference on Fairness, Accountability, and Transparency, 149-159. https://proceedings.mlr.press/v81/binns18a.html

Choudhury, M. (2023), Generative AI has a language problem. Nat Hum Behav 7, 1802–1803 https://doi.org/10.1038/s41562-023-01716-4

G20. (2024). Declaración Ministerial del Grupo de Trabajo de Economía Digital. https://www.g20.utoronto.ca/2024/240913-digital-ministerial-declaration.html

García, M. (2020). Regulatory Frameworks for AI in Latin America. Latin American Law Review, 12(1), 45-67. DOI: 10.53857/CJFB4918

LGPD. (2018). Lei Geral de Proteção de Dados Pessoais. Brasil.

LOPD. (2021). Ley Orgánica de Protección de Datos Personales. Ecuador.

Mancilla-Caceres, J.F., Estrada-Villalta, S. (2022), The Ethical Considerations of AI in Latin America. DISO 1, 16. https://doi.org/10.1007/s44206-022-00018-y

Roche, C., Wall, P.J. & Lewis, D. (2023) Ethics and diversity in artificial intelligence policies, strategies and initiatives. AI Ethics 3, 1095–1115. https://doi.org/10.1007/s43681-022-00218-9

Salas-Pilco, S.Z., Yang, Y. (2022). Artificial intelligence applications in Latin American higher education: a systematic review. Int J Educ Technol High Educ 19, 21. https://doi.org/10.1186/s41239-022-00326-w

Shan Wang, Fang Wang, Zhen Zhu, Jingxuan Wang, Tam Tran, Zhao Du, (2024), Artificial intelligence in education: A systematic literature review, Expert Systems with Applications, Volume 252, Part A, 124167, ISSN 0957-4174, https://doi.org/10.1016/j.eswa.2024.124167.

UN. (2020). AI for Good: Projects in Latin America. United Nations.

Veronese, Alexandre & Nunes Lopes Espiñeira Lemos, Amanda (2021) Trayectoria normativa de la inteligencia artificial en los países de Latinoamérica con un marco jurídico para la protección de datos: límites y posibilidades de las políticas integradoras, Revista Latinoamericana de Economía y Sociedad Digital, Issue 2, DOI: 10.53857/MZBU2371

Whittlestone, J., et al. (2019). The Role and Limits of Principles in AI Ethics: Towards a Focus on Tensions. Proceedings of the 2019 AAAI/ACM Conference on AI, Ethics, and Society, 195-200.

Zambrano Raul y Jenny Marcela Sanchez-Torres. (2022). AI Public Policies in Latin America: Disruption or more of the same? In Proceedings of the 14th International Conference on Theory and Practice of Electronic Governance (ICEGOV '21). Association for Computing Machinery, New York, NY, USA, 25–33. https://doi.org/10.1145/3494193.3494294