Confianza ciudadana y aplicación de la IA en la administración pública: un análisis de revisión sistemática
DOI:
https://doi.org/10.5281/zenodo.14854656Palabras clave:
confianza, ética, regulación, sesgos algorítmicos, transparenciaResumen
La introducción de sistemas de inteligencia artificial (IA) en la gestión de registros públicos en América Latina enfrenta desafíos éticos críticos que requieren ser abordados con urgencia. Este problema cobra importancia debido a las repercusiones de la IA en aspectos esenciales como la privacidad, la transparencia y la equidad en el acceso a la información pública. De allí que, el presente artículo tiene como propósito analizar las implicaciones éticas asociadas a la aplicación de la IA en este ámbito, examinando cómo estas problemáticas impactan en la confianza ciudadana y en la eficacia de los sistemas públicos. Para ello, se llevó a cabo una revisión sistemática de la literatura académica sobre el tema planteado, aplicando el método PRISMA (Preferred Reporting Items for Systematic Reviews and Meta-Analyses). Este enfoque permitió estandarizar las fases de identificación, selección y evaluación crítica de las fuentes consultadas. A partir del análisis de los resultados, se evidenció que las principales inquietudes éticas incluyen: la insuficiencia de regulaciones claras, la presencia de sesgos algorítmicos y la desconfianza tecnológica. Factores que limitan la aceptación de la IA en la administración pública (AP). La principal conclusión de este estudio subraya la necesidad de establecer marcos regulatorios sólidos y mecanismos de supervisión efectivos, asegurando que el uso de la IA sea ético y transparente. Esto no solo fortalecería la legitimidad de estos sistemas, sino que también promovería una gestión pública más justa y responsable.
Descargas
Referencias
Aguilar Antonio, J. M. (2024). Trayectoria y modelo de gobernanza de las políticas de inteligencia artificial (IA) de los países de América del Norte. Justicia, 29(45). https://doi.org/10.17081/just.29.45.7162
Akbar, M., Khan, A., Mahmood, S., Rafi, S., & Demi, S. (2023). Trustworthy artificial intelligence: A decision‐making taxonomy of potential challenges. Software Practice and Experience, 54(9), 1621–1650. https://doi.org/10.1002/spe.3216
Al-Billeh, T., Hmaidan, R., Al-Hammouri, A., & Al Makhmari, M. (2024). The risks of using artificial intelligence on privacy and human rights: Unifying global standards. Jurnal Media Hukum, 31(2), 333–350. https://doi.org/10.18196/jmh.v31i2.23480
Alcarraz-Chávez, N. R. (2022). Reflexiones sobre la ética en la gestión pública desde una perspectiva de América Latina. Revista de Investigación Valor Agregado, 9(1), 124–132. https://doi.org/10.17162/riva.v9i1.1878
Alekhina, E., & Nadtoka, S. (2024). Digitalization of the legal regulation system: Prospects and ways of development. E3S Web of Conferences, 537, 020. https://doi.org/10.1051/e3sconf/202453702023537
Almache-Barreiro, J. C., & Albert-Márquez, J. J. (2024). La cibercandidatura política de la inteligencia artificial y su impacto en los sistemas democráticos de los Estados. Iberoamerican Journal of Development Studies, 13(2), 6–20. https://doi.org/10.26754/ojs_ried/ijds.10203
Arguelles, E., & Amaro, M. (2023). Ética en chatbots. Estudios en Derecho a la Información, 15, 85–111. https://doi.org/10.22201/iij.25940082e.2023.15.17472
Arifin, A. A., & Lennerfors, T. T. (2022). Ethical aspects of voice assistants: A critical discourse analysis of Indonesian media texts. Journal of Information, Communication and Ethics in Society, 20(1), 18–36. https://doi.org/10.1108/JICES-12-2020-0118
Atreides, K., & Kelley, D. J. (2024). Cognitive biases in natural language: Automatically detecting, differentiating, and measuring bias in text. AGI Laboratory. https://ssrn.com/abstract=4927380
Bircan, T., & Özbilgin, M. F. (2024). Unmasking inequalities of the code: Disentangling the nexus of AI and inequality. Technological Forecasting and Social Change, 192, 122009.
Cotino, L., & Castellanos, J. (2024). Algoritmos abiertos y que no discriminen en el sector público. Deusto Journal of Human Rights, 14, 385–392. https://doi.org/10.18543/djhr.3201
De La Cruz Morales, J. E., Rodríguez Figueroa, J. J., Cerón Valencia, F. P., Gensollen Queens, A., & Pacheco Sánchez, D. K. (2023). Aplicación de la ética institucional en la administración pública. Revista de Climatología Edición Especial Ciencias Sociales, 23, 2899–2909. https://doi.org/10.59427/rcli/2023/v23cs.2899-2909
Elias, M. A., Faversani, L. A., Moreira, J. A. V., Masiero, A. V., & Bellinati, N. V. C. (2023). Inteligencia artificial en salud y sus implicaciones bioéticas: Una revisión sistemática. Revista Bioética, 31, e3542ES, 1–12. https://doi.org/10.1590/1983-803420233542ES
Flores Cedeño, P. R., & López Paz, C. R. (2023). Gestión de los gobiernos de la tecnología de la información en el contexto Latinoamericano. Salud, Ciencia y Tecnología - Serie de Conferencias, 3, 682. https://doi.org/10.56294/sctconf2024682
Guha, N., Lawrence, C. M., Gailmard, L. A., Rodolfa, K. T., Surani, F., Bommasani, R., ... & Ho, D. E. (2024). AI regulation has its own alignment problem: The technical and institutional feasibility of disclosure, registration, licensing, and auditing. George Washington Law Review, Symposium on Legally Disruptive Emerging Technologies. https://ssrn.com/abstract=4634443
Hatherall, L., & Sethi, N. (2025). Exploring expert and public perceptions of answerability and trustworthy autonomous systems. Journal of Responsible Technology, 21, 100106. https://doi.org/10.1016/j.jrt.2025.100106
Jaillant, L., & Rees, A. (2023). Applying AI to digital archives: Trust, collaboration, and shared professional ethics. Digital Scholarship in the Humanities, 38(2), 571–585. https://doi.org/10.1093/llc/fqac073
Kim, S. (2025). Perceptions of discriminatory decisions of artificial intelligence: Unpacking the role of individual characteristics. Journal of Human-Computer Interaction, 34(1), 23–45.
Kleizen, B., Van Dooren, W., Verhoest, K., & Tan, E. (2024). Do citizens trust trustworthy artificial intelligence? Public Administration and Policy, 27(2), 126–139. https://doi.org/10.1108/PAP-05-2023-0058
Klímová, B., Pikhart, M., & Kacetl, J. (2023). Ethical issues of the use of AI-driven mobile apps for education. Frontiers in Public Health, 10. https://doi.org/10.3389/fpubh.2022.1118116
Kokina, J., Blanchette, S., Davenport, T. H., & Pachamanova, D. (2025). Challenges and opportunities for artificial intelligence in auditing: Evidence from the field. International Journal of Accounting Information Systems, 56, 100734. https://doi.org/10.1016/j.accinf.2025.100734
Koo, I., Zaman, U., Ha, H., & Nawaz, S. (2025). Assessing the interplay of trust dynamics, personalization, ethical AI practices, and tourist behavior in the adoption of AI-driven smart tourism technologies. Journal of Open Innovation: Technology, Market, and Complexity, 11(1), 100455. https://doi.org/10.1016/j.joitmc.2024.100455
Langer, M., Baum, K., & Schlicker, N. (2025). Effective human oversight of AI-based systems: A signal detection perspective on the detection of inaccurate and unfair outputs. Minds and Machines, 35(1), 1–30. https://doi.org/10.1007/s11023-024-09701-0
Leikas, J., Johri, A., Latvanen, M., Wessberg, N., & Hahto, A. (2022). Governing ethical AI transformation: A case study of AuroraAI. Frontiers in Artificial Intelligence, 5. https://doi.org/10.3389/frai.2022.836557
Machado, H. (2023). Publics’ views on ethical challenges of artificial intelligence: A scoping review. AI and Ethics. https://doi.org/10.1007/s43681-023-00387-1
Majeed, S. (2024). Artificial intelligence and mental health services: A systematic review. Pakistan Postgraduate Medical Journal, 35(1), 35–40. https://doi.org/10.51642/ppmj.v35i01.603
Masinde, B. K., Gevaert, C. M., Nagenborg, M. H., van den Homberg, M. J. C., Margutti, J., Gortzak, I., & Zevenbergen, J. A. (2024). Auditing flood vulnerability geo-intelligence workflow for biases. ISPRS International Journal of Geo-Information, 13(12), 419. https://doi.org/10.3390/ijgi13120419
Montaño, L., & Montaño, J. (2023). Leyes y ética en la inteligencia artificial: Implicaciones jurídicas en el desarrollo tecnológico. Código Científico, 4(E2), 120–136. https://doi.org/10.55813/gaea/ccri/v4/nE2/198
Plantinga, P., Shilongo, K., Mudongo, O., Umubyeyi, A., Gastrow, M., & Razzano, G. (2024). Responsible artificial intelligence in Africa: Towards policy learning. Data & Policy, 6, e72. https://doi.org/10.1017/dap.2024.60
Pupic, N. (2023). An evidence-based approach to artificial intelligence education for medical students: A systematic review. PLOS Digital Health, 2(11), e0000255. https://doi.org/10.1371/journal.pdig.0000255
Reinhardt, K. (2022). Trust and trustworthiness in AI ethics. AI and Ethics, 3(3), 735–744. https://doi.org/10.1007/s43681-022-00200-5
Ricoy-Casas, R. M., Fernández-González, R., & Santos-Garrido, M. (2025). Alumnado subrepresentado e inteligencia artificial. European Public & Social Innovation Review, 10, 1–22. https://doi.org/10.31637/epsir-2025-843
Rincón Martínez, A. M., Obando Peralta, E. C., Durand Azcárate, L. A., & Alza Collantes, C. J. (2023). Ética, Estado y gestión pública en América Latina. Revista Venezolana de Gerencia, 28(101), 384–399. https://doi.org/10.52080/rvgluz.28.101.24
Rueda, J. (2023). IA y mejora moral. Daimon, 89, 199–209. https://doi.org/10.6018/daimon.508771
Sakuntala, S., Sarakanam, S., Dhavan, A., Taggar, R., & Kohli, G. (2024). The complexity of corruption and recent trends in information technology for combating corruption in India. Public Administration and Policy, 27(2), 126–139. https://doi.org/10.1108/PAP-05-2023-0058
Sánchez Acevedo, M. E. (2024). Regulación de algoritmos y sistemas de IA para la toma de decisiones judiciales en Colombia. Vía Inveniendi Et Iudicandi, 19(1), 73–104. https://doi.org/10.15332/19090528.10098
Silva Andrade, G. J., Ayala Ayala, L. R., Vicuña Pozo, V. E., & Silva Andrade, D. A. (2024). Claves para la eficiencia en la administración pública: Un enfoque en los principios de jerarquía, transparencia y buena fe. Revista Dilemas Contemporáneos: Educación, Política y Valores, 11(2), Artículo 17. https://doi.org/10.46377/dilemas.v11i2.4023
Svärd, P., Guerrero, E., Balogun, T., Saurombe, N., Jacobs, L., & Henttonen, P. (2024). Local regulations for the use of artificial intelligence in the management of public records: A literature review. Records Management Journal, 34(2/3), 109–130. https://doi.org/10.1108/RMJ-10-2023-0061
Tang, L., Li, J., & Fantus, S. (2023). Medical artificial intelligence ethics: A systematic review of empirical studies. Digital Health, 9. https://doi.org/10.1177/20552076231186064
Van Leersum, C. M., & Maathuis, C. (2025). Human-centred explainable AI decision-making in healthcare. Journal of Responsible Technology, 21, 100108. https://doi.org/10.1016/j.jrt.2025.100108
Yang, L., Allen, G., Zhang, Z., & Zhao, Y. (2025). Achieving on-site trustworthy AI implementation in the construction industry: A framework across the AI lifecycle. Buildings, 15(1), 21. https://doi.org/10.3390/buildings15010021
Zepeda, M. E., Cardoso, E. O., & Cortés, J. A. (2024). Influencia de la inteligencia artificial en la educación media y superior. Revista Iberoamericana para la Investigación y el Desarrollo Educativo, 14(28), e679. https://doi.org/10.23913/ride.v14i28.1949
Descargas
Publicado
Número
Sección
Licencia
Esta obra está bajo una licencia internacional Creative Commons Atribución 4.0.
La revista se acoge a la licencia Licencia Atribución (CC BY), permitiendo la posibilidad de copiar, distribuir, exhibir, y producir obras derivadas, siempre y cuando se reconozca y cite al autor.
