Inteligencia artificial y responsabilidad jurídica organizacional: Nuevos desafíos para la gestión administrativa en las instituciones públicas del Perú
Barra lateral del artículo
Contenido principal del artículo
Resumen
La incorporación de la inteligencia artificial (IA) en las entidades públicas transforma los modelos tradicionales de gestión y responsabilidad institucional. Este artículo analiza los desafíos jurídicos y administrativos asociados al uso de sistemas inteligentes para optimizar procesos, gestionar información y apoyar la toma de decisiones, destacando la necesidad de fortalecer los mecanismos de control, transparencia y supervisión. La implementación de algoritmos no exime a las instituciones de responsabilidad; por el contrario, incrementa sus obligaciones respecto de la supervisión tecnológica, la protección de derechos fundamentales y la validez de las decisiones administrativas. En este contexto, la responsabilidad evoluciona de un enfoque centrado en el funcionario hacia un modelo institucional sustentado en la trazabilidad, la rendición de cuentas y la gestión ética de sistemas automatizados. La investigación emplea un método documental y analítico, basado en literatura especializada sobre inteligencia artificial, derecho administrativo, gobernanza digital y gestión pública. Se identifican riesgos relacionados con errores algorítmicos, sesgos, falta de transparencia y dificultades para atribuir responsabilidades por decisiones automatizadas. Se concluye que la adopción responsable de la IA requiere un marco regulatorio que articule innovación tecnológica, legalidad, transparencia, responsabilidad institucional y protección efectiva de la ciudadanía
Descargas
Detalles del artículo
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial-SinDerivadas 4.0.
El contenido de los articulos es de exclusiva responsabilidad de los autores.
Deberá cumplir con los siguentes aspectos de la Licencia CC BY NC ND :
- Atribución : Debe otorgar el crédito correspondiente, proporcionar un enlace a la licencia e indicar si se realizaron cambios. Puede hacerlo de cualquier manera razonable, pero no de ninguna manera que sugiera que el licenciante lo respalda a usted o su uso.
- No Comercial : No se puede utilizar el material con fines comerciales.
- Sin derivados : Si remezcla, transforma o construye sobre el material, no puede distribuir el material modificado.
- Sin restricciones adicionales : No se pueden aplicar términos legales o medidas tecnológicas que restrinjan legalmente a otros de hacer cualquier cosa que permita la licencia.
Citas
Aguilar, R. M.; Alayón, S.; Torres, J. M. & Martín, C. A. (2026). Data-centric AI governance for responsible organizational value: evidence from a European public administration. AI & SOCIETY, 6829–6841. Documento en línea. Disponible https://doi.org/10.1007/s00146-026-02978-y
Floridi, L. & Cowls, J. (2019). A Unified Framework of Five Principles for AI in Society. Harvard Data Science Review, 14. Documento en línea. Disponible https://doi.org/10.1162/99608f92.8cd550d1
Hert, P. de & Papakonstantinou, V. (2016). The new General Data Protection Regulation: Still a sound system for the protection of individuals? Computer Law & Security Review, 179-194. Documento en línea. Disponible https://doi.org/10.1016/j.clsr.2016.02.006
Wachter, S.; Mittelstadt, B. & Floridi, L. (2017). Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation. International Data Privacy Law, 76-99. Documento en línea. Disponible https://doi.org/10.1093/idpl/ipx005
Alon-Barkat, S. & Busuioc, M. (2023). Human–AI Interactions in Public Sector Decision Making: “Automation Bias” and “Selective Adherence” to Algorithmic Advice. Journal of Public Administration Research and Theory, 153-169. Documento en línea. Disponible https://doi.org/10.1093/jopart/muac007
ANPD. Autoridad Nacional de Protección de Datos (2026). Documento en línea. Disponible https://www.gob.pe/anpd
Barocas, S. & Selbst A. D. (2016). Big Data's Disparate Impact. California Law Review, 16. Documento en línea. Disponible http://dx.doi.org/10.15779/Z38BG31
Bucher, T. (2018). IF...THEN Algorithmic Power and Politics. Oxford University Press. Documento en línea. Disponible https://api.pageplace.de/preview/DT0400.9780190493042_A35477618/preview-9780190493042_A35477618.pdf
Cavoukian, A. (2011). The 7 Foundational Principles. Information and Privacy Commissioner of Ontario (IPC). Documento en línea. Disponible https://www.sfu.ca/~palys/Cavoukian-2011-PrivacyByDesign-7FoundationalPrinciples.pdf
Coaquira Flores, A. (2024). Los sesgos algorítmicos en la toma de decisiones automatizadas: retos y oportunidades para el sistema jurídico peruano. FIADI, 160-170. Documento en línea. Disponible https://revistas.fcu.edu.uy/index.php/informaticayderecho/es/article/view/5089/4483
Coeckelbergh, M. (2020). AI Ethics. The MIT Press. Documento en línea. Disponible https://mitpress.mit.edu/9780262538190/ai-ethics/
Coglianese, C. & Lehr, D. (2017). Regulating by Robot: Administrative Decision Making in the Machine-Learning Era. Georgetown Law Journal,, 78. Documento en línea. Disponible https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2928293
Commission, European (2026). Documento en línea. Disponible https://digital-strategy.ec.europa.eu/en/policies/ai-act-governance-and-enforcement
Dignum, V. (2019). Responsible Artificial Intelligence: How to Develop and Use AI in a Responsible Way. Springer. Documento en línea. Disponible https://doi.org/10.1007/978-3-030-30371-6
Eco, Plan Be plataforma digital. (2026). Documento en línea.Disponible https://planbe.eco/en/blog/eu-ai-act-for-the-public-administration-industry/
El Peruano, diario. (2018). Gobierno del Perú. Documento en línea. Disponible https://cdn.www.gob.pe/uploads/document/file/353216/decreto-legislativo-que-aprueba-la-ley-de-gobierno-digital-decreto-legislativo-n-1412-1691026-1.pdf?v=1566312763
ENIA. Estrategia Nacional de Inteligencia Artificial (2026). Documento en línea. Disponible https://www.gob.pe/institucion/pcm/noticias/1387571-gobierno-presenta-la-estrategia-nacional-de-inteligencia-artificial-enia-para-fortalecer-la-gestion-segura-inclusiva-y-etica-de-la-ia
Eubanks, V. (2019). Automating Inequality:How High-Tech Tools Profile, Police, and Punish the Poor. LAW, TECHNOLOGY AND HUMANS, 162-164. Documento en línea. Disponible https://doi.org/10.5204/lthj.v1i0.1386
Floridi, L. (2013). The Ethics of Information. Oxford University Press. Documento en línea. Disponible https://global.oup.com/academic/product/the-ethics-of-information-9780199641321?cc=pe&lang=en&
Hildebrandt, M. (2018). Algorithmic regulation and the rule of law. Philosophical Transactions A, 1-11. Documento en línea. Disponible https://doi.org/10.1098/rsta.2017.0355
Hildebrandt, M. (2020). Law for Computer Scientists and Other Folk. Oxford University Press. Documento en línea. Disponible https://global.oup.com/academic/product/law-for-computer-scientists-and-other-folk-9780198860884?cc=pe&lang=en&
Hirvonen, H. (2023). Just accountability structures – a way to promote the safe use of automated decision-making in the public sector. AI & SOCIETY, 155–167. Documento en línea. Disponible https://doi.org/10.1007/s00146-023-01731-z
Kosta, E. (2013). Consent in European Data Protection Law. Martinus Nijhoff Publishers. Documento en línea. Disponible https://doi.org/10.1163/9789004232365_001
Levy, K.; Chasalow, K. & Riley, S. (2021). Algorithms and Decision-Making in the Public Sector. Annual Review of Law and Social Science, 309-334. Documento en línea. Disponible https://doi.org/10.1146/annurev-lawsocsci-041221-023808
Lynskey, O. (2015). The Foundations of EU Data Protection Law. International data privacy Law, 324-326. Documento en línea. Disponible https://doi.org/10.1093/idpl/ipw017
Mantelero, A. (2018). AI and Big Data: A blueprint for a human rights, social and ethical impact assessment. Computer Law & Security Review, 754-772. Documento en línea. Disponible https://doi.org/10.1016/j.clsr.2018.05.017
MINEDU. (2002). Ministerio de Educación. Documento en línea. Disponible https://www.minedu.gob.pe/normatividad/leyes/Ley27806.php
Nissenbaum, H. (2009). Privacy in Context: Technology, Policy, and the Integrity of Social Life. Stanford University Press. Documento en línea. Disponible https://crypto.stanford.edu/portia/papers/privacy_in_context.pdf
Novelli, C.; Taddeo, M. & Floridi, L. (2024). Accountability in artificial intelligence: what it is and how it works. AI & SOCIETY, 1871–1882. Documento en línea. Disponible https://doi.org/10.1007/s00146-023-01635-y
OECD. Organisation for Economic Co-operation and Developmen (2025). Documento en línea, Disponible https://www.oecd.org/es/publications/gobernar-con-la-inteligencia-artificial_dc00e56a-es/full-report.html
Ohm, P. (2010). Broken Promises of Privacy: Responding to the Surprising Failure of Anonymization. Colorado Law University Of Colorado Boulder, 1701-1777. Documento en línea. Disponible https://papers.ssrn.com/sol3/papers.cfm?abstract_id=1450006&__cf_chl_f_tk=1oE2mkcRSGAnc0Y8KIMXgPGHGzcpiOBYLZyUi8hAAJk-1782770231-1.0.1.1-JiQXSsc8QM6iYl8bLk9Y585kjDqip89vFNmyrybYQ8I
O'Neil, C. (2016). Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. Crown. Documento en línea. Disponible https://www.amazon.com/Weapons-Math-Destruction-Increases-Inequality/dp/0553418815
Palma, P. T.; Bessa Loureiro, R.; Nascimento Lisboa, F. V.; Ramos Cruz, G. O.; Matos Peixoto, R.; Aragão de Sousa, G. G. & Lucas L. (2022). Bias and Unfairness in Machine Learning Models: A Systematic Literature Review. Big Data and Cognitive Computing, 23. Documento en línea. Disponible https://doi.org/10.3390/bdcc7010015
Pasquale, F. (2015). The Black Box Society: The Secret Algorithms That Control Money and Information. Harvard University Press. Documento en línea. Disponible https://www.jstor.org/stable/j.ctt13x0hch
PCM. Presidencia del Consejo de Ministros. (2026). Documento en línea. Disponible https://www.gob.pe/pcm
Perú, Gobierno. (2018). Documento en línea. Disponible https://www.gob.pe/institucion/pcm/normas-legales/289706-1412
El Peruano, Diario. (2023). Gobierno del Perú. Documento en línea. Disponible https://cdn.www.gob.pe/uploads/document/file/5038703/ley-que-promueve-el-uso-de-la-inteligencia-artificial-en-fav-ley-n-31814.pdf?v=1692895308
Rivas Vallejo, P. (2022). Sesgos de género en el uso de inteligencia artificial para la gestión de las relaciones laborales: análisis desde el derecho antidiscriminatorio. Revista Internacional de la Protección Social, 52-83. Documento en línea. Disponible https://doi.org/10.12795/e-RIPS.2022.i01.04
Rojas Montes, V. V. (2026). Marco integral de gobernanza responsable de la inteligencia artificial en la administración pública. 117-140. Documento en línea. Disponible https://www.researchgate.net/publication/405250635_Marco_integral_de_gobernanza_responsable_de_la_inteligencia_artificial_en_la_administracion_publica
Salvador Serna, M. (2021). Inteligencia artificial y gobernanza de datos en las administraciones públicas: reflexiones y evidencias para su desarrollo. Gaap, 20-32. Documento en línea. Disponible https://doi.org/10.24965/gapp.i26.10855
Sartor, G. & Lagioia, F. (2020). The impact of the general data proteccion regulation (GDPR) on artificial intelligence. Parlamento Europeo (Panel for the Future of Science and Technology - STOA). Documento en línea. Disponible https://doi.org/10.2861/293
SGTD. Secretaría de gobierno digital. (2026). Documento en línea. Disponible https://www.gob.pe/7025-presidencia-del-consejo-de-ministros-secretaria-de-gobierno-digital
Solove, D. J. (2010). Understanding Privacy. Harvard University Press. Documento en línea. Disponible https://www.amazon.com/Understanding-Privacy-Daniel-J-Solove/dp/0674035070
UNESCO. (2023). Documento en Línea. Disponible https://unesdoc.unesco.org/ark:/48223/pf0000384963_spa
Veale, M.; Kleek Max V. & Binns, R. (2018). Fairness and Accountability Design Needs for AlgorithmicSupport in High-Stakes Public Sector Decision-Making. Proceedings of the 2018 CHI Conference on Human Factors in Computing Systems (CHI '18), 14. Documento en Línea. Disponible https://doi.org/10.1145/3173574.3174014
Woodrow, H. (2018). Privacy’s Blueprint: The Battle to Control the Design of New Technologies. Harvard University Press. Documento en línea.Disponible:https://scholarship.law.bu.edu/books/334/
Yeung, K. (2017). Algorithmic regulation: A critical interrogation. 505-523. Documento en Línea. Disponible https://doi.org/10.1111/rego.12158