Data protection proposal in the era of Generative AI for Colombian justice
DOI:
https://doi.org/10.18041/2215-8944/academia.31.13163Keywords:
Personal data, synthetic data, biases, algorithmic transparency, Generative Artificial Intelligence;Abstract
The irruption of Generative Artificial Intelligence technologies in the Colombian legal field poses a transformative scenario that requires a critical and deep analysis on the ethical and legal implications. This article examines the impact of Generative Artificial Intelligence on justice, emphasizing the need for a strong and adaptable regulatory framework that guarantees personal data protection, transparency in decision-making processes. The most relevant international standards and the Colombian legal framework are analyzed, the ethical and technical implications associated with algorithmic bias, the lack of interpretability of models and the need for human control in automated decisions are explored. Strategies for the generation of synthetic data are addressed as mechanisms to preserve privacy. Finally, the importance of a comprehensive regulatory and ethical ecosystem that promotes responsible implementation of Generative Artificial Intelligence in the legal field is proposed.
References
Agudelo , Y. (2024). Prospectiva de los Smart Contracts para el derecho procesal civil en Colombia. Revista Academia & Derecho, 1-27.
Almada, M., & Dymitruk, M. (2020). Privacy and Data Protection Constraints to Automated Decision-Making in the Judiciary. Luxembourg: DRAFT. doi:http://dx.doi.org/10.2139/ssrn.3579378
Agudelo , Y. (2024). Prospectiva de los Smart Contracts para el derecho procesal civil en Colombia. Revista Academia & Derecho, 1-27.
Almada, M., & Dymitruk, M. (2020). Privacy and Data Protection Constraints to Automated Decision-Making in the Judiciary. Luxembourg: DRAFT. doi:http://dx.doi.org/10.2139/ssrn.3579378
Andrade , D., Toapanta, M., Baño, M., & Gomez, E. (2024). Un enfoque de la inteligencia artificial para la protección de datos personales sustentado en la base legal. Quito: Revista Latinoamericana de Ciencias Sociales y Humanidades. doi:https://doi.org/10.56712/latam.v5i4.2530
Bender, E., Gebru, T., Mcmillan, A., & Shmitchell, S. (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? ACM Digital Library, 610-623. doi:https://doi.org/10.1145/3442188.3445922
Brown, T., Mann, B., Ryder, N., Subbiah, M., Kaplan, J., Dhariwal, P., . . . Amodei, D. (2020). Language Models are Few-Shot Learners. New York: Cornell University. doi:https://doi.org/10.48550/arXiv.2005.14165
Buolamwini, J., & Gebru, T. (2018). Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Conference on Fairness, Accountability, and Transparency (págs. 1-15). Proceedings of Machine Learning Research.
Calzavara, S., Lucchese, C., & Tolomei, G. (2020). Treant: training evasion-aware decision trees. Data Min Knowl Disc, 1390-1420. doi:https://doi.org/10.1007/s10618-020-00694-9
CONPES. (2019). Política Nacional para la Transformación Digital e Inteligencia Artificial . Bogotá, D.C.: Ministerio de Tecnologías de la Información y las Comunicaciones .
Consejería Presidencial para asuntos económicos y transformación digital. (2021). Marco Ético para la Inteligencia Artificial en Colombia. Bogotá D.C.
Constitución Política de Colombia. (20 de julio de 1991). Constitución Política de la República de Colombia. Esta versión corresponde a la segunda edición corregida de la Constitución Política de Colombia, publicada en la Gaceta Constitucional No. 116 de 20 de julio de 1991. Bogotá, Colombia: Gaceta Constitucional No. 116 de 20 de julio de 1991.
Decreto 1377. (27 de junio de 2013). Presidente de la República de Colombia. Por el cual se reglamenta parcialmente la Ley 1581 de 2012, Derogado Parcialmente por el Decreto 1081 de 2015. Bogotá D.C., Colombia: Diario Oficial 48834 del 27 de junio de 2013. Obtenido de https://www.funcionpublica.gov.co/eva/gestornormativo/norma.php?i=53646
Dwork, C., McSherry, F., Nissim, K., & Smith, A. (2006). Theory of Cryptography. Third Theory of Cryptography Conference (págs. 265-284). New York: Proceedings.
Ejjami, R. (2024). AI-Driven Justice: Evaluating the Impact of Artificial Intelligence on Legal Systems. Paris: International Journal for Multidisciplinary Research.
Ercilla García, J. (2024). Agentes de Inteligencia Artificial en la Administración de Justicia española: Marco normativo y potencial de implementación. Gran Canaria: diariolaley.
Farinella, F. (2022). Algorithmic Bias and Non-Discrimination in Argentina. Lex Genetica, 62-74. doi:https://doi.org/10.17803/lexgen-2022-1-1-63-74
Goodfellow, I., Pouget-Abadie, J., Mirza, M., Xu, B., Warde-Farley, D., Ozair, S., . . . Bengio, Y. (2014). Generative Adversarial Nets. Montréal: Université de Montréal.
Huemann, Z., Lee, C., Hu, J., Cho, S., & Bradshaw, T. (2023). Domain-adapted large language models for classifying nuclear medicine reports. New York: Cornell University. doi:https://doi.org/10.48550/arXiv.2303.01258
Jordon, J., Wilson, A., & Van der Schaar, M. (2020). Synthetic Data: Opening the data floodgates to enable faster, more directed development of machine learning methods. New York: Cornell University. doi:https://doi.org/10.48550/arXiv.2012.04580
Lecun, Y., Bengio, Y., & Hinton, G. (27 de mayo de 2015). Deep learning. Nature, págs. 436-444.
Leidinger, A., & Rogers, R. (2023). Which Stereotypes Are Moderated and Under-Moderated in Search Engine Autocompletion? ACM Digital Library, 1049-1061. doi:https://doi.org/10.1145/3593013.3594062
Ley 1266 . (31 de diciembre de 2008). Congreso de la República. Por la cual se dictan las disposiciones generales del hábeas data y se regula el manejo de la información contenida en bases de datos personales, en especial la financiera, crediticia, comercial, de servicios y la proveniente de terceros países. Bogotá, D.C., Colombia: Diario Oficial 47.219 de diciembre 31 de 2008.
Ley 1581. (17 de octubre de 2012). Congreso de la República. Por la cual se dictan disposiciones generales para la protección de datos personales. Bogotá D.C., Colombia: Diario Oficial 48587 de octubre 18 de 2012. Obtenido de https://www.funcionpublica.gov.co/eva/gestornormativo/norma.php?i=49981
Ley 2213. (13 de junio de 2022). Congreso de Colombia. Por medio de la cual se establece la vigencia permanente del decreto legislativo 806 de 2020 y se adoptan las medidas para implementar las tecnologías de la información y las comunicaciones en las actuaciones judiciales, agilizar los procesos judiciales. Bogotá, D.C., Colombia: Diario Oficial No. 52.064 de 13 de junio de 2022.
Lipton, Z. (2018). The Mythos of Model Interpretability. New York: Machine learning. doi:https://doi.org/10.48550/arXiv.1606.03490
Matic Bokkovic, M. (2024). Influencia de la inteligencia artificial en la práctica de profesiones en el poder judicial. Belgrado: Instituto de Investigación Criminológica y Sociológica. doi:https://doi.org/10.5937/socpreg58-51385
Mehrabi, N., Morstatter, F., Saxena, N., Lerman, K., & Galstyan, A. (2021). A Survey on Bias and Fairness in Machine Learning. ACM Digital Library, 1-35. doi:https://dl.acm.org/doi/10.1145/3457607
Mendoca, S., Dos Santos, Y., Resque, C., Divino, R., Oliveira, T., & Serique, B. (2020). Synthetic Datasets Generator for Testing Information Visualization and Machine Learning Techniques and Tools. Brasilia: IEEE Access.
Morison, J., & Mclnerney, T. (2024). When Should a Computer Decide? Judicial Decision-Making in the Age of Automation, Algorithms and Generative Artificial Intelligence. Belfast: Research Handbook on Judging and the Judiciary Edward Elgar- Routledge forthcoming.
Muñoz, M. (2024). Inteligencia Artificial Generativa. Desafíos para la Propiedad Intelectual. Madrid: Revista de Derecho UNED. Obtenido de https://revistas.uned.es/index.php/RDUNED/article/view/41924
Noble, S. (2018). Algorithms of Oppression: How Search Engines Reinforce Racism. New York: New York University Press. doi:https://doi.org/10.18574/nyu/9781479833641.001.0001
Nowotko, P. (2021). AI in judicial application of law and the right to a court. 25th International Conference on Knowledge-Based and Intelligent Information & Engineering Systems (págs. 2220-2228). Szczecin: ScienceDirect.
Piedra-Alegría, J. (2024). Democracias generativas: inteligencia artificial y manipulación en el siglo XXI. San José, Costa Rica: Escuela de Filosofía de la Universidad Nacional de Costa Rica. doi:10.25965/trahs.6334
Raji, I., Smart, A., White, R. N., Mitchell, M., Gebru, T., Hutchinson, B., . . . Barnes, P. (2020). Closing the AI Accountability Gap: Defining an End-to-End Framework for Internal Algorithmic Auditing. Conference on Fairness, Accountability, and Transparency (FAT* ’20) (págs. 1-12). Barcelona: ACM. doi:https://doi.org/10.1145/3351095.3372873
Reglamento General para la Protección de Datos Personales de la Unión Europea. (27 de abril de 2016). El Parlamento Europeo y el Consejo de la Unión Europea. Para la protección de las personas físicas en lo que respecta al tratamiento de datos personales. Bruselas, Bélgica: Diario Oficial de la Unión Europea.
Ribeiro, M., Singh, S., & Guestrin, C. (2016). “Why Should I Trust You?” Explaining the Predictions of Any Classifier. San Francisco : KDD. doi:http://dx.doi.org/10.1145/2939672.2939778
Roy, P., Chandrasekaran, J., Lanus, E., Freeman, L., & Werner, J. (2023). A Survey of Data Security: Practices from Cybersecurity and Challenges of Machine Learning. New York: Cornell University.
Russell, S., & Norvig, P. (2022). Artificial Intelligence A Modern Approach. United Kingdom: Pearson Education Limited .
Salazar, V. (2019). Racionalización de la detención preventiva en Colombia mediante isntrumentos de evaluación del riesgo. Bogotá, D.C.: Universidad Externado de Colombia.
Salgado, B. (2024). Aplicaciones de la Inteligencia Artificial Generativa (IAG) en el Contexto de la Seguridad. Catalunya: Universidad de Catalunya.
Sentencia C-748. (6 de octubre de 2011). La Sala Plena de la Corte Constitucional. M.P.: Jorge Ignacio Pretelt Chaljub. Bogotá D. C., Colombia: Referencia: expediente PE-032. Obtenido de https://www.corteconstitucional.gov.co/relatoria/2011/c-748-11.htm
Sentencia T-143. (26 de abril de 2022). Sala Tercera de Revisión. M.P.: Alejandro Linares Cantillo. Bogotá D.C., Colombia: Referencia: Expediente T-8.197.643. Obtenido de https://www.corteconstitucional.gov.co/relatoria/2022/T-143-22.htm
Sentencia T-323. (02 de agosto de 2024). Sala Segunda de Revisión. M.P.:. Bogotá D.C., Colombia: Referencia: expediente T-9.301.656. Obtenido de https://www.corteconstitucional.gov.co/relatoria/2024/T-323-24.htm
Sentencia T-334. (12 de agosto de 2024). Sala Tercera de Revisión. M.P.: Diana Fajardo Rivera. Bogotá D.C., Colombia: Referencia: expediente T-9.962.709. Obtenido de https://www.corteconstitucional.gov.co/relatoria/2024/T-334-24.htm
Sentencia T-447. (27 de septiembre de 2019). La Sala Sexta de Revisión de Tutelas de la Corte Constitucional. M.P.: Gloria Stella Ortiz Delgado. Bogotá, D. C., Colombia: Referencia: expediente T-7.291.667. Obtenido de https://www.corteconstitucional.gov.co/relatoria/2019/t-447-19.htm
Sheshadri, C., & Sreenivasulu , N. (2022). Artificial intelligence and human rights: a comprehensive study from Indian legal and policy perspective. Kolkata: International Journal of Law and Management.
Shokri, R., Stronati, M., Song, C., & Shmatikov, V. (2017). Membership Inference Attacks Against Machine Learning Models. Symposium on Security and Privacy. doi:10.1109/SP.2017.41
Shokri, R., Stronati, M., Song, C., & Shmatikov, V. (2017). Membership Inference Attacks Against Machine Learning Models. Cornell University: IEEE Symposium on Security and Privacy.
Socol de la Osa, D., & Remolina, N. (2024). Artificial intelligence at the bench: Legal and ethical challenges of informing—or misinforming—judicial decision-making through generative AI. Cambridge: Cambridge University Press. doi:https://doi.org/10.1017/dap.2024.53
Surden, H. (2019). Artificial Intelligence and Law: An Overview. Georgia: Georgia State University Law Review.
Susskind, D., & Susskind, R. (2017). The Future of the Professions. Oxford: Oxford University.
Taylor, L., Peter de Souza, S., Martin, A., & López, J. (2025). Governing artificial intelligence means governing data: (re)setting the agenda for data justice. Dialogues on Digital Society, 1-18.
Turing, A. (1950). Computing Machinery and Intelligence. The Mind Association, 433-460.
UNESCO. (2019). Ethics Guidelines for Trustwhorthy AI. Bruselas: European Commission.
UNESCO. (2022). Recomendación sobre la ética de la inteligencia artificial. París: Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura. Obtenido de https://unesdoc.unesco.org/ark:/48223/pf0000385082.page=4
United States District Court . (7 de noviembre de 2024). Southern District of New York. Raw Story Media, Inc., Alternet Media Inc. New York, United States of America.
Yingzhou , L., Minjie, S., Huazheng , W., Xiao , W., Capucine van, R., Tianfan , F., & Wenqi, W. (2024). Machine Learning for Synthetic Data Generation: A Review. New York: Cornell University. doi:https://doi.org/10.48550/arXiv.2302.04062
Završnik, A. (2021). Algorithmic justice: Algorithms and big data in criminal justice settings. European Journal of Criminology, 623-642.
Downloads
Published
Issue
Section
License
Copyright (c) 2025 Academia & Derecho
This work is licensed under a Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.
