Introducción
La inteligencia artificial es un avance tecnológico que está revolucionando la forma como interactúa el ser humano, que hace algunos años era algo impensable, posible sólo en la ciencia ficción y un sueño para los amantes de la tecnología.
La responsabilidad jurídica de la IA resulta difícil poder precisarla a una tecnología compleja, más cuando se carece de un marco normativo específico; sin embargo, se toma como ejemplo un proyecto de ley que pretende utilizar la Unión Europea.
Por consiguiente, en el régimen de responsabilidad en el uso de IA se toma en cuenta el reglamento de la Unión Europea, que define su clasificación de riesgos por el uso y el mecanismo utilizado. Por parte de los órganos encargados de impartición de justicia digital se menciona la reglamentación del sistema RIA que se utiliza en España, así como la Ley SB 1047 de los Estados Unidos.
Finalmente, se concluye con los puntos clave que se deben considerar al resaltar la importancia de la IA.
I. Contexto actual sobre el uso de la Inteligencia Artificial
El desarrollo de la IA tuvo que ver con la exploración de las capacidades cerebrales humanas, en cuya teoría se buscaba replicar el trabajo del cerebro humano y darle una esencia autónoma, como lo menciona Azueta:
La IA ha transitado por diferentes concepciones e intereses. En sus primeros años, la década de los cincuenta, la investigación en IA pretendía reproducir procesos de inteligencia humana para dar soluciones a problemas formulados en ambientes controlados, por ejemplo, en prueba de teoremas y la solución de juegos estratégicos con reglas previamente definidas (Azuela, 2019).
En un primer momento, la idea era resolver problemas exclusivamente de la ciencia, cuando se descubrió que su aplicación iba más allá de resoluciones, se adentró su uso en aplicaciones de interés económico. En ese sentido, “podemos referirnos a los sistemas aconsejadores, los llamados chatbots” (Azuela, 2019), también para las empresas, como medida de prevención y para trabajos que se consideran difíciles o de alto riesgo.
En el caso particular de los robots asistenciales, se trata de máquinas con capacidades especiales para poder interactuar con los seres humanos, atender algunas de sus necesidades y, por ejemplo, auxiliar a una persona con una incapacidad, en su alimentación, en el aseo personal, etcétera. En las fábricas, los robots inteligentes cooperantes (cobots), auxilian a los seres humanos en la realización de las tareas difíciles con menor riesgo y con una eficiencia y eficacia que no sería posible lograr con únicamente grupos de personas (Azuela, 2019).
“La Inteligencia Artificial es, hoy en día, una disciplina con un nivel de madurez muy alto. No se puede poner en tela de duda su potencial, aplicabilidad e impacto en nuestra sociedad” (Azuela, 2019).
Prácticamente, todo aspecto de la vida cotidiana tiene que estar inmerso en las IA o, como mínimo, en el uso de algún dispositivo inteligente. ”En los últimos años la IA se ha expandido y diversificado hasta ser considerada como una rama de las ciencias orientada a la creación de máquinas inteligentes, con habilidades para aprender, adaptarse y actuar con autonomía” (Azuela, 2019).
Como ejemplo, recientemente en enero de 2025 el nuevo presidente de los Estados Unidos, Donald Trump, en sus primeros días de mandato anunció la inversión de 500 millones de dólares, lo que marca la carrera contra el mejor y más actualizado uso de las IA, por lo que en los próximos años tendrá tal auge que necesitará de personas altamente calificadas. La problemática se centra en que en la educación son pocos los programas educativos que incluyen la IA, por lo que presupone una falta de personal calificado.
“Existen pocos consorcios o clústeres que aglutinen, coordinen y, por tanto, potencialicen los esfuerzos individuales logrados hasta el momento” (Azuela, 2019).
“Es necesario poner en operación más programas de licenciatura, posgrado, redes y consorcios que potencien la asimilación y el uso de esta tecnología” (Azuela, 2019).
En ese sentido, las operaciones automatizadas tienen mayor auge principalmente en la automatización de actividades, por ejemplo:
La IA, actualmente, es una tecnología que está influyendo fuertemente en los puestos de trabajo de prácticamente todas las industrias. Durante siglos se ha visto a la automatización como algo maligno que amenaza nuestros empleos y altera el statu quo. Esto ha sido notorio, particularmente, durante la primera, segunda y tercera revoluciones industriales (Azuela, 2019).
La cuarta revolución industrial tiene que ver con la industria 4.0, tecnologías que se conjuntan:
1) Internet de las cosas (IoT) y sistemas ciberfísicos, 2) grandes datos, minería de datos y analítica de datos, 3) simulación y fabricación aditiva (impresión 3D), 4) sistemas de integración horizontal y vertical, 5) ciber seguridad, 6) realidad virtual y realidad aumentada, 7) cómputo en la nube y 8) robótica autónoma y colaborativa (cobots) (Azuela, 2019).
Con el avance de la revolución industrial surge la IA, una forma autónoma de tomar decisiones, que homologa al propio ser humano. Por ejemplo, la conducción de autos de forma autónoma, tareas complejas que necesitan de exactitud como el armado de autos, o algo más sencillo como juegos de ajedrez entre máquina y humano.
Para definir qué es la IA, se parte de lo que es la inteligencia, que según Muente, existen nueve tipos de inteligencia: “Inteligencia Lingüístico-verbal, Inteligencia Lógico-matemática, Inteligencia Musical, Inteligencia Corporal Cenestésica, Inteligencia Interpersonal, Inteligencia Naturista, Inteligencia Creativa, Inteligencia Emocional e Inteligencia Colaborativa” (Muente, 2019).
Las anteriores son características que definen la inteligencia humana, por ello definirla
No supone el mero aprendizaje de un texto, una habilidad académica específica o resolver un test de forma habilidosa. Refleja una capacidad amplia y profunda para comprender el entorno y ser capaz de capturar el significado de las cosas y darles un sentido, o ingeniárselas, para en un momento dado, saber qué hacer (Azuela, 2019).
Así las cosas, se puede definir la inteligencia artificial como:
la ciencia e ingeniería de las máquinas que actúan de manera inteligente. En este sentido, una máquina es inteligente cuando es capaz de tomar decisiones apropiadas en circunstancias inciertas. Otra manera de ver lo mismo, es cuando una máquina -que se dice ser inteligente-es capaz de aprender a mejorar su comportamiento con base en sus experiencias (Azuela, 2019).
Existen diversos tipos de IA, como por ejemplo:
Inteligencia General (IG) o Inteligencia Fuerte.
Consiste en enseñarle a la máquina a aprender, a razonar y a planificar. No cubre todo el campo de la inteligencia, faltaría agregar a la máquina una mente, así como una conciencia, lo que implicaría estar consciente y dotarla de un carácter propio, lo cual no es fácil de simular (Azuela, 2019).
Súper Inteligencia Artificial. “Un paso más allá es la llamada súper inteligencia artificial, que podría lograrse relativamente rápido, una vez que la IAG haya sido alcanzada, supuestamente porque los mayores obstáculos han sido sobrellevados” (Azuela, 2019).
Inteligencia Artificial Débil. “Se limita a afrontar tareas específicas, enfocadas en ayudar al ser humano. No intenta simular el rango completo de las habilidades cognitivas humanas” (Azuela, 2019).
II. Antecedentes de la Inteligencia Artificial
Sossa realiza un listado de los momentos claves que tuvo la IA en su desarrollo.
1956. El proyecto de investigación de Dartmouth en Inteligencia Artificial, que tuvo lugar en el verano, y donde se acuñó el nombre de un nuevo campo relacionado con el quehacer de software habilidoso, como los humanos.
1965. Joseph Weisenbaum, en el MIT, crea Eliza, el primer chatbot útil como psicoterapeuta.
1975. En Stanford se desarrolla META-DENDRAL, software útil para interpretar análisis químicos.
1987. Por primera vez una Van Mercedes, equipada con dos cámaras y varias computadoras navega sola en terreno alemán, unos 20 km a más de 55 mph, proyecto dirigido por el ingeniero Ernst Dickmanns.
1997. La computadora Deep Blue, desarrollada por IBM, derrota al campeón mundial de ajedrez Gary Kasparov.
2004. El Pentágono establece el proyecto DARPA Grand Challenge, una carrera para autos autónomos que da pie a esta industria.
2012. Los investigadores encuentran un nicho en lo que se conoce como aprendizaje profundo, lo que abre un interés muy fuerte en IA y muestra que sus ideas pueden hacer más preciso el reconocimiento del habla y de las imágenes.
2014. AlphaGo, creado por Google y DeepMind, derrota al campeón del mundo del entonces muy difícil juego del Go (Azuela, 2019).
La IA se utiliza en el campo laboral con trabajos de alto riesgo, así como en finanzas, medicina, computación y, sin duda, los videojuegos. Por ejemplo, entre 2016 y 2020 la empresa Gartnet realizó un estudio que determina que serán 30 % las empresas que usarán IA y la ciencia de datos.
III. Consideraciones en aplicación de la IA en materia internacional
La tecnología con IA la utilizan principalmente las empresas digitales, debido a la gran cantidad de datos que maneja. En el mundo digital se llama Big Data:
Es un término que describe el gran volumen de datos - estructurados y no estructurados - que inundan una empresa todos los días. Pero no es la cantidad de datos lo importante. Lo que importa es lo que las organizaciones hacen con los datos. El big data puede ser analizado para obtener insights que conlleven a mejores decisiones y acciones de negocios estratégicos (Sas Insights , 2023).
En ese sentido, la big data es indispensable para que la IA pueda procesar gran cantidad de información y responder de forma coherente lo que el usuario necesita. Por otra parte, empresas como Google, y su filial Gmail, utilizan este tipo de tecnología den los correos electrónicos, por ser una plataforma con grandes archivos, como lo manifiesta Azuela:
Correo electrónico: Pareciera que el “inbox de correo” es un lugar no apto para la IA; sin embargo, lo es. Los filtros de spam, los clasificadores inteligentes de correos son sólo dos ejemplos de los muchos motores inteligentes que pueden ser usados para el manejo optimizado de nuestro correo electrónico. Soluciones futuras: los respondedores automatizados de correo (Azuela, 2019).
La IA también se utiliza ampliamente en las redes sociales:
En este caso se reportan ejemplos de sistemas: 1) reciben fotos, las analizan y si encuentran personas hacen recomendaciones de etiquetado; 2) reciben como entrada fotografías, las analizan reconociendo los objetos ahí presentes y hacen recomendaciones de objetos similares; 3) son capaces de identificar significado contextual de emojis y pueden, entonces, sugerir en forma automática emojies de respuesta y 4) son capaces de seguir movimientos faciales y adicionar efectos animados o máscaras digitales cuando dichos rostros se mueven, estos sistemas son usados por doquier en el mundo. Soluciones futuras: conversación con chatbots inteligentes. Estos chatbots deberán incorporar poderosos: procesadores de lenguaje natural, reconocedores de rostros, analizadores de expresiones faciales, etcétera (Azuela, 2019).
Azuela engloba la mayor parte de las funciones de IA en las redes sociales, claro ejemplo son Facebook y WhatsaAp, con las opciones de reconocimiento facial en las imágenes y las recomendaciones de etiquetado, mientras que el segundo con el reconocimiento de los emojis y sugerencias de palabras para completar una oración. El ejemplo más práctico es Snapchat e Instagram, el cual utilizan la tecnología de realidad aumentada, con el uso de filtros animados.
Así mismo, las compras en línea, “muchas de las compras que uno hace hoy por hoy son a través de internet. Incluye buscadores, recomendadores, detectores de fraudes, etcétera. Soluciones futuras: sistemas de compra completamente personalizados” (Azuela, 2019).
Los siguientes son los países con mayor presencia en desarrollo y uso de IA (Figura 1):
Por su parte, los países más robotizados son los siguientes (Figura 2):
Los países más robotizados son “Corea, Singapur, Japón, Alemania, Suecia, Taiwán, Dinamarca, EE.UU., Bélgica e Italia” (Muente, 2019),
Por su parte,
México ocupa el trigésimo tercer lugar con 33 robots por cada 10.000 empleados, por encima de Argentina, que ocupa el lugar trigésimo sexto con 16 robots por cada 10.000 empleados y Brasil, lugar vigésimo octavo, con 11 robots por cada 10.000 empleados (Azuela, 2019).
Según el reporte de Future of Jobs report 2018, estadísticamente se desarrolla el tiempo de horas desde el 2018 y la estimación que existe hasta el 2025 (Figura 3).
III. Responsabilidad jurídica de la Inteligencia Artificial
En los últimos años se ha visto el gran avance de las tecnologías en el mundo actual; no obstante, la Inteligencia Artificial ha tenido una gran relevancia, puesto que muchos dispositivos y medios de comunicación hacen uso de ella, así como diversas plataformas del medio digital.
Es decir, “La inteligencia artificial está en constante transformación e incorporando nuevos elementos y componentes de prácticamente todos los campos de conocimiento; Además, debe favorecer a su vez el descubrimiento de nuevo conocimiento” (Omil, 2019). De este modo, estas herramientas se han desarrollado para facilitar diversos trabajos en todos los ámbitos de la tecnología.
Una conceptualización más precisa para Graziella es:
La IA es un concepto que abarca muchas otras áreas, como la informática cognitiva (algoritmos capaces de razonamiento y comprensión de nivel superior humano), el aprendizaje automático o machine learning (algoritmos capaces de enseñarse a sí mismos tareas), el aprendizaje profundo o deep learnig (profundo porque el aprendizaje se realiza a través de una red neuronal «artificial» que tiene varias capas de profundidad), la inteligencia aumentada o augmented intelligence (colaboración entre humanos y máquinas) o la robótica con IA (inteligencia artificial integrada en robots) (Graziella, 2021).
Conviene subrayar que estas tecnologías son capaces de funcionar a través de patrones que interfieren en el uso de algoritmos, se utilizan usualmente en los sistemas informáticos, esto permite analizar y compartir datos que ayudan a resolver distintas tareas para los seres humanos.
De esta manera, la Inteligencia Artificial facilita el uso de muchas herramientas de trabajo. Los usuarios han optado por utilizarla para todo tipo de consultas en su día a día. Sin embargo, un mal manejo de este tipo de herramientas puede llegar a convertirse en un acto delictivo.
Cabe aclarar que aún no existen datos que prueben que la Inteligencia Artificial haya cometido un delito como tal, pero sí que de manera indirecta ha estado involucrada en incidentes que pueden ocasionar algún tipo de acción.
Para conceptualizar la responsabilidad jurídica es necesario destacar que “la responsabilidad jurídica es el estado jurídico intermedio en que se encuentra una persona entre la trasgresión de una norma mandatoria o prohibitiva y la imposición fenoménica de la sanción por dicha trasgresión” (Vélez, 2015).
Este concepto hace referencia al estado jurídico que se le atribuye a una persona, es decir, la responsabilidad que tiene para cumplir el hecho que se le inculpa, pero en el caso de la Inteligencia Artificial sería complejo poder desarrollar una conceptualización que trate de una responsabilidad jurídica como tal, al menos no directamente.
Cabe resaltar que la IA no es una persona física, sino una tecnología de gran avance. En este caso, la responsabilidad jurídica se le atribuye a la administración de este tipo de herramientas.
Últimamente se han viralizado diversas conductas ocasionadas por la Inteligencia Artificial, pero se debe hacer énfasis sobre el tipo de actos que ocasionan estas nuevas tecnologías.
Este tipo de conductas relacionadas con el mal manejo de las tecnologías ponen en riesgo la integridad física y emocional de los seres humanos, por tal motivo se necesita esclarecer el tipo de conductas que se desarrollan con su uso inadecuado.
Estas conductas pueden traer consigo una serie de desafíos para la población:
Las tecnologías de IA pueden presentar nuevos riesgos de seguridad para los usuarios cuando estén integradas en productos y servicios. Por ejemplo, como resultado de un defecto en la tecnología de reconocimiento de objetos, un vehículo autónomo puede detectar erróneamente un objeto en la carretera y causar un accidente que provoque heridos y daños materiales. Como sucede con los riesgos para los derechos fundamentales, estos riesgos pueden proceder de defectos en el diseño de la tecnología de IA, estar relacionados con problemas de disponibilidad o calidad de los datos, u otros derivados del aprendizaje de las máquinas. Aunque algunos de estos riegos no se limitan a los productos o servicios que dependen de la IA, el uso de esta última puede aumentar o agravar los riesgos (Comisión Europea, 2020).
Estas tecnologías han influido indirectamente en actos que tienen que ver con algún tipo de accidente. Adicionalmente, dependiendo del tipo de hechos se calcula el nivel de riesgos que ocasionan.
Al respecto, Proenza sostiene que “para evitar las conductas imprevistas o algún comportamiento que no estaba programado se necesita desarrollar un código normativo expreso que dirija el comportamiento de la IA”. (Proenza, 2022)
En ese sentido, se propone un nuevo modelo de ley que traería consigo una modificación a las leyes actuales del país, generando un sistema especial para el comportamiento de la Inteligencia Artificial.
Como se ha dicho, estas normativas necesitan una supervisión para el comportamiento de la IA, como lo menciona Proenza:
La importancia de elaborar reglas de conducta para la IA radica en que estos serán lineamientos básicos incorporados en el software. De esta forma se evita que el sistema de toma de decisiones autónomas lesione un bien jurídico protegido o produzca un daño a la propiedad de otra persona. Este código será introducido como reglas de funcionamiento que, ante una actuación imprevista, sirvan de filtros para evitar que se cometa un delito, se menoscabe a la propiedad o incluso se afecte a un bien jurídico protegido como la vida. (Proenza, 2022)
Se espera que estas reglas influyan en el sistema operativo de los programas informáticos, de manera que contribuyan a la prevención de hechos que puedan ocasionar un riesgo indispensable para la población, siendo así una forma de proteger a la ciudadanía.
No obstante, un grupo de expertos de la Comisión Europea ha elaborado el documento titulado “Responsabilidad derivada del uso de la inteligencia artificial y otras tecnologías emergentes”. Dicho documento menciona un modelo de ley que contribuirá a la regulación de los sistemas informáticos, con diez ejes centrales:
Responsabilidad objetiva del usuario: El usuario de una tecnología lícita, pero que implique un riesgo de daño relevante para terceros, debe estar sujeto a un estricto régimen de responsabilidad objetiva por los daños causados.
Responsabilidad según el grado de control sobre la tecnología: Cuando exista un proveedor de un servicio equipado con IA que garantice el marco técnico necesario para operar con dicha tecnología y un propietario o usuario del mismo producto o servicio, debe tenerse en cuenta el grado de control de cada parte sobre el aparato para determinar quién opera principalmente la tecnología a efectos de determinar la responsabilidad por daños.
Nivel de diligencia exigible: Al usuario de una tecnología que no represente un mayor riesgo de daño para los demás se le debe exigir que cumpla con los deberes de seleccionar, operar, controlar y mantener adecuadamente dicha tecnología; en caso contrario, debe ser considerado responsable por incumplimiento de dichos deberes si causa un daño a terceros y concurre culpa.
Responsabilidad por uso de tecnología autónoma: El usuario de una tecnología con cierto grado de autonomía no debería ser menos responsable del daño resultante del uso de la misma que si dicho daño hubiera sido causado por un auxiliar humano del mismo.
Responsabilidad por productos defectuosos: Los fabricantes de productos o contenidos digitales que incorporen tecnologías digitales emergentes, deberían ser considerados responsables de los daños causados por defectos en dichos productos, incluso si el defecto fue causado por cambios introducidos en el producto una vez comercializado.
Seguro obligatorio: Para situaciones que exponen a terceros a un mayor riesgo de daños, el seguro de responsabilidad civil obligatorio podría brindar a las víctimas un mejor acceso a la indemnización, protegiendo a los posibles causantes del daño ante su responsabilidad.
Carga de la prueba del daño: Cuando una tecnología concreta incremente la dificultad para demostrar la existencia de un elemento de responsabilidad más allá de lo razonable, las víctimas deben tener derecho a un asesoramiento sobre dicha prueba.
Registro de actividad de los dispositivos: Las tecnologías digitales emergentes deben comercializarse con un registro de actividad apropiado a sus características. La falta de sistema de registro, o de un sistema de acceso razonable a los datos registrados, debe dar lugar a una inversión de la carga de la prueba para no perjudicar a la víctima.
Responsabilidad por pérdida de datos del usuario: La destrucción de los datos de la víctima debe considerarse como daño compensable.
Personalidad jurídica: No es necesario otorgar a los dispositivos o sistemas autónomos una personalidad jurídica, ya que el daño que pueden causar puede y debe ser atribuible a personas u organismos existentes. (Comisión Europea: Dirección General de Justicia y Consumidores, 2019)
Con este fin, se hace un análisis de los tipos de actos que ocasionan un manejo inadecuado en el uso de las tecnologías de la inteligencia artificial. De esta manera, se recomiendan una serie de responsabilidades que protejan el libre manejo de estas herramientas.
Esto puede beneficiar a la población para que cuente con un soporte en caso de requerir alguna indemnización por los daños que lleguen a ocasionar estas herramientas. En este aspecto, este tipo de acciones regularizan el método de los sistemas informáticos y garantizan su funcionamiento eficiente.
IV. Régimen de responsabilidad en el uso de la IA
Un régimen de responsabilidad es el proceso que organiza el comportamiento de las personas, con el fin de imponer sanciones para un mejor comportamiento, así como también para establecer derechos y obligaciones.
En otro orden de ideas, la responsabilidad es una “Deuda, obligación de reparar y satisfacer, por sí o por otra persona, a consecuencia de un delito, de una culpa o de otra causa legal”. (Real Academia Española, 2024). En otras palabras, la responsabilidad lleva a la obligación de rectificar las malas conductas.
Como ya se ha dicho, la Inteligencia Artificial es:
Un sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtuales. (Reglamento (UE) 2024/1689, 2024)
Cabe tener en cuenta que la IA es una nueva herramienta que se está utilizando en la actualidad y, por lo tanto, es necesario regular un régimen de responsabilidad para su uso adecuado.
Como consecuencia, el desarrollo de la Inteligencia Artificial ha definido una serie de riesgos: “la combinación de la probabilidad de que se produzca un perjuicio y la gravedad de dicho perjuicio” (Reglamento (UE) 2024/1689, 2024), estos establecidos en la Ley de Inteligencia Artificial en el que se clasifican en:
-Riesgo mínimo: son aquellas que presentan un impacto bajo en términos de seguridad y privacidad.
-Riesgo limitado: estas aplicaciones pueden tener un impacto moderado en términos de seguridad y privacidad y, por lo tanto, requieren medidas de seguridad adicionales y una supervisión regulada.
-Alto riesgo: estas aplicaciones están sujetas a una regulación estricta y requieren auditorías regulares para asegurar su cumplimiento con las normativas establecidas.
-Riesgo inaceptable: la IA prohibida se clasifica como riesgo inaceptable debido a su capacidad para causar daños graves a la seguridad y privacidad de los usuarios. (Marco, 2024)
Podemos destacar, entonces, que el uso incorrecto de las tecnologías ocasiona riesgos de acuerdo con el alto índice de probabilidad de daños, por lo que es indispensable mencionar que ya cuentan con una clasificación de acuerdo con los parámetros que requieren.
De acuerdo con las responsabilidades en el uso de la Inteligencia Artificial, Mercader menciona lo siguiente:
… el sistema de responsabilidades por el uso de la IA se encuentra integrado por dos subsistemas de diferente alcance y contenido: de un lado, el subsistema punitivo, basado en sanciones administrativas y asentado sobre una pluralidad de agentes que tutelan tal actividad de control y, de otro, el subsistema reparador, asentado en la lógica que proporciona el derecho de daños. (Mercader, 2024)
Visto de esta manera, se mencionan los tipos de sistemas de responsabilidades que recaen en el tema de la IA. De esta forma, se hace diferencia entre el ente sancionador, que aplica el método que se requiere para regular la penalización, y por otra parte, el órgano reparador, encargado de adecuar la indemnización de los daños ocasionados.
V. La Inteligencia Artificial en el ámbito jurídico colombiano
La IA ha emergido como una herramienta transformadora en diversos sectores, y el ámbito jurídico colombiano no es la excepción. Su integración plantea interrogantes sobre la ética, la responsabilidad y la eficacia del sistema judicial, aspectos que requieren un análisis profundo y una regulación adecuada.
Para contextualizar, en Colombia, la Ley 1581 de 2012 “establece el régimen general de protección de datos personales, lo cual es fundamental al considerar el uso de IA que procesa grandes volúmenes de información personal” (Lawyers, 2025).
Además, al impartir justicia, la Corte Constitucional ha emitido pronunciamientos de relevancia, como la Sentencia T-323 de 2024, en la que se abordó el uso de herramientas de IA en la administración de justicia. En ese sentido, la Corte destacó que “la IA puede ser útil como herramienta auxiliar, pero no puede sustituir la función del juez, ya que esto comprometería el derecho al debido proceso” ( Derecho al debido Proceso-Criterios orientadores para el adecuado uso de la inteligencia artificial (IA), 2024)
Lo anterior se puede entender, a modo de referente jurisprudencial, en relación con la protección del debido proceso que la Corte Suprema determina; sin embargo, establece que existe la posibilidad de utilizar las herramientas de IA para asistir al análisis jurídico, sin remplazar el juicio humano. Visto de otra forma, como un complemento.
Es importante destacar que de esta manera la Corte Suprema colombiana establece un balance en el uso de IA, en teoría busca las ventajas de su uso.
Desde otra perspectiva, a nivel legislativo se ha promovido la creación de un plan denominado “Plan Nacional de Inteligencia Artificial”, promovida por el Ministerio de Ciencia, Tecnología e Innovación. Este plan es amplio; sin embargo, establece una guía sobre el uso de IA en diversas áreas, incluida la jurídica. Lo anterior marca un parteaguas, puesto que a partir de ese momento da pie a la creación de marcos regulatorios específicos.
En lo referente a la responsabilidad en el uso de IA, la implementación en el ámbito jurídico colombiano implica riesgos que se deben gestionar adecuadamente. En ese sentido, la Ley 1581 establece “principios como la finalidad, necesidad, consentimiento informado y seguridad de los datos personales, que deben ser observados en el uso de IA” (Lawyers, 2025). Así mismo, autores como Dantart argumentan que “se deben considerar las implicaciones éticas y regulatorias, enfatizando la supervisión humana como un rol insustituible” (Dantart, 2025)
Un desafío que es importante subrayar es que el marco normativo de Colombia, respecto a la velocidad que avanza la tecnología, se enfrenta a una escasa capacidad para regularla. La rapidez con que evolucionan las nuevas aplicaciones necesita un sistema eficaz, pero además flexible, con capacidad para adaptarse rápidamente.
Estos son los desafíos que el derecho colombiano y, en general, la mayoría de los países latinos deben enfrentar, “el marco legal de la IA en Colombia se encuentra en una etapa embrionaria, caracterizada por vacíos significativos y la aplicación de normas no diseñadas específicamente para esta tecnología” (Martínez, 2023).
Es necesario avanzar hacia una regulación que equilibre la innovación tecnológica con la protección de los derechos fundamentales y la ética profesional.
Para resumir, se puede afirmar que la Inteligencia Artificial, vista desde la perspectiva jurídica colombiana, ofrece tanto oportunidades como problemas importantes.
Por una parte, la IA puede ayudar a mejorar la eficiencia, la rapidez y la precisión en la administración de justicia, y por otra, genera riesgos asociados a la falta de transparencia y vulneración de derechos de la persona humana.
Colombia avanza en la integración de la IA en el sistema judicial. Los proyectos de ley y las iniciativas legislativas como el proyecto de Ley N.º 043 de 2025 y el proyecto CiberPaz 2025 son piezas claves para regular la práctica de la IA, proteger los derechos fundamentales y promover la alfabetización digital.
De todos modos, esto depende de que el sistema jurídico esté adecuado a la adaptación del desarrollo técnico y de la cooperación internacional a la hora de dictar la creación de estándares internacionales que sirvan de guía.
Por último, frente a la Inteligencia Artificial en el derecho de Colombia se debe ser meticuloso, buscando un equilibrio entre la innovación tecnológica y la protección de los derechos fundamentales.
Este equilibrio es trascendental para aprovechar los beneficios de la IA sin afectar los principios básicos del derecho y de la justicia.
VI. Órganos encargados de impartir justicia digital
En México, el uso de la Inteligencia Artificial ha sido constante, en el sentido de que los sistemas informáticos evolucionan rápidamente. Sin embargo, aún no se implementa una regulación para su reglamentación.
Tomando en consideración que este tipo de herramientas son fuentes de primera mano para la población, ya que la mayoría de las personas las utilizan para consultas de todas las ramas del conocimiento, como las aplicaciones que facilitan las actividades diarias: Chat GPT, Siri y Alexa.
En ese orden de ideas, una reglamentación sería de gran alcance en México, ya que si bien la Inteligencia Artificial ayuda a las actividades diarias; por otra parte, existen complicaciones cuando se da mal uso a este tipo de tecnologías, que como se ha mencionado, facilitan los niveles de riesgos que pueden ocasionar severos daños en las personas, desde la integridad física, moral hasta emocional.
En cuanto a su reglamentación, existe una iniciativa de ley para regular su comportamiento. En este caso, el Dr. Ricardo Monreal Ávila, Senador de la República e integrante del Grupo Parlamentario de Morena en la LXV Legislatura de la Cámara de Senadores del Honorable Congreso de la Unión, propone la creación de un nuevo modelo de ley para la clasificación de los riesgos en el uso de esta tecnología.
De este modo, los Sistemas de Inteligencia Artificial (SIA) regularán el uso y desarrollo de los sistemas informáticos:
Con la legislación que se propone se busca que el uso de la inteligencia artificial se realice de manera ética y responsable a fin de evitar un mal uso de estas tecnologías. Por ejemplo, los desarrolladores y usuarios deberán ser responsables sobre el contenido de los materiales que crean o difunden; además, deberán evitar y denunciar la propagación de discursos de odio, de incitación a la violencia y de noticias falsas. El uso irresponsable de los SIA puede generar nuevas formas de discriminación hacia diversos sectores en condiciones de vulnerabilidad. (Monreal Ávila, 2024)
Se espera que esta ley beneficie a la población mexicana, atendiendo las irregularidades que se cometen en el mal manejo de los sistemas de Inteligencia Artificial. Por consiguiente, se debe desarrollar una normativa que proteja los derechos fundamentales de los ciudadanos, atendiendo los riesgos que se cometan y, al mismo tiempo, garantizando la reparación de los daños, en caso de que existan.
Adicionalmente, estas propuestas de ley para la Inteligencia Artificial ya existen en otros países. Un modelo de sanciones en España sitúa un sistema que atiende las responsabilidades de la IA:
…el RIA crea un sistema de obligaciones, garantías y responsabilidades para todos los agentes que actúan dentro de este nuevo ecosistema (proveedores, fabricantes, responsables del despliegue y, en el sentido más amplio, afectados por el uso de estos sistemas). (Mercader, 2024)
Cabe destacar que el triángulo de oro se conceptualiza en la “aproximación desde el riesgo, garantías y responsabilidades”. (Mercader, 2024). A este respecto, se implementa el conocimiento del triángulo de oro, acentuando el nivel de riesgo, garantizando los derechos de las personas y las responsabilidades que implica el uso de los sistemas informáticos pertenecientes a la IA.
Este método se aplica para las irregularidades que se comenten en el uso de la Inteligencia Artificial. De este modo, las personas cuentan con un soporte al cual acudir cuando existen percances por el uso de estas tecnologías. El reglamento propone sanciones efectivas que ayudan a mejorar el buen funcionamiento de la Inteligencia Artificial. En ese mismo sentido, protegen la privacidad de las personas.
El RIA permite la invención y garantía de los derechos fundamentales, ayudando a los ciudadanos.
Las sanciones administrativas están diseñadas para castigar a las entidades que incumplen el reglamento y para disuadir futuras infracciones. Se basan en criterios que buscan asegurar el cumplimiento de las normas y prevenir comportamientos indebidos. En contraste, la indemnización tiene un objetivo reparador, orientado a compensar a las personas afectadas por el daño sufrido como resultado de la infracción. (Mercader, 2024)
Se debe agregar que este tipo de sanciones administrativas están vinculadas a la norma de la Inteligencia Artificial, que busca implementar nuevos paradigmas a las normativas, que impliquen sanciones para las irregularidades que se cometan en el uso inadecuado de estas herramientas tecnológicas.
Por su parte, en Estados Unidos se propone implementar el modelo “Ley SB 1047”:
La SB 1047 obligaría a las empresas que desarrollan grandes modelos de IA a implementar protocolos de seguridad para evitar usos indebidos. Este requisito aplicaría para los algoritmos cuyo entrenamiento cuesta más de 100 millones de dólares. Este tipo de sistemas deberán incluir un “botón de apagado de emergencia” que permita desactivar su operación por completo y de inmediato, en caso de que su funcionamiento se saliera de control. (González, 2024)
Cabe destacar que esta iniciativa aún está en discusión en el pleno y no ha sido aprobada. Este modelo de ley será de gran beneficio para la población, al regular las actividades inusuales que genera el mal uso de estas tecnologías.
En conclusión, el uso inadecuado de la Inteligencia Artificial implica el aumento de riesgos para la población. En ese sentido, es necesario regular nuevas leyes que contribuyan a un manejo ordenado y eficaz de estas herramientas. De igual manera, se deben garantizar y proteger los derechos fundamentales de los ciudadanos
VII. Conclusiones
El uso que se le ha dado a este tipo de sistemas informáticos es de mucha importancia, ya que su empleo facilita las tareas que se manejan en distintos ámbitos de la vida cotidiana.
Es necesario resaltar que el mal uso de la Inteligencia Artificial ha traído consigo una serie de conductas que se pueden relacionar con un hecho delictivo. Existe una clasificación de los tipos de daños ocasionados por estas herramientas.
Es necesario una normatividad que regule el uso de la IA, para un manejo responsable, eficaz y seguro.
Finalmente, se busca que el marco normativo de este tipo de sistemas se emplee con seguridad, soporte y, sobre todo, proteja los derechos fundamentales de los ciudadanos en caso de un daño severo hacia su persona.