El avance tecnológico en los últimos años ha generado profundas transformaciones en sectores clave como la industria, los servicios y las relaciones sociales, Un claro ejemplo de este cambio es la inteligencia artificial (IA), que, aunque no es una tecnología nueva, ha experimentado una expansión significativa debido a la constante búsqueda de herramientas que optimicen el tiempo y los recursos. La IA ha demostrado ser útil no sólo en la vida cotidiana, sino también en sectores complejos como el sistema judicial, donde su capacidad para almacenar y procesar grandes volúmenes de datos (Big Data) facilita la toma de decisiones. No obstante, su integración en este ámbito plantea desafíos importantes, como la necesidad de definir con claridad su ámbito de aplicación y diseño, ya que podrían surgir situaciones que no estén contempladas en la legislación nacional e internacional actual. El objetivo principal de esta investigación fue analizar el uso de softwares basados en inteligencia artificial en el sistema judicial nacional e internacional, explorando las implicaciones éticas que surgen en la toma de decisiones, su encaje dentro de los ordenamientos jurídicos existentes y los beneficios y riesgos asociados a su implementación, resultando que la incorporación de la IA en el ámbito judicial promete mejorar la eficiencia y la precisión en la toma de decisiones al procesar grandes volúmenes de información, pero también puede generar problemas si no se establece un marco normativo adecuado. Es fundamental definir claramente los límites y el diseño de estas tecnologías, evitando vacíos legales y garantizando un uso ético. Las implicaciones éticas, como la transparencia y la responsabilidad en las decisiones automatizadas, deben ser cuidadosamente evaluadas para asegurar que la implementación de la IA no comprometa los principios fundamentales de justicia y equidad.
Technological advances in recent years have led to profound trans-formations in key sectors such as industry, services, and social relationships. A clear example of this change is artificial intelligence (AI), which, although not a new technology, has experienced significant expansion due to the ongoing search for tools that optimize time and resources. AI has proven to be useful not only in everyday life but also in complex sectors like the judicial system, where its ability to store and process large volumes of data
Desde la antigüedad, filósofos como Aristóteles han reflexionado sobre la naturaleza de la inteligencia y su papel en la vida humana, además, la inteligencia ha sido un tema recurrente en la literatura, la religión y la filosofía, reflejando la importancia que se le ha dado a lo largo del tiempo.
Para Aristóteles la inteligencia es un "agudo ingenio", una facultad exclusiva del ser humano que se desarrolla a lo largo de la vida a través de la razón y la experiencia, esta capacidad de autoconciencia es lo que nos distingue como seres humanos y nos hace únicos. De hecho, para
Varios autores han establecido el concepto de inteligencia desde distintas perspectivas tales como: Howard
Conceptualizar lo que ha sido la inteligencia siempre destaca cierta complejidad y denota la evolución continua del concepto, tal es el caso de lo que pasa en la actualidad, que, con el avance de la inteligencia artificial, el concepto de inteligencia continúa siendo objeto de estudio y debate, tanto en términos de su comprensión en el contexto humano como en su aplicación en sistemas artificiales. Este debate se centra en si la inteligencia artificial puede equipararse a la inteligencia humana en su amplitud y complejidad, la discusión sobre el origen de la inteligencia humana y su comparación con la inteligencia artificial sigue siendo motivo de controversia y reflexión en la sociedad actual.
Lo anterior porque cada vez es más notable la importancia que están adquiriendo las inteligencias artificiales (IA) en la construcción del presente, desde diversos ámbitos profesionales y personales se recurre actualmente al uso de estas herramientas para resolver velozmente problemas cuya complejidad es tan alta que a un ser humano le tomaría horas o días, como predecir las condiciones climáticas para mejorar la producción agrícola, diagnosticar a personas enfermas o desarrollar patrones óptimos de tráfico. Además, son usadas para simplificar procesos como buscar una información en internet, como hacen los asistentes inteligentes como Siri de Apple; sugerir productos a los usuarios de internet a partir de sus perfiles de consumo o seleccionar al candidato adecuado para un cargo. (
Naturalmente el campo jurídico no ha sido extraño a reconocer las posibilidades de utilizar esta herramienta para transformar los sistemas judiciales, un ejemplo de la utilidad que la inteligencia artificial podría tener en este campo nos la brinda Manuel Sánchez, director para la Administración General del Estado y para la Justicia en Fujitsu, quien menciona que la aplicación más clara sería usar la IA para resolver casos simples; cabe aclarar que no se trata de reemplazar a los jueces, sino de proporcionarles una herramienta que haga su labor mucho más eficiente que nunca, el objetivo es liberarlos de tareas repetitivas y rutinarias que consumen una gran parte de su tiempo, permitiéndoles así enfocarse en lo realmente importante de su trabajo.
En consecuencia, no es raro que algunos autores como
En esta investigación se hace uso de fuentes secundarias, principalmente compuestas por legislación, jurisprudencia tanto nacional como internacional y artículos científicos publicados en revistas especializadas, la técnica principal empleada fue la revisión y análisis documental de estas fuentes. El enfoque de este trabajo es cualitativo, ya que se basa en un estudio comparativo entre diversas legislaciones y sistemas jurídicos a nivel internacional, lo cual permite una comprensión más amplia y detallada de la influencia y aplicación de la inteligencia artificial, así como de sus efectos directos en la implementación y regulación en Colombia, el alcance de este estudio es descriptivo-prescriptivo, dado que, a partir del conocimiento de la legislación y especialmente de los avances en el derecho comparado, se pueden proponer soluciones para abordar el tema central de esta investigación en el contexto colombiano.
Se estableció como formulación del problema ¿cuál es el alcance de la implementación de la inteligencia artificial en el ordenamiento jurídico a nivel nacional e internacional?, y como objetivo general, identificar el alcance de la implementación de programas de inteligencia artificial en el ordenamiento jurídico nacional e internacional, como objetivos específicos, determinar el uso de la inteligencia artificial dentro de los ordenamientos jurídicos a nivel nacional e internacional, analizar los desafíos y conflictos de la implementación de la inteligencia artificial en los ordenamientos jurídicos a nivel nacional e internacional, identificar alcances, beneficios y críticas de la implementación de la inteligencia artificial en el Derecho.
La administración de justicia no es ajena a los cambios, innovaciones, problemas y necesidades que ha traído la 4ta revolución industrial, ya que a través de esta nueva ola de tecnología se busca replantear cómo se crea y se aplica el derecho. Así, por ejemplo, en el ámbito sancionador la administración se vale de la inteligencia artificial para mejorar y optimizar la prevención, detección y prueba de las infracciones.
Lo anterior se logra gracias al uso del
Ahora bien, existen distintos tipos de algoritmos de aprendizaje automático, siendo los principales:
También conocido como el conjunto de entrenamiento
En el aprendizaje no supervisado, no se cuenta con una variable de respuesta por lo que el algoritmo se enfoca en analizar y agrupar datos que no están etiquetados. Su objetivo principal es identificar patrones y estructuras dentro de los datos, permitiendo describir cómo se organizan y se agrupan (
El aprendizaje automático por refuerzo es un enfoque en el que el algoritmo mejora sus habilidades a partir de su propia experiencia, siguiendo el principio de aprender a través de la interacción con su entorno, este método se basa en el proceso de ensayo y error donde la máquina ajusta sus acciones mediante recompensas y castigos, buscando maximizar las recompensas y evitar las penalizaciones, de esta manera, la máquina aprende a tomar decisiones que le proporcionen resultados favorables, mientras evita aquellas que resultan en consecuencias negativas. Este proceso se asemeja al aprendizaje en los seres vivos, ya que las máquinas toman decisiones en función de la situación en la que se encuentran, adaptándose según lo aprendido.
Las administraciones de justicia en América Latina incluida la colombiana, han optado durante los últimos años por implementar nuevas tecnologías para la gestión de procesos y automatizar ciertas labores de los jueces ahorrándoles tiempo que pueden invertir en otras tareas más complejas lo cual hace que en principio se persiga lo estipulado en los artículos 2°; 209°; 256°, numeral 4°; 268°, numeral 2°; 277°, numeral 5°; 343°, y 365° de la Constitución Política de Colombia, relativos al control de gestión y resultados encaminados a satisfacer los principios de eficacia y eficiencia.
En palabras de la Corte Constitucional, el primer principio se traduce en los deberes constitucionales positivos, donde se concreta el valor superior de la igualdad derivado directamente de la nota o atributo de socialidad del Estado, por su parte, el segundo principio atañe a la máxima racionalidad de la relación costos-beneficios que enmarca el deber que tiene la administración pública de maximizar el rendimiento o los resultados con costos menores, exigiéndole una planificación rigurosa para satisfacer las necesidades prioritarias de la comunidad sin el despilfarro del gasto público. (CC, C-826/13, 2013)
Así las cosas con la adopción de una justicia predictiva, se espera que a través de la creación de bases de datos que engloben normas, leyes, decretos, jurisprudencia, etc., se nutra a un algoritmo que sea capaz de anticipar posibles resultados legales ante determinada problemática planteada, de esta manera el rol de la inteligencia artificial y los algoritmos predictivos aplicados a la administración pública consiste principalmente en un papel de apoyo utilizando técnicas de
El uso de la inteligencia artificial en el ámbito del derecho penal ha modificado la manera de cómo se llevan a cabo las investigaciones de delitos el establecimiento de la política criminal y el trámite de los asuntos legales, haciéndolos más eficientes y objetivos, algunos de los aspectos relevantes incluyen la automatización de procedimientos, el análisis predictivo los desafíos éticos y legales, la responsabilidad jurídica y la protección de los derechos fundamentales. Esto aliviana las cargas de un sistema penal sobrecargado y/o saturado que acude a la inteligencia artificial para hacer más breve y eficiente la organización de datos claves sobre riesgos y necesidades que demanda la justicia criminal.
De igual forma el apoyo judicial que brindan estos algoritmos a la actividad penal se ve reflejado en la automatización de información en tiempo real que sirve para alertar cuáles son las áreas en las que deben desplegarse operativos policiales (
Otro software con características similares es
Ahora bien, en el marco del proceso penal se hace uso de los algoritmos predictivos de riesgo son modelos matemáticos diseñados para automatizar la predicción del comportamiento de un individuo, utilizando un puntaje (score) que determina su nivel de riesgo, estos algoritmos se emplean en diversos procesos de toma de decisiones como en la aplicación de medidas cautelares (Roa et al., 2020). Su objetivo es identificar patrones en los datos para prever el comportamiento futuro de una persona en relación con el riesgo, lo que puede tener un impacto considerable en el sistema judicial y en las decisiones relacionadas con la seguridad pública.
Otro uso que se les da a este tipo de algoritmos es a la hora de valorar el grado de riesgo de reincidencia del sujeto, en Estados Unidos los sistemas más utilizados son el COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) y PSA (Public Safety Assessment) que en teoría ayudan al juez a determinar cuál es el nivel de reincidencia delictiva de un preso a la hora de concederle la libertad condicional y permisos o beneficios penitenciarios. La reincidencia delictiva es un indicador crucial de la eficacia del sistema de justicia criminal, y su reducción contribuye significativamente a la convivencia social. Evaluar la reincidencia delictiva de un individuo es una tarea compleja y requiere un enfoque cuidadoso ya que no solo depende de la historia delictiva del reo, sino también de factores psicopatológicos y sociales. Por ejemplo, el consumo problemático de alcohol y drogas, el control de impulsos y la participación en programas de reinserción laboral son factores significativos asociados a la reincidencia.
Para este tipo de labores, el juez se vale de algoritmos predictivos como el algoritmo COMPAS, que es ampliamente utilizado en la justicia criminal para informar y proponer decisiones sobre la supervisión y gestión de casos de delincuentes. Dicho algoritmo se desarrolla bajo un enfoque dinámico que incluye los factores de riesgo están diseñados para asistir en la intervención correccional, con el objetivo de reducir la probabilidad de reincidencia de los infractores (Northpointe, 2009).
A su vez, este software genera unas escalas de necesidad, las cuales no pretenden ser predictivas, sino que apuntan de manera simple y precisa a describir las necesidades de un delincuente en dimensiones relevantes para la práctica correccional. Por su lado, el software PSA (Public Safety Assessment) permite establecer si un acusado recientemente arrestado puede (I) no comparecer ante el tribunal antes del juicio, (II) ser arrestado mientras se encuentra en libertad preventiva y (III) ser arrestado
Su funcionamiento se basa en la extracción de información manual o automática de bases de datos de antecedentes penales estatales y nacionales del arrestado, donde influyen variables como: la edad en el momento del arresto, comisión de delito violento, comisión de delito violento de 20 años o menos, cargo pendiente en el momento del arresto, condena previa por delito menor, condena previa por delito grave, condena violenta previa, falta de comparencia previa en los últimos 2 años, y sentencia previa a prisión.
Dependiendo del resultado que se obtenga luego de la ponderación de estos factores y de la evaluación de los mismos se generarán dos escalas separadas que van del 1 al 6, indicando las puntaciones más bajas una mayor probabilidad de éxito previo al juicio (APRR, 2020). En el contexto colombiano, estas tecnologías disruptivas han sido adoptadas de manera significativa por la fiscalía general de la Nación, este organismo es el encargado de investigar y presentar acusaciones ante los juzgados y tribunales competentes contra aquellas personas que se presumen responsables de delitos que vulneran derechos fundamentales, como la vida, la seguridad o los bienes ajenos.
El uso más común que se les da a estos algoritmos predictivos es al momento de evaluar si es procedente o no la imposición de una medida de aseguramiento a un imputado. Pese a que ésta es una labor exclusiva del juez, estos softwares proporcionan información clave para que el mismo pueda tener otra perspectiva y ajustar su criterio. Un ejemplo de este tipo de software es el conocido
Este software lo desarrolló la empresa estadounidense IBM y básicamente consiste en un sistema informático de preguntas y búsquedas de respuestas
Dentro de los casos más exitosos en Colombia se encuentra la captura del abusador sexual Walter Matiz Ramírez, que fue soldado del Ejército y se aprovechaba de su cargo para acercarse a sus víctimas y abusar sexualmente de ellas. Gracias a este software se logró hallar patrones que coincidían como el
Ahora bien, el software
El derecho disciplinario es crucial para impartir justicia y asegurar que los procesos seguidos contra funcionarios judiciales, jueces, fiscales y particulares investidos transitoriamente de la atribución de administrar justicia se ciñan a los postulados del debido proceso, rectitud, transparencia, eficacia, eficiencia y moralidad. Es precisamente en este ámbito que los sistemas de inteligencia artificial contribuyen para fortalecer la imparcialidad e igualdad en el trámite de los asuntos al promover la protección de datos, reducir sesgos, garantizar la aplicabilidad de los algoritmos y fomentar la rendición de cuentas en su uso.
Uno de los casos donde ha tenido mayor aumento es en la detección y prevención de infracciones a deberes constitucionales por parte de los servidores públicos. La inteligencia artificial puede ser empleada para analizar documentos y registros electrónicos en busca de posibles infracciones, identificar rápidamente información confidencial o relacionada con posibles irregularidades, y detectar malas prácticas en el trabajo como el incumplimiento de horarios laborales, errores en la gestión de empleados, o fallos en la documentación de contratos.
Igualmente, el uso de softwares inteligentes ayudaría a la descongestión de despachos disciplinarios como la Comisión Nacional de Disciplina Judicial, Procuraduría General de la Nación, Personerías, Oficinas Internas de Control Disciplinario, etc. en la detección de quejas temerarias, infundadas y anónimas que generan un desgate a la administración de justicia.
Dentro de las quejas anteriormente mencionadas, la queja temeraria es la más repetitiva, esta se caracteriza por narrar hechos que carecen de fundamento legal o tienen el propósito de perjudicar a la otra parte involucrada. Este acto desleal puede ser sancionado con multas o condenas en costas dependiendo de la evaluación del juez sobre la conducta. Para abordar este tipo de situaciones, se han utilizado herramientas que emplean técnicas de procesamiento del lenguaje natural (PLN) y aprendizaje automático, estos sistemas almacenan tanto las palabras como las estructuras en que se combinan, tratándolas como datos, y luego las procesan según reglas gramaticales y patrones lingüísticos comunes en la vida cotidiana con el fin de identificar patrones y prever posibles respuestas o soluciones al caso planteado.
Un ejemplo de una herramienta con estas características es
Esta herramienta informática que fue desarrollada por un equipo nacional de investigadores en el que participó la Universidad Complutense de Madrid (UCM), Universidad de Cardiff y la Universidad Carlos III de Madrid, es usada por la policía nacional no sólo para identificar posibles denuncias falsas, sino también para disuadir a las personas de presentar tales declaraciones y optimizar el uso de recursos policiales. Por otro lado, el abogado Raúl Fabián Endo Lara menciona que la inteligencia artificial puede cambiar nuestro sistema procesal colombiano en especial lo concerniente al proceso disciplinario porque mediante algoritmos operacionales se podrían adecuar las tres categorías de responsabilidad disciplinaria la tipicidad, la ilicitud sustancial y la culpabilidad (Endo, 2021).
Lo anterior debido al uso de
Dentro de este ámbito se puede tomar de ejemplo a la Contraloría General de la República de Colombia (CGR), como máximo órgano de control fiscal es la encargada de vigilar el buen uso de los recursos, fondos y bienes públicos de la Nación en representación de la comunidad, contribuyendo a la eficiencia y transparencia en la gestión fiscal del Estado. Este órgano autónomo e independiente establece la responsabilidad fiscal de los agentes que administran recursos públicos e impone sanciones, entre otras funciones. Desde hace algunos años ha optado por implementar las recomendaciones propuestas en los objetivos de Gobierno y Gestión TI que tienen como fin garantizar la eficiencia, la alineación estratégica, la entrega de valor y el apoyo al desarrollo sectorial mediante el uso efectivo de las Tecnologías de Información en el Estado Colombiano.
Esta iniciativa de estar a la vanguardia con los avances tecnológicos emergentes en la sociedad hizo que la CGR en su Plan estratégico para el periodo constitucional 2018-2022 propusiera la implementación de herramientas tecnológicas que permitieran capturar, organizar y tabular información micro y macro para la toma de decisiones a través de un centro integrado de información que usa tecnologías disruptivas como
Con la implementación de estas tecnologías disruptivas, la CGR hace más ágil sus procesos fiscales, detecta posibles irregularidades en las declaraciones de bienes de los funcionarios públicos y tiene un apoyo para la emisión de fallos. Pero, sin duda alguna, uno de los aportes más significativos de la inteligencia artificial a este ámbito del derecho sancionador tiene que ver con el apoyo en la lucha contra la corrupción, ya que mediante la modernización institucional y el uso de la inteligencia artificial se pueden analizar grandes volúmenes de datos para identificar patrones y comportamientos sospechosos lo que ayuda a la CGR en su labor de control y vigilancia sobre la gestión fiscal de la administración pública y de los particulares o entidades que manejen fondos o bienes públicos.
Por lo anterior, la CGR a finales del 2018 marcó un precedente histórico con la adopción del software OCÉANO, definido por
Este software se caracteriza porque a través del análisis de datos de fuentes internas como SIRECI, que brinda información de contratación a nivel nacional, y externas, como SECOP II, SIA Observa y SIVICOF que proporcionan información sobre contratación a nivel nacional, territorial y distrital logra determinar mediante el uso de herramientas tecnológicas de minería analítica de datos e inteligencia artificial posibles casos de corrupción en el país (CGR,2019).
Tal es la magnitud del uso de este software que en la actualidad se han podido verificar más de $600.000 millones en hallazgos fiscales y, a partir de ahí, la apertura de los respectivos procesos de responsabilidad fiscal (
A manera de ejemplo se trae el caso de Hidro Ituango donde la CGR utilizo inteligencia artificial para emitir el fallo con responsabilidad fiscal de primera instancia por $ 4,3 billones de pesos a título de culpa grave contra 26 funcionarios y contratistas del Estado. En este proceso, la inteligencia artificial evaluó 3 millones de registros en cuatro días, lo que generó varios cuestionamientos por el uso de tecnologías disruptivas para el control fiscal.
Al respecto, la Auditoría General, entidad que vigila a la Contraloría General, se pronunció diciendo que se trató de un proceso seguro, en el cual dichos hallazgos se encontraron a partir del cruce de distintas fuentes que identificaron patrones, parámetros, reconocimiento óptico de caracteres, datos estructurados y no estructurados, y la identificación de documentos relevantes entre otros que aportaron como insumo al proceso auditor información confiable, cronológica y verificable (
El periodo constitucional pasado abrió un nuevo horizonte en el uso de inteligencia artificial, el cual deben perseguir todos los órganos de control fiscal debido al gran análisis y procesamiento de enormes cantidades de datos en una fracción de tiempo. Labor inalcanzable para los seres humanos y necesaria en cuanto que permite una detección preventiva del fraude y la minimización de la posibilidad de su incursión.
En el periodo 2022-2026, la Contraloría General de la República (CGR) adopta el lema "Una Contraloría con independencia para el cambio", lo que incluye nuevamente el uso, perfeccionamiento e implementación de nuevas tecnologías. Esto se refleja en su objetivo estratégico N° 5 cuyo propósito es desarrollar y fortalecer las capacidades para la transformación digital y mejorar la transparencia en el acceso a la información, basándose en la innovación y la mejora continua de los procesos y servicios, con miras al posicionamiento institucional en su próximo centenario. Este objetivo se desglosa en diversas estrategias, entre las cuales los puntos 5.6 y 5.7 se enfocan en (I) fortalecer la analítica avanzada mediante la aplicación de nuevas tecnologías para el análisis de datos, lo que contribuirá a la toma de decisiones y al fortalecimiento de la vigilancia y el control fiscal, y (II) implementar herramientas tecnológicas y actividades innovadoras para aumentar la visibilidad y el posicionamiento de la CGR en las diferentes regiones del país. (CGR, 2022).
Los cambios tecnológicos presentados en los últimos años dan razón del avance que la humanidad ha venido gestando durante décadas, lo cual ha permitido que tareas que tomaban horas, hoy, simplemente mediante el uso de robots o de inteligencia artificial (IA), requieran minutos o incluso segundos. En la actualidad nos encontramos en la cuarta etapa industrial "la industria 4.0" más importante desde el inicio de la revolución industrial en el siglo XVIII. Klaus Schwab explicó en el Foro Económico Mundial de 2016 que la industria 4.0 se caracteriza por incluir avances novedosos en la: robótica, inteligencia artificial, cadena de bloques, nanotecnología, computación cuántica, biotecnología, internet de las cosas, impresión 3D, y vehículos autónomos. (
De lo anterior, es fácil colegir que el uso de las tecnologías, más específicamente de la inteligencia artificial, parece ser la solución a muchos de los problemas cotidianos y que incluso en el ámbito del derecho la IA se ha convertido en una herramienta útil que le facilita la vida al funcionario judicial. Sin embargo, no se puede perder de vista que la IA al imitar las redes neuronales del cerebro, con una red neuronal artificial (RNA) busca asemejar el desarrollo cognitivo de un ser humano, lo cual ha permitido que robots sean equipados con Inteligencia General Artificial (IGA), haciéndolos razonar de manera "autónoma". Esto genera una serie de desafíos de distinta índole, siendo los principales en el aspecto ético, normativo y económico.
Durante el desarrollo y creación de distintos programas relacionados con la IA en donde se requiere cierto grado de consciencia o pensamiento ético materialmente cercano al de un operador humano, el objetivo principal de las compañías que buscan desarrollar los mismos es garantizar ese acercamiento ético y, además de ello, la capacidad de discernimiento moral de sus productos tecnológicos teniendo como referente principal la ética y la moralidad "aceptada" por la gran mayoría de seres humanos, participantes activos del constructo social que ejemplifica la simbología y división estructural de los conceptos de bien o mal. Un ejemplo extraordinario de esta aseveración es el programa que lanzo la compañía de Google denominado
"La tecnología de reconocimiento automático de voz (ASR) de Google, el historial de conversaciones, las funciones de audio, los parámetros de conversación (qué servicio se requiere y cuándo) son algunos de los datos que se alimentan a la red neuronal recurrente." (
"La construcción artificial, si está muy bien hecha, parecerá consciente. Pero ¿será consciente o será sólo una simulación? No hay ninguna razón para creer que un mimetismo cercano de la conciencia es lo mismo que la conciencia". (
Partamos de la idea central, para hablar de conciencia individual debemos remitirnos al concepto de conciencia colectiva, pero ¿qué es la conciencia colectiva? No es más que un conjunto de constructos sociales como lo son el sentido de justicia, la moralidad, la sensación de hacer lo correcto y lo incorrecto, y la ética como brújula de guía hacia una búsqueda utópica de un ideal Aristotélico de la felicidad y el bienestar general. Los cuales convergen y se complementan formando una conceptualización global de lo que como sociedad los seres humanos consideramos como adecuado. En esta premisa se basa la ideación psico neuronal de lo que significa precisamente la conciencia colectiva. Ahora bien, derivado de esta colectividad ideal de pensamiento grupal encontramos la conciencia individual la cual se fundamenta en la capacidad que tiene cada persona de adherirse parcial o completamente a estas estructuras sociales establecidas por las masas sociales como "correctas o incorrectas". Es importante la relación que da origen al cuestionamiento entre la ética y la utilización de herramientas de IA de manera global y para diversas disciplinas, como lo son, por ejemplo, el derecho, la economía, las redes sociales, los sistemas bancarios y financieros, sistemas de ciberseguridad, el transporte, la educación, la medicina, entre muchos otros relacionados con cada micro aspecto de nuestra vida diaria. La inteligencia (natural o IA) nos permite obtener cierto grado de poder decisorio sobre situaciones concretas e incluso sobre otros individuos que por cualquier motivo no posean el mismo grado de información y alcance que representan los mismos.
Con respecto a dicha aplicación ética encontramos tres categorías doctrinales que nos sugieren el uso adecuado de la información y establecimiento de la ética en los sistemas de IA. En primer lugar, encontramos los enfoques "de arriba hacia abajo", estos
"llevan a cabo un razonamiento ético basado en teorías éticas o principios morales dados. En los enfoques de arriba hacia abajo, los principios morales y las teorías éticas se utilizan como reglas para seleccionar las acciones éticamente apropiadas". (
Es así como teóricamente se le podría asignar al algoritmo cierto tipo de indicaciones o listado de pasos a seguir para intentar obtener la cuantificación algorítmica en aplicación derivada de la ética. Esto de forma premial permitiría el establecimiento de parámetros éticos relacionados con la justicia y la igualdad en respuesta a la creciente necesidad existente en la toma de decisiones por parte de los sistemas de IA. Adicionalmente se hace necesario puntualizar el hecho de que "no se trata solo acerca de cómo funcionan los sistemas de IA, sino también cómo se entienden y, además de ello, se imaginan lo que fundamentalmente da forma a la gobernanza de la IA" (
En contraposición a esta categoría encontramos la mal llamada "teoría de los enfoques ascendentes" la cual "supone que se puede aprovechar la sabiduría de la multitud como un medio para informar el juicio ético del agente y luego el agente puede aprender a juzgar la moralidad de su acción y así comportarse éticamente" (
En países como EE. UU., España, Australia, China, Japón se ha recurrido al uso de la IA en el campo del derecho mediante programas tecnológicos como: Jurimetría, Tyrant Analytics, vLex Analytics, Juris Data analytics, Case Law Analytics, Lex Machina, ROSS, Luminance, Do not pay, Prometea, etc. Todos ellos tienen algo en común y es que utilizan la inteligencia artificial especialmente el aprendizaje automático y procesamiento de lenguaje natural y
El problema se agudiza aún más cuando se trata de conceptualizar la personalidad de estos softwares debido a la poca regulación normativa que existe sobre el tema. La IA al ser una tecnología disruptiva genera riesgos en áreas como el derecho a la hora de analizar un caso y emitir una solución, ya que debería ir implícita la ética que todo funcionario que administre justicia debería tener, lo cual deja un vacío normativo sobre la responsabilidad que se generaría si la IA aprendiera conductas por sí sola o tomara decisiones de manera automática o auto aprendida.
La Real Academia Española define la personalidad jurídica como la capacidad para ser titular de derechos y obligaciones, así como el reconocimiento de la capacidad jurídica y de obrar, una cualidad que corresponde tanto a personas físicas como jurídicas. Por su parte, autores como
Por su parte, la Corte Constitucional de Colombia en la sentencia T-092 de 2015 define la personalidad jurídica como un "derecho fundamental que otorga a los seres humanos y a algunas entidades jurídicas la capacidad de individualizarse como sujetos de derechos y obligaciones, permitiéndoles ejercer los llamados atributos de la personalidad". (p. 27).
Como corolario de lo anterior se debe señalar que los ordenamientos jurídicos solo le atribuyen personalidad jurídica en primera medida a la "persona" sea física o jurídica, lo cual excluye por completo a la inteligencia artificial o a los robots de entrar en esta categoría. Para algunos sistemas jurídicos, el término de persona puede ser definido como:
Por ende, los software y robots que están equipados con inteligencia artificial podrían acarrear ciertos riesgos, los cuales debe visualizar el derecho desde un primer momento para regular vía normativa su uso dentro de los sistemas judiciales, esto debido a que en un futuro próximo se convertirán en la corriente principal de la sociedad.
Ante tal problemática, el Parlamento Europeo expidió la Resolución de 16 de febrero de 2017 (2015/2013(INL)) con recomendaciones destinadas a la Comisión en torno a normas de derecho civil sobre robótica donde pone de presente que al no existir categoría jurídica existente que encuadre a los robots y software con IA se les incluya en una nueva categoría denominada "persona electrónica" (Parlamento Europeo, 2017).
Dentro de las recomendaciones planteadas por el Parlamento resalta la del literal (f) la cual busca que se cree a largo plazo una personalidad jurídica específica para los robots, de forma que, como mínimo, los robots autónomos más complejos puedan ser considerados personas electrónicas responsables de reparar los daños que puedan causar (...).
Con esta nueva regulación, menciona
La llegada de la inteligencia artificial al ámbito laboral ha causado gran revuelo no sólo por ser de gran ayuda en las labores que se ejecutan diariamente, sino también por los despidos que las empresas implementan por el uso de estas nuevas tecnologías. En el artículo
En esa misma línea, el informe
Lo anterior demuestra, que las relaciones laborales están cambiando y con la aparición de este nuevo "actor" se automatizarán muchos trabajos en los cuales no sólo se prescindirá de las extremidades de los trabajadores, al sustituir el brazo humano por el brazo robótico, sino también de su cerebro (
Dentro de los casos más particulares en el derecho laboral se encuentran;
El hotel Management S.L en las Islas Canarias sustituye a una trabajadora que laboraba desde el año 2006 por la implementación de la licencia de Jidoka, un
El Juzgado de lo Social número 10 de Las Palmas de Gran Canaria en la sentencia 470/2019 declaró improcedente el despido de una trabajadora administrativa al considerar que la automatización de procesos mediante bots o robots, bajo el pretexto de reducir costos, equivalía a una reducción del derecho al trabajo para aumentar la libertad de la empresa. Además, el tribunal advirtió que, si la trabajadora no era readmitida en un plazo de cinco días desde la notificación de la sentencia, la indemnización ascendería a 28.305 euros, lo que correspondía a 33 días de salario por cada año trabajado, con un máximo de 24 mensualidades.
La empresa Xsolla despidió a 150 de sus 500 empleados, lo que representa el 30% de la plantilla, basándose en las decisiones de una máquina con inteligencia artificial que los calificó como improductivos. Este despido se realizó sin consultar a los superiores o al departamento de recursos humanos, que generalmente tienen un papel fundamental en los procesos de contratación y despido (
La empresa manufacturera Foxconn ha despedido a más de 4 millones de trabajadores en los últimos 10 años para reemplazarlos por robots que son más ágilesy productivos, cifra que resulta significativa al considerar que en el año 2011 Fox-conn tenía contratados a 1.200.000 empleados.
La empresa BuzzFeed despidió al 12% de su personal tras implementar la inteligencia artificial de ChatGPT para generar cuestionarios y personalizar contenido dirigido a sus lectores. Según un informe de
Ahora bien, aunque parezca más rentable sustituir la mano de obra humana por softwares especializados, se deben tener en cuenta dos elementos claves a la hora de un despido: la libertad de empresa y el derecho al trabajo, pero por encima de ellos se encuentra el interés público en el mantenimiento del empleo. En un Estado social de derecho, acogido por muchos países del mundo, se les da una serie de garantías a las personas para la salvaguarda de sus derechos, por ende, despedir a un trabajador por asuntos meramente "técnicos" al implementar un "bot" por reducir costes y aumentar la productividad, no es procedente.
Por lo tanto, no resulta justo que en situaciones donde la automatización reemplaza a los trabajadores en sus funciones, e incluso llega a desplazar a una gran parte de la fuerza laboral del mercado debido a la competitividad empresarial, la empresa pueda recurrir a una modalidad de despido privilegiada que implique una indemnización inferior a la habitual. (Juzgado de lo Social N° 10 de Las Palmas de Gran Canaria y su provincia, 2019).
En la abundancia de los avances tecnológicos se refleja la productividad y crecimiento de la humanidad en relación con nuestra instancia habitable en este planeta. Es por ello que "En los últimos años se han tomado varias iniciativas para comprender mejor los riesgos del despliegue de IA y proponer marcos lega
les, códigos de conducta, y metodologías de diseño basadas en valores". (
Con anterioridad mencionamos las diversas aplicaciones de la IA en los distintos campos del saber, así como la utilización de estos sistemas para garantizar su aplicación y regulación en la vida diaria de nosotros los seres humanos. Remitiéndonos entonces al campo especifico del Derecho podemos encontrar que "La tecnología es una herramienta fructífera y eficiente para la solución de distintos problemas en el derecho. La tecnología disponible, afecta los modos de pensamiento y expresión y crea un marco antropológico de cognición y comunicación dentro del cual se desenvuelve el derecho" (
Ahora bien, con relación a la injerencia que tienen los sistemas de la IA conceptualizados a través de herramientas útiles que de forma auxiliar brinden a los sistemas de justicia y a los administradores de los mismos diversas posibilidades de procesamiento, búsqueda y recolección de datos para lograr posteriormente una clase de predicción esquematizada de los motivos y razones por los cuales se presumiría o no que una persona debe ser favorecida en una disputa legal determinada, "el papel de la tecnología de IA en el ámbito judicial debe posicionarse en las herramientas auxiliares de la justicia trabajadores, que está determinada por las limitaciones de la propia tecnología de IA." (
Es decir, la implementación de la inteligencia artificial en el campo del derecho debe ser una herramienta que sirva para la modernización de los sistemas de justicia, pero su papel dentro de los ordenamientos jurídicos debe estar muy bien delimitado debido al ámbito de discrecionalidad judicial que se ve implícito en la toma de decisiones judiciales, la cual sin duda alguna la tiene el juez como el máxime administrador de justicia, perder de vista este precepto seria simplemente poner en riesgo la manera en cómo se crea y se aplica el derecho dentro de la sociedad .
A partir del análisis precedente, logramos observar que, en relación con los conflictos éticos y la aplicación de la IA existen un gran número de situaciones en las cuales se vislumbra de forma clara y expresa los beneficios que tiene la misma en diversos campos que permean profundamente la vida diaria de nosotros los seres humanos. Precisamente, derivado de esta relación estrecha entre IA y cotidianidad surge una dinámica relacional de causa y efecto la cual influye indiscutiblemente en la aplicación y el impacto que tienen estas nuevas tecnologías transformando campos como el académico, la comunicación, la ciencia y el derecho. Es por ello que es fundamental que disciplinas como el derecho logren acoplarse rápidamente a esta influencia tecnológica global y que, sobre todo, establezca regulaciones en temas transcendentales como la igualdad, la equidad, los principios de oportunidad y el acceso equitativo al uso de dichas tecnologías, en aras de garantizar y salvaguardar precisamente los derechos y también deberes que nosotros como ciudadanos ostentamos alrededor de los sistemas de IA.
Es de suma importancia propender por esfuerzos adaptativos que permitan que el proceso de interrelación y asimilación de este tipo de sistemas de IA se dé a lugar de la manera menos traumática y abrupta posible, ya que generalmente los cambios radicales en cuanto a la adherencia tecnológica en ciertos sectores de la sociedad históricamente en su mayoría han estado marcados por capítulos de resistencia, desorganización y sobre todo acumulación de poder en las manos de quienes en un principio tienen la posibilidad de acceder de forma indiscriminada y darse provecho de este tipo de situaciones. Es necesario entonces que emprendamos una campaña que combine la voluntad de establecer vínculos equitativos en cuanto al aprovechamiento tecnológico de estos nuevos escenarios, así como el compromiso y la responsabilidad para garantizar el acceso igualitario para todos los actores involucrados.
Es evidente que la inteligencia artificial ha llegado para quedarse por su capacidad para solucionar problemas cotidianos en pocos segundos, facilitando, por ejemplo, para las empresas y los juzgados la realización de actividades rutinarias. Sin embargo, esta implantación también plantea dilemas éticos, por ejemplo: ¿Será correcto dejar que una máquina administre justicia? ¿Debemos permitir que la inteligencia artificial y sus aplicaciones dejen sin empleo a millones de personas alrededor del mundo?
Lo anterior, es respaldado por los casos de despido que las empresas efectúan por la implementación de la IA para reducir costes y aumentar la productividad de tareas que pueden ser automatizadas, es por ello que los órganos legislativos y estatales deben priorizar la defensa del interés público y la dignidad humana. Como consecuencia de esta discusión ha recomendado el Parlamento Europeo que se debe dar una regulación legal a los softwares en cuanto a su concepción dentro de los ordenamientos jurídicos, planteando la posibilidad de darles una "personalidad electrónica", lo cual NO implica darles derechos similares a los de los humanos, sino regular las interacciones entre máquinas y personas naturales, y proteger de forma privilegiada a la raza humana ante las acciones y decisiones de las IA. De igual manera, ante el riesgo de una posible epidemia de desempleo por la implantación de inteligencias artificiales en diversos ámbitos laborales, el Estado como garante de los derechos de las personas debe asegurarse de que el uso de estos softwares no sea motivo de interés propio del empleador, ya que debe primar el interés público sobre el derecho de libertad de empresa.
De esta forma, se estaría sentando un precedente legal para regular las futuras implantaciones de estas tecnologías para el beneficio de la humanidad y no su perjuicio, ya que el uso de la misma debe jugar un papel de guía o herramienta, dejando la capacidad de fallar sobre los procesos o conflictos jurídicos a los jueces. Esto es así porque el derecho, al ser una ciencia humana, no es un ejercicio puramente lógico en el que a una acción corresponda una reacción específica y predeterminada, sino que, a la hora de resolver los casos, se requiere del raciocinio humano, por ser este el único capaz de reconocer argumentos y razones contradictorias y encontrar una respuesta justa y ética, aunque esta requiera reflexionar sobre los límites y falencias de la ley en sí.
De León, G., Pérez, U. & Oñate, M. (2024). Alcance de la implementación de la inteligencia artificial (IA) en los ordenamientos jurídicos, derecho comparado.
Artículo científico, que surge de la colaboración académica científica entre Docente investigador de la Corporación Universitaria Rafael Núñez y docente de posgrado de las universidades más importantes de la región caribe, igualmente este artículo tuvo la colaboración del estudiante semillerista Daniela Carolina Navarro Espitia