Implicaciones éticas y de la privacidad psicológica en el uso de la inteligencia artificial como herramienta de apoyo en la toma de decisiones judiciales

Resumen

El presente estudio cualitativo, con enfoque exploratorio-descriptivo, determina la creciente incorporación de sistemas de inteligencia artificial (IA) para adoptar decisiones judiciales y las consecuencias que dicha implementación acarrea en dos dimensiones (ética y privacidad psicológica de los sujetos) en la inclusión de algoritmos directamente relacionados con decisiones de uno u otro tipo, lo cual supone un hecho que suscita dificultades para salvaguardar terrenos como autodeterminación informativa y protección de datos de carácter personal, sujetos a los procesos cognitivos y afectivos de personas en procesos judiciales u otras temáticas. La privacidad psicológica se analiza desde la visión de los neuroderechos, definidos como la salvaguarda del pensamiento, la afectividad o cualquier proceso mental frente a la capacidad predictiva-clasificadora que tiene la IA. Los resultados muestran que herramientas como Prisma, PretorIA y sistemas de reconocimiento facial, de reciente incorporación al sistema judicial colombiano, presentan debilidades específicas en cuanto a sesgos algorítmicos, opacidad en la forma como se procesa información psicológi- ca, ausencia de marcos regulatorios y similares. El análisis comparado con los trabajos interna- cionales muestra la existencia de los mismos patrones que afectan la privacidad mental, especialmente vinculados a un perfilamiento de la conducta o intenciones de los sujetos sin saberlo ni tener garantizada la debida trans- parencia e información por consentimiento.