Sesgo de género en la inteligencia artificial: “de tal palo, tal astilla”
DOI:
https://doi.org/10.18041/0124-0013/nuevaepoca.57.2021.9107Palabras clave:
Sesgo, género, inteligencia artificial , dato, algoritmoResumen
La inteligencia artificial fue concebida por el ser humano para facilitar tareas de procesamiento y clasificación de datos y dar soluciones rápidas a determinados problemas. No obstante, como su creador, es imperfecta y tiende a repetir patrones que pueden ser discriminatorios. Esta falla en el sistema se debe tanto a su construcción como a la información que la alimenta y, hasta nuestros días, no ha podido ser superada, pese a las diversas soluciones que se han planteado al respecto.
Descargas
Referencias
Almagro Blanco, P. (2018). Caja negra, caja blanca la inteligencia artificial explicable, inteligencia artificial. El mundo que viene. Revista de Occidente. https://www.researchgate.net/publication/328951906_Caja_negra_Caja_blanca_la_inteligencia_artificial_explicable.
Alston, P. (2019). Brief by the United Nations Special Rapporteur on extreme poverty and human rights as amicus Curiae in the case of NJCMc.s. De Staat der Nederlanden (SyRI) before the District Court of The Hague (case number; C/09/550982/HAZA18/388). Disponible en: https://www.ohchr.org/Documents/Issues/Poverty/Amicusfinalversionsigned.pdf.
Asociación para el Progreso de la Dirección. España. (2021). Métodos y técnicas de inteligencia artificial: ¿cuáles son y para qué se usan? Disponible en: https://www.apd.es/tecnicas-de-la-inteligencia-artificial-cuales-son-y-para-que-se-utilizan/#:~:text=15%20t%C3%A9cnicas%20de%20la%20Inteligencia%20Artificial.%20Los%20campos,permitan%20a%20los%20ordenadores%20aprender%20por%20s%C3%AD%20.
Benítez Eyzaguirre, L. (2019). Ética y transparencia para la detección de sesgos algorítmicos de género. Estudios sobre el Mensaje Periodístico, 25(3), pp.1307-1320. Disponible en: https://dx.doi.org/10.5209/esmp.66989
Cognodata. (2019). Programar inteligencia artificial algoritmos y lenguajes. Disponible en: https://www.cognodata.com/blog/programar-inteligencia-artificial-algoritmos-y-lenguajes.
Comisión Europea. (2020a). Libro Blanco. Disponible en: https://ec.europa.eu/info/sites/default/files/commission-white-paper-artificial-intelligence-feb2020_es.pdf
Comisión Europea. (2020b). Una Unión de la igualdad: Estrategia para la Igualdad de Género 2020-2025. Disponible en: https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=CELEX%3A52020DC0152
District Court of The Hague. (2020). NJCMc.s./De Staat der Nederlanden (SyRI), C/09/550982/HAZA18/388). Disponible en: https://uitspraken.rechtspraak.nl/inziendocument?id=ECLI%3ANL%3ARBDHA%3A2020%3A865
Faliero, J. (2021, mayo 18). Inteligencia artificial, sesgo de género algorítmico y violencia de género digital, Instituto de Estudios Judiciales S.C.B.A. Disponible en: https://www.youtube.com/watch?v=c6gfYaxqLmo.
Ferrante, E. (2021). Inteligencia artificial y sesgos algorítmicos ¿Por qué deberían importarnos? Nueva Sociedad, N° 294, julio-agosto, pp.27-36. Disponible en: https://www.nuso.org/articulo/inteligencia-artificial-y-sesgos-algoritmicos/.
Friedler, S., Scheidegger, C. y Venkatasubramanian, S. (2021) The (Im)Possibility of Fairness: Different Value Systems Require Different Mechanisms for Fair Decision Making. Communications of the ACM, Vol. 64, N° 4, pp.136-143. https://cacm.acm.org/magazines/2021/4/251365-the-impossibility-of-fairness/fulltext.
Hao, K. (2019). Auge y caída de las distintas técnicas de IA a lo largo de la historia. MIT Technology Review. Disponible en: https://www.technologyreview.es/s/10907/auge-y-caida-de-las-distintas-tecnicas-de-ia-lo-largo-de-la-historia
KeepCoding. (2022). La inteligencia artificial y los algoritmos. Disponible en: https://keepcoding.io/blog/inteligencia-artificial-y-los-algoritmos/
Lamas, M. (2000). Diferencias de sexo, género y diferencia sexual. Revista Nueva Época, volumen 7, N° 18, enero-abril. Disponible en: https://mediateca.inah.gob.mx/islandora_74/islandora/object/articulo:1058.
Lamas, M. (2012). El género es cultura. Disponible en: http://www.paginaspersonales.unam.mx/app/webroot/files/981/El_genero_es_cultura_Martha_Lamas.pdf.
Macchiavelli, N. (2021). Perspectiva de género en las nuevas tecnologías. El problema de los sesgos. Diario Suplemento Derecho y Tecnología, N° 84. Disponible en: https://dpicuantico.com/sitio/wp-content/uploads/2021/06/Doctrina-Suplemento-Derecho-y-Tecnolog%C3%ADa-07.06.2021-Macchiavelli.pdf
Manes, F. (2020). Sesgos cognitivos: La manera en que pensamos y percibimos el mundo. Disponible en: https://www.diariopopular.com.ar/salud/sesgos-cognitivos-la-manera-que-pensamos-y-percibimos-elmundo-n494497
Manes, F. y Niro, M. (2014). Usar el cerebro. Conocer nuestra mente para vivir mejor. Paidós.
National Geographic España. (2019). Breve historia visual de la inteligencia artificial. Disponible en: https://www.nationalgeographic.com.es/ciencia/breve-historia-visual-inteligencia-artificial_14419
Organización de las Naciones Unidas —ONU—. (2020). Human Development Perspectives Tackling Social Norms. A game changer for gender inequalities. Disponible en: http://hdr.undp.org/sites/default/files/hd_perspectives_gsni.pdf.
Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura—UNESCO—. (2019a). Preliminary study on the ethics of artificial intelligence. Disponible en: https://unesdoc.unesco.org/ark:/48223/pf0000367823.
Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura—UNESCO—. (2019b). Steering AI and Advanced ICTs for Knowledge Societies. Disponible en: https://unesdoc.unesco.org/ark:/48223/pf0000368711.
Prieto, R., Herrera, A., Pérez, J. t Padrón-Godínez, A. (2000, octubre 20), El Modelo Neuronal de Mcculloch y Pitts. Interpretación Comparativa del Modelo. XV Congreso Nacional de Instrumentación, Guadalajara Jalisco-México. Disponible en: https://www.researchgate.net/publication/343141076_EL_MODELO_NEURONAL_DE_McCULLOCH_Y_PITTS_Interpretacion_Comparativa_del_Modelo
Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo. (27 de abril, 2016). Disponible en: https://eur-lex.europa.eu/legal-content/ES/TXT/?qid=1532348683434&uri=CELEX%3A02016R0679-20160504
Rivas, J. y Espinoza, A. (2020). Sesgo de género e inteligencia artificial. Una perspectiva de Derechos Humanos. Estado Diario. Disponible en: https://estadodiario.com/al-aire/sesgo-de-genero-e-inteligencia-artificial-una-perspectiva-de-derechos-humanos/
Sesgo algorítmico. (2022, 21 de enero). En Wikipedia. Disponible en: https://es.wikipedia.org/wiki/Sesgo_algor%C3%ADtmico
The Technolawgist. (2020). Derechos humanos en un mundo de algoritmos: la sentencia histórica que ata en corto la implantación de modelos opacos. Disponible en: https://www.thetechnolawgist.com/2020/02/12/derechos-humanos-en-un-mundo-de-algoritmos-la-sentencia-historica-que-ata-en-corto-la-implantacion-de-modelos-opacos/.
Van Kordelaar, S. (2020). Case Netherlands, District Court of the Hague, 5 February 2020 C-09-550982. Fundamental Rights In Courts and Regulation Proyect. Disponible en: https://www.fricore.eu/db/cases/netherlands-district-court-hague-5-february-2020-c-09-550982.
