ijeph Interdisciplinary Journal of Epidemiology and Public Health Interdiscipl. J. Epidemiol. Public Health 2665-427X Facultad Ciencias de la Salud, Universidad Libre 10.18041/2665-427X/ijeph.1.11268 Editorial Inteligencia humana para autores, revisores y editores que utilicen inteligencia artificial Human intelligence for authors, reviewers and editors using artificial intelligence 0000-0001-8091-9954 Palacios Gomez Mauricio 1 Editor en jefe de la Revista Colombia Médica, Facultad de salud, Universidad del Valle, Cali, Colombia. Universidad del Valle Revista Colombia Médica Facultad de salud Universidad del Valle Cali Colombia Mauricio Palacios Gomez. Correo: mao.palacios@correounivalle.edu.co 19 03 2024 Jan-Jun 2024 7 1 e-11268 Este es un artículo publicado en acceso abierto bajo una licencia Creative Commons

Editorial publicada con permiso del editor de la revista Colombia Medica. Publicada previamente en https://colombiamedica.univalle.edu.co/index.php/comedica/article/view/5867. Los dos últimos párrafos fueron modificado para hacer la editorial más generica

Le llamamos inteligencia artificial a cualquier máquina que procese información con algún propósito, cumpliendo las reglas lógicas de la computación de Turing descritas hace más de 70 años 1. Estas máquinas funcionan con instrucciones llamadas algoritmos, que son una secuencia finita y bien definida de procesamiento de información que se implementan mediante autómatas (computadoras) o cualquier tecnología digital con el propósito de optimizar un proceso 2. Esto quiere decir que el fin de la inteligencia artificial es la optimización.

La optimización es la capacidad de hacer o resolver alguna cosa de la manera más eficiente posible y, en el mejor de los casos, utilizando la menor cantidad de recursos. La optimización que se pretende obtener es programada y preestablecida por humanos; por lo tanto, estas tecnologías son herramientas creadas por humanos para propósitos humanos 3.

La capacidad de optimización de la inteligencia artificial es asombrosa. Se estima que el uso de la inteligencia artificial facilitará alcanzar 134, de las 169 metas acordadas en la Agenda 2030 para el Desarrollo Sostenible 4. Sin embargo, en esta evaluación se proyectó que podría afectar negativamente el avance de 59 metas del mismo acuerdo; siendo, la desigualdad social, económica, educativa, legal y de género, el fenómeno que más se afecta por la inteligencia artificial.

Esta proyección nos muestra que es necesario un contrapeso al desarrollo y la implementación de procesos mediados con inteligencia artificial, que mantenga la reflexión y cuestione la influencia de estas herramientas tecnológicas, y, sobre todo, que esté basado en inteligencia humana. Una definición de inteligencia humana, en el entorno de la ciencia de datos e inteligencia artificial, sería como una colección de conocimientos tácitos contextuales sobre los valores humanos, la responsabilidad, la empatía, la intuición o el cuidado de otro ser vivo que no pueden describirse ni ejecutarse fácilmente mediante algoritmos 5.

Mejorar las capacidades de atención de los sistemas de salud, tener diagnósticos con mayor exactitud, lograr la optimización de los tratamientos médicos y la generación de medidas de salud pública más eficientes y adecuadas, son las promesas de los avances de la Inteligencia artificial. La Organización Mundial de la Salud reconoce esas expectativas, pero advierte la necesidad de garantizar la transparencia, la explicación y la comprensión de cada aplicación basada en inteligencia artificial implementada a la salud, con evaluación permanente, que asegure la equidad y la inclusión, y que sea sostenible 6.

Para las revistas científicas del área de la salud la inteligencia artificial ya hace parte de las investigaciones que sustentan los manuscritos sometidos al proceso editorial; y afortunadamente, contamos con guías para que los autores presenten sus manuscritos de forma completa; estas permiten que la evaluación de los pares, y el juicio de los editores puedan decidir mejor su publicación. Hasta ahora, la página web de Equator Network ha publicado doce pautas para los manuscritos de investigaciones basadas en inteligencia artificial; y en todas ellas, la preocupación por la trasparencia acerca de la población de la cual se adquirieron los datos, el diseño y el desarrollo del algoritmo, la capacitación del modelo; y la validez externa de los procesos optimizados están presentes (Tabla 1).

Pautas para los manuscritos de investigaciones basados en IA publicados en <italic>Equator Network</italic>
Guía Nombre Año
PRIME Aprendizaje automático relacionado con las evaluaciones de imágenes cardiovasculares 2020 10
MI-CLAIM Modelos clínicos de inteligencia artificial 2020 11
La inteligencia artificial en la investigación odontológica 2021 12
SPIRIT-AI Directrices sobre protocolos de ensayos clínicos para intervenciones con inteligencia artificial 2020 13
CONSORT-AI Directrices para la elaboración de informes de ensayos clínicos sobre intervenciones con inteligencia artificial 2020 14
MINIMAR Normas de información para la inteligencia artificial en la atención sanitaria 2020 15
CAIR Directriz de investigación clínica sobre inteligencia artificial 2021 16
CLEAR Evaluación de la investigación radiómica 2023 17
Informes de análisis de aprendizaje automático en investigación clínica 2020 18
CLAIM Lista de comprobación para la inteligencia artificial en el tratamiento de imágenes médicas 2020 19
DECIDE-AI Guía para la evaluación clínica inicial de sistemas de apoyo a la toma de decisiones basados en inteligencia artificial 2022 20
STREAM-URO Informes sobre aplicaciones de aprendizaje automático en urología 2021 21

Sin embargo, la escritura y el proceso editorial no cuentan con las mismas guías. Los autores, pares evaluadores y editores se sorprenden con los algoritmos que prometen eficiencia en su labor. Esa fascinación nos lleva al riesgo de una confianza absoluta en la inteligencia artificial que se le conoce como: algoritmocracia, es decir, un gobierno donde los humanos y las máquinas obedecen a los algoritmos 2.

Tenemos indicios de que los algoritmos no son ideales en la edición científica. Llevamos años cuestionando el uso de los algoritmos con los cuales los índices bibliométricos clasifican (¿o descalifican?) las revistas científicas; pero, aceptamos que los entes supervisores de la investigación los consideran el patrón de oro para medir la productividad científica. Los autores acuden a herramientas de escritura de inteligencia artificial con frecuencia, como ChatGPT, Bard y Bing, con poca reflexión acerca de las limitaciones y que pueden generar errores fácticos y de razonamiento en la escritura científica 7. Los editores pueden erróneamente aceptar porcentaje de similitud que emiten los algoritmos anti-plagio como regla en la evaluación de originalidad de un manuscrito, reemplazando completamente el juicio de experto. Siempre que se acuda a la optimización mediante inteligencia artificial se debe recordar que la tecnología no cambia la sociedad, es la inteligencia humana quien define la creación de aplicaciones, el uso y cómo afecta a la sociedad. Lo contrario es aceptar las tesis del determinismo tecnológico, y aunque no nos va a conducir a un futuro apocalíptico como el que propone Skynet de la saga Terminator, sí afectará la igualdad, la verdad y la originalidad de la ciencia 8.

La pauta editorial de las revistas deberían aceptar el uso de la inteligencia artificial en las investigaciones, como también la adhesión de los autores a las guías de publicación de investigaciones basadas en inteligencia artificial disponibles en la página web de Equator Network y estas deberían ser una norma para las revistas.

Adicionalmente, las revistas que invocan el ICMJE (Comité Internacional de Editores de Revistas Médicas) y la WAME (Asociación Mundial de Editores Médicos) para ajustar los procesos éticos, flujo editorial y la guía de autores de las publicaciones, también debería acoger las recomendaciones acerca de la definición de autoría y el uso de programas de inteligencia artificial para la elaboración y revisión de manuscritos sometidos a las revistas 9. Estas recomendaciones, que son explicadas en un artículo reproducido de la WAME, son:

No se aceptan autores no humanos.

Los autores deben ser transparentes cuando utilizan chatbots y deben proporcionar información sobre cómo se utilizaron.

Los autores son responsables de la información producida con un chatbot en su artículo (incluida la exactitud y la ausencia de plagio) y de la atribución adecuada de todas las fuentes.

Los revisores y editores deben advertir a los autores si utilizaron chatbots en la evaluación del manuscrito y la generación de las revisiones y la correspondencia. También, deben explicar cómo los utilizaron.

Los editores necesitan herramientas adecuadas que les ayuden a detectar contenido generado o alterado por la Inteligencia Artificial por el bien de la ciencia y del público, y para ayudar a garantizar la integridad de la información sanitaria y reducir el riesgo de resultados adversos para la salud.

Colofón: ¿Si la inteligencia artificial optimiza nuestro trabajo, por qué tenemos menos tiempo libre?

Referencias 1. Danziger S. Intelligence as a social concept: a socio-technological interpretation of the turing test. Philos Technol. 2022; 35(3): 1-26. Doi: 10.1007/s13347-022-00561-z Danziger S Intelligence as a social concept a socio-technological interpretation of the turing test Philos Technol 2022 35 3 1 26 10.1007/s13347-022-00561-z 2. Astobiza AM. Ética algorítmica: Implicaciones éticas de una sociedad cada vez más gobernada por algoritmos. Dilemata. 2017; (24): 185-217. Astobiza AM Ética algorítmica Implicaciones éticas de una sociedad cada vez más gobernada por algoritmos Dilemata 2017 24 185 217 3. Hanna R, Kazim E. Philosophical foundations for digital ethics and AI Ethics: a dignitarian approach. AI Ethics. 2021; 1(4): 405-23. Doi: 10.1007/s43681-021-00040-9 Hanna R Kazim E Philosophical foundations for digital ethics and AI Ethics a dignitarian approach AI Ethics 2021 1 4 405 423 10.1007/s43681-021-00040-9 4. Vinuesa R, Azizpour H, Leite I, Balaam M, Dignum V, Domisch S, et al. The role of artificial intelligence in achieving the Sustainable Development Goals. Nat Commun. 2020; 11(1): 233. Doi: 10.1038/s41467-019-14108-y Vinuesa R Azizpour H Leite I Balaam M Dignum V Domisch S The role of artificial intelligence in achieving the Sustainable Development Goals Nat Commun 2020 11 1 233 233 10.1038/s41467-019-14108-y 5. Özdemir V. Not all intelligence is artificial: data science, automation, and AI meet HI. OMICS. 2019; 23(2): 67-9. Doi: 10.1089/omi.2019.0003 Özdemir V Not all intelligence is artificial data science, automation, and AI meet HI OMICS 2019 23 2 67 69 10.1089/omi.2019.0003 6. WHO. Ethics and governance of artificial intelligence for health: WHO guidance. Geneve: World Health Organization; 2021. Cited 2023 Sep 29. Available from: http://apps.who.int/bookorders WHO Ethics and governance of artificial intelligence for health: WHO guidance 2021 Geneve World Health Organization 2023 Sep 29 Available from: http://apps.who.int/bookorders 7. Herbold S, Hautli-Janisz A, Heuer U, Kikteva Z, Trautsch A. A large-scale comparison of human-written versus ChatGPT-generated essays. Sci Rep. 2023; 13(1): 18617. Doi: 10.1038/s41598-023-45644-9 Herbold S Hautli-Janisz A Heuer U Kikteva Z Trautsch A A large-scale comparison of human-written versus ChatGPT-generated essays Sci Rep 2023 13 1 18617 18617 10.1038/s41598-023-45644-9 8. Kar P. Technology and the NHS-a world of false promises? BMJ. 2019; 367: l6135. Doi: 10.1136/bmj.l6135 Kar P Technology and the NHS-a world of false promises BMJ 2019 367 l6135 l6135 10.1136/bmj.l6135 9. Zielinski C, Winker M, Aggarwal R, Ferris LE, Heinermann M, Lapeña JF, et al. Chatbots, generative AI, and scholarly manuscripts. WAME. Cited 2023 Sep 29. Available from: https://wame.org/page3.php?id=106 Zielinski C Winker M Aggarwal R Ferris LE Heinermann M Lapeña JF Chatbots, generative AI, and scholarly manuscripts WAME 2023 Sep 30 Available from: https://wame.org/page3.php?id=106 10. Sengupta PP, Shrestha S, Berthon B, Messas E, Donal E, Tison GH, et al. Proposed requirements for cardiovascular imaging-related machine learning evaluation (PRIME): A checklist: reviewed by the American College of Cardiology Healthcare Innovation Council. JACC Cardiovasc Imaging. 2020; 13(9): 2017. Doi: 10.1016/j.jcmg.2020.07.015 Sengupta PP Shrestha S Berthon B Messas E Donal E Tison GH Proposed requirements for cardiovascular imaging-related machine learning evaluation (PRIME) A checklist: reviewed by the American College of Cardiology Healthcare Innovation Council JACC Cardiovasc Imaging 2020 13 9 2017 2017 10.1016/j.jcmg.2020.07.015 11. Norgeot B, Quer G, Beaulieu-Jones BK, Torkamani A, Dias R, Gianfrancesco M, et al. Minimum information about clinical artificial intelligence modeling: the MI-CLAIM checklist. Nat Med. 2020; 26(9): 1320. Doi: 10.1038/s41591-020-1041-y Norgeot B Quer G Beaulieu-Jones BK Torkamani A Dias R Gianfrancesco M Minimum information about clinical artificial intelligence modeling the MI-CLAIM checklist Nat Med 2020 26 9 1320 1320 10.1038/s41591-020-1041-y 12. Schwendicke F, Singh T, Lee JH, Gaudin R, Chaurasia A, Wiegand T, et al. Artificial intelligence in dental research: Checklist for authors, reviewers, readers. J Dent. 2021;107: 103610. Doi: 10.1016/j.jdent.2021.103610 PMid:33631303 Schwendicke F Singh T Lee JH Gaudin R Chaurasia A Wiegand T Artificial intelligence in dental research Checklist for authors, reviewers, readers J Dent 2021 107 103610 103610 10.1016/j.jdent.2021.103610 13. Cruz RS, Liu X, Chan AW, Denniston AK, Calvert MJ, Darzi A, et al. Guidelines for clinical trial protocols for interventions involving artificial intelligence: the SPIRIT-AI extension. Nat Med. 2020; 26(9): 1351-63. Doi: 10.1136/bmj.m3210 PMid:32907797 Cruz RS Liu X Chan AW Denniston AK Calvert MJ Darzi A Guidelines for clinical trial protocols for interventions involving artificial intelligence the SPIRIT-AI extension Nat Med 2020 26 9 1351 1363 10.1136/bmj.m3210 14. Liu X, Rivera SC, Moher D, Calvert MJ, Denniston AK. Reporting guidelines for clinical trial reports for interventions involving artificial intelligence: the CONSORT-AI Extension. BMJ. 2020; 370: m3164. Doi: 10.1136/bmj.m3164 Liu X Rivera SC Moher D Calvert MJ Denniston AK Reporting guidelines for clinical trial reports for interventions involving artificial intelligence the CONSORT-AI Extension BMJ 2020 370 m3164 m3164 10.1136/bmj.m3164 15. Hernandez-Boussard T, Bozkurt S, Ioannidis JPA, Shah NH. MINIMAR (MINimum Information for Medical AI Reporting): Developing reporting standards for artificial intelligence in health care. J Am Med Inform Assoc. 2020; 27(12): 2011. Doi: 10.1093/jamia/ocaa088 PMid:32594179 Hernandez-Boussard T Bozkurt S Ioannidis JPA Shah NH MINIMAR (MINimum Information for Medical AI Reporting) Developing reporting standards for artificial intelligence in health care J Am Med Inform Assoc 2020 27 12 2011 2011 10.1093/jamia/ocaa088 16. Olczak J, Pavlopoulos J, Prijs J, Ijpma FFA, Doornberg JN, Lundström C, et al. Presenting artificial intelligence, deep learning, and machine learning studies to clinicians and healthcare stakeholders: an introductory reference with a guideline and a Clinical AI Research (CAIR) checklist proposal. Acta Orthop. 2021; 92(5): 513. Doi: 10.1080/17453674.2021.1918389 Olczak J Pavlopoulos J Prijs J Ijpma FFA Doornberg JN Lundström C Presenting artificial intelligence, deep learning, and machine learning studies to clinicians and healthcare stakeholders an introductory reference with a guideline and a Clinical AI Research (CAIR) checklist proposal Acta Orthop 2021 92 5 513 513 10.1080/17453674.2021.1918389 17. Kocak B, Baessler B, Bakas S, Cuocolo R, Fedorov A, Maier-Hein L, et al. CheckList for evaluation of radiomics research (CLEAR): a step-by-step reporting guideline for authors and reviewers endorsed by ESR and EuSoMII. Insights Imaging. 2023; 14(1): 20. Doi: 10.1186/s13244-023-01415-8 Kocak B Baessler B Bakas S Cuocolo R Fedorov A Maier-Hein L CheckList for evaluation of radiomics research (CLEAR) a step-by-step reporting guideline for authors and reviewers endorsed by ESR and EuSoMII Insights Imaging 2023 14 1 20 20 10.1186/s13244-023-01415-8 18. Stevens LM, Mortazavi BJ, Deo RC, Curtis L, Kao DP. Recommendations for reporting machine learning analyses in clinical research. Circ Cardiovasc Qual Outcomes. 2020; 13(10): e006556. Doi: 10.1161/CIRCOUTCOMES.120.006556 Stevens LM Mortazavi BJ Deo RC Curtis L Kao DP Recommendations for reporting machine learning analyses in clinical research Circ Cardiovasc Qual Outcomes 2020 13 10 e006556 10.1161/CIRCOUTCOMES.120.006556 19. Mongan J, Moy L, Kahn CE. Checklist for artificial intelligence in medical imaging (CLAIM): A guide for authors and reviewers. Radiol Artif Intell. 2020; 2(2): e200029. Doi: 10.1148/ryai.2020200029 Mongan J Moy L Kahn CE Checklist for artificial intelligence in medical imaging (CLAIM) A guide for authors and reviewers Radiol Artif Intell 2020 2 2 e200029 10.1148/ryai.2020200029 20. Vasey B, Nagendran M, Campbell B, Clifton DA, Collins GS, Denaxas S, et al. Reporting guideline for the early stage clinical evaluation of decision support systems driven by artificial intelligence: DECIDE-AI. BMJ. 2022; 377: e070904. Doi: 10.1136/bmj-2022-070904 Vasey B Nagendran M Campbell B Clifton DA Collins GS Denaxas S Reporting guideline for the early stage clinical evaluation of decision support systems driven by artificial intelligence DECIDE-AI BMJ 2022 377 e070904 10.1136/bmj-2022-070904 21. Kwong JCC, McLoughlin LC, Haider M, Goldenberg MG, Erdman L, Rickard M, et al. Standardized reporting of machine learning applications in urology: The STREAM-URO framework. Eur Urol Focus. 2021; 7(4): 672-82. Doi: 10.1016/j.euf.2021.07.004. Kwong JCC McLoughlin LC Haider M Goldenberg MG Erdman L Rickard M Standardized reporting of machine learning applications in urology The STREAM-URO framework Eur Urol Focus 2021 7 4 672 682 10.1016/j.euf.2021.07.004