ijeph Interdisciplinary Journal of Epidemiology and Public Health Interdiscipl. J. Epidemiol. Public Health 2665-427X Facultad Ciencias de la Salud, Universidad Libre 10.18041/2665-427X/ijeph.1.11268 Editorial Human intelligence for authors, reviewers and editors using artificial intelligence 0000-0001-8091-9954 Palacios Gomez Mauricio 1 Editor en jefe de la Revista Colombia Médica, Facultad de salud, Universidad del Valle, Cali, Colombia. Universidad del Valle Revista Colombia Médica Facultad de salud Universidad del Valle Cali Colombia Mauricio Palacios Gomez. E-mail: mao.palacios@correounivalle.edu.co 19 03 2024 Jan-Jun 2024 7 1 e-11268 This is an open-access article distributed under the terms of the Creative Commons Attribution License

Editorial published with permission of the editor of Colombia Medica journal. Previously published in https://colombiamedica.univalle.edu.co/index.php/comedica/article/view/5867. The last two paragraphs were modified to make the editorial more generic

We call artificial intelligence any machine that processes information with some purpose, complying with the logical rules of Turing's computation described more than 70 years ago 1. These machines work with instructions called algorithms, a finite and well-defined sequence of information processing implemented by automata (computers) or any digital technology to optimize a process 2. This means that the purpose of artificial intelligence is optimization.

Optimization is the ability to do or solve something in the most efficient way possible and, in the best case, using the least amount of resources. The intended optimization is programmed and preset by humans; therefore, these technologies are tools humans create for human purposes 3.

The optimization capability of artificial intelligence is staggering. It is estimated that using artificial intelligence will facilitate the achievement of 134 of the 169 goals agreed in the 2030 Agenda for Sustainable Development (4. However, in this evaluation, it was projected that it could negatively affect the progress of 59 goals of the same agreement, being social, economic, educational, legal and gender inequality, the phenomenon most affected by artificial intelligence.

This projection shows us that it is necessary to counterbalance the development and implementation of processes mediated by artificial intelligence, to maintain reflection and question the influence of these technological tools, and, above all, to be based on human intelligence. A definition of human intelligence in the data science and artificial intelligence environment would be a collection of contextual tacit knowledge about human values, responsibility, empathy, intuition, or care for another living being that algorithms cannot describe or execute 5.

Improving the care capabilities of health systems, having more accurate diagnoses, achieving the optimization of medical treatments, and generating more efficient and appropriate public health measures are the promises of the advances of artificial intelligence. The World Health Organization recognizes these expectations but warns of the need to guarantee transparency, explainability and understanding of each application based on artificial intelligence implemented in health, with permanent evaluation, ensuring equity, inclusion, and sustainability 6.

Artificial intelligence is already part of the research supporting the manuscripts submitted to the editorial process for scientific journals in the health area. Fortunately, we have guidelines for authors to submit their manuscripts in total; these allow peer review and the editors' judgment to better decide their publication. So far, the Equator Network website has published twelve guidelines for artificial intelligence-based research manuscripts, and in all of them, concern for transparency about the population from which the data were acquired, the design and development of the algorithm, the training of the model; and the external validity of the optimized processes are present (Table 1).

Publication guidelines for artificial intelligence research manuscripts are available on the Equator Network website
Guideliness Name Date
PRIME oritmoCardiovascular Imaging-Related Machine Learning Evaluation 2020 10
MI-CLAIM clinical artificial intelligence modeling 2020 11
Artificial intelligence in dental research 2021 12
SPIRIT-AI Guidelines for clinical trial protocols for interventions involving artificial intelligence 2020 13
CONSORT-AI Reporting guidelines for clinical trial reports for interventions involving artificial intelligence 2020 14
MINIMAR reporting standards for artificial intelligence in health care 2020 15
CAIR guideline of Clinical AI Research 2021 16
CLEAR EvaluAtion of Radiomics research 2023 17
reporting machine learning analyses in clinical research 2020 18
CLAIM Checklist for Artificial Intelligence in Medical Imaging 2020 19
DECIDE-AI guideline for the early-stage clinical evaluation of decision support systems driven by artificial intelligence 2022 20
STREAM-URO Reporting of Machine Learning Applications in Urology 2021 21

However, the writing and editorial process does not have the same guidelines. Authors, peer reviewers and editors are surprised by algorithms that promise efficiency in their work. This fascination leads us to the risk of an absolute trust in artificial intelligence, known as algorithmmocracy, a government where humans and machines obey algorithms 2.

We have signs that algorithms are not ideal in scientific publishing. For years, we have been questioning the use of algorithms with which bibliometric indexes classify (or disqualify?) scientific journals, but we accept that research supervisory bodies consider them the gold standard for measuring scientific productivity. Authors frequently resort to artificial intelligence writing tools, such as ChatGPT, Bard and Bing, with little reflection on their limitations, which may generate factual and reasoning errors in scientific writing 7. Editors may mistakenly accept the similarity percentage issued by anti-plagiarism algorithms as a rule in the evaluation of the originality of a manuscript, completely replacing expert judgment. Whenever artificial intelligence optimization is used, it should be remembered that technology does not change society; human intelligence defines the creation of applications, their use and how they affect society. The opposite is to accept the thesis of technological determinism, and although it will not lead us to an apocalyptic future like the one proposed by Skynet in the Terminator saga, it will affect equality, truth and the originality of science 8.

The editorial guidelines of journals should accept the use of artificial intelligence in research, as well as the authors' adherence to the publication guidelines for AI-based research available on the Equator Network website and these should be a standard for journals.

In addition, journals that invoke the ICMJE (International Committee of Medical Journal Editors) and the WAME (World Association of Medical Editors) to adjust the ethical processes, editorial flow and author guidelines of publications should also adopt the recommendations regarding the definition of authorship and the use of artificial intelligence programs for the elaboration and review of manuscripts submitted to journals 9. These recommendations, which are explained in an article reproduced from the WAME, are:

- Non-human authors are not accepted.

- Authors should be transparent when using chatbots and provide information on their use.

- Authors are responsible for the information produced with a chatbot in their article (including accuracy and absence of plagiarism) and for proper attribution of all sources.

- Reviewers and editors should advise authors if they used chatbots in evaluating the manuscript and generating revisions and correspondence. They should also explain how they used them.

- Editors need appropriate tools to help them detect AI-generated or AI-altered content for the sake of science and the public and to help ensure the integrity of health information and reduce the risk of adverse health outcomes.

Colophon: If artificial intelligence optimizes our work, why do we have less free time?

References 1. Danziger S. Intelligence as a social concept: a socio-technological interpretation of the turing test. Philos Technol. 2022; 35(3): 1-26. Doi: 10.1007/s13347-022-00561-z Danziger S Intelligence as a social concept a socio-technological interpretation of the turing test Philos Technol 2022 35 3 1 26 10.1007/s13347-022-00561-z 2. Astobiza AM. Ética algorítmica: Implicaciones éticas de una sociedad cada vez más gobernada por algoritmos. Dilemata. 2017; (24): 185-217. Astobiza AM Ética algorítmica Implicaciones éticas de una sociedad cada vez más gobernada por algoritmos Dilemata 2017 24 185 217 3. Hanna R, Kazim E. Philosophical foundations for digital ethics and AI Ethics: a dignitarian approach. AI Ethics. 2021; 1(4): 405-23. Doi: 10.1007/s43681-021-00040-9 Hanna R Kazim E Philosophical foundations for digital ethics and AI Ethics a dignitarian approach AI Ethics 2021 1 4 405 423 10.1007/s43681-021-00040-9 4. Vinuesa R, Azizpour H, Leite I, Balaam M, Dignum V, Domisch S, et al. The role of artificial intelligence in achieving the Sustainable Development Goals. Nat Commun. 2020; 11(1): 233. Doi: 10.1038/s41467-019-14108-y Vinuesa R Azizpour H Leite I Balaam M Dignum V Domisch S The role of artificial intelligence in achieving the Sustainable Development Goals Nat Commun 2020 11 1 233 233 10.1038/s41467-019-14108-y 5. Özdemir V. Not all intelligence is artificial: data science, automation, and AI meet HI. OMICS. 2019; 23(2): 67-9. Doi: 10.1089/omi.2019.0003 Özdemir V Not all intelligence is artificial data science, automation, and AI meet HI OMICS 2019 23 2 67 69 10.1089/omi.2019.0003 6. WHO. Ethics and governance of artificial intelligence for health: WHO guidance. Geneve: World Health Organization; 2021. Cited 2023 Sep 29. Available from: http://apps.who.int/bookorders WHO Ethics and governance of artificial intelligence for health: WHO guidance 2021 Geneve World Health Organization 2023 Sep 29 Available from: http://apps.who.int/bookorders 7. Herbold S, Hautli-Janisz A, Heuer U, Kikteva Z, Trautsch A. A large-scale comparison of human-written versus ChatGPT-generated essays. Sci Rep. 2023; 13(1): 18617. Doi: 10.1038/s41598-023-45644-9 Herbold S Hautli-Janisz A Heuer U Kikteva Z Trautsch A A large-scale comparison of human-written versus ChatGPT-generated essays Sci Rep 2023 13 1 18617 18617 10.1038/s41598-023-45644-9 8. Kar P. Technology and the NHS-a world of false promises? BMJ. 2019; 367: l6135. Doi: 10.1136/bmj.l6135 Kar P Technology and the NHS-a world of false promises BMJ 2019 367 l6135 l6135 10.1136/bmj.l6135 9. Zielinski C, Winker MA, Aggarwal R, Ferris LE, Heinemann M, Lapeña Jr JF,et al. Chatbots, IA Generativa y Manuscritos Académicos : Recomendaciones de WAME sobre “chatbots” e inteligencia artificial generativa en relación con las publicaciones académicas. Colomb Med (Cali). 2023;54(3): e1015868. Doi: 10.25100/cm.v54i3.5868. Zielinski C Winker MA Aggarwal R Ferris LE Heinemann M Lapeña JF Jr Chatbots, IA Generativa y Manuscritos Académicos : Recomendaciones de WAME sobre “chatbots” e inteligencia artificial generativa en relación con las publicaciones académicas Colomb Med (Cali) 2023 54 3 e1015868 10.25100/cm.v54i3.5868 10. Sengupta PP, Shrestha S, Berthon B, Messas E, Donal E, Tison GH, et al. Proposed requirements for cardiovascular imaging-related machine learning evaluation (PRIME): A checklist: reviewed by the American College of Cardiology Healthcare Innovation Council. JACC Cardiovasc Imaging. 2020; 13(9): 2017. Doi: 10.1016/j.jcmg.2020.07.015 Sengupta PP Shrestha S Berthon B Messas E Donal E Tison GH Proposed requirements for cardiovascular imaging-related machine learning evaluation (PRIME) A checklist: reviewed by the American College of Cardiology Healthcare Innovation Council JACC Cardiovasc Imaging 2020 13 9 2017 2017 10.1016/j.jcmg.2020.07.015 11. Norgeot B, Quer G, Beaulieu-Jones BK, Torkamani A, Dias R, Gianfrancesco M, et al. Minimum information about clinical artificial intelligence modeling: the MI-CLAIM checklist. Nat Med. 2020; 26(9): 1320. Doi: 10.1038/s41591-020-1041-y Norgeot B Quer G Beaulieu-Jones BK Torkamani A Dias R Gianfrancesco M Minimum information about clinical artificial intelligence modeling the MI-CLAIM checklist Nat Med 2020 26 9 1320 1320 10.1038/s41591-020-1041-y 12. Schwendicke F, Singh T, Lee JH, Gaudin R, Chaurasia A, Wiegand T, et al. Artificial intelligence in dental research: Checklist for authors, reviewers, readers. J Dent. 2021;107: 103610. Doi: 10.1016/j.jdent.2021.103610 PMid:33631303 Schwendicke F Singh T Lee JH Gaudin R Chaurasia A Wiegand T Artificial intelligence in dental research Checklist for authors, reviewers, readers J Dent 2021 107 103610 103610 10.1016/j.jdent.2021.103610 13. Cruz RS, Liu X, Chan AW, Denniston AK, Calvert MJ, Darzi A, et al. Guidelines for clinical trial protocols for interventions involving artificial intelligence: the SPIRIT-AI extension. Nat Med. 2020; 26(9): 1351-63. Doi: 10.1136/bmj.m3210 PMid:32907797 Cruz RS Liu X Chan AW Denniston AK Calvert MJ Darzi A Guidelines for clinical trial protocols for interventions involving artificial intelligence the SPIRIT-AI extension Nat Med 2020 26 9 1351 1363 10.1136/bmj.m3210 14. Liu X, Rivera SC, Moher D, Calvert MJ, Denniston AK. Reporting guidelines for clinical trial reports for interventions involving artificial intelligence: the CONSORT-AI Extension. BMJ. 2020; 370: m3164. Doi: 10.1136/bmj.m3164 Liu X Rivera SC Moher D Calvert MJ Denniston AK Reporting guidelines for clinical trial reports for interventions involving artificial intelligence the CONSORT-AI Extension BMJ 2020 370 m3164 m3164 10.1136/bmj.m3164 15. Hernandez-Boussard T, Bozkurt S, Ioannidis JPA, Shah NH. MINIMAR (MINimum Information for Medical AI Reporting): Developing reporting standards for artificial intelligence in health care. J Am Med Inform Assoc. 2020; 27(12): 2011. Doi: 10.1093/jamia/ocaa088 PMid:32594179 Hernandez-Boussard T Bozkurt S Ioannidis JPA Shah NH MINIMAR (MINimum Information for Medical AI Reporting) Developing reporting standards for artificial intelligence in health care J Am Med Inform Assoc 2020 27 12 2011 2011 10.1093/jamia/ocaa088 16. Olczak J, Pavlopoulos J, Prijs J, Ijpma FFA, Doornberg JN, Lundström C, et al. Presenting artificial intelligence, deep learning, and machine learning studies to clinicians and healthcare stakeholders: an introductory reference with a guideline and a Clinical AI Research (CAIR) checklist proposal. Acta Orthop. 2021; 92(5): 513. Doi: 10.1080/17453674.2021.1918389 Olczak J Pavlopoulos J Prijs J Ijpma FFA Doornberg JN Lundström C Presenting artificial intelligence, deep learning, and machine learning studies to clinicians and healthcare stakeholders an introductory reference with a guideline and a Clinical AI Research (CAIR) checklist proposal Acta Orthop 2021 92 5 513 513 10.1080/17453674.2021.1918389 17. Kocak B, Baessler B, Bakas S, Cuocolo R, Fedorov A, Maier-Hein L, et al. CheckList for evaluation of radiomics research (CLEAR): a step-by-step reporting guideline for authors and reviewers endorsed by ESR and EuSoMII. Insights Imaging. 2023; 14(1): 20. Doi: 10.1186/s13244-023-01415-8 Kocak B Baessler B Bakas S Cuocolo R Fedorov A Maier-Hein L CheckList for evaluation of radiomics research (CLEAR) a step-by-step reporting guideline for authors and reviewers endorsed by ESR and EuSoMII Insights Imaging 2023 14 1 20 20 10.1186/s13244-023-01415-8 18. Stevens LM, Mortazavi BJ, Deo RC, Curtis L, Kao DP. Recommendations for reporting machine learning analyses in clinical research. Circ Cardiovasc Qual Outcomes. 2020; 13(10): e006556. Doi: 10.1161/CIRCOUTCOMES.120.006556 Stevens LM Mortazavi BJ Deo RC Curtis L Kao DP Recommendations for reporting machine learning analyses in clinical research Circ Cardiovasc Qual Outcomes 2020 13 10 e006556 10.1161/CIRCOUTCOMES.120.006556 19. Mongan J, Moy L, Kahn CE. Checklist for artificial intelligence in medical imaging (CLAIM): A guide for authors and reviewers. Radiol Artif Intell. 2020; 2(2): e200029. Doi: 10.1148/ryai.2020200029 Mongan J Moy L Kahn CE Checklist for artificial intelligence in medical imaging (CLAIM) A guide for authors and reviewers Radiol Artif Intell 2020 2 2 e200029 10.1148/ryai.2020200029 20. Vasey B, Nagendran M, Campbell B, Clifton DA, Collins GS, Denaxas S, et al. Reporting guideline for the early stage clinical evaluation of decision support systems driven by artificial intelligence: DECIDE-AI. BMJ. 2022; 377: e070904. Doi: 10.1136/bmj-2022-070904 Vasey B Nagendran M Campbell B Clifton DA Collins GS Denaxas S Reporting guideline for the early stage clinical evaluation of decision support systems driven by artificial intelligence DECIDE-AI BMJ 2022 377 e070904 10.1136/bmj-2022-070904 21. Kwong JCC, McLoughlin LC, Haider M, Goldenberg MG, Erdman L, Rickard M, et al. Standardized reporting of machine learning applications in urology: The STREAM-URO framework. Eur Urol Focus. 2021; 7(4): 672-82. Doi: 10.1016/j.euf.2021.07.004. Kwong JCC McLoughlin LC Haider M Goldenberg MG Erdman L Rickard M Standardized reporting of machine learning applications in urology The STREAM-URO framework Eur Urol Focus 2021 7 4 672 682 10.1016/j.euf.2021.07.004 Editorial Inteligencia humana para autores, revisores y editores que utilicen inteligencia artificial Palacios Gomez . e.mail: mao.palacios@correounivalle.edu.co

Le llamamos inteligencia artificial a cualquier máquina que procese información con algún propósito, cumpliendo las reglas lógicas de la computación de Turing descritas hace más de 70 años 1. Estas máquinas funcionan con instrucciones llamadas algoritmos, que son una secuencia finita y bien definida de procesamiento de información que se implementan mediante autómatas (computadoras) o cualquier tecnología digital con el propósito de optimizar un proceso 2. Esto quiere decir que el fin de la inteligencia artificial es la optimización.

La optimización es la capacidad de hacer o resolver alguna cosa de la manera más eficiente posible y, en el mejor de los casos, utilizando la menor cantidad de recursos. La optimización que se pretende obtener es programada y preestablecida por humanos; por lo tanto, estas tecnologías son herramientas creadas por humanos para propósitos humanos 3.

La capacidad de optimización de la inteligencia artificial es asombrosa. Se estima que el uso de la inteligencia artificial facilitará alcanzar 134, de las 169 metas acordadas en la Agenda 2030 para el Desarrollo Sostenible 4. Sin embargo, en esta evaluación se proyectó que podría afectar negativamente el avance de 59 metas del mismo acuerdo; siendo, la desigualdad social, económica, educativa, legal y de género, el fenómeno que más se afecta por la inteligencia artificial.

Esta proyección nos muestra que es necesario un contrapeso al desarrollo y la implementación de procesos mediados con inteligencia artificial, que mantenga la reflexión y cuestione la influencia de estas herramientas tecnológicas, y, sobre todo, que esté basado en inteligencia humana. Una definición de inteligencia humana, en el entorno de la ciencia de datos e inteligencia artificial, sería como una colección de conocimientos tácitos contextuales sobre los valores humanos, la responsabilidad, la empatía, la intuición o el cuidado de otro ser vivo que no pueden describirse ni ejecutarse fácilmente mediante algoritmos 5.

Mejorar las capacidades de atención de los sistemas de salud, tener diagnósticos con mayor exactitud, lograr la optimización de los tratamientos médicos y la generación de medidas de salud pública más eficientes y adecuadas, son las promesas de los avances de la Inteligencia artificial. La Organización Mundial de la Salud reconoce esas expectativas, pero advierte la necesidad de garantizar la transparencia, la explicación y la comprensión de cada aplicación basada en inteligencia artificial implementada a la salud, con evaluación permanente, que asegure la equidad y la inclusión, y que sea sostenible 6.

Para las revistas científicas del área de la salud la inteligencia artificial ya hace parte de las investigaciones que sustentan los manuscritos sometidos al proceso editorial; y afortunadamente, contamos con guías para que los autores presenten sus manuscritos de forma completa; estas permiten que la evaluación de los pares, y el juicio de los editores puedan decidir mejor su publicación. Hasta ahora, la página web de Equator Network ha publicado doce pautas para los manuscritos de investigaciones basadas en inteligencia artificial; y en todas ellas, la preocupación por la trasparencia acerca de la población de la cual se adquirieron los datos, el diseño y el desarrollo del algoritmo, la capacitación del modelo; y la validez externa de los procesos optimizados están presentes (Tabla 1).

Pautas para los manuscritos de investigaciones basados en IA publicados en <italic>Equator Network</italic>
Guía Nombre Año
PRIME Aprendizaje automático relacionado con las evaluaciones de imágenes cardiovasculares 2020 10
MI-CLAIM Modelos clínicos de inteligencia artificial 2020 11
La inteligencia artificial en la investigación odontológica 2021 12
SPIRIT-AI Directrices sobre protocolos de ensayos clínicos para intervenciones con inteligencia artificial 2020 13
CONSORT-AI Directrices para la elaboración de informes de ensayos clínicos sobre intervenciones con inteligencia artificial 2020 14
MINIMAR Normas de información para la inteligencia artificial en la atención sanitaria 2020 15
CAIR Directriz de investigación clínica sobre inteligencia artificial 2021 16
CLEAR Evaluación de la investigación radiómica 2023 17
Informes de análisis de aprendizaje automático en investigación clínica 2020 18
CLAIM Lista de comprobación para la inteligencia artificial en el tratamiento de imágenes médicas 2020 19
DECIDE-AI Guía para la evaluación clínica inicial de sistemas de apoyo a la toma de decisiones basados en inteligencia artificial 2022 20
STREAM-URO Informes sobre aplicaciones de aprendizaje automático en urología 2021 21

Sin embargo, la escritura y el proceso editorial no cuentan con las mismas guías. Los autores, pares evaluadores y editores se sorprenden con los algoritmos que prometen eficiencia en su labor. Esa fascinación nos lleva al riesgo de una confianza absoluta en la inteligencia artificial que se le conoce como: algoritmocracia, es decir, un gobierno donde los humanos y las máquinas obedecen a los algoritmos 2.

Tenemos señales de que los algoritmos no son ideales en la edición científica. Llevamos años cuestionando el uso de los algoritmos con los cuales los índices bibliométricos clasifican (¿o descalifican?) las revistas científicas; pero, aceptamos que los entes supervisores de la investigación los consideran el patrón de oro para medir la productividad científica. Los autores acuden a herramientas de escritura de inteligencia artificial con frecuencia, como ChatGPT, Bard y Bing, con poca reflexión acerca delas limitaciones y que pueden generar errores fácticos y de razonamiento en la escritura científica 7. Los editores pueden erróneamente aceptar porcentaje de similitud que emiten los algoritmos anti-plagio como regla en la evaluación de originalidad de un manuscrito, reemplazando completamente el juicio de experto. Siempre que se acuda a la optimización mediante inteligencia artificial se debe recordar que la tecnología no cambia la sociedad, es la inteligencia humana quien define la creación de aplicaciones, el uso y cómo afecta a la sociedad. Lo contrario es aceptar las tesis del determinismo tecnológico, y aunque no nos va a conducir a un futuro apocalíptico como el que propone Skynet de la saga Terminator, sí afectará la igualdad, la verdad y la originalidad de la ciencia 8.

La pauta editorial de la Revista Colombia Médica acepta el uso de la inteligencia artificial en las investigaciones y la adhesión de los autores a las guías de publicación de investigaciones basadas en inteligencia artificial disponibles en la página web de Equator Network serán norma para la revista.

Adicionalmente, Colombia Médica, como miembro del ICMJE (Comité Internacional de Editores de Revistas Médicas) y la WAME (Asociación Mundial de Editores Médicos), acoge sus recomendaciones acerca de la definición de autoría y el uso de programas de inteligencia artificial para la elaboración y revisión de manuscritos sometidos a la revista 9. Estas recomendaciones, que son explicadas en un artículo reproducido de la WAME, son:

No se aceptan autores no humanos.

Los autores deben ser transparentes cuando utilizan chatbots y deben proporcionar información sobre cómo se utilizaron.

Los autores son responsables de la información producida con un chatbot en su artículo (incluida la exactitud y la ausencia de plagio) y de la atribución adecuada de todas las fuentes.

Los revisores y editores deben advertir a los autores si utilizaron chatbots en la evaluación del manuscrito y la generación de las revisiones y la correspondencia. También, deben explicar cómo los utilizaron.

Los editores necesitan herramientas adecuadas que les ayuden a detectar contenido generado o alterado por la Inteligencia Artificial por el bien de la ciencia y del público, y para ayudar a garantizar la integridad de la información sanitaria y reducir el riesgo de resultados adversos para la salud.

Colofón: ¿Si la inteligencia artificial optimiza nuestro trabajo, por qué tenemos menos tiempo libre?