Inteligencia artificial generativa y integridade científica

Resumen

La inteligencia artificial generativa tiene beneficios innegables, pero plantea importantes cuestiones de naturaleza ética, como su impacto en la autonomía y la responsabilidad individuales, la inclusión social, la identidad cultural, la seguridad, la distribución justa de los beneficios, la rendición de cuentas o incluso el medio ambiente. En este artículo se pretende tender un puente entre los innumerables beneficios de la inteligencia artificial generativa para la medicina y la sociedad y, al mismo tiempo, reflexionar, con las consiguientes recomendaciones, sobre una inteligencia artificial generativa ética, responsable y fiable, sobre todo en lo que respecta a la forma de hacer ciencia y su uso en la enseñanza y la investigación con total integridad científica y académica, en un claro ejercicio de ética tecnológica anticipatoria. Se trata de un desafío ético existencial crear reglas claras para el uso responsable de la inteligencia artificial generativa.

Palabras clave
Inteligencia artificial; Bioética; Ciencia; Medicina; Responsabilidad social; Confianza

Resumo

A inteligência artificial generativa tem inegáveis benefícios, mas coloca importantes questões de natureza ética, tais como seu impacto na autonomia e responsabilidade individuais, na inclusão social, na identidade cultural, na segurança, na justa distribuição dos benefícios, na prestação de contas ou mesmo no ambiente. Neste artigo, pretende-se efetuar a ponte entre os inúmeros benefícios da inteligência artificial generativa para a medicina e para sociedade e, simultaneamente, efetuar uma reflexão, com consequentes recomendações, sobre uma inteligência artificial generativa ética, responsável e de confiança, sobretudo no que diz respeito ao modo como se faz ciência e a sua utilização no ensino e na pesquisa com total integridade científica e acadêmica, em um exercício claro de ética tecnológica antecipatória. Trata-se de desafio ético existencial criar regras claras para a utilização responsável da inteligência artificial generativa.

Palavras-chave:
Inteligência artificial; Bioética; Ciência; Medicina; Responsabilidade social; Confiança

Abstract

Generative artificial intelligence has undeniable benefits, but it raises important ethical questions, such as its impact on individual autonomy and responsibility, social inclusion, cultural identity, security, fair distribution of benefits, accountability, and even the environment. This article aims to bridge the gap between the numerous benefits of generative artificial intelligence for medicine and society and, at the same time, to reflect on and make recommendations for ethical, responsible, and trustworthy generative artificial intelligence, especially regarding how science is conducted and its use in teaching and research with complete scientific and academic integrity, in a clear exercise of anticipatory technological ethics. Creating clear rules for the responsible use of generative artificial intelligence is an existential ethical challenge.

Keywords
Artificial intelligence; Bioethics; Science; Medicine; Social responsibility; Trust

Si bien es cierto que la inteligencia artificial (IA) está cambiando decisivamente nuestra vida colectiva, la inteligencia artificial generativa (IAGen) es el ejemplo más visible de esta transformación. Diferentes sistemas de IA han sido introducidos hace pocos años en el mercado mundial —de los que ChatGPT o DeepSeek son buenos ejemplos— y han cambiado de forma irreversible la manera de pensar, realizar y aplicar el conocimiento científico en medicina y ciencias biomédicas.

Si los beneficios de la IAGen son innegables, esta tecnología plantea importantes cuestiones de naturaleza ética, como su impacto en la autonomía y responsabilidad individuales, en la inclusión social, en la identidad cultural, en la seguridad, en la rendición de cuentas (accountability) o incluso en el medio ambiente. Este artículo pretende tender un puente entre los numerosos beneficios de la IAGen para la medicina y para la sociedad y, a la vez, promover una reflexión, con consecuentes recomendaciones, sobre una inteligencia artificial generativa ética, responsable y fiable, en particular en lo que respecta a cómo se lleva a cabo la ciencia y su uso en la docencia y en la investigación con total integridad científica y académica.

Inteligencia artificial generativa en la docencia y en la investigación

La inteligencia artificial generativa es un tipo de tecnología que utiliza IA para crear contenido, incluido texto, vídeo e imágenes. La IAGen se “entrena” mediante la búsqueda de estándares en grandes cantidades de datos (datos de entrenamiento) para generar contenido nuevo. Se trata de una tecnología que imita la inteligencia humana en su proceso creativo y en la predicción de resultados, y tiende a evolucionar cada vez que se entrena con datos adicionales. En otras palabras, aprende a aprender de forma autónoma. Opera en modelos y algoritmos de IA entrenados con colecciones de datos sin etiquetar y requiere una enorme capacidad computacional para su aplicación. La IAGen, concretamente ChatGPT, ha democratizado el uso de la IA en la medida en que facilitó el acceso y la manipulación de esta tecnología en los más diferentes dominios de actividad ¹.

Como mencionado, algunos ejemplos generalizados de IAGen son ChatGPT, DeepSeek, Claude, Gemini y DALL-E. Dado que se trata de modelos de aprendizaje profundo (deep learning) que se basan en datos de entrenamiento proporcionados, se plantean importantes cuestiones éticas ². La IAGen suele adoptar la forma de “inteligencia conversacional”, es decir, una herramienta que ayuda a comunicarse con los seres humanos de una forma más eficiente, espontánea y natural. Esto implica un diálogo con conversación recíproca —preguntas y respuestas—, que, combinado con la tecnología generativa, puede aumentar significativamente la eficiencia y la difusión de la investigación y el conocimiento. Debe quedar claro que la responsabilidad de los resultados de la investigación y su aplicación es de los investigadores, y no es legítimo, al menos de momento, responsabilizar a la IAGen por esas consecuencias ³.

Debido a su impacto ético, la IAGen recurre cada vez más a datos sintéticos —datos producidos mediante IA—, lo que podría ser una solución para superar la imposibilidad de anonimizar y pseudonimizar datos personales. De este modo, la IA puede volverse más robusta y fiable, permitiendo una protección total de los datos personales sensibles ⁴.

Las aplicaciones de la IAGen en medicina son ilimitadas, por ejemplo, en la práctica clínica ⁵, sin embargo, el objetivo de este artículo es analizar cómo se practica la ciencia y cómo se enseña y se transmite el conocimiento científico. De hecho, la IAGen está transformando, repentinamente, en la medicina y en la ciencia, la forma en que enseñamos, aprendemos e investigamos ⁶. Más allá de su impacto ya visible en el desarrollo de cualquier profesión, esta tecnología debe valorarse con el espíritu crítico necesario para que pueda utilizarse para optimizar la forma en la que se desarrolla la investigación, cómo se forma a los estudiantes y cómo los profesionales adquieren habilidades específicas.

Sin embargo, se debe tener en cuenta que un chatbot —es decir, un software específico que puede mantener una conversación en cualquier idioma— se activa por medio de un prompt creado por el utilizador, es decir, una afirmación o una pregunta en lenguaje corriente, que genera una respuesta. Esta respuesta, en el idioma del interlocutor, se obtiene mediante métodos estadísticos sofisticados, pero presenta diversos problemas, aunque las versiones más recientes de las herramientas son mucho más sofisticadas.

En términos coloquiales, la IAGen es una inteligencia artificial “conversacional”, dado el dominio del lenguaje, en cualquier idioma, y la capacidad de responder de forma proactiva a las preguntas formuladas en los prompts, que la hacen muy atractiva, pero también problemática ³. Más allá de los fenómenos de dependencia entre la IAGen y los humanos que ya están en evaluación (se ha demostrado el desarrollo del afecto de los utilizadores hacia los sistemas de IA, con un impacto innegable en la salud mental), la IAGen es una herramienta excelente porque genera una serie de oportunidades que conviene aprovechar.

Existen oportunidades no solo en el sentido estricto de avanzar en el conocimiento científico, sino también en un sentido más amplio, por ejemplo, al contribuir a una mayor inclusión de hombres y mujeres en el acceso y uso de las tecnologías modernas de información y comunicación; sin embargo, esto parece estar lejos de haberse materializado por completo. De hecho, parece existir una doble narrativa: por una parte, la promesa de que la IA va a contribuir a un mayor liderazgo de las mujeres en todas las actividades impulsadas por la tecnología; y, por otra parte, disparidades reales de género en las posiciones de liderazgo y responsabilidad en la investigación con IA ⁷.

Además, la IAGen, al recurrir generalmente a estándares de sesgo debido a la recopilación de datos de entrenamiento ya sesgada, puede crear nuevas formas de “brecha digital” basadas en el género o en el estatus socioeconómico ⁸. Además, esta brecha digital puede tener importantes dimensiones generacionales, ya que las nuevas generaciones (alfa y beta) estarán totalmente inmersas y dependerán de las nuevas tecnologías en comparación con las generaciones anteriores, que presentan una importante exclusión digital.

Se debe mejorar la “personalización” del contacto, especialmente en la educación médica, sobre todo en un entorno médico en el que los profesionales tienen poco tiempo para investigar y enseñar a los más jóvenes y, por lo tanto, recurren con frecuencia a métodos de comunicación telemática ⁹. Por otra parte, la reflexión crítica puede estimularse planteando cuestiones científicas no consideradas previamente y combinando la información disponible en internet con la información y los datos proporcionados específicamente por los investigadores. Como veremos, se trata de un arma de doble filo, ya que esta simplificación puede disminuir considerablemente la creatividad científica o, al menos, la percepción de su necesidad.

En la ciencia y en la docencia, la IAGen es excelente para traducir textos y redactar artículos. Pero esto tiene dos consecuencias: la erosión total de la confidencialidad de los datos, ya que ahora se comparten en tiempo real con toda la comunidad científica y académica, y la reducción casi completa de la escritura a mano. Cabe resaltar que escribir a mano estimula directamente partes específicas del cerebro relacionadas con la creatividad y la coordinación, además de estimular el pensamiento lógico. Por lo tanto, se sugiere que se retome la escritura a mano, al menos en parte, en la educación básica y superior, para el desarrollo armonioso de la mente humana, e incluso para la preservación de los elementos esenciales de la cultura y de la civilización humanas.

Con estas condicionantes, no restan dudas de que la IAGen puede contribuir a la investigación de información y su resumen estructurado, o para el desarrollo de contenido pedagógico útil para profesores (preparación de materiales para uso en problemas, planes de clase, informes, diapositivas, cuestiones para discusión o preguntas de examen, etc.), y también de apoyo a estudiantes (flashcards, resúmenes, propuestas de cuestiones sobre contenidos, etc.).

En resumen, estas son algunas de las formas positivas y aceptables de usar la IAGen:

1. brainstorming de ideas por medio de prompts;

2. ayuda en el razonamiento lógico y obtención de explicaciones sobre preguntas y conceptos difíciles, incluyendo en los prompts las principales referencias de la temática en cuestión para obtener respuestas más fidedignas;

3. asistencia para superar el bloqueo creativo por medio del diálogo interactivo con la IAGen;

4. autoaprendizaje mediante la conversación con IAGen;

5. clases colaborativas entre docentes y estudiantes, lo que favorece un aprendizaje activo con el intercambio de prompts;

6. creación de preguntas prácticas y autoevaluaciones;

7. organización y resumen de notas personales;

8. planificación y asistencia en la estructura de un trabajo;

9. asistencia en la gramática, la ortografía, la redacción y la traducción de textos;

10. resumen de un texto, artículo o libro (teniendo en cuenta los derechos de autor).

Sin embargo, con vistas a la implementación generalizada de una IAGen ética, responsable y digna de confianza, uno debe ser consciente de algunos riesgos potencialmente disruptivos:

1. La respuesta al prompt puede incluir sesgos, distorsiones/“alucinaciones”, distorsiones y plagio, dependiendo no solo del tipo de algoritmo (que tiende a mejorarse con nuevas versiones), pero sobre todo de los datos de entrenamiento.

2. Se potencia el fraude académico y científico, en particular de plagio, por la reproducción de materia creada por otros autores, y la retención de la información por el chatbot (prompts y contenidos), que puede reutilizarse en respuesta a otros autores. Los autores, editores y revisores deben ser conscientes del mayor riesgo de plagio asociado con su uso ¹⁰. La protección de los derechos de autor y la prevención del plagio son algunos de los principales dilemas éticos a los que se enfrenta la IAGen.

3. El conocimiento generado por la IA puede difundir información falsa y contribuir a la desinformación de la sociedad con respecto al conocimiento científico y a los resultados de la investigación, por ejemplo, en el caso de las vacunas o de hábitos alimenticios. Es esencial garantizar la verificabilidad, fiabilidad y veracidad de la información.

4. La posibilidad de que la herramienta se entrene con datos adaptados a una cultura y un grupo de población específicos genera efectos potencialmente adversos para otras culturas. Incluso en el interior de una sociedad específica, como Brasil o la Unión Europea, la IAGen puede exacerbar las desigualdades si no se utiliza de forma adecuada. Por ejemplo, la medicina personalizada tiende a desarrollarse centrándose en grupos poblacionales específicos, principalmente en la población caucásica. De ahí la importancia de controlar y supervisar el flujo de información.

5. La violación de la confidencialidad y la falta de protección de la privacidad de trabajos originales no publicados, así como el intercambio de datos personales de investigadores por parte de empresas de IAGen con terceros, incluso con fines comerciales ¹¹, plantean importantes cuestiones éticas relacionadas con la seguridad y la protección de datos y el inevitable recurso de los ciudadanos a su legítimo “derecho al olvido”, es decir, el derecho a solicitar la eliminación de sus datos personales de los sistemas digitales ¹².

6. La rápida evolución hacia sistemas totalmente autónomos, asociada a la falta de comprensión de su método de actuación (black box) debido a la falta de explicabilidad de la IA, puede generar una falta de efectiva supervisión humana de su actuación y de la necesaria replicabilidad y reproducibilidad de la investigación científica y, así, de la confirmación de su validez. La rápida evolución de los robots humanoides totalmente autónomos será uno de los grandes desafíos de la humanidad, debido a su enorme capacidad intelectual y su potencial nivel de agencia e intencionalidad ¹³.

7. El estímulo al aislamiento social de los utilizadores, con desarrollo de empatía y afecto por los sistemas de IA, puede tener graves repercusiones en la interacción social y en la solidaridad intergeneracional. Especialmente la “generación beta” (2025-2039), con altos niveles de inmersión y gran dependencia de las nuevas tecnologías digitales, se verá afectada por la IAGen, con un impacto previsible y significativo en la evolución de la civilización humana.

8. La posibilidad de atribuir personalidad jurídica a la IA, e incluso personalidad moral ¹⁴, conlleva una dilución de la responsabilidad por el uso de las tecnologías digitales modernas. Es fundamental comenzar a diseñar un nuevo marco jurídico para asignar la responsabilidad por las consecuencias del uso de la IAGen, proporcional a su nivel de autonomía.

9. Es necesaria la regulación legal internacional, por ejemplo, mediante la generalización del AI Act, el reglamento de la Unión Europea sobre inteligencia artificial ¹⁵, que incluye el impacto de la IAGen en la sostenibilidad ambiental y en Una sola salud (One Health).

10. La posibilidad de exacerbar las desigualdades sociales a nivel comunitario o incluso mundial ¹⁶ contribuye a la exclusión social, y es previsible una nueva forma de desigualdad intergeneracional, dado que las generaciones mayores no tienen la misma alfabetización digital en IA.

¿Qué deberíamos hacer entonces? Por una parte, promover la alfabetización de toda la comunidad académica y científica y la necesaria actualización de las competencias digitales. Esta estrategia contribuye a la digitalización de la educación y a la promoción de entornos de aprendizaje inmersivos. En otras palabras, el objetivo es que investigadores, profesores y estudiantes aprendan a aprender, aprendan a formular preguntas y a criticar; es decir, que desarrollen un espíritu crítico, individual y colectivo. Algunas cuestiones requieren un nuevo marco ético a la luz de los principios tradicionales de integridad científica y académica.

En primer lugar, es importante aclarar una cuestión central en la interfaz entre IAGen, investigación y publicación científica, que es el concepto de autor de trabajo o de la publicación de los resultados de la investigación. Según el Comité Internacional de Editores de Revistas Médicas ¹⁷, deben aplicarse, acumulativamente, los siguientes criterios para que un investigador sea considerado autor: a) aportes sustanciales para la concepción o diseño del trabajo, o la adquisición, análisis o interpretación de datos para el trabajo; b) elaboración del trabajo o su revisión crítica en cuanto a contenido intelectual importante; c) aprobación final de la versión que se va publicar; y d) acuerdo para ser responsable de todos los aspectos del trabajo, que garantice que se investiguen adecuadamente cuestiones relacionadas con la precisión o integridad de cualquier parte del trabajo.

A continuación, se presentará el contexto internacional de las buenas prácticas éticas y de integridad en la investigación científica y en la educación médica, y se tenderá un puente entre estos principios y el uso generalizado del uso de la inteligencia artificial generativa.

Ética, investigación y tecnología digital

La ciencia, en particular la investigación médica y biomédica, ha logrado alcanzar todas las fronteras tecnológicas, lo que plantea la cuestión de cuáles deberían ser sus límites éticos y sociales ¹⁸. Es cierto que el espíritu de la ciencia es contribuir al bienestar de la humanidad y permitir que personas de todo el mundo tengan acceso a los beneficios del progreso científico. Sin embargo, no cabe duda de que, en muchos contextos distintos, y en el ámbito mundial, los científicos han ignorado sistemáticamente los principios éticos inherentes a la condición humana.

Por lo tanto, no es sorprendente que en las últimas décadas, especialmente después de los juicios de Núremberg, diferentes instituciones políticas hayan proclamado internacionalmente convenciones relevantes ¹⁹, pero compartiendo los mismos ideales: preservar los valores fundamentales de la humanidad, promover los derechos humanos y la dignidad humana, proteger el medio ambiente y, obviamente, promover el ideal de que los intereses de la persona siempre deben prevalecer sobre los intereses de la ciencia. La Declaración de Helsinki de la Asociación Médica Mundial ²⁰, el Convenio del Consejo de Europa sobre Derechos Humanos y Biomedicina ²¹ o la Declaración Universal sobre Bioética y Derechos Humanos de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco) ²² son algunos ejemplos de la necesidad de la reglamentación internacional de la ciencia y de la investigación médica.

Todos estos instrumentos, sin excepción, sugieren principios éticos que deben respetarse universalmente, los cuales pueden resumirse de esta manera: respeto por las personas y necesidad de consentimiento libre, previo e informado; protección de personas incapaces, en particular niños (en la obtención de consentimiento del menor, su opinión debe tenerse en cuenta en función de su edad y de su nivel de desarrollo) ²³ y pacientes psiquiátricos (consentimiento por el legítimo representante, testamento vital, etc.); el imperativo ético de maximizar beneficios y minimizar daños (beneficencia y no maleficencia); derecho a la privacidad y confidencialidad; justicia y equidad en el acceso a cuidados de salud y a beneficios de ensayos clínicos; responsabilidad de los investigadores y de las instituciones que prestan cuidados de salud; y responsabilidad de los comités de ética.

Es evidente que muchos dilemas éticos están relacionados con tecnologías de última generación, como la edición del genoma humano y el mejoramiento genético, la medicina de precisión, la biología sintética y muchos otros programas científicos que pueden afrontar la naturaleza humana misma, en áreas que hoy se desarrollan en total interdependencia con la IA. De hecho, existe una tendencia a compartimentar la ciencia en áreas específicas, pero todas ellas están profundamente interconectadas. Las redes neuronales son un ejemplo paradigmático: aunque se trata de un concepto originario de la neurociencia, ahora son cruciales en la inteligencia artificial. Por otra parte, pueden surgir dilemas éticos en los ensayos clínicos, en particular en los proyectos de investigación multicéntricos realizados por compañías farmacéuticas transnacionales con el objetivo de desarrollar fármacos innovadores y revolucionarios.

¿Y cómo debería la humanidad afrontar estos desafíos éticos? ¿Cuál sería la respuesta ética de la medicina ante tales dilemas, particularmente en una sociedad secular y pluralista? De hecho, son aceptables diferentes conceptos del bien, siempre que los posibles conflictos de intereses de los científicos se declaren claramente y que actúen en coherencia con los principios éticos y legales, especialmente aquellos acordados por la comunidad internacional.

Si bien la regulación ética de la ciencia adopta diferentes formas, no cabe duda de que la autorregulación es fundamental, especialmente en lo que respecta a la integridad personal y profesional. Existe una creciente necesidad de promover la integridad como un valor ético fundamental, tanto en la formación médica como a lo largo de toda la vida profesional. La integridad debe ser valorada, perseguida y promovida como un valor ético y social. Los comités de ética y las organizaciones profesionales que regulan la práctica profesional deben ser especialmente conscientes de la importancia de la integridad en la ciencia, y debe haber tolerancia cero ante cualquier comportamiento desviado.

El reparto global de los beneficios de la ciencia (open science) y la promoción de la integridad de científicos e instituciones podrán implicar una estrategia mundial, porque la ciencia está impulsada por organizaciones multinacionales, en particular compañías farmacéuticas, y sobre todo cuando se sabe que existen problemas mundiales que exigen respuestas mundiales (como las pandemias), y la IAGen puede ser una excelente herramienta para lograr este objetivo ²⁴. Por lo tanto, solo los organismos reguladores verdaderamente independientes pueden defender el interés público y los derechos individuales, especialmente los derechos de los más vulnerables.

Las violaciones de la integridad pueden adoptar muchas formas diferentes: fabricar datos o comunicar resultados falsos, falsificar materiales de investigación o alterar u omitir datos, e incluso plagiar, inducidos por el beneficio económico, el ascenso profesional o la presión institucional. Las revistas científicas deberían, por lo tanto, promover directrices más rigurosas en la evaluación, publicación y seguimiento de las investigaciones publicadas, sobre todo con la implementación generalizada de la IAGen.

Dado que el objetivo central de la ciencia es la búsqueda del bien común, la selección de revisores para artículos científicos también supone una tarea enorme para las revistas científicas, ya que cualquier propuesta de investigación debe evaluarse en su dimensión ética y la verdadera autoría debe ser valorada por los editores. Una vez más, la tolerancia cero debe ser la norma, en particular con el plagio y la manipulación de datos o resultados.

Todas estas cuestiones éticas y legales son exponenciadas por la IAGen, de manera que es necesario reinventar los procesos de supervisión y seguimiento para que la exigible replicabilidad de los estudios (la capacidad de que una investigación independiente alcance conclusiones similares, aunque no idénticas, cuando existen diferencias en la muestra, procedimientos de investigación y métodos de análisis de datos) sea una realidad cuyas conclusiones sean incuestionables ²⁵.

La replicabilidad ²⁶, la reproducibilidad ²⁷ y la interpretabilidad deben ser reapreciadas para asegurar que no se ponga en tela de juicio la naturaleza fiduciaria de la relación entre la ciencia y la sociedad. Otros factores, como la peligrosa disminución de los niveles de libertad en la planificación, realización y análisis de los estudios científicos ²⁸, la mercantilización progresiva de la ciencia, la exigencia de criterios, por parte del peer review, que limitan objetivamente la creatividad intelectual, pueden verse exacerbadas en el futuro por la IAGen.

Se necesitan mecanismos rigurosos para responsabilizar a la comunidad científica por estas prácticas, en particular la divulgación pública de los científicos y centros de investigación involucrados en ellas. Pero la regulación ética de la ciencia debería ir aún más allá. Por ejemplo, el proceso de revisión por pares no solo debe ser justo y transparente, sino que también debe asegurar la absoluta confidencialidad de la investigación enviada para revisión. Por lo tanto, cualquier conflicto de intereses por parte tanto de los investigadores como de los revisores es de suma importancia, en especial, la influencia indebida de las compañías farmacéuticas que buscan obtener beneficios (legítimos) tras enormes inversiones en investigación.

En realidad, el costo total de desarrollo de un nuevo fármaco en el 2024, desde la concepción hasta su comercialización, incluidos los medicamentos biológicos, alcanzó un promedio de 2,23 mil millones de dólares para la Big Pharma ²⁹, en los Estados Unidos de América. Aunque no deba cuestionarse la responsabilidad social corporativa de las compañías farmacéuticas, porque completan una importante laguna mundial en la investigación farmacéutica, es de esperar (aunque no es deseable) que, en ocasiones, la maximización de los beneficios sea una razón para que algunos científicos soslayen sus deberes éticos.

La ética en la ciencia es siempre una tarea inconclusa. Solo un esfuerzo conjunto de las facultades de medicina, las asociaciones profesionales, los organismos reguladores internacionales y, especialmente, la integridad personal de los investigadores puede asegurar a la sociedad que el ethos de la ciencia siempre será el respeto por la persona humana y por la comunidad de la vida.

Pero el advenimiento de la IAGen tiene el potencial de afectar la fiabilidad de la ciencia y la investigación, así como la integridad académica de los científicos e instituciones. Al igual que en la medicina, el objetivo final de su implementación es ayudar a los científicos a ser aún mejores ³⁰. El hecho de que la IAGen se entrenara inicialmente solo con información disponible libremente en internet hizo que las respuestas a los prompts estuvieran sesgadas por la calidad (y la posible falta de veracidad) de esa misma información. Sin embargo, los sistemas de IA más recientes tienen otro nivel de fiabilidad diferente e incluso pueden seleccionar la información deseada con cierta autonomía, lo que dificulta verificar la validez de los datos obtenidos. Incluso ante fenómenos evidentes de “alucinación” de la IAGen, en los que las respuestas son claramente erróneas, la IA solo tiene una capacidad limitada para corregir esta respuesta ³¹.

Por lo tanto, es necesario implementar campañas intensivas de alfabetización digital desde una edad temprana (digital literacy), es decir, la capacidad de un individuo para identificar, comprender, interpretar, crear y comunicarse utilizando tecnologías digitales, incluidas plataformas de comunicación digital como redes sociales, pero también teléfonos móviles, sistemas domésticos inteligentes, etc. ³²

Se trata de la intersección de habilidades tecnológicas y cognitivas para procesar y compartir información. El pensamiento crítico y la creatividad son esenciales para una alfabetización digital avanzada. Este es un término amplio, pero necesariamente incluye el uso eficaz de la tecnología digital (incluido el uso de IAGen) y el conocimiento y desarrollo de habilidades para su uso responsable y seguro ³³.

En la salud y en la investigación, la alfabetización digital es de creciente importancia, como en el uso del registro electrónico de salud, la telemedicina, la prescripción digital de medicamentos, o las apps relacionadas con la salud, la actividad física o la alimentación. Dada su importancia en la vida cotidiana de las personas, se recomienda que la alfabetización digital se considere una habilidad fundamental en la educación de niños y jóvenes, no solo por su componente tecnológico, sino también por su impacto ético y social.

De hecho, y siguiendo la visión de Lawrence Kohlberg ³⁴ sobre las etapas de desarrollo moral, es fundamental que la adquisición de habilidades digitales y el conocimiento de su impacto en la comunidad se inicien lo antes posible en la infancia y adolescencia, de manera que la mente humana, desde las etapas más tempranas de formación de la personalidad, integre el manejo de la tecnología digital de forma tanto natural como responsable.

El uso de la IAGen en la producción de conocimiento y en la publicación de resultados es, sin duda, una de las áreas que más necesita un conocimiento profundo para asegurar altos niveles de integridad y compromiso académico también en la investigación científica. Deben existir reglas estrictas para que los estudiantes, investigadores y científicos sepan cómo usar la IAGen de forma ética e íntegra. En ese sentido, la Asociación Mundial de Editores Médicos presenta las siguientes directrices ³⁵:

1. Los chatbots no pueden ser autores.

2. Los autores deben ser transparentes cuando usan chatbots y deben proporcionar información sobre cómo los utilizaron:

   • los autores que envíen un artículo en el que se utilizó un chatbot/IA para redactar un texto nuevo deben registrar dicho uso en los agradecimientos; además, se deben especificar todos los prompts utilizados para generar texto nuevo o para convertir texto o prompts de texto en tablas o ilustraciones;

   • cuando se utiliza una herramienta de IA, como un chatbot, para realizar o generar trabajo analítico, ayudar a reportar resultados (por ejemplo, generando tablas o figuras) o escribir códigos de computadora, esto debe declararse en el cuerpo del artículo, tanto en el resumen como en la sección de métodos. Para permitir el escrutinio científico, incluida la replicación y la identificación de falsificaciones, se deben proporcionar indicaciones completas con respecto a los prompts utilizados para generar los resultados de la investigación, la hora y la fecha de la consulta, así como la herramienta de IA utilizada y su versión.

3. Los autores son responsables del material proporcionado por un chatbot para su artículo (incluida la precisión de lo que se presenta y la ausencia de plagio) y del adecuado reconocimiento de todas las fuentes (incluidas las fuentes originales del material generado por el chatbot).

4. Los editores y revisores deben especificar a los autores y entre sí cualquier uso de chatbots en la evaluación del manuscrito y en la generación de revisiones y correspondencia. Si utilizan chatbots en sus comunicaciones con los autores y entre sí, deben explicar cómo los utilizaron.

5. Los editores deben contar con herramientas apropiadas que les ayuden a detectar el contenido generado o modificado por IA, las cuales deben estar disponibles para los editores independientemente de su capacidad de pago, en beneficio de la ciencia y del público en general, y para ayudar a asegurar la integridad de la información sobre cuidados de salud y reducir el riesgo de resultados negativos para la salud.

Consideraciones finales

A pesar de sus numerosos beneficios para la medicina y la ciencia, la inteligencia artificial generativa plantea cuestiones éticas y sociales de suma importancia que deben tenerse en cuenta. Y, sobre todo, debe existir la capacidad de esbozar diferentes escenarios para el futuro de la humanidad en un claro ejercicio de ética tecnológica anticipatoria. No se trata de restringir el avance de la ciencia ni de limitar el uso de estas herramientas digitales, sino más bien de comprender su evolución, predecir su impacto y anticipar soluciones justas y equitativas.

La difusión de contenido perjudicial a personas y organizaciones es un ejemplo de lo que debe prevenirse, al igual que la violación, intencional o negligente, de la privacidad de los datos, que puede revelar información sensible y confidencial. Desde un punto de vista estrictamente científico, la amplificación de los sesgos existentes puede condicionar los métodos y resultados de un estudio determinado y perpetuar errores que se multiplican exponencialmente.

Por lo tanto, se trata de un desafío ético existencial crear reglas claras para el uso responsable de la IAGen, aplicables a estudiantes, investigadores, médicos y otros profesionales, de manera que la inteligencia artificial se considere siempre no solo fiable, sino, sobre todo, una herramienta que ayuda a las personas en su vida cotidiana, en sus trabajos y en el desarrollo colectivo.

Referencias bibliográficas

• ¹ The Economist Intelligence Unit Limited. Why AI matters: opportunities, risks and regulation. London: EIU; 2023.
• ² Stahl B, Eke D. The ethics of ChatGPT: exploring the ethical issues of an emerging technology. Int J Inf Manage [Internet]. 2024 [accesso 12 jan 2025];74:102700. DOI: 10.1016/j.ijinfomgt.2023.102700
  » https://doi.org/10.1016/j.ijinfomgt.2023.102700
• ³ Gottlieb M, Kline JA, Schneider AJ, Coates WC. ChatGPT and conversational artificial intelligence: friend, foe, or future of research? Am J Emerg Med [Internet]. 2023 [accesso 15 Set 2024];70:81-3. DOI: 10.1016/j.ajem.2023.05.018
  » https://doi.org/10.1016/j.ajem.2023.05.018
• ⁴ Kokosi T, Harron K. Synthetic data in medical research. BMJ Medicine [Internet]. 2022 [accesso 12 set 2024];1(1):e000167. DOI: 10.1136/bmjmed-2022-000167
  » https://doi.org/10.1136/bmjmed-2022-000167
• ⁵ Goh E, Gallo RJ, Strong E, Weng Y, Kerman H, Freed JA et al. GPT-4 assistance for improvement of physician performance on patient care tasks: a randomized controlled trial. Nature Medicine [Internet]. 2025 [accesso 4 Jul 2025];31:1233-8. DOI: 10.1038/s41591-024-03456-y
  » https://doi.org/10.1038/s41591-024-03456-y
• ⁶ Eriksen A, Moller S, Ryg J. Use of GPT-4 to diagnose complex clinical cases. NEJM AI [Internet]. 2023 [accesso 12 set 2024];1(1). DOI: 10.1056/AIp2300031
  » https://doi.org/10.1056/AIp2300031
• ⁷ Nedungadi P, Ramesh M, Govindaraju V, Rao B, Berbeglia P, Raman R. Emerging leaders or persistent gaps? Generative AI research may foster women in STEM. Int J Inf Manage [Internet]. 2024 [accesso 28 dez 2024];77:102785. DOI: 10.1016/j.ijinfomgt.2024.102785
  » https://doi.org/10.1016/j.ijinfomgt.2024.102785
• ⁸ European Commission. 2nd Live Webinar of the Thematic Network Navigating Health Inequalities in the EU through Artificial Intelligence [Internet]. Brussels: EU Health Policy Platform; 2023. Disponível: https://bit.ly/4ujiHRN
  » https://bit.ly/4ujiHRN
• ⁹ Yu H, Zhou Z. Optimization of IoT-based artificial intelligence assisted telemedicine health analysis system. IEEE [Internet]. 2021 [accesso 12 set 2024];9:85035-48. DOI: 10.1109/ACCESS.2021.3088262
  » https://doi.org/10.1109/ACCESS.2021.3088262
• ¹⁰ Appel G, Neelbauer J, Schweidel DA. Generative AI has an intellectual property problem [Internet]. Brighton: Harvard Business Review; 2023 [acesso 17 set 2024]. Disponível: https://bit.ly/4bLFQ7V
  » https://bit.ly/4bLFQ7V
• ¹¹ Thorbecke C. Don't tell anything to a chatbot you want to keep private [Internet]. New York: CNN Business; 2023 [acesso 17 set 2024]. Disponível: https://tinyurl.com/2zcu4w65
  » https://tinyurl.com/2zcu4w65
• ¹² Correia M, Rego G, Nunes R. Gender transition: is there a right to be forgotten? Health Care Anal [Internet]. 2021 [acesso 17 set 2024];29:283-300. DOI: 10.1007/s10728-021-00433-1
  » https://doi.org/10.1007/s10728-021-00433-1
• ¹³ Nuñez M. Anthropic just analyzed 700,000 Claude conversations - and found its AI has a moral code of its own [Internet]. San Francisco: VentureBeat; 21 abr 2025 [acesso 10 jul 2025]. Disponível: https://tinyurl.com/2u3fxw2f
  » https://tinyurl.com/2u3fxw2f
• ¹⁴ Jones N. How should we test AI for human-level intelligence? OpenAI's o3 electrifies quest. Nature [Internet]. 14 jan 2025 [acesso 7 abr 2025];637(8047):774-5. DOI: 10.1038/d41586-025-00110
  » https://doi.org/10.1038/d41586-025-00110
• ¹⁵ AI Act [Internet]. Brussels: European Commission; 2024 [acesso 17 set 2024]. Disponível em: https://bit.ly/4r6Hl53
  » https://bit.ly/4r6Hl53
• ¹⁶ Nunes R, Rego G, Melo H, Nunes S, Duarte I. Perspectives in gender equality. Basel: MDPI Books [Internet]. 2025 [accesso 28 dez 2024]. Disponível: https://bit.ly/3NsItCk
  » https://bit.ly/3NsItCk
• ¹⁷ Defining the role of authors and contributors [Internet]. Philadelphia: ICMJE; 2025 [acesso 8 jul 2025]. Disponível: https://bit.ly/4ucNAaq
  » https://bit.ly/4ucNAaq
• ¹⁸ Nunes R. Ethics in science. Porto Biomed J [Internet]. 2017 [acesso 17 set 2024];2(4):97-8. DOI: 10.1016/j.pbj.2017.04.001
  » https://doi.org/10.1016/j.pbj.2017.04.001
• ¹⁹ Nunes R. Bioética. Brasília: CFM; 2022.
• ²⁰ Declaration of Helsinki [Internet]. Ferney-Voltaire: WMA; 2024 [acesso 9 jan 2025]. Disponível: https://bit.ly/ 4lv7wl3
  » https://bit.ly/ 4lv7wl3
• ²¹ Conselho da Europa. Convenção para a Proteção dos Direitos Humanos e Dignidade do Ser Humano no que se refere à Aplicação da Biologia e da Medicina. Estrasburgo: Conselho da Europa; 1996.
• ²² Unesco. Declaração Universal sobre Bioética e Direitos Humanos. Paris: Unesco; 2005.
• ²³ Nunes R. Declaração de voto - 6/XVI/1 que regulamenta os ensaios clínicos de medicamentos para uso humano. Lisboa: Conselho Nacional de Ética para as Ciências da Vida; 31 jan 2025.
• ²⁴ Akbarialiabad H, Amini H, Shaterzadeh-Yazdi MJ, Jamali S, Almasi-Hashiani A, Abbasi-Kangevari M et al. The utility of generative AI in advancing global health. NEJM AI [Internet]. 2025 [acesso 9 abr 2025];2(3). DOI: 10.1056/AIp2400875
  » https://doi.org/10.1056/AIp2400875
• ²⁵ Ioannidis JPA. Why replication has more scientific value than original discovery. Behav Brain Sci [Internet]. 2018 [acesso 17 set 2024];41:e137. DOI: 10.1017/s0140525x18000729
  » https://doi.org/10.1017/s0140525x18000729
• ²⁶ National Academies of Sciences, Engineering, and Medicine. Reproducibility and replicability in science. Washington, DC: National Academies Press; 2019.
• ²⁷ Baker M. 1,500 scientists lift the lid on reproducibility. Nature [Internet]. 2016 [acesso 17 set 2024];533(7604):452-4. DOI: 10.1038/533452a
  » https://doi.org/10.1038/533452a
• ²⁸ Wicherts JM, Veldkamp CLS, Augusteijn HEM, Bakker M, van Aert RCM, van Assen MALM. Degrees of freedom in planning, running, analyzing, and reporting psychological studies: a checklist to avoid p-hacking. Front Psychol [Internet]. 2016 [acesso 17 set 2024];7:1832. DOI: 10.3389/fpsyg.2016.01832
  » https://doi.org/10.3389/fpsyg.2016.01832
• ²⁹ Deloitte Centre for Health Solutions. Be brave, be bold: measuring the return from pharmaceutical innovation. 15th ed. London: Deloitte; 2025.
• ³⁰ Ahuja AS. The impact of artificial intelligence in medicine on the future role of the physician. PeerJ Life Environ [Internet]. 2019 [acesso 12 set 2024];10:e7702. DOI: 10.7717/peerj.7702
  » https://doi.org/10.7717/peerj.7702
• ³¹ Lee P, Bubeck S, Petro J. Benefits, limits, and risks of GPT-4 as an AI chatbot for medicine. N Engl J Med [Internet]. 2023 [acesso 12 set 2024];388(13):1233-9. DOI: 10.1056/NEJMp2302580
  » https://doi.org/10.1056/NEJMp2302580
• ³² European Comission. Empowering learners for the age of AI: an AI literacy framework for primary and secondary education. Brussels: European Comission; 2025.
• ³³ Nunes R, Nunes SB. Reliable artificial intelligence: the 18th Sustainable Development Goal. J Ethics Leg Technol [Internet]. 2024 [acesso 9 abr 2025];6(2):5-20. DOI: 10.14658/pupj-JELT-2024-2-2
  » https://doi.org/10.14658/pupj-JELT-2024-2-2
• ³⁴ Kohlberg L. Essays on moral development. San Francisco: Harper & Row; 1987.
• ³⁵ Zielinski C, Winker MA, Aggarwal R, Ferris LE, Heinemann M, Lapeña Jr JF et al. Chatbots, ChatGPT, and scholarly manuscripts: WAME recommendations on ChatGPT and chatbots in relation to scholarly publications [Internet]. WAME; 2023 [acesso 7 jul 2025]. Disponível: https://bit.ly/409sg7Z
  » https://bit.ly/409sg7Z

• Disponibilidad de los datos:
  Todos los datos utilizados o generados en la investigación se describen y presentan íntegramente en el cuerpo del artículo.

Editado por

• Editora responsable:
  Dilza Teresinha Ambrós Ribeiro

Disponibilidad de datos

Todos los datos utilizados o generados en la investigación se describen y presentan íntegramente en el cuerpo del artículo.

Fechas de Publicación

• Publicación en esta colección
  05 Jun 2026
• Fecha del número
  2026

Histórico

• Recibido
  25 Jun 2025
• Revisado
  22 Ene 2026
• Acepto
  24 Ene 2026