Inteligencia artificial en las publicaciones científicas: cuestiones éticas y legalesDefinir inteligencia es saludable cuando la humanidad se propone utilizar una inteligencia llamada artificial; pensamos, entonces, ¿qué sería la inteligencia considerada natural? Por lo tanto, la inteligencia es la capacidad que tienen los seres vivos de depender del pensamiento analógico, el cual no puede ser generado por equipos digitales, porque el cerebro humano es capaz de hacer lo inimaginable, algo que la computadora nunca podrá hacer1.
La Teoría de las Inteligencias Múltiples afirma las siete inteligencias presentes en el ser humano: inteligencia lógico-matemática, lingüística, interpersonal, intrapersonal, corporal, espacial y musical2.
La Inteligencia Artificial (IA), por otro lado, se refiere a la capacidad de una máquina de reproducir habilidades similares a las humanas, como el razonamiento, el aprendizaje, la planificación y la creatividad3. Esta máquina, a menos que sea comandada y controlada por un ser humano, no es capaz de presentar todos los dominios relacionados con la inteligencia. Entonces, si la propuesta es reproducir la capacidad de pensamiento humano, esta actividad no puede llamarse inteligencia, sino cerebro artificial, refiriéndose al poder de aprender con concepto físico y control sostenido por la inteligencia humana4.
La IA existe desde mediados de la década de 1950 y su historia está entrelazada con la aparición de las primeras computadoras, pero solo en los últimos años ha comenzado a generalizarse y utilizarse a gran escala. Por lo tanto, actualmente existe la preocupación referente al reemplazo de los seres humanos por las IAs en sus actividades personales y laborales.
Sin embargo, presentamos algunos factores que sugieren lo contrario: el cerebro humano no funciona como una computadora; las conexiones del cerebro humano no solo se basan en la lógica; las decisiones tomadas por un cerebro humano no son binarias; el cerebro humano no es una máquina digital, y aprendemos de una manera diferente de un sistema informático; y la inteligencia del ser humano no es transferible a una fórmula matemática.
Afirmar que la IA puede reemplazar al ser humano es un intento de reducir nuestra condición humana a secundaria o subordinada a las máquinas que creamos1, y el más importante de estos factores es el hecho de que el ser humano se relaciona, siente, ama, hace amigos. Todas estas, actividades que la computadora nunca podrá realizar.
Si presuponemos que seremos reemplazados por las máquinas, asumiremos que estamos frente a generaciones que no quieren pensar y ser activas en los descubrimientos, en el desarrollo del ser humano y en el crecimiento del mundo. Presupondremos, de esta manera, que los profesionales son prescindibles y que realmente ya no se les puede llamar inteligentes como lo define la Teoría de las Inteligencias Múltiples.
Con esto viene otra preocupación: si el ser humano es quien comanda a las máquinas, los algoritmos y las redes neuronales creadas en las computadoras, la ética tan necesaria para el uso de la IA será determinada y cumplida por los propios seres humanos. Por lo tanto, lo que se hará éticamente con el uso de la IA debe definirse y controlarse de manera responsable, transparente y confiable, guiándose por los principios de beneficencia, no maleficencia, autonomía, justicia y aplicabilidad.
El uso de la IA en artículos y publicaciones científicas ha generado un intenso debate sobre las cuestiones jurídicas que deben analizarse detenidamente. Aunque la evolución tecnológica aporta numerosos beneficios, es necesario introducir adaptaciones y cambios normativos para garantizar que el trabajo siga siendo adecuado y ético.
Ante estos hechos, Brasil está dando un paso importante y significativo hacia la regulación y promoción del uso responsable de la IA con el proyecto de ley 21/2020 - Marco Legal para el Desarrollo y Uso de la IA5.
Una de las principales cuestiones que se plantean en el debate es la protección de los derechos de autor; según la Ley Brasileña de Derechos de Autor6, la autoría de la obra debe atribuirse a la persona física que la realizó, por lo que surge la pregunta: ¿cómo debemos asignar la autoría de un artículo escrito por un robot? Hasta ahora, en general las obras generadas por IA han sido adjudicadas a los creadores o empleados de la empresa que mantenía la tecnología, pero este pensamiento tiende a evolucionar en consonancia con la ascensión y la autonomía de la IA.
Un punto que no debe pasarse por alto en este debate es la ética dentro del mundo científico. Con base en la Declaración de Helsinki y en las normas del Consejo Nacional de Desarrollo Científico y Tecnológico (CNPq), se destaca la importancia de la exhaustividad y la sinceridad en la investigación7-8.
Cuando se utiliza la IA para examinar grandes volúmenes de datos, se necesita sumo cuidado, ya que la falta de conocimiento y rigor puede dar lugar a errores si los algoritmos no se construyen y presentan de acuerdo con las reglas de programación, o si se basan en datos parciales. Por lo tanto, es responsabilidad de los investigadores legitimar los frutos generados por la IA, garantizando la exactitud y veracidad de las publicaciones científicas7-8.
La cuestión de la responsabilidad legal es otro punto importante que hay que abordar. En el caso de errores o resultados negativos derivados del uso de la IA en trabajos científicos, es de suma importancia determinar sobre quién recaerá esta responsabilidad. En estos casos, la responsabilidad puede recaer en los desarrolladores de las tecnologías, los investigadores o incluso las instituciones que apoyan o promueven la investigación.
Como se trata de un tema complicado, se sigue necesitando una regulación específica. Como resultado, la regulación y la supervisión del uso de tecnologías avanzadas vienen siendo monitoreadas por agencias reguladoras, como la Autoridad Nacional de Protección de Datos (ANPD) y por el CNPq, que desempeña un papel fundamental en la implementación de normas y directrices que guían el uso de la IA en los trabajos científicos, garantizando así la integridad científica7,9.
Con esto, se concluye que la IA tiene el poder de transformar el mundo científico, pero conlleva diversos factores legales que deben ser analizados para que se respete la eficacia y la ética de la investigación científica, evitando así la descalificación por veracidad de los trabajos científicos, manteniendo así la calidad inquebrantable de los pilares científicos.
De esa manera, suponiendo los preceptos éticos debidos, presentamos las áreas en las que la IA puede ser absorbida por la publicación científica para facilitar la evaluación de manuscritos científicos, sin reemplazar a los editores y evaluadores científicos de las revistas, sino más bien apoyándolos.
Como ejemplo podemos mencionar el reconocimiento de significados en textos y en el habla, permitiendo la comunicación con los seres humanos. Puede utilizarse para la selección de artículos, la revisión gramatical y de estilo, la extracción de datos y metadatos, la detección de similitudes, la traducción automática, las sugerencias de coautoría, la revisión por pares asistida por IA, la clasificación e indexación automáticas, la detección de la adopción de prácticas antiéticas en la publicación, la revisión de contenidos científicos, análisis y puesta a disposición de imágenes y gráficos, revisión de formato y maquetación, extracción de información de figuras y tablas, análisis de conflictos de intereses, clasificación de artículos en categorías no estrictamente definidas, detección de pagos para posterior emisión de facturas y organización de registros.
De este modo, la IA está diseñada para ayudar a los seres humanos, que a su vez deben controlarla de acuerdo con normas éticas, y no reemplazarlos. El objetivo es hacer que el trabajo sea más rápido y práctico, una meta que el ser humano lleva vislumbrando desde la primera Revolución Industrial.
Referencias bibliográficas
-
1. Silva AA, Pôrto Júnior FGR. Algoritmos silenciadores: desinformação e espiral do silencio na era da inteligência artificial. Organicom [Internet]. 2024 [cited 2024 Jul 7];21(44):147-58. Available from: https://www.revistas.usp.br/organicom/article/view/221079
» https://www.revistas.usp.br/organicom/article/view/221079 - 2. Gardner H. Frames of Mind: the theory of multiple intelligences. 10th ed. New York: Basic Books; 2011.
-
3. Ludermir TB. Inteligência Artificial e Aprendizado de Máquina: estado atual e tendências. Estud Av. 2021;35(101):85-94. https://doi.org/10.1590/s0103-4014.2021.35101.007
» https://doi.org/10.1590/s0103-4014.2021.35101.007 -
4. Quaresma A. Artificial intelligences and the problem of consciousness. PAAKAT: Rev Tecnol Soc. 2019;09(16). https://doi.org/10.32870/pk.a9n16.349
» https://doi.org/10.32870/pk.a9n16.349 -
5. Câmara dos Deputados (BR). Projeto de Lei nº 21, 2020. Projeto de marco legal da IA no Brasil [Internet]. 2020 [cited 2024 Jun 21]. Available from: https://www.camara.leg.br/proposicoesWeb/fichadetramitacao?idProposicao=2236340
» https://www.camara.leg.br/proposicoesWeb/fichadetramitacao?idProposicao=2236340 -
6. Presidência da República (BR). Lei nº 9.610, de 19 de fevereiro de 1998. Dispõe sobre os direitos autorais e dá outras providências [Internet]. 1998[cited 2024 Jun 21]. Available from: http://www.planalto.gov.br/ccivil_03/leis/l9610.htm
» http://www.planalto.gov.br/ccivil_03/leis/l9610.htm -
7. Conselho Nacional de Desenvolvimento Científico e Tecnológico (CNPq). Normas e diretrizes para a pesquisa científica [Internet]. 2024 [cited 2024 Jun 21]. Available from: http://memoria2.cnpq.br/web/guest/normas/
» http://memoria2.cnpq.br/web/guest/normas/ -
8. Associação Médica Mundial. Declaração de Helsinque: princípios éticos para a pesquisa médica envolvendo seres humanos [Internet]. 2013[cited 2024 Jun 21]. Available from: https://www.wma.net/policies-post/wma-declaration-of-helsinki-ethical-principles-for-medical-research-involving-human-subjects/
» https://www.wma.net/policies-post/wma-declaration-of-helsinki-ethical-principles-for-medical-research-involving-human-subjects/ -
9. Autoridade Nacional de Proteção de Dados (ANPD). Nota técnica nº 16. Sugestões de incidência legislativa em projetos de lei sobre a regulação da Inteligência Artificial no Brasil [Internet]. 2023[cited 2024 Jun 21]. Available from: https://www.gov.br/anpd/pt-br/documentos-e-publicacoes
» https://www.gov.br/anpd/pt-br/documentos-e-publicacoes
