LOS NUEVOS ESCENARIOS DE LA SOCIEDAD DIGITAL ANTE EL DESAFÍO DE LA INTELIGENCIA ARTIFICIAL (IA) GENERATIVARESUMO
Objetivo: Apresentar o monográfico que aborda os novos cenários da sociedade digital frente ao desafio da Inteligência Artificial (IA) Gerativa, destacando suas implicações tecnológicas, éticas, epistemológicas e sociais. O artigo busca introduzir os estudos selecionados, enfatizando suas contribuições para setores como educação, mídia e biblioteconomia, e propondo diretrizes para a integração responsável dessas ferramentas.
Método: A pesquisa adota uma abordagem interdisciplinar, combinando métodos qualitativos e quantitativos, baseada na análise de estudos empíricos e teóricos desenvolvidos por pesquisadores de diversos países, incluindo Brasil, Espanha, Itália e Portugal. O universo abrange aplicações de IA em contextos educacionais, mediáticos e institucionais.
Resultado: Os principais resultados destacam a democratização do acesso à criação de conteúdos por meio da IA gerativa, a transformação dos paradigmas tradicionais de produção e avaliação de conhecimento, e os desafios relacionados a viés algorítmico, impacto energético e desigualdades sociais. Evidencia-se também o potencial da IA para personalizar serviços educacionais e bibliotecários, enquanto se alerta para questões éticas e epistemológicas.
Conclusões: A principal contribuição do monográfico é oferecer uma visão estruturada sobre as implicações transversais da IA gerativa, sistematizando avanços e desafios. O texto propõe marcos normativos e colaborativos que assegurem uma implementação equitativa, sustentável e responsável dessas tecnologias. Reforça-se a importância de um diálogo ético e interdisciplinar para alinhar os avanços tecnológicos aos valores sociais.
PALAVRAS-CHAVE:
Inteligência Artificial; Ética; Educação; Sustentabilidade; Equidade
ABSTRACT
Objective: To present the monograph that deals with the new scenarios of the digital society in the face of the challenge of Generative Artificial Intelligence (AI), highlighting its technological, ethical, epistemological and social implications. The article aims to present the selected studies, highlighting their contributions to sectors such as education, media and librarianship, and to propose guidelines for the responsible integration of these tools.
Methodology: The research adopts an interdisciplinary approach, combining qualitative and quantitative methods, based on the analysis of empirical and theoretical studies developed by researchers from several countries, including Brazil, Spain, Italy and Portugal. The universe includes AI applications in educational, media and institutional contexts.
Results: The main findings highlight the democratisation of access to content creation through generative AI, the transformation of traditional paradigms of knowledge production and evaluation, and the challenges related to algorithmic bias, energy impacts and social inequalities. The potential of AI to personalise educational services and librarianship is also highlighted, with attention to ethical and epistemological issues.
Conclusions: The main contribution of the monograph is to provide a structured view of the cross-cutting implications of generative AI, systematising advances and challenges. The text proposes normative and collaborative frameworks to ensure an equitable, sustainable and responsible implementation of these technologies. The importance of an ethical and interdisciplinary dialogue to reconcile technological advances with societal values is emphasised.
KEYWORDS:
Artificial Intelligence; Ethics; Education; Sustainability; Equity
PALAVRAS-CHAVE:
Inteligência Artificial; Ética; Educação; Sustentabilidade; Equidade
KEYWORDS:
Artificial Intelligence; Ethics; Education; Sustainability; Equity
PALAVRAS-CHAVE:
Inteligência Artificial; Ética; Educação; Sustentabilidade; Equidade
KEYWORDS:
Artificial Intelligence; Ethics; Education; Sustainability; Equity
1 LOS NUEVOS ESCENARIOS DE LA SOCIEDAD DIGITAL ANTE EL DESAFÍO DE LA INTELIGENCIA ARTIFICIAL (IA) GENERATIVA
100 millones de usuarios en tan solo dos meses. Así es como ChatGPT se convirtió en la plataforma de consumo que más rápido ha crecido en la historia de internet. Y como, abanderando una transformación tecnológica, los avances en los modelos basados en transformadores han devuelvo a la Inteligencia Artificial (IA) a un período de «verano de la IA», pese a las perspectivas contrapuestas en cuanto a las limitaciones y retos a los que se enfrentan estas tecnologías, que van más allá de la información y de la comunicación, ya que afectan a todos los sectores creativos y productivos.
La irrupción de sistemas de IA generativa como ChatGPT ha democratizado el acceso creación de texto sintético y otros contenidos sin precedentes, remodelando incluso las interacciones tradicionales con los repositorios de datos. Esta transformación va más allá de la mera innovación tecnológica. Abarca dimensiones éticas, socioculturales y epistemológicas que influyen en el modo en que individuos y colectivos interactúan con la información. La capacidad de la IA generativa para producir contenidos coherentes y contextualmente relevantes tiene profundas implicaciones en todos los ámbitos, pero muy particularmente en la educación, los medios de comunicación y diversos campos profesionales, lo que suscita debates sobre el uso ético de tales tecnologías y su impacto en la cognición humana y las estructuras sociales (Çayir, 2023; Livingston y Risse, 2019).
Con todo, la arquitectura de transformadores original (Vaswani et al., 2017), aunque revolucionaria, ha sido criticada por su complejidad. De la misma manera, también lo han sido los retos que plantea en aplicaciones en tiempo real (Chen et al., 2023) o el impacto energético que supone, con sus consiguientes implicaciones medioambientales.
Además, la dependencia de grandes conjuntos de datos para el entrenamiento de estos modelos plantea preocupaciones sobre el sesgo de los datos y las implicaciones éticas, lo que podría socavar los beneficios percibidos de este resurgimiento de la IA (Amaratunga, 2023). Los avances son notables, pero el panorama está matizado con retos constantes que atenúan el optimismo que rodea a las tecnologías de IA (Wolf et al., 2020), una perspectiva crítica que abanderan autores que son grandes referentes del sector, como es el caso de Yann LeCun. La influencia de la IA es omnipresente y afecta a diversos ámbitos como la educación, la sanidad o la economía. ¡Prueba de ello es este trabajo monográfico de Encontros Bibli!
La integración de las tecnologías de IA en cualquier sector requiere un examen exhaustivo de sus implicaciones, incluidas las consideraciones éticas y el potencial de sesgo en los sistemas de IA. La naturaleza interdisciplinaria de la investigación en IA pone de relieve la necesidad de esfuerzos de colaboración para abordar estos desafíos, garantizando que el desarrollo de la IA se alinee con los valores sociales y promueva resultados equitativos (Livingston & Risse, 2019; Liu, 2023; Bakhteev, 2023).
Además, los enfoques metodológicos para estudiar la IA deben trascender las perspectivas reduccionistas, fomentando una comprensión holística de sus implicaciones sistémicas. Esto implica no solo reconocer la interacción entre tecnología y sociedad, sino también la necesidad de marcos sólidos que puedan acomodar las complejidades del impacto de la IA en la vida humana. Tales marcos son esenciales para navegar por los dilemas éticos que plantea la IA, sobre todo a medida que sus capacidades siguen evolucionando e integrándose en las prácticas cotidianas (Russia, 2020; Gams et al., 2019).
Es innegable que el panorama actual de la IA está marcado por avances transversales que no solo mejoran las capacidades operativas, sino que también provocan debates críticos sobre las ramificaciones éticas y sociales de estas tecnologías. El diálogo permanente entre investigadores, responsables políticos y profesionales es vital para configurar el futuro de la IA de una manera responsable y beneficiosa para la sociedad en su conjunto (Hulsen et al., 2019; Pérez, 2024).
Entre las líneas de investigación más significativas del presente compendio, destaca el análisis pormenorizado de la incidencia de los sistemas de inteligencia artificial en la personalización de los procesos cognoscitivos y el desarrollo del pensamiento crítico en el ámbito de la educación superior. Los estudios de este monográfico, que reúnen trabajos de autores de Europea y de América profundizan en esta línea y desarrollan un marco analítico que permite examinar cómo estas herramientas tecnológicas están reconfigurando sustancialmente los paradigmas tradicionales de acceso, evaluación y producción del conocimiento en entornos académicos.
Las investigaciones seleccionadas de investigadores de Brasil, España, Italia o Portugal, entre otros países, para este monográfico presentan evidencia empírica sobre las transformaciones metodológicas derivadas de la implementación de sistemas inteligentes en contextos educativos, al tiempo que problematiza las dimensiones éticas subyacentes y los desafíos en materia de accesibilidad. Este análisis multifactorial subraya la necesidad imperiosa de desarrollar marcos normativos y protocolos de integración que garanticen la implementación equitativa y socialmente responsable de estas tecnologías en el ecosistema educativo superior, considerando variables sociodemográficas, culturales y económicas que inciden en su adopción efectiva.
Otros textos profundizan en el análisis comparativo entre la inteligencia artificial generativa y las capacidades humanas en la producción de contenidos, como los contenidos periodísticos, explorando de manera crítica tanto las ventajas como las limitaciones inherentes a cada una. Este estudio se erige como un punto de partida para reflexionar sobre el impacto disruptivo de la IA en disciplinas marcadamente creativas y comunicativas, enfatizando los desafíos contemporáneos asociados con la preservación de la originalidad y el pensamiento crítico en estos contextos. Así, se plantea una problematización esencial que trasciende los marcos técnicos, para abordar las implicaciones epistemológicas y éticas derivadas de la integración de estas tecnologías en prácticas tradicionalmente humanas.
El monográfico también aborda el impacto de los sesgos algorítmicos en la producción de realidades visuales por parte de la IA generativa, mostrando cómo estas herramientas tienden a reproducir y amplificar desigualdades raciales y de género. En el artículo se subraya la necesidad de una mayor diversidad en los equipos de desarrollo y de datos de entrenamiento que reflejen la riqueza y complejidad cultural global.
Las investigaciones sobre biblioteconomía y documentación, de gran tradición en Encontros Bibli, también forman fundamental de este dossier. Es por ello que se incluyen estudios sobre el uso de la IA para personalizar servicios en bibliotecas universitarias y facilitar la generación de metadatos en archivos digitales. Estas aplicaciones destacan el potencial de la IA para optimizar procesos, pero también señalan los desafíos en términos de consistencia y fiabilidad en campos donde la precisión es crucial.
En el ámbito académico, se presentan investigaciones que exploran cómo las revistas científicas están integrando directrices sobre el uso de la IA generativa en sus procesos de publicación y revisión. Este debate refleja las tensiones entre las posibilidades que ofrecen estas herramientas y las preocupaciones sobre la ética, la originalidad y la responsabilidad intelectual en la producción de conocimiento.
Finalmente, el monográfico se cierra con una reflexión sobre el impacto de la IA en la formación y el bienestar de estudiantes universitarios en diferentes contextos socioeconómicos, explorando cómo estas herramientas pueden fomentar la creatividad y la adaptabilidad, pero también generar desigualdades si no se integran de manera equitativa.
La presente monografía persigue un doble objetivo epistemológico: por una parte, realizar una exhaustiva sistematización del estado de la cuestión en torno a los desarrollos contemporáneos de la inteligencia artificial y, por otra, establecer un marco analítico-crítico que permita examinar las implicaciones socioestructurales de estas herramientas tecnológicas en la construcción de un paradigma social caracterizado por la equidad y la sostenibilidad.
Este planteamiento dual responde a la necesidad de trascender el mero análisis descriptivo para adentrarse en una reflexión metacognitiva sobre el papel transformador de la IA en la reconfiguración de los modelos sociotecnológicos vigentes. En este sentido, todas las aportaciones, todas las aristas y todos los enfoques de este nuevo prisma social - la IA - intentan arrojar un poco de luz o, al menos, asentar las bases para un debate riguroso, crítico, constructivo e imprescindible sobre la IA.
REFERÊNCIAS
-
AMARATUNGA, T. Transformers. 2023. Disponível em: https://doi.org/10.1007/979-8-8688-0017-7_3 Acesso em: 27 jan. 2025.
» https://doi.org/10.1007/979-8-8688-0017-7_3 -
BAKHTEEV, D. Ethical-legal models of the society interactions with the artificial intelligence technology. Journal of Digital Technologies and Law, v. 1, n. 2, p. 520-539, 2023. Disponível em: https://doi.org/10.21202/jdtl.2023.22 Acesso em: 27 jan. 2025.
» https://doi.org/10.21202/jdtl.2023.22 -
ÇAYIR, A. A literature review on the effect of artificial intelligence on education. İnsan Ve Sosyal Bilimler Dergisi, v. 6, n. 2, p. 276-288, 2023. Disponível em: https://doi.org/10.53048/johass.1375684 Acesso em: 27 jan. 2025.
» https://doi.org/10.53048/johass.1375684 -
CHEN, H.; HOU, Y.; MIAO, T.; XUE, J. Analysis of transformer-based models for time series data, natural language processing, and computer vision. Applied and Computational Engineering, 2023. Disponível em: https://doi.org/10.54254/2755-2721/20/20231084 Acesso em: 27 jan. 2025.
» https://doi.org/10.54254/2755-2721/20/20231084 -
GAMS, M.; GU, I.; HÄRMÄ, A.; MUÑOZ, A.; TAM, V. Artificial intelligence and ambient intelligence. Journal of Ambient Intelligence and Smart Environments, v. 11, n. 1, p. 71-86, 2019. Disponível em: https://doi.org/10.3233/ais-180508 Acesso em: 27 jan. 2025.
» https://doi.org/10.3233/ais-180508 -
HAENLEIN, M.; KAPLAN, A. A brief history of artificial intelligence: on the past, present, and future of artificial intelligence. California Management Review, v. 61, n. 4, p. 5-14, 2019. Disponível em: https://doi.org/10.1177/0008125619864925 Acesso em: 27 jan. 2025.
» https://doi.org/10.1177/0008125619864925 -
HULSEN, T.; JAMUAR, S.; MOODY, A.; KARNES, J.; VARGA, O.; HEDENSTED, S.; et al. From big data to precision medicine. Frontiers in Medicine, v. 6, 2019. Disponível em: https://doi.org/10.3389/fmed.2019.00034 Acesso em: 27 jan. 2025.
» https://doi.org/10.3389/fmed.2019.00034 -
JIANG, Y.; LI, X.; LUO, H.; YIN, S.; KAYNAK, O. Quo vadis artificial intelligence? Discover Artificial Intelligence, v. 2, n. 1, 2022. Disponível em: https://doi.org/10.1007/s44163-022-00022-8 Acesso em: 27 jan. 2025.
» https://doi.org/10.1007/s44163-022-00022-8 -
LIU, Y. Implications of generative artificial intelligence for the development of the media industry. AEI, v. 1, n. 1, p. 29-36, 2023. Disponível em: https://doi.org/10.54254//1/2023006 Acesso em: 27 jan. 2025.
» https://doi.org/10.54254//1/2023006 -
LIVINGSTON, S.; RISSE, M. The future impact of artificial intelligence on humans and human rights. Ethics & International Affairs, v. 33, n. 02, p. 141-158, 2019. Disponível em: https://doi.org/10.1017/s089267941900011x Acesso em: 27 jan. 2025.
» https://doi.org/10.1017/s089267941900011x -
PÉREZ, C. Do artificial intelligence systems understand? Claridades Revista De Filosofía, v. 16, n. 1, p. 171-205, 2024. Disponível em: https://doi.org/10.24310/crf.16.1.2024.16441 Acesso em: 27 jan. 2025.
» https://doi.org/10.24310/crf.16.1.2024.16441 -
RUSSIA, E. Standardization of artificial intelligence for the development and use of intelligent systems. Advances in Wireless Communications and Networks, v. 6, n. 1, p. 1, 2020. Disponível em: https://doi.org/10.11648/j.awcn.20200601.11 Acesso em: 27 jan. 2025.
» https://doi.org/10.11648/j.awcn.20200601.11 - VASWANI, A.; SHAZEER, N.; PARMAR, N.; USZKOREIT, J.; JONES, L.; GOMEZ, A. N.; KAISER, Ł.; POLOSUKHIN, I. Attention is all you need. Advances in Neural Information Processing Systems, v. 30, p. 5998-6008, 2017.
-
WOLF, T.; DEBUT, L.; SANH, V.; CHAUMOND, J.; DELANGUE, C.; MOI, A.; CISTAC, P.; et al. Transformers: State-of-the-Art Natural Language Processing. Empirical Methods in Natural Language Processing, 2020. Disponível em: https://doi.org/10.5281/ZENODO.5347031 Acesso em: 27 jan. 2025.
» https://doi.org/10.5281/ZENODO.5347031
-
DECLARACIÓN DE DATOS
La investigación no recopiló datos. El artículo no contiene datos recopilados u obtenidos mediante análisis de fuentes primarias.
-
FINANCIAMENTO
Não se aplica.
-
CONSENTIMENTO DE USO DE IMAGEM
Não se aplica.
-
APROVAÇÃO DE COMITÊ DE ÉTICA EM PESQUISA
Não se aplica.
-
PUBLISHER
Universidade Federal de Santa Catarina. Programa de Pós-graduação em Ciência da Informação. Publicação no Portal de Periódicos UFSC. As ideias expressadas neste artigo são de responsabilidade de seus autores, não representando, necessariamente, a opinião dos editores ou da universidade.
Editado por
La investigación no recopiló datos. El artículo no contiene datos recopilados u obtenidos mediante análisis de fuentes primarias.
