LAS DUALIDADES ENTRE EL USO DE LA INTELIGENCIA ARTIFICIAL EN EDUCACIÓN Y LOS RIESGOS DE SESGOS ALGORÍTMICOS

El estudio busca identificar las dualidades entre el uso de la inteligencia artificial (IA) en la educación y los riesgos de sesgos algorítmicos. Esta investigación es cualitativa y se llevó a cabo una revisión sistemática de la literatura con apoyo bibliométrico. La recolección de datos se realizó en las bases de datos Scopus, Web of Science y ScienceDirect, y finalmente se seleccionaron 16 artículos para su análisis e interpretación. La hipótesis planteada es que los sesgos algorítmicos en la educación pueden comprometer la equidad y la eficacia de los procesos educativos. Se destacaron sesgos desde la codificación de los algoritmos hasta el procesamiento automatizado, lo cual puede afectar el rendimiento estudiantil y ampliar las desigualdades. Las medidas de mitigación sugeridas incluyen cuidados en las fases de capacitación e implementación de los algoritmos, el desarrollo de prácticas de reparación algorítmica, la supervisión de plataformas y la necesidad de tecnologías justas y confiables. En respuesta a la hipótesis, se concluye que la efectividad de la IA en la educación depende de un entrenamiento continuo e inclusivo de los algoritmos y de la concienciación de sus usuarios sobre los riesgos de sesgos algorítmicos, de modo que los sistemas puedan mejorarse para evitar la reproducción de injusticias sociales. Se recomienda un enfoque ético y colaborativo para asegurar que la IA contribuya a una educación más justa. La interacción entre los estudiantes y la IA puede impulsar una reflexión crítica sobre el feedback recibido, ya que necesitan saber identificar si los resultados son fiables, actualizados y libres de sesgos, dado que la incorporación de nuevos datos de formación en los algoritmos puede llevar tiempo.

Palabras clave
Sesgo algorítmico; Algoritmo; Inteligencia artificial; Educación