Desafíos éticos y metodológicos de la inteligencia artificial generativa en educación superior: Revisión bibliométrica
Ethical and Methodological Challenges of Generative Artificial Intelligence in Higher Education: Bibliometric Review
María Margarita Fanning Balarezo
Universidad Nacional Pedro Ruiz Gallo
Email: mfanning@unprg.edu.pe
ORCID: https://orcid.org/0000-0002-2666-4935
María Rosa Vásquez Pérez
Universidad Nacional Pedro Ruiz Gallo
Email: mvasquez@unprg.edu.pe
ORCID: https://orcid.org/0000-0003-1591-0683
Emma Virginia Noblecilla Montealegre
Universidad Nacional Pedro Ruiz Gallo
Email: enoblecilla@unprg.edu.pe
ORCID: https://orcid.org/0000-0001-6333-8699
Recibido 21/08/2024
Aprobado 16/10/2024
Publicado 23/10/2024
Resumen
La inteligencia artificial generativa es una tecnología con aplicaciones significativas en la educación superior, pero presenta desafíos éticos y metodológicos en su implementación en la academia. Este estudio analizó, mediante métodos bibliométricos, la producción científica sobre la inteligencia artificial generativa y su integración en la educación superior, identificando los desafíos mencionados. Se revisaron 903 documentos publicados en Scopus entre 1986 y 2024. Los resultados evidencian un notable aumento en la producción científica desde 2014. Autores como Hwang GJ y Wang Y han contribuido significativamente mediante colaboraciones internacionales e interdisciplinarias. Revistas como "Sustainability (Switzerland)" e "International Journal of Educational Technology in Higher Education" son las más influyentes en este campo. Geográficamente, Estados Unidos y China lideran la producción científica. La investigación cubre diversas áreas del conocimiento, con una concentración en ciencias de la computación y sociales, lo que resalta la naturaleza multidisciplinaria del campo. Los temas principales incluyen la alfabetización en inteligencia artificial y su conexión con la industria 4.0, mientras que la gestión de grandes datos aún requiere mayor atención. La espectroscopía muestra tres periodos clave: 1951,2020 y 2023 en la producción y aplicación de la IA. Los desafíos éticos, comprenden la privacidad y protección de datos, el sesgo algorítmico y la transparencia en el uso de la inteligencia artificial; y, en los metodológicos se destaca la necesidad de desarrollar infraestructuras tecnológicas adecuadas, proporcionar formación continua a los docentes e integrar la inteligencia artificial en el currículo educativo. Las limitaciones incluyen la resistencia al cambio, desigualdades en infraestructura y altos costos de implementación. Se subraya la importancia de políticas claras y regulaciones para el uso ético y responsable de la inteligencia artificial generativa, así como el desarrollo de más investigaciones longitudinales que consideren el contexto cultural y socioeconómico.
Palabras Clave: inteligencia artificial generativa, educación superior, desafíos éticos, desafíos metodológicos.
ABSTRACT
Generative artificial intelligence is a technology with significant applications in higher education, but it presents ethical and methodological challenges in its implementation in academia. This study analyzed, using bibliometric methods, the scientific production on generative artificial intelligence and its integration in higher education, identifying ethical and methodological challenges. 903 documents published in Scopus between 1986 and 2024 were reviewed. The results show a notable increase in scientific production since 2014. Authors such as Hwang GJ and Wang Y have contributed significantly through international and interdisciplinary collaborations. Journals such as "Sustainability (Switzerland)" and "International Journal of Educational Technology in Higher Education" are the most influential in this field. Geographically, the United States and China lead the scientific production. The research covers diverse areas of knowledge, with a concentration in computer and social sciences, which highlights the multidisciplinary nature of the field. Key topics include AI literacy and its connection to Industry 4.0, while big data management still requires further attention. Spectroscopy shows three key periods: 1951, 2020 and 2023 in the production and application of AI. Ethical challenges include data privacy and protection, algorithmic bias and transparency in the use of AI; methodological challenges highlight the need to develop adequate technological infrastructures, provide ongoing training for teachers and integrate AI into the educational curriculum. Limitations include resistance to change, inequalities in infrastructure and high implementation costs. The importance of clear policies and regulations for the ethical and responsible use of generative AI is underlined, as well as the development of more longitudinal research that considers the cultural and socioeconomic context.
Keywords: generative artificial intelligence, higher education, ethical challenges, methodological challenges.
Introducción
La inteligencia artificial generativa (IAG) emerge como una tecnología revolucionaria en diversos campos, incluyendo la educación superior, debido a su capacidad para crear contenidos, personalizar el aprendizaje y proporcionar tutorías automatizadas, generando un interés considerable en su aplicación educativa, motivando a instituciones académicas y de investigación, a nivel global, a explorar su potencial para transformar los métodos de enseñanza, mejorar resultados de aprendizaje y adaptar los currículos a las necesidades individuales de los estudiantes. Sin embargo, junto con estos beneficios, también surgen importantes desafíos éticos y metodológicos que deben ser abordados, para asegurar su implementación responsable y efectiva.
La literatura existente muestra una evolución considerable en la investigación sobre la IA en la educación superior. Estudios recientes, destacan la creciente producción científica en este campo, con un notable aumento de publicaciones a partir de 2014 y un pico en 2023. Autores como Hwang G-J y Wang Y, han realizado contribuciones significativas, reflejando una alta colaboración internacional y una naturaleza interdisciplinaria en la investigación (Rahman y Watanobe, 2023).
Las revistas "Sustainability (Switzerland)" e "International Journal Of Educational Technology In Higher Education" son las más influyentes en esta temática, concentrando un gran número de publicaciones y citaciones (Chen et al., 2020). La diversidad temática sugiere la necesidad de abordar el tema desde múltiples disciplinas para comprender plenamente sus aplicaciones y desafíos (Lo, 2023). Estos hallazgos subrayan la importancia de un enfoque integral y colaborativo para la investigación en IAG en la educación superior.
En este contexto se planteó como pregunta central de investigación: ¿Qué desafíos éticos y metodológicos presenta la inteligencia artificial generativa en la educación superior y cómo afectan estos a la credibilidad y ética académica según el análisis bibliométrico de la literatura existente?, la cual dio lugar a las siguientes preguntas específicas: ¿Cuántos estudios se han publicado a lo largo de los años? ¿Quiénes son los autores más activos en el área? ¿Cuáles son las principales revistas que publican investigaciones sobre este tema? ¿Desde qué áreas del conocimiento se han investigado? ¿Qué niveles de colaboración han tenido los autores, instituciones y países? ¿Qué instituciones se han comportado como financiadoras de los estudios relacionados con el fenómeno? ¿Cuál ha sido el desarrollo semántico alrededor del fenómeno en estudio? ¿Qué autores y estudios seminales han marcado el desarrollo de la inteligencia artificial generativa y su aplicación en la educación?
La justificación del estudio radica en la necesidad de proporcionar una visión exhaustiva de los desafíos éticos y metodológicos que conlleva la implementación de la IAG en la educación superior. Además, se pretende contribuir a la literatura existente mediante un análisis bibliométrico que identifique tendencias, áreas emergentes de interés y brechas en la investigación. Esto no solo facilitará la toma de decisiones informadas por parte de académicos y profesionales, sino que también orientará futuras investigaciones hacia áreas que requieren una mayor atención. Comprender estos desafíos es esencial para desarrollar estrategias efectivas que promuevan un uso ético y responsable de estas tecnologías.
METODOLOGÍA
Para describir los desafíos éticos y metodológicos asociados con el uso de la IAG en la educación superior, se llevó a cabo una investigación cuantitativa, no experimental, exploratoria y descriptiva de carácter longitudinal, donde se realizó un seguimiento de la variable en estudio a lo largo de varios años.
Se utilizó el análisis bibliométrico para examinar la producción científica, aplicando diversas técnicas y herramientas estadísticas para contar y analizar publicaciones científicas, así como para evaluar el impacto y la evolución de la investigación en diferentes campos del conocimiento (Hood y Wilson, 2001). Este enfoque también facilitó la identificación de tendencias emergentes y la evolución de áreas de estudio (Börner et al., 2003), además al revelarse las redes de colaboración entre investigadores, instituciones y países (Newman, 2001).
El análisis bibliométrico implicó una serie de pasos secuenciales: formulación de preguntas de investigación, selección de la base de datos Scopus para la búsqueda de publicaciones, elaboración de la ecuación canónica utilizando palabras claves del Tesauro DeSC: TITLE-ABS-KEY ("Artificial Intelligence" OR "Expert Systems") AND TITLE-ABS-KEY ("Higher Education" OR universities”). Se identificaron 903 documentos que fueron exportados en formato CVS y se convirtieron a Excel para su procesamiento.
Se elaboraron tablas y figuras a partir de los datos obtenidos de Scopus y se generaron mapas científicos en forma de redes semánticas y de coautorías, utilizando software especializado como Bibliometrix, desarrollada en R, respaldado por R Core Team y la R Foundation for Statistical Computing (Bibliometrix, 2023). Se respetaron los derechos de autoría, presentando las citas y referencias bibliográficas según normas APA, séptima edición.
RESULTADOS
A. Con respecto al análisis bibliométrico
La Figura 1 muestra los principales indicadores bibliométricos desde el año 1986 hasta 2024, que abarcó 903 documentos provenientes de 390 fuentes distintas, con una tasa de crecimiento anual del 13%. La antigüedad media de 4 años, con un promedio de 19 citas por documento, lo cual revela un interés creciente y actual de la temática.
Se identificaron un total de 2542 palabras clave, que describen el contenido central de cada documento, lo que sugiere una gran diversidad temática y un enfoque multidisciplinario en la investigación. La literatura es relativamente reciente, con una antigüedad media de 4.17 años, lo que sugiere un campo de estudio en constante desarrollo.
Se identificaron 2797 autores, con un promedio de tres coautores por documento. La colaboración internacional se evidenció en el 20% de los documentos, mostrando la relevancia a nivel mundial del tema.
Principales indicadores bibliométricos de la colección de metadatos
Nota. Indicadores obtenidos con Bibliometrix.
La Figura 2 ilustra la evolución de la producción científica, respecto al objeto de estudio (A), la producción científica muestra un crecimiento notable, pasando de entre 2 y 8 publicaciones anuales entre 1986 y 1996, a 249 publicaciones en 2023 y 211 hasta julio de 2024. Las áreas de conocimiento (B) más prolíficas incluyen ciencias de la computación (369 documentos) y ciencias sociales (903 documentos), seguidas de ingeniería, artes y humanidades, y ciencia ambiental. En el ámbito de las ciencias de la salud, psicología, medicina y enfermería presentan una producción incipiente, pero en crecimiento. En cuanto a los patrocinadores (C), se registraron 160 instituciones que apoyan publicaciones en esta temática. Sobresalen la National Science Foundation (23 publicaciones), National Natural Science Foundation of China (13), Estos datos reflejan un interés creciente por parte de las instituciones en los desafíos éticos y metodológicos de la IAG en la educación superior.
Figura 2
Evolución de las publicaciones, áreas de conocimiento y patrocinadores.
Nota. Reporte de Scopus
Los índices h, g y m ofrecen una visión combinada de la productividad, impacto y evolución del investigador. El número total de citas (TC) y publicaciones (NP) proporcionan un contexto adicional sobre la amplitud y reconocimiento de su trabajo. Estos indicadores son fundamentales para evaluar rendimiento académico e impacto en el campo de estudio.
La Figura 3, muestra una visión combinada de la productividad, impacto y evolución de la carrera de los primeros 15 autores en la temática investigada. Autores como Hwang G-J y Wang Y se destacan por su alta productividad y el impacto de sus publicaciones, con un crecimiento notable en sus índices H. Además, se muestra la productividad, impacto y evolución de 18 de 390 fuentes o revistas registradas. Las revistas “Sustainability (Switzerland)” e “International Journal of Educational Technology in Higher Education”, lideran en cuanto a productividad y citas, con índices H altos, lo que las posiciona como fuentes clave en la difusión del conocimiento sobre IAG en educación superior.
Figura 3
Impacto local por autores y fuentes
Nota. Reporte de Bibliometrix
La Figura 4 muestra la Ley de Bradford, que revela que la mayor parte de la producción científica se concentra en un núcleo de 16 revistas, mientras que la Ley de Lotka muestra que la mayoría de los autores han publicado solo un artículo en esta temática.
Figura 4
Fuentes principales según Ley de Bradford y productividad por autores a través de la Ley de Lotka
Nota. Reporte de Bibliometrix
La Figura 5 muestra la producción científica por países, la cual está concentrada en Estados Unidos y China, seguidos por Australia y Canadá, mientras que regiones como América del Sur y África muestran una escasa actividad investigadora en este campo.
Figura 5
Productividad por países
Nota. Reporte de Scopus
El mapa temático, de la Figura 6, destaca temas centrales relacionados con la universidad y la tecnología, especialmente la emergente, conectada a la industria 4.0 y a la necesidad de alfabetizar en IA, que se tornan en un gran desafío actual para la educación superior. Estos resultados enfatizan la gran relevancia que ha adquirido esta temática, ubicándose, como puede apreciarse, en el cuadrante superior derecho, como temas motores en las áreas de investigación con las que se relacionan. Sin embargo, también se aprecia que, no obstante, la centralidad que ocupa la IA, la gestión de grandes datos y su enseñanza en la educación superior, aún siguen siendo temas muy poco desarrollados y con escasa conexión entre ellos y que como consecuencia del desarrollo que viene alcanzando la IA, explica el interés emergente por el aprendizaje de algoritmos y la alfabetización en IA.
Figura 6
Mapa temático
Nota. Reporte de Bibliometrix
En la Figura 7, puede observarse la conformación de tres grandes ejes temáticos. El primero, el clúster rojo, abarca la mayor cantidad de temas relacionados con procesos de aprendizaje utilizando las diferentes categorías de la IA, aprendizaje automatizado y tratamiento de grandes datos. Dentro de él se observan en desarrollo, temas como la ingeniería de software, el aprendizaje de algoritmos y el procesamiento de lenguaje natural. El clúster verde, representa el segundo eje temático, en orden de desarrollo, por la densidad de investigaciones en el área, en el que el tema central lo constituye el aprendizaje de software, asociado a actividades de las universidades, destacándose el contexto de la pandemia por COVID-19 y siendo China y Estados Unidos, los países en los que los estudios sobre estos temas predominan. El tercer eje temático (clúster verde), tiene como tema central el ser humano, y guarda relación con la educación médica y temas del currículo universitario que abordan estudios de simulación computarizada.
Figura 7
Análisis factorial
Nota. Reporte de Bibliometrix
La espectroscopía del año de la referencia citada, que se basa en el análisis de la frecuencia de citas de referencias en publicaciones dentro de un área de investigación específica en relación con los años de publicación, muestra los picos de influencia en la literatura, donde se ubican las publicaciones citadas con más frecuencia (Marx et al., 2014). La Figura 8, destaca tres periodos clave: 1951,2020 y 2023 con autores y estudios seminales que han dejado una huella significativa en el desarrollo de la inteligencia artificial (IA) y su aplicación en la educación.
En 1951, se destacan los aportes de Cronbach (1951), Arendt (1951) y Asch (1951), quienes abordan aspectos fundamentales de la estadística, psicología, sociología y política, que han impactado en la evolución de la IA en términos de precisión, influencia social y ética. Cronbach introdujo el coeficiente alfa, fundamental para la validación de modelos de IA, mientras que los estudios de Asch sobre conformidad social han influido en el diseño de algoritmos de IA que interactúan con usuarios humanos. Arendt, por su parte, exploró conceptos de control e ideología que son relevantes para los debates actuales sobre la ética de la IA.
En 2020, los trabajos de Chen y Chen, 2020; destacan cómo la IA ha sido adoptada ampliamente en la educación, permitiendo personalizar el aprendizaje y mejorar la eficiencia en la enseñanza. Sin embargo, subrayan la falta de estudios longitudinales sobre el impacto a largo plazo de la IA en la educación y plantean preocupaciones éticas, como la privacidad de datos y el potencial desplazamiento de docentes.
Chen, et al (2020), realizan una revisión sistemática de 45 artículos sobre la Inteligencia Artificial en la Educación (AIEd), proporcionando definiciones clave y explorando las relaciones entre IA y otras tecnologías educativas. Este estudio destaca la importancia de comprender las interacciones entre estudiantes y sistemas de tutoría inteligente.
Chen y Chen (2020), abordan el uso de tecnologías o programas de IA en entornos educativos para facilitar la enseñanza, el aprendizaje o la toma de decisiones y proporciona un marco conceptual que describe cómo implementar la IAE en diferentes contextos de enseñanza y aprendizaje. Los autores sugieren la necesidad de investigar la aplicación de la IA en campos menos explorados como las artes, el diseño, la medicina y los cursos de enfermería, porque reconocen que hay pocas investigaciones en esta área y no se proporciona un plan claro para su desarrollo o implementación.
En 2023 autores como Lo, Rahman y Watanobe y Atlas, analizan el impacto de ChatGPT en la educación superior. Resaltan su capacidad para generar respuestas coherentes y su uso en la creación de materiales educativos, aunque también señalan desafíos como la exactitud, confiabilidad y prevención del plagio. Proponen la necesidad de directrices claras para mitigar estos riesgos y promover la integridad académica.
Rahman y Watanobe (2023), además señalan que el uso del Chat GPT crea la posibilidad de plagio en exámenes en línea; la dificultad para distinguir entre textos generados por humanos y por IA; la dependencia excesiva de herramientas generativas que puede afectar negativamente el desarrollo de habilidades de pensamiento crítico y resolución de problemas y las dificultades para evaluar la precisión y veracidad de las respuestas generadas por ChatGPT.
Por su parte Atlas (2023), presenta una guía comprensiva sobre las aplicaciones y potencialidades de ChatGPT en la educación superior y el desarrollo profesional, desmintiendo mitos referidos a que “usarlo equivale a plagio” o que “puede reemplazar a los profesores humanos”. También señala vacíos en la evaluación crítica de sus limitaciones, desafíos éticos, estrategias de integración curricular y el impacto a largo plazo en las habilidades de pensamiento crítico y resolución de problemas de los estudiantes, así como en la dinámica de la enseñanza y el aprendizaje.
En conjunto, estos documentos muestran cómo la IA se está integrando en diversas áreas, con un enfoque particular en la educación, y destacan tanto sus beneficios como los desafíos éticos y metodológicos que deben ser abordados para su implementación efectiva.
Figura 8
Espectroscopía del año de la referencia citada (raíces históricas del tema)
Nota. Reporte de Bibliometrix
B. Desafíos éticos y metodológicos en la integración de la IAG en la educación superior.
La Figura 9, muestra los principales desafíos éticos que incluyen la privacidad y protección de datos de los estudiantes, el sesgo algorítmico y la responsabilidad y transparencia en el uso de la IAG. Es crucial desarrollar políticas estrictas para gestionar datos sensibles, garantizar la equidad en los sistemas de IA y mantener la confianza en estas tecnologías mediante una transparencia adecuada.
Desde el punto de vista metodológico, se enfatiza la necesidad de desarrollar infraestructuras tecnológicas adecuadas, proporcionar formación continua a los docentes e integrar la IA en los currículos educativos. Estas acciones son fundamentales para asegurar una implementación efectiva y ética de la IAG.
En términos de gobernanza, se requiere el desarrollo de políticas y regulaciones claras que guíen el uso responsable de la IA, así como la capacitación y educación tanto de docentes como de estudiantes sobre el uso ético de estas tecnologías.
Entre las limitaciones identificadas se encuentran la resistencia al cambio, las desigualdades en infraestructura y los altos costos de implementación. Las brechas en la investigación incluyen la falta de estudios empíricos que evalúen el impacto real de la IA en la educación y la insuficiente consideración del contexto cultural y socioeconómico en la implementación de estas tecnologías.
Figura 9
Desafíos en los aspectos éticos, metodológicos y de la gobernanza para la integración de la IAG en la educación superior.
DISCUSIÓN DE RESULTADOS
Diversos estudios sobre la IA en la educación superior han coincidido en identificar áreas clave de aplicación, así como beneficios, desafíos y futuras direcciones de la investigación.
El análisis bibliométrico muestra un incremento significativo en la producción científica sobre la integración de la IAG en la educación superior entre 1986 hasta 2024. Este crecimiento es notable a partir de 2014, alcanzando un pico en 2023 con 249 publicaciones, lo que representa una tasa de crecimiento anual del 13%; este incremento subraya tanto la relevancia científica como el impacto del tema, evidenciado también por un promedio de 19 citas por documento. Los hallazgos son coherentes con estudios previos que también han observado una expansión considerable en la investigación sobre IA en educación en los últimos años, desde el uso inicial de computadoras hasta la adopción de sistemas educativos inteligentes basados en la web (Chen et al., 2020; Lo, 2023).
Autores prominentes como Hwang G-J y Wang Y han contribuido de manera significativa al campo, con altos índices H y G que reflejan el impacto sustancial de sus trabajos en la comunidad científica. Este hallazgo coincide con investigaciones que subrayan la importancia de la colaboración internacional e interdisciplinaria en este ámbito (Rahman y Watanobe, 2023). Hwang G-J, ha publicado varios artículos notables sobre IA, centrándose en su aplicación en educación. Uno de sus trabajos aborda el potencial de la IAG en la educación y expone los desafíos y las direcciones de investigación futuras de la IAG, como ChatGPT y MidJourney, en entornos educativos (Hwang, y Chen, 2023). Por su parte, Wang Y, ha realizado investigaciones significativas especialmente en el campo de la salud y la tecnología educativa, el reciente aporte está referido al uso de modelos de lenguaje avanzados en la atención médica, proponiendo mejoras en el aprendizaje multitarea para aplicaciones médicas utilizando modelos de mezcla de expertos (Liao et al, 2024).
Las revistas "Sustainability (Switzerland)" y "International Journal Of Educational Technology In Higher Education" se destacan por su prolífica producción y alta tasa de citaciones, lo que subraya su relevancia en la difusión de investigaciones sobre la IAG en la educación. Esto es consistente con la Ley de Bradford, que sugiere que un pequeño número de revistas concentra la mayoría de las publicaciones en un campo específico.
Geográficamente, Estados Unidos y China lideran la producción científica en el tema de la IAG en la educación superior, seguidos por Australia y Canadá. Este patrón es consistente con estudios que identifican a estos países como líderes en investigación y desarrollo de tecnologías emergentes en educación (Chen et al., 2020; Rahman y Watanobe, 2023).
La investigación sobre la IA en educación superior abarca una amplia gama de áreas del conocimiento, con una mayor concentración en ciencias de la computación y ciencias sociales, seguidas por ingeniería y ciencias ambientales, demostrando la naturaleza multidisciplinaria de este campo. Esta diversidad temática se refleja en las 2542 palabras clave identificadas en los documentos analizados, lo que subraya la necesidad de abordar las aplicaciones y desafíos de la IA desde múltiples disciplinas (Chen et al., 2020).
El análisis semántico y el mapeo temático identificaron temas centrales como la alfabetización en IA y la educación conectada a la industria 4.0. Sin embargo, se observan áreas menos desarrolladas, como la gestión de grandes datos y su enseñanza en la educación superior, lo que sugiere que, aunque ciertos aspectos de la IA han captado gran interés, otros requieren mayor atención e investigación (Lo, 2023). Atlas (2023), también señala la necesidad de profundizar en el uso de IA para personalizar el aprendizaje y mejorar la accesibilidad educativa. Por otro lado, los clústeres temáticos identificados muestran investigaciones que abordan la aplicación de la IA en contextos de pandemia y en la educación médica, lo que refleja una respuesta adaptativa a necesidades emergentes.
El análisis histórico, muestra los picos de influencia destacando tres periodos clave: 1951,2020 y 2023 con autores que han aportado significativamente en el desarrollo de la inteligencia artificial (IA), aplicables en varias áreas del conocimiento, entre ellas la educativa.
Los desafíos éticos emergen como un aspecto crítico, destacándose la privacidad y protección de datos, el sesgo algorítmico, y la responsabilidad y transparencia en el uso de la IA (Kong et al., 2021; Alqahtani et al., 2023; Bucea et al., 2022; Pisica et al., 2023 y Memarian y Doleck, 2023). La protección de datos es crucial, por ello se requiere que la recopilación, almacenamiento y uso de grandes volúmenes de datos personales se gestione con estrictas políticas de privacidad para evitar mal uso o filtración de información sensible. Chen et al., (2020), enfatizan la necesidad de políticas estrictas para gestionar la información sensible de los estudiantes. El sesgo algorítmico representa un desafío significativo; y es vital garantizar que los sistemas de IA no perpetúen desigualdades existentes y que se promueva la equidad en todas las aplicaciones educativas de la IA. Esto es respaldado por Lo (2023), quien destaca la importancia de evitar el sesgo en las aplicaciones educativas de IA. La responsabilidad y transparencia es fundamental para transparentar cómo funcionan los algoritmos y cómo se toman las decisiones para mantener la confianza en estas tecnologías.
En términos metodológicos, se destaca la necesidad de desarrollar infraestructuras tecnológicas adecuadas, se necesita invertir en la infraestructura tecnológica adecuada que soporte el uso de IA; esto incluye servidores potentes, software especializado y conexiones de internet de alta velocidad. También es importante invertir en la formación continua a los docentes e integrar la IA en los currículos educativo, que incluyan aprendizaje personalizado, tutorías automatizadas y herramientas de evaluación avanzada. La IA puede ayudar a adaptar el contenido educativo a las necesidades individuales de los estudiantes. Estos aspectos son esenciales para una implementación efectiva, en línea con las recomendaciones de Chen, Xie, Zou y Hwang (2020).
A los desafíos éticos y metodológicos se le suma la necesidad de cambios a nivel de gobernanza de la IA, se deben implementar políticas claras y regulaciones que guíen su uso ético y responsable, incluyendo la capacitación en uso ético y la transparencia en los procesos y decisiones impulsados por IA. Atlas (2023); Salas-Pilco y Yang (2022) y Bearman et al. (2023), también resalta la importancia de directrices claras y de la educación sobre integridad académica para prevenir el plagio y otros usos indebidos de la IA.
Existen limitaciones para integrar la IA en la educación superior, destacan la resistencia al cambio, algunos docentes y estudiantes pueden resistirse a adoptar nuevas tecnologías debido a la falta de familiaridad o temor a lo desconocido; las desigualdades en infraestructura, porque no todas las instituciones educativas cuentan con los recursos necesarios para implementar tecnologías de IA, lo que puede crear desigualdades entre diferentes instituciones y regiones y los altos costos de implementación, tanto en términos de adquisición de tecnología como de capacitación de personal. Todas ellas deben ser superadas para integrar con eficacia y eficiencia la IA en la educación superior.
Las brechas en la investigación se centran en la carencia de estudios empíricos que evalúen el impacto real de la IA en los resultados de aprendizaje y otros aspectos educativos, porque la mayoría de las investigaciones actuales se basan en estudios teóricos y a ello se suma el contexto cultural y socioeconómico, en el que se implementa la IA, que puede afectar la efectividad de estas tecnologías en diferentes regiones. Este aspecto no ha sido suficientemente abordado por la mayoría de las investigaciones. Las limitaciones y brechas señaladas refuerzan la necesidad de más estudios empíricos que evalúen el impacto de la IA en la educación desde una perspectiva global y contextual (Lo, 2023; Rahman y Watanobe, 2023; Wang et al., 2023 y Crompton y Burke, 2023).
Este estudio contribuye a la comprensión de los desafíos éticos y metodológicos en la integración de la IAG en la educación superior, proporcionando una visión exhaustiva de la evolución de la investigación, los principales actores y las áreas del conocimiento implicadas. No obstante, una limitación del estudio es la dependencia de una sola base de datos, la misma que aun siendo robusta, puede dejar de capturar todas las investigaciones relevantes, especialmente aquellas en otros idiomas o publicadas en revistas no indexadas.
Para futuras investigaciones, se sugiere un enfoque en estudios empíricos que evalúen el impacto a largo plazo de la IA en los resultados de aprendizaje, considerando contextos culturales y socioeconómicos específicos. Esto implica diseñar investigaciones longitudinales que proporcionen datos sobre las implicaciones de la IA en la educación superior. Además, es crucial desarrollar marcos regulatorios y políticas que aseguren un uso ético y responsable de la IA, promoviendo la equidad y la transparencia en todas las aplicaciones de estas tecnologías (Lo, 2023; Chen et al., 2020; Kuleto et al., 2021 y Cox (2021).
Asimismo, se debe invertir en infraestructuras tecnológicas que soporten el uso de la IA en la educación superior, evaluando y mejorando las capacidades tecnológicas actuales para una integración efectiva de estas herramientas. La formación continua de los docentes en tecnologías de IA es fundamental, para asegurar que estén preparados para integrar la IA en sus métodos de enseñanza. Esto también incluye la educación de los estudiantes sobre el uso ético de la IA, promoviendo una cultura de responsabilidad y transparencia en la comunidad educativa.
Finalmente, es esencial desarrollar enfoques pedagógicos que incorporen la IA de manera efectiva en los currículos educativos, como la personalización del aprendizaje, tutorías automatizadas y herramientas avanzadas de evaluación. La actualización de los currículos para incluir competencias digitales y de IA es vital para preparar a los estudiantes para el futuro.
La integración de la IAG en la educación superior presenta tanto desafíos como oportunidades. Abordar estos desafíos requerirá una colaboración continua entre investigadores, educadores, reguladores y otros actores clave. Siguiendo estas recomendaciones, las instituciones pueden maximizar los beneficios de la IA mientras minimizan los riesgos, asegurando un uso ético y responsable de estas tecnologías.
Se recomienda que futuras investigaciones profundicen en dos aspectos clave: i) la categorización y formas de aplicación de la IA en diversos procesos cognitivos (como interpretaciones, resúmenes, clasificaciones, inferencias, etc.) dentro del contexto educativo superior, y ii) la tipificación de los tipos de aprendizaje automático (supervisado y no supervisado) utilizados en sistemas generativos de IA, considerando que los desafíos éticos y limitaciones pueden variar entre estos enfoques. Estas líneas de investigación contribuirían a una comprensión más completa de las implicaciones éticas y metodológicas de la IA en la educación superior.
CONCLUSIONES
La integración de la IAG en la educación superior ha generado un creciente interés académico, evidenciando desafíos éticos y metodológicos que afectan la credibilidad y la ética académica. Desde el año 1986 hasta el 2024, se ha observado un incremento significativo en la producción científica, especialmente desde el año 2014, lo que refleja una preocupación global por los impactos de la IAG. Autores como Hwang G-J y Wang Y han contribuido notablemente, destacando la necesidad de colaboración internacional e interdisciplinaridad.
Las revistas más prolíficas, como "Sustainability (Switzerland)" e "International Journal of Educational Technology in Higher Education", desempeñan un papel crucial en la difusión del conocimiento, alineándose con la Ley de Bradford. La investigación sobre IAG se concentra geográficamente en Estados Unidos y China, seguidos de Australia y Canadá, evidenciando un liderazgo en tecnologías educativas emergentes.
El análisis de las áreas del conocimiento revela la naturaleza multidisciplinaria de la investigación en IAG, con una fuerte presencia en ciencias de la computación y sociales. La diversidad temática, reflejada en las 2542 palabras clave, indica que la IAG se aplica en diversas disciplinas, destacando la necesidad de un enfoque integral para abordar sus aplicaciones y desafíos.
Se identificaron temas motores como la alfabetización en IA y la educación conectada a la industria 4.0, mientras que áreas menos exploradas, como la gestión de grandes datos, aún requieren mayor atención. Estos hallazgos sugieren que, aunque algunos aspectos de la IAG están bien desarrollados, otros como la personalización del aprendizaje y la accesibilidad educativa emergen como áreas de interés creciente. La espectroscopía muestra tres periodos clave: 1951, 2020 y 2023 de la IA y cómo se está incorporando en diversas áreas de conocimiento, entre ellas la educativa.
Los desafíos éticos principales incluyen la protección de datos, el sesgo algorítmico y la necesidad de transparencia en el uso de la IAG. Es crucial establecer regulaciones estrictas para manejar información sensible y diseñar algoritmos que eviten perpetuar desigualdades. La transparencia en los procesos algorítmicos es vital para mantener la confianza en estas tecnologías.
Desde un enfoque metodológico, se destaca la importancia de desarrollar infraestructuras tecnológicas adecuadas, proporcionar formación continua a los docentes e integrar la IA en los currículos educativos para asegurar una implementación efectiva de la IAG.
La gobernanza de la IA en la educación superior requiere políticas claras y regulaciones que guíen su uso ético. Es fundamental la colaboración entre instituciones educativas, reguladores y otros actores clave para desarrollar marcos regulatorios sólidos que protejan los derechos de los estudiantes y aseguren la transparencia en el uso de datos y algoritmos.
Finalmente, las limitaciones incluyen la resistencia al cambio, desigualdades en infraestructura y altos costos de implementación. Las brechas en la investigación, como la falta de estudios empíricos y la consideración del contexto cultural y socioeconómico, subrayan la necesidad de más investigaciones longitudinales que evalúen el impacto de la IA en la educación desde una perspectiva global y contextual.
REFERENCIAS
Alqahtani, T., Badreldin, H. A., Alrashed, M., Alshaya, A. I., Alghamdi, S. S., bin Saleh, K., Alowais, S. A., Alshaya, O. A., Rahman, I., Al Yami, M. S., y Albekairy, A. M. (2023). The emergent role of artificial intelligence, natural learning processing, and large language models in higher education and research. Research in Social and Administrative Pharmacy, 19 (2023), 1236–1242. https://doi.org/10.1016/j.sapharm.2023.05.016
Arendt H. (1951). The origins of totalitarism. The World Publishing Company. New York. USA. 552 pág. https://cheirif.wordpress.com/wp-content/uploads/2014/08/hannah-arendt-the-origins-of-totalitarianism-meridian-1962.pdf
Asch, S. E. (1951). Effects of group pressure upon the modification and distortion of judgments. In H. Guetzkow (Ed.), Groups, leadership and men; research in human relations (pp. 177–190). Carnegie Press. https://gwern.net/doc/psychology/1952-asch.pdf
Atlas, S. (2023). ChatGPT para la educación superior y el desarrollo profesional: una guía para la IA conversacional. https://digitalcommons.uri.edu/cba_facpubs/548
Bearman, M., Ryan, J., y Ajjawi, R. (2023). Discourses of artificial intelligence in higher education: A critical literature review. Higher Education, 86 (3), 369-385. https://doi.org/10.1007/s10734-022-00937-2
Bibliometrix. (2023). Bibliometrix—Home. https://www.bibliometrix.org/home/index.php
Börner, K., Chen, C., y Boyack, K. W. (2003). Visualizing knowledge domains. Annual Review of Information Science and Technology, 37(1), 179-255
Bucea-Manea-Toniș, R., Kuleto, V., Gudei, S. C. D., Lianu, C., Lianu, C., Ilić, M. P., y Păun, D. (2022). Artificial intelligence potential in higher education institutions: Enhanced learning environment in Romania and Serbia. Sustainability, 14 (10), 5842. https://doi.org/10.3390/su14105842
Chen, L., y Chen, P. (2020). Artificial Intelligence in Education: A Review. Computers and Education: Artificial Intelligence, 1, 100001. https://doi.org/10.1016/j.caeai.2020.100001
Chen, L., Chen, P., y Lin, Z. (2020). Artificial intelligence in education: A review. IEEE Access, 8, 75264-75278. https://doi.org/10.1109/ACCESS.2020.2988510
Chen, X., Xie, H., Zou, D., y Hwang, G.-J. (2020). Application and theory gaps during the rise of Artificial Intelligence in Education. Computers and Education: Artificial Intelligence, 1, 100002. https://doi.org/10.1016/j.caeai.2020.100002
Cox, A. M. (2021). Exploring the impact of artificial intelligence and robots on higher education through literature-based design fictions. International Journal of Educational Technology in Higher Education, 18, 3. https://doi.org/10.1186/s41239-020-00237-8
Crompton, H., y Burke, D. (2023). Artificial intelligence in higher education: The state of the field. International Journal of Educational Technology in Higher Education, 20, 22. https://doi.org/10.1186/s41239-023-00392-8
Cronbach, L.J. (1951). Coefficient alpha and the internal structure of tests. Psychometrika 16, 297–334. https://doi.org/10.1007/BF02310555
Hood, W. W., y Wilson, C. S. (2001).The literature of bibliometrics, scientometrics, and informetrics. Scientometrics, 52(2), 291-314.
Hwang, G.-J., y Chen, N.-S. (2023). Exploring the Potential of Generative Artificial Intelligence in Education: Applications, Challenges, and Future Research Directions. Educational Technology y Society, 26(2). https://doi.org/10.30191/ETS.202304_26(2).0014
Kong, S.-C., Cheung, W. M.-Y., y Zhang, G. (2021). Evaluation of an artificial intelligence literacy course for university students with diverse study backgrounds. Computers and Education: Artificial Intelligence, 2, 100026. https://doi.org/10.1016/j.caeai.2021.100026
Kuleto, V., Ilić, M., Dumangiu, M., Ranković, M., Martins, O. M. D., Păun, D., y Mihoreanu, L. (2021). Exploring opportunities and challenges of artificial intelligence and machine learning in higher education institutions. Sustainability, 13 (18), 10424. https://doi.org/10.3390/su131810424
Liao, Y., Jiang, S., Wang, Y., y Wang, Y. (2024). MING-MOE: Enhancing medical multi-task learning in large language models with sparse mixture of low-rank adapter experts. arXiv Preprint. https://arxiv.org/abs/2401.06789
Lo, C. K. (2023). ¿Cuál es el impacto de ChatGPT en la educación? Una revisión rápida de la literatura. Educ. Sci. 13(4), 410. https://doi.org/10.3390/educsci13040410
Memarian, B., y Doleck, T. (2023). Fairness, Accountability, Transparency, and Ethics (FATE) in Artificial Intelligence (AI) and Higher Education: A Systematic Review. Computers and Education: Artificial Intelligence, 5, 100152. https://doi.org/10.1016/j.caeai.2023.100152
Marx, W., Bornmann, L., Barth, A., y Leydesdorff, L. (2014). Detecting the historical roots of research fields by reference publication year spectroscopy (RPYS): Detecting the Historical Roots of Research Fields by Reference Publication Year Spectroscopy. (RPYS). Journal of the Association for Information Science and Technology, 65(4), 751-764. https://doi.org/10.1002/asi.23089
Newman, M. E. J. (2001). The structure of scientific collaboration networks. Proceedings of the National Academy of Sciences, 98(2), 404-409.
Pisica, A. I., Edu, T., Zaharia, R. M., y Zaharia, R. (2023). Implementing Artificial Intelligence in Higher Education: Pros and Cons from the Perspectives of Academics. Societies, 13(5), 118. https://doi.org/10.3390/soc13050118
Rahman, M. M., y Watanobe, Y. (2023). ChatGPT para la educación y la investigación: oportunidades, amenazas y estrategias. Appl. Sci. 2023, 13(9), 5783; https://doi.org/10.3390/app13095783
Salas-Pilco, S. Z., y Yang, Y. (2022). Artificial Intelligence Applications in Latin American Higher Education: A Systematic Review. International Journal of Educational Technology in Higher Education, 19(21). https://doi.org/10.1186/s41239-022-00326-w
Wang, T., Lund, B. D., Marengo, A., Pagano, A., Mannuru, N. R., Teel, Z. A., y Pange, J. (2023). Exploring the potential impact of artificial intelligence (AI) on international students in higher education: Generative AI, chatbots, analytics, and international student success. Applied Sciences, 13 (11), 6716. https://doi.org/10.3390/app13116716