Alcances y límites educativos de la IA: control e ideología en el uso de ChatGPT
PDF

Palabras clave

Educación digital
Tecnoeducación
ChatGPT
Inteligencia artificial
Bien común
Educación crítica
Educación democrática

Cómo citar

Jarquín-Ramírez, M. R., Alonso-Martínez, H., & Díez-Gutiérrez, E. (2024). Alcances y límites educativos de la IA: control e ideología en el uso de ChatGPT. DIDAC, (84), 84–102. https://doi.org/10.48102/didac.2024.84_JUL-DIC.217

Resumen

En este trabajo se llevó a cabo una revisión sistemática de la literatura (RSL) sobre el uso en educación de la inteligencia artificial (IA) generativa, en concreto, ChatGPT, con el fin de revisar la estructura ideológica, política y práctica que subyace a este sistema y lo impulsa en el ámbito educativo. Para ello, se ha realizado una RSL de 32 artículos publicados entre 2020 y 2023 en Scopus, Dialnet, Web of Science (WOS) y Scielo. La validación de la RSL se realizó a partir de criterios de la Universidad de York. Los hallazgos reflejan que la incorporación de ChatGPT en la educación ha suscitado un debate centrado en la eficiencia y en los posibles abusos resultantes, obviándose las cuestiones epistemológicas, ideológicas y políticas que conlleva la IA, así como las consecuencias provocadas por sus sesgos algorítmicos, el extractivismo de datos que conlleva y el imperativo de eficiencia en que se encuadra. Se señalan como límites la novedad del fenómeno estudiado y la exploración de éste, que aún está desarrollándose.

https://doi.org/10.48102/didac.2024..84_JUL-DIC.217
PDF

Citas

Adams, T., Jameel, S. M., & Goggins, J. (2023). Education for Sustainable Development: Mapping the SDGS to University Curricula. Sustainability, 15(10), 8340. https://doi.org/10.3390/su15108340

Adell, J. (2023, 29 de junio). El discurso reaccionario en la educación. Viento sur: Por una izquierda alternativa, (188), 91–99. https://vientosur.info/las-corporaciones-tecnologicas-y-la-reconfiguracion-docente/

Al Ghatrifi, M. O. M., Al Amairi, J. S. S., & Thottoli, M. M. (2023). Surfing the technology wave: An international perspective on enhancing teaching and learning in accounting. Computers and Education: Artificial Intelligence, 4, Article 100-144. https://doi.org/10.1016/j.caeai.2023.100144

Barrios-Tao, H., Díaz, V., & Guerra, Y. M. (2021). Propósitos de la educación frente a desarrollos de inteligencia artificial. Cadernos de Pesquisa, 51. https://doi.org/10.1590/198053147767

Baum, J., & Villaseñor J. (2023, 8 de mayo). The politics of AI: ChatGPT and political bias. Brokings. https://acortar.link/Quv3IF

Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the dangers of stochastic parrots: Can language models be too big? Proceedings of the 2021 ACM conference on fairness, accountability, and transparency. Evento virtual, Canadá. https://dl.acm.org/doi/10.1145/3442188.3445922

Biswas, S. (2023, febrero 25). Role of Chat GPT in Education. SSRN. https://ssrn.com/abstract=4369981

Brenna (2023, 16 de febrero). Losing the Plot: From the Dream of AI to Performative Equity. Tru Digital Detox. https://acortar.link/yuHibH

Cañete, D. C. (2023). La educación en la era de la inteligencia artificial: desafíos y oportunidades. Forum Aragón: revista digital de FEAE-Aragón sobre organización y gestión educativa, (38), 48–53. https://dialnet.unirioja.es/servlet/articulo?codigo=8881933

Carrera, X., & Pérez, A. (2023). Tecnologías digitales en educación: poniendo el foco en la ética. Edutec, Revista Electrónica de Tecnología Educativa, (83), 1-6. https://doi.org/10.21556/edutec.2023.83.2829

Chambers, D., Rodgers, M., Golder, S., Pepper, C., Todd, D., & Woolacott, N. (2009). Methodological issues in a systematic review of a rapidly developing intervention: catheter ablation for atrial fibrillation (AF). Centre for Reviews and Dissemination. bit.ly/4eziotV

Chávarry, R. D., Terrón, A. M., Ariza, J. M. R., & Chinguel, G. R. (2023). Implicaciones sociales de la irrupción del Big Data y la robótica: un análisis prospectivo en docentes hispanoamericanos. Revista Electrónica Interuniversitaria de Formación del Profesorado, 26(1), 115–127. https://doi.org/10.6018/reifop.543871

Chen, L., Zaharia, M., & Zou, J. (2023). How is ChatGPT’s behavior changing over time? arXiv. https://doi.org/10.48550/arXiv.2307.09009

Chomsky, N., & Ramonet, I. (1995). Cómo nos venden la moto. Información, poder y concentración de medios. Icaria.

Chomsky, N., Roberts, I., & Watumull, J. (2023, 8 de marzo). Noam Chomsky: The False Promise of Chatgpt. The New York Times. https://bit.ly/3wn5hel

Coppi, L., & Carvalho, G. de A. (2023, 22 de marzo). Between the digital and the digitals: for a responsible teaching. SciELO Preprints. https://doi.org/10.1590/SciELOPreprints.5791

Cotton, D. R., Cotton, P. A., & Shipway, J. R. (2023). Chatting and cheating: Ensuring academic integrity in the era of Chatgpt. Innovations in Education and Teaching International, 61(2), 228–239. https://doi.org/10.1080/14703297.2023.2190148

Day, T. (2023). A Preliminary Investigation of Fake Peer-Reviewed Citations and References Generated by Chatgpt. The Professional Geographer, 75(6), 1024–1027. https://doi.org/10.1080/00330124.2023.2190373

Díez-Gutiérrez, E. J., Jarquín-Ramírez, M., & Peraza-Sanginés, C. (2023). Capitalismo digital y sus implicaciones en los procesos educativos y el trabajo docente. Viento sur: Por una izquierda alternativa, 68(2), 157–172.

Domínguez Figaredo, D. (2020). Data driven educational algorithms pedagogical framing. RIED: Revista Iberoamericana de Educación a Distancia, 23(2), 65–84. https://doi.org/10.5944/ried.23.2.26470

Dwivedi, Y. K., Kshetri, N., Hughes, L., Slade, E. L., Jeyaraj, A., Kar, A. K., ... & Wright, R. (2023). “So what if ChatGPT wrote it?” Multidisciplinary perspectives on opportunities, challenges and implications of generative conversational AI for research, practice, and policy. International Journal of Information Management, 71, 102–122. https://doi.org/10.1016/j.ijinfomgt.2023.102642

Fernández, P. (2023). “Through the looking glass: envisioning new library technologies” ai-text generators as explained by ChatGPT. Library Hi Tech News,40(3), 11-14. https://doi.org/10.1108/LHTN-02-2023-0017

Fire, M., & Guestrin, C. (2019). Overoptimization of academic publishing metrics: observing Goodhart’s Law in action. GigaScience, 8(6). https://doi.org/10.1093/gigascience/giz053

García-Peñalvo, F. J. (2023). La percepción de la inteligencia artificial en contextos educativos tras el lanzamiento de ChatGPT: disrupción o pánico. Education in the Knowledge Society (EKS), 24. https://doi.org/10.14201/eks.31279

Gentile, M., Città, G., Perna, S., & Allegra, M. (2023). Do we still need teachers? Navigating the paradigm shift of the teacher’s role in the AI era. Frontiers in Education, 8. https://doi.org/10.3389/feduc.2023.1161777

Giró, X., & Sancho-Gil, J. M. (2022). La inteligencia artificial en la educación: big data, cajas negras y solucionismo tecnológico. Revista Latinoamericana de Tecnología Educativa, 21(1), 129–145. https://doi.org/10.17398/1695288X.21.1.129

Global Disability Innovation Hub & World Bank Group (2022). A Landscape Review of ICT for Disability-Inclusive Education. The World Bank. https://documentos.bancomundial.org/es/publication/documents-reports/documentdetail/099840001312211991/p17136805cfd1f074095390cb6b01c0c715

Gómez, J. R. (2022). Las tecnologías digitales educativas: ¿fines de mercado o medios al servicio del aprendizaje crítico? Ensayos Pedagógicos, 17(1), 19–38. https://doi.org/10.15359/rep.17-1.1

Gurdeniz E., & Hosanagar, K. (2023, 23 de febrero). Generative AI Won’t Revolutionize Search-Yet. Harvard Business Review. https://hbr.org/2023/02/generative-ai-wont-revolutionizesearch-yet

Halaweh, M. (2023). ChatGPT in education: Strategies for responsible implementation. Contemporary Educational Technology, 15(2), Article ep421. https://www.cedtech.net/download/Chatgpt-in-education-strategies-for-responsible-implementation-13036.pdf

Hao, K. (2023, febrero 4). This is how AI bias really happens—and why it’s so hard to fix. MIT Technology Review. https://www.technologyreview.com/2019/02/04/137602/this-is-how-ai-bias-really-happensand-why-its-so-hard-to-fix/

Heaven, W. D. (2023, marzo 21). Google just launched Bard, its answer to ChatGPT—and it wants you to make it better. Technology Review. https://www.technologyreview.com/2023/03/21/1070111/google-bard-Chatgpt-openai-microsoft-bing-search/

Heimans, S., Biesta, G., Takayama, K., & Kettle, M. (2023). ChatGPT, subjectification, and the purposes and politics of teacher education and its scholarship. Asia Pacific Journal of Teacher Education, 51(2), 105–112 https://doi.org/10.1080/1359866X.2023.2189368

Hern, A. (2022, 4 de diciembre). ai Bot ChatGPT Stuns Academics with Essay Writing Skills and Usability. The Guardian. https://www.theguardian.com/technology/2022/dec/04/ai-bot-Chatgpt-stuns-academics-with-essay-writing-skills-and-usability

Hernández, L. A., & Moreno, H. (2023). Actitudes hacia el plagio en estudiantes de Introducción a la Programación: Un caso de estudio. Edutec, (83), 87–103. https://doi.org/10.21556/edutec.2023.83.2687

Hsu, Y. C., Ching, Y. H. (2023). Generative Artificial Intelligence in Education, Part One: the Dynamic Frontier. Tech-Trends, 67, 603–607. https://doi.org/10.1007/s11528-023-00863-9

Huh, S. (2023). Are ChatGPT’s knowledge and interpretation ability comparable to those of medical students in Korea for taking a parasitology examination? a descriptive study. Journal of Educational Evaluation for Health Professors, 20(1), 1–12. https://doi.org/10.3352/jeehp.2023.20.1

Hwang, G. J., & Chen, N.S. (2023). Editorial Position Paper: Exploring the Potential of Generative Artificial Intelligence in Education: Applications, Challenges, and Future Research Directions. Educational Technology & Society, 26(2), 1-17. https://doi.org/10.30191/ETS.202304_26(2).0014

Iskender, A. (2023). Holy or unholy? Interview with open AI’s ChatGPT. European Journal of Tourism Research, 34, Article 3414. https://doi.org/10.54055/ejtr.v34i.3169

Jiménez, A. (2020). The Silicon Doctrine. TripleC, 18(1), 322-336. https://doi.org/10.31269/triplec.v18i1.1147

Kallury, P. (2020, julio 7). Don’t ask if artificial intelligence is good or fair, ask how it shifts power. Nature. https://doi.org/10.1038/d41586-020-02003-2

Kasneci, E., Seßler, K., Küchemann, S., Bannert, M., Dementieva, D., Fischer, F., ... & Kasneci, G. (2023). ChatGPT for good? On opportunities and challenges of large language models for education. Learning and Individual Differences, 103, Article 102274. https://doi.org/10.1016/j.lindif.2023.102274

Khalil, M., Slade, S., & Prinsloo, P. (2023). Learning analytics in support of inclusiveness and disabled students: a systematic review. Journal of Computing in Higher Education, 36, 202-219. https://doi.org/10.1007/s12528023093634

Kissinger, H., Schmidt, E., & Huttenlocher, D. (2023, febrero 24) ChatGPT Heralds an Intellectual Revolution. Wall Street Journal. https://www.wsj.com/articles/Chatgpt-heralds-an-intellectual-revolution-enlightenment-artificial-intelligence-homo-technicus-technology-cognition-morality-philosophy-774331c6

Kooli, C. (2023). Chatbots in education and research: A critical examination of ethical implications and solutions. Sustainability, 15(7), 5614. https://doi.org/10.3390/su15075614

Korinek, M. A., Schindler, M. M., & Stiglitz, J. (2021). Technological progress, artificial intelligence, and inclusive growth. International Monetary Fund. https://www.imf.org/en/Publications/WP/Issues/2021/06/11/Technological-Progress-Artificial-Intelligence-and-Inclusive-Growth-460695

Larkin, Z. (2022, noviembre 16). AI Bias - What Is It and How to Avoid It? Levity. https://levity.ai/blog/ai-bias-how-to-avoid

Leike, Schulman, J., & Wu, J. (2022, agosto). Our approach to alignment research. OpenAI. https://openai.com/index/our-approach-to-alignment-research/

Lengua, C., Bernal, G. M., Flórez, W., & Velandia, M. (2020). Tecnologías emergentes en el proceso de enseñanza aprendizaje: hacia el desarrollo del pensamiento crítico. Revista Electrónica Interuniversitaria de Formación Del Profesorado, 23(3), 83–98. https://doi.org/10.6018/reifop.435611

Llaneza, P. (2019). Datanomics: todos los datos personales que das sin darte cuenta y todo lo que las empresas hacen con ello. Deusto.

Lo, C. K. (2023). What is the impact of ChatGPT on education? A rapid review of the literature. Education Sciences, 13(4), 410. https://doi.org/10.3390/educsci13040410

Lund, B. D., & Wang, T. (2023). Chatting about ChatGPT: how may AI and GPT impact academia and libraries? Library Hi Tech News. http://dx.doi.org/10.2139/ssrn.4333415

Luo, W., He, H., Liu, J., Berson, I. R., Berson, M. J., Zhou, Y., & Li, H. (2024). Aladdin’s Genie or Pandora’s Box for Early Childhood Education? Experts Chat on the Roles, Challenges, and Developments of Chatgpt. Early Education and Development, 35(1), 96–113. https://doi.org/10.1080/10409289.2023.2214181

Marcovitz, D. M. (2022). The intersection of social justice and educational technology: The educational technology social justice matrix. Education and Information Technologies, 27, 5129-5151. https://doi.org/10.1007/s10639-021-10828-1

Marín, V. I., & Tur, G. (2023). La privacidad de los datos en Tecnología Educativa: resultados de una revisión de alcance. Edutec. Revista Electrónica De Tecnología Educativa, (83), 7–23. https://doi.org/10.21556/edutec.2023.83.2701

Masters, K. (2023). Ethical use of Artificial Intelligence in Health Professions Education: AMEE Guide No. 158. Medical Teacher, 45(6), 574–584. https://doi.org/10.1080/0142159X.2023.2186203

Matozo, V. (2022). The role of digital scaffolding in youth ICT appropriation by social class. Observatorio (OBS*), 16(2), 169-192. https://obs.obercom.pt/index.php/obs/article/view/2001/pdf

Mennella, T. (2023, enero 18) Why Banning ChatGPT in Class is a Mistake. Campus Technology. https://acortar.link/gqvJZY

Metz, C. (2022, mayo 8). A.I. is not Sentient. Why Do People Say it is? New York Times. https://www.nytimes.com/2022/08/05/technology/ai-sentient-google.html

Moraga, J., & Cartes Velásquez, R. (2015). Pautas de chequeo, parte II: QUOROM y PRISMA. Revista chilena de cirugía, 67(3), 325-330. https://scielo.conicyt.cl/pdf/rchcir/v67n3/art15.pdf

Morozov, E. (2013). To save everything, click here. The folly of technological solutionism. Public Affairs.

O’Byrne, I. (2019). Educate, empower, advocate: Amplifying marginalized voices in a digital society. Contemporary Issues in Technology and Teacher Education, 19(4). https://citejournal.org/volume-19/issue-4-19/english-language-arts/educate-empower-advocate-amplifying-marginalized-voices-in-a-digital-society

OpenAI (2023, marzo 14). ChatGPT [Large language model]. Recuperado de https://Chatgpt.com/

Oppenheimer, D. (2023, enero 17). ChatGPT has arrived and nothing has changed. Times Higher Education. Recuperado de https://Chatgpt.com/

Oravec, J. (2022). AI, biometric analysis, and emerging cheating detection systems: The engineering of academic integrity? Education Policy Analysis Archives, 30(175). https://doi.org/10.14507/epaa.30.5765

Page, M. J., McKenzie, J. E., Bossuyt, P. M., Boutron, I., Hoffmann, T. C. Mulrow, C. D., ... & Moher, D. (2021). The PRISMA 2020 statement: an updated guideline for reporting systematic reviews. British Medical Journal. 372(71). https://doi.org/10.1136/bmj.n71.

Pascual, M. T. (2023). ChatGPT: ¿Herramienta para tod@s? Bit, (227), 60-61. https://bit.coit.es/opinion/Chatgpt-herramienta-para-tods/

Perkins, M. (2023). Academic Integrity considerations of AI Large Language Models in the postpandemic era: ChatGPT and beyond. Journal of University Teaching & Learning Practice, 20(2). https://doi.org/10.53761/1.20.02.07

Peters, M. A., Jackson, L., Papastephanou, M., Jandrić, P., Lazaroiu, G., Evers, C. W., ... & Fuller, S. (2023). ai and the future of humanity: ChatGPT4, philosophy and education–Critical responses. Educational Philosophy and Theory, 1-35. https://doi.org/10.1080/00131857.2023.2213437

Reich, R. (2022, noviembre 28). Now AI Can Write Students’ Essays for Them, Will Everyone Become a Cheat? The Guardian. https://www.theguardian.com/commentisfree/2022/nov/28/ai-students-essays-cheat-teachers-plagiarism-tech

Reig, D. (2023). Inteligencia artificial generativa y educación humana: cómo convertirlos en aliados. Cuadernos de pedagogía, (541), 21.

Rettberg, J. W. (2022, diciembre 6). ChatGPT is multilingual but monocultural, and it’s learning your values. Jilltxt. https://jilltxt.net/right-now-Chatgpt-is-multilingual-butmonocultural-but-its-learning-your-values/

Ruiz Miranda, E. (2023). La revolución de la inteligencia artificial en la educación: una reseña de ChatGPT. Revista de Estudios e Investigación en Psicología y Educación (REIPE), 10(1), 156-160. https://doi.org/10.17979/reipe.2023.10.1.9594

Sadin, É. (2020). La inteligencia artificial o el desafío del siglo. Anatomía de un antihumanismo radical. Caja Negra.

Sánchez-Vera, M. M. (2023). Hasta ChatGPT y más allá. Una breve guía reflexiva sobre el impacto de la inteligencia artificial en la educación. Universidad de Murcia. https://digitum.um.es/digitum/handle/10201/131973

Saura, G. (2023). Nuevas formas, nuevos actores y nuevas dinámicas de la privatización digital en educación. Profesorado, Revista de Currículum y Formación del Profesorado, 27(1), 1-10. https://revistaseug.ugr.es/index.php/profesorado/article/view/27809

Saura, G., Díez-Gutiérrez, E. J., & Rivera Vargas, P. (2021). Innovación TecnoEducativa “Google”. Plataformas Digitales, Datos y Formación Docente. REICE, Revista Iberoamericana sobre Calidad, Eficacia y Cambio en Educación, 19(4). https://doi.org/10.15366/reice2021.19.4.007

Shah, S., & E. Bender. (2022). Situating Search. CHIIR ‘22: ACM SIGIR Conference on Human Information Interaction and Retrieval. https://doi.org/10.1145/3498366.3505816

Sok, S., & Heng, K. (2023). ChatGPT for education and research: A review of benefits and risks. SSRN. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4378735

Strzelecki, A. (2023). To use or not to use ChatGPT in higher education? A study of students’ acceptance and use of technology. Interactive Learning Environments, 1-14. https://doi.org/10.1080/10494820.2023.2209881

Suresh, H. (2019, enero 30) The Problem with “Biased Data”. Medium. https://harinisuresh.medium.com/the-problemwith-biased-data-5700005e514c

Tepper, J. (2020). El mito del capitalismo. Los monopolios y la muerte de la competencia. Roca Editorial.

Tlili, A., Shehata, B., Adarkwah, M. A., Bozkurt, A., Hickey, D. T., Huang, R., & Agyemang, B. (2023). What if the devil is my guardian angel: ChatGPT as a case study of using chatbots in education. Smart Learning. Environments, 10(15). https://doi.org/10.1186/s40561-023-00237-x

UNESCO. (2023). Consenso de Beijing sobre la inteligencia artificial y la educación. Perfiles Educativos, 45(180), 176-182. https://doi.org/10.22201/iisue.24486167e.2023.180.61303

Verma, P., & Oremus, W. (2023, abril 5). ChatGPT invented a sexual harassment scandal and named a real law prof as the accused. The Washington Post. https://www.washingtonpost.com/technology/2023/04/05/Chatgpt-lies/

Watters, A. (2018). La ideología tras las cadenas de bloques (en educación). En Blockchain en Educación: Cadenas rompiendo moldes (pp. 183-192). Dykinson.

Weatherby, L. (2023, abril 21). El ChatGPT es una máquina de ideología. Jacobin. https://jacobinlat.com/2023/04/21/el-Chatgpt-es-una-maquina-de-ideologia/

West, D. (2023, marzo 23). Comparing Google Bard with OpenAI’s ChatGPT on political bias, facts, and morality. Brookings. https://www.brookings.edu/articles/comparinggoogle-bard-with-openais-Chatgpt-on-political-bias-factsand-morality/

Creative Commons License

Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial-SinDerivadas 4.0.

Derechos de autor 2024 DIDAC