Eight Debates on Education and Artificial Intelligence (AI) - Ocho debates en torno a la educación y Ia inteligencia artificial (IA)
Ocho debates en torno a la educación y Ia inteligencia artificial (IA)
En este blog, que forma parte de la serie de blogs de NORRAG sobre la IA y la digitalización de la educación, Renato Opertti toma como punto de referencia el número de Policy Insights de NORRAG sobre “AI and Digital Inequities” (“IA e inequidades digitales”) para esbozar ocho debates sobre educación e inteligencia artificial.
El cuarto número de Policy Insights de NORRAG, titulado “AI and Digital Inequities” (Inteligencia artificial y desigualdades digitales), analiza los propósitos sociales y educativos de la IA y también los vinculados a los aprendizajes. La publicación recoge las contribuciones de referentes del Sur Global y del Norte Global, que contribuyen a un entendimiento multidimensional sobre la inteligencia artificial generativa.
Tal como afirma Moira Faul, se busca posicionar la prosperidad del ser humano y del planeta en las bases mismas de la toma de decisiones sobre la IA. En similar sentido, Sobhi Tawil arguye que es la educación la que puede accionar sobre las tecnologías configurando su desarrollo, regulación, modelos de negocios y propósitos con igual o más fuerza que las propias tecnologías (Véase también UNESCO, 2021).
Esta edición da pie para identificar, entre otros, ocho debates en torno a la educación y la IA.
Debate 1: Sobre la epistemología y funcionalidad de la IAG
Tal cual señala Alan Blackwell, se requiere evaluar las dimensiones epistemológica y funcional de los modelos grandes o masivos de lenguaje (MML). Por un lado, la funcionalidad versa sobre la posibilidad de liberar a los seres humanos de la realización de actividades automatizables. Por el otro, la dimensión epistemológica se refiere a la legitimidad del conocimiento en la medida que los modelos grandes o masivos de lenguaje (MML) se sustentan en la producción de contenidos supuestamente lógicos y coherentes sin ninguna fidelidad subyacente relacionada con hechos o evidencias.
Asimismo, se advierte sobre los riesgos de generar un lenguaje paralelo al humano que, desprendido de la necesidad de comprender y de contrastar su validez factual, alimenta visiones discriminatorias, ajenas a verdades de hecho corroborables y sin responsabilidades asumidas por las implicancias de lo que se asevera. Raxana Radu argumenta que dichos sesgos dan cuenta de la subrepresentación de lenguas, conocimientos, grupos e intereses del Sur Global en la producción y diseminación de contenidos de la IA, y se ignoran las potenciales sensibilidades que las preferencias y palabras mencionadas en línea pueden implicar para determinados grupos.
Debate 2: Sobre los multipropósitos de la educación y la IAG
Bajo una concepción de multipropósitos conferidos a la educación, surge la necesidad de repensar el rol de la IAG. Se trata de alinear la IA hacia lo que Lina Markauskaite define como “la regeneración de la justicia”, o el reposicionamiento de la noción de justicia social en educación. Juntamente con el desarrollo de las capacidades (capabilities, en inglés) de estudiantes y educadores, así como el incentivo de su participación democrática, la IAG puede contribuir a direccionar la educación hacia el logro de sociedades orientadas hacia el bienestar (NORRAG, 2024).
Tal como argumenta Emma Ruttkamp-Bloem, los desarrollos de la IAG podrían encuadrarse en la integración de: (i) valores sociales, tales como la interconexión entre los seres humanos, la equidad y la agencia humana; (ii) derechos humanos, como la privacidad, la transparencia y la rendición de cuentas; y (iii) valores relacionados con la investigación, como la honestidad y la integridad (NORRAG, 2024).
Debate 3: Sobre el derecho a la conectividad gratuita en educación y la IAG
El derecho a la conectividad tecnológica no solo abarca el acceso a dispositivos, plataformas, recursos y contenidos educativos, sino que también requiere democratizar el conocimiento y los aprendizajes sin barreras ni fronteras (UNESCO, 2021).
La realización de ese derecho implica tener en cuenta las tres desigualdades mencionadas por Alejandro Artopolous, a saber:
(i) desigualdades sociolingüísticas derivadas del hecho de que la producción de IAG requiere una inversión significativa en aprendizaje automático, que se realiza en inglés como lengua prioritaria;
(ii) desigualdades cognitivas, dado que pueden existir disparidades regionales y nacionales en la reformulación del currículo en todos los niveles educativos a efectos de integrar la alfabetización algorítmica y en datos; y
(iii) desigualdades en las políticas, que define como “plataformización silvestre”, es decir, la experimentación en el Sur Global –sin infraestructura y formación de docentes adecuados– que implica transitar de la escuela moderna al aula en la nube, en contextos en los que solo una pequeña parte de la población tiene acceso a dichas aulas (NORRAG, 2024).
Debate 4: Sobre la especificidad de la IAG en educación
Los contenidos de la IAG en educación no han sido concebidos para fines específicamente educativos. En tal sentido, Felicitas Macgilchrist asevera que la ingeniería de software se concentra generalmente en problemas que pueden ser abordados a través de soluciones tecnológicas relativamente fáciles y que no son, en realidad, problemas para los educadores y los alumnos (NORRAG, 2024).
Identificamos algunos puntos para tener en cuenta a efectos de poder ajustar los modelos grandes o masivos de lenguaje (MML) como inteligencia aumentada (Enguita, 2024), a saber:
(i) los orígenes y desarrollos de la IAG no se encuadran en las especificidades propias de los actos complejos de educar y aprender;
(ii) la IAG carece, en general, de vinculaciones profundas y empáticas con los entornos en que se despliegan y, en particular, con las aspiraciones y necesidades de los centros educativos y de sus comunidades;
(iii) la IAG tiene una impronta cultural marcadamente etnocéntrica, y se tienden a asumir valores y referencias particulares de regiones y/o países como universales; y
(iv) se requiere un análisis transversal sobre la conveniencia y efectividad de los usos de la IAG en todos los niveles educativos.
Debate 5: Sobre la alfabetización en IAG de educadores y estudiantes
Alumnos y educadores tienen que poder usar de manera informada las herramientas de IAG con sustento en la comprensión de los algoritmos informáticos y de cómo la IA se cruza con varios aspectos de la vida humana, como ser la cultura, la naturaleza, la economía y la política, y sus múltiples impactos. Tal como señala Lucila Carvalho, se trata de fortalecer la comprensión de qué significa vivir en un mundo cada vez más permeado por la IA y de aprender acerca de la IA y con la IA, considerando que la alfabetización crítica en AI, tal cual argumentan Lauren Goodlad y Kathryn Conrad, constituye una prioridad social y educativa urgente.
Como señalan Punya Mishra y Nicole Oster, los aprendizajes sociales y emocionales constituyen un componente central de un abordaje integral de la IAG en base a pedagogías orientadas por la valorización del alumno como persona que refleje valores humanistas (véase también Opertti, 2023; UNESCO-IBE, 2024) y que, asimismo, escuchen a los niños y a las niñas como sujetos con derechos (Sonia Livingstone, NORRAG, 2024).
Debate 6: Sobre las relaciones entre currículos y pedagogías transformacionales y la IAG
Una visión transformacional del currículo y de la pedagogía puede servir de soporte al encuadramiento y los usos de la IAG de manera que coadyuve al logro de expandir, democratizar y mejorar las oportunidades, los procesos y los resultados de aprendizaje en el marco de un repienso de los propósitos de la educación.
Por un lado, se trata de tener bien en cuenta los estadios de desarrollo de los estudiantes a efectos de que participen progresivamente en experiencias de aprendizaje interdisciplinares en orden a explorar y aplicar herramentales de la IAG, evaluando críticamente su asequibilidad y limitaciones, en las diferentes disciplinas y en relación con problemas del mundo real. Por otro lado, los educadores pueden desarrollar una mentalidad creativa y a la vez tecno-escéptica, que conecte la IA con los contenidos formativos, la pedagogía y el contexto social más amplio (foco en capacidades –capabilities– disciplinares e interdisciplinares; Mishra y Oster, NORRAG, 2024).
Debate 7: Sobre la personalización de la educación y la IAG
Una noción acotada de la personalización, englobada en individualizar la educación, en recibir más que en elegir, y aislando al alumno de ambientes colectivos, es un asunto controversial y de resultados dudosos (Labate, 2024; Livingstone; Williamson, NORRAG 2024). Tal como asegura Jeremy Knox, cabe preguntarse si la personalización de la educación con soporte en la IAG logra directamente beneficios educativos, porque existe la posibilidad de que los estudiantes:
(i) sean más bien receptores antes que agentes activos de procesos automatizados de decisión basados en el diagnóstico de evaluación del alumno y de los antecedentes en los usos del software, y en su configuración como usuario (Dey y Gorur, NORRAG 2024).
(ii) puedan ser de alguna manera vigilados a partir de la enorme cantidad de datos que se recogen sobre ellos, lo que conlleva a una pérdida de la privacidad.
(iii) reciban diferentes tipos de tecnologías en atención al perfil social y educativo de cada centro educativo, lo cual refleja una distribución desigual de la IAG y acentúa las inequidades entre centros.
Debate 8: Sobre los impactos sociales y ambientales de la IAG
El informe de seguimiento de la educación en el mundo 2023, Tecnología en la educación: ¿una herramienta en los términos de quién?, plantea claramente que “las decisiones de adquisición de tecnología educativa deben tener en cuenta la sostenibilidad económica, social y ambiental”. Según argumentan Maureen Ebben y Julien Murphy, la IAG tiene una huella de carbón significativa, ya que depende de una infraestructura de combustibles fósiles en cuanto a la manufacturación de los chips de computadoras y el funcionamiento de los centros de datos.
Cabría plantearse cómo las diversas tecnologías, ancladas en realidades glolocales, coadyuvan a abordar colaborativa y solidariamente los desafíos de sostenibilidad política, social, cultural, territorial y climática frente a futuros posibles de no supervivencia de la especie humana. Las tecnologías pueden ser un gran soporte para jerarquizar conocimientos locales de cara a asumir dichos desafíos (Comisión Internacional sobre los Futuros de la Educación, 2021).
Un imperativo ético
En resumidas cuentas, el quiebre civilizatorio de un mundo y un planeta insostenibles por los estilos de vida predominantes exige repensar el desarrollo y la supervivencia de la especie humana. Dicho repienso se ancla en la educación como uno de los basamentos insoslayables de un nuevo modus civilizatorio; en este marco, direccionar la IAG a través de la potenciación de la inteligencia humana constituye un imperativo ético, humanista y social que coadyuve a cementar futuros mejores para las nuevas generaciones.
Referencias bibliográficas
Labate, H. (2024). Curriculum entering the age of personalized learning. UNESCO – UNESCO-UCU Chair on Hybrid Education. En prensa.
El autor
Renato Opertti, Experto senior, Oficina Internacional de Educación (UNESCO-OIE).
Eight Debates on Education and Artificial Intelligence (AI)
In this blogpost, which is part of NORRAG’s blog series on AI and the Digitalisation of education, Renato Opertti takes NORRAG’s Policy Insights on “AI and Digital Inequities” as a reference point to outline eight debates on education and artificial intelligence.
The fourth issue of NORRAG’s Policy Insights, entitled “AI and Digital Inequities“, analyses the social and educational purposes of AI and also those linked to learning. The publication brings together contributions from leading figures from the Global South and the Global North, who contribute to a multidimensional understanding of generative artificial intelligence (GAI).
As Moira Faul states, the aim is to position the prosperity of human beings and the planet at the very foundations of decision-making on AI. In a similar vein, Sobhi Tawil argues that it is education that can act on technologies, shaping their development, regulation, business models, and purposes with equal or greater force than the technologies themselves (see also UNESCO, 2021).
Below I outline eight debates around education and AI that emerge from the publication.
Debate 1: On the epistemology and functionality of GAI
As Alan Blackwell points out, it is necessary to evaluate the epistemological and functional dimensions of large or massive language models (MML). On the one hand, functionality is about the possibility of freeing human beings from carrying out automatable activities. On the other hand, the epistemological dimension refers to the legitimacy of knowledge to the extent that large or massive language models (MMLs) are based on the production of supposedly logical and coherent content without any underlying fidelity related to facts or evidence.
Likewise, there is the risk of generating a language parallel to the human one that, detached from the need to understand and contrast its factual validity, feeds discriminatory visions, alien to corroborable factual truths and without responsibilities assumed by the implications of what is asserted. Raxana Radu argues that such biases account for the underrepresentation of languages, knowledge, groups, and interests from the Global South in the production and dissemination of AI content and ignore the potential sensitivities that preferences and words mentioned online may imply for certain groups.
Debate 2: On the purpose of education and GAI
Given the many functions and purposes of education, the need to rethink the role of the GAI arises. AI needs to be aligned towards what Lina Markauskaite defines as “the regeneration of justice”, or the repositioning of the notion of social justice in education. Together with the development of the capacities of students and educators, as well as the encouragement of their democratic participation, GAI can contribute to directing education towards the achievement of well-being-oriented societies.
As Emma Ruttkamp-Bloem argues, developments in GAI could be framed in the integration of: (i) social values, such as the interconnectedness of human beings, fairness, and human agency; (ii) human rights, such as privacy, transparency, and accountability; and (iii) research-related values, such as honesty and integrity.
Debate 3: On the right to free connectivity in education and GAI
The right to technological connectivity not only encompasses access to educational devices, platforms, resources, and content, but also requires democratizing knowledge and learning without barriers or borders (UNESCO, 2021).
The realization of this right implies taking into account the three inequalities referred to by Alejandro Artopolous, namely:(i) sociolinguistic inequalities arising from the fact that the production of GAI requires a significant investment in machine learning, which is done in English as a priority language;
(ii) cognitive inequalities, as there may be regional and national disparities in curriculum reformulation at all levels of education to integrate algorithmic and data literacy; and
(iii) policy inequalities, which he defines as “Silvester platformization”, i.e., experimentation in the Global South – without adequate infrastructure and teacher training – that involves moving from the modern school to the cloud classroom, in contexts in which only a small part of the population has access to such classrooms.
Debate 4: On the specificity of GAI in education
The contents of the GAI in education are not designed for specifically educational purposes. In this sense, Felicitas Macgilchrist asserts that software engineering generally focuses on problems that can be addressed through relatively easy technological solutions and that are not, in reality, problems for educators and students. We identify some points that need to be taken into account in order to be able to adjust large or massive language models (MML) as augmented intelligence (Enguita, 2024), namely:
(i) the origins and developments of the GAI do not fit into the specificities of the complex acts of educating and learning;
(ii) the GAI lacks, in general, deep and empathetic links with the environments in which they are deployed and, in particular, with the aspirations and needs of schools and their communities;
(iii) the GAI has a markedly ethnocentric cultural imprint, and there is a tendency to assume particular values and references of regions and/or countries as universal; and
(iv) a cross-sectional analysis is required on the convenience and effectiveness of the uses of the GAI at all educational levels.
Debate 5: On GAI literacy for educators and students
Students and educators need to be able to use GAI’s tools in an informed way based on an understanding of computer algorithms and how AI intersects with various aspects of human life, such as culture, nature, economics and politics, and their multiple impacts. As Lucila Carvalho points out, it is about strengthening the understanding of what it means to live in a world increasingly permeated by AI and learning about AI and with AI, considering that critical literacy in AI, as argued by Lauren Goodlad and Kathryn Conrad, is an urgent social and educational priority.
As pointed out by Punya Mishra and Nicole Oster, social and emotional learning is a central component of a comprehensive approach to GAI, based on pedagogies oriented towards valuing the student as a person who reflects humanistic values (see also Opertti, 2023; UNESCO-IBE, 2024) and that they also listen to children as subjects with rights (Livingstone, NORRAG, 2024).
Debate 6: On the relationship between transformational curricula and pedagogies and GAI
A transformational vision of curriculum and pedagogy can support the framing and uses of GAI in a way that contributes to the achievement of expanding, democratizing, and improving learning opportunities, processes and outcomes within the framework of a rethinking of the purposes of education.
On the one hand, it is a matter of taking into account the stages of development of students in order for them to progressively participate in interdisciplinary learning experiences in order to explore and apply tools of GAI, critically evaluating their affordability and limitations, in different disciplines and in relation to real-world problems. On the other hand, educators can develop a creative and techno-skeptical mindset that connects AI with training content, pedagogy, and the broader social context and disciplinary and interdisciplinary capabilities (Mishra and Oster, NORRAG, 2024).
Debate 7: On the personalisation of education and GAI
Personalization in education is a controversial issue (Labate, 2024; Livingstone; Williamson, NORRAG 2024). As Jeremy Knox says, it is worth asking whether the personalization of education with support in GAI achieves educational benefits, because there is the possibility that students:(i) are recipients rather than active agents of automated decision-making processes based on the student’s assessment diagnosis and background in the use of the software, and in their configuration as a user (Dey & Gorur,NORRAG 2024).
(ii) students can be in some way monitored by the enormous amount of data that is collected about them, which leads to a loss of privacy.
(iii) they are exposed to different types of technologies according to the social and educational profile of each school, which reflects an unequal distribution of the GAI and accentuates the inequities between schools.
Debate 8: On the social and environmental impacts of GAI
The 2023 Global Education Monitoring Report, Technology in Education: A Tool in Whose Terms?, clearly states that “educational technology acquisition decisions must take into account economic, social and environmental sustainability”. As Maureen Ebben and Julien Murphy argue, GAI has a significant carbon footprint, as it relies on fossil fuel infrastructure to manufacture computer chips and operate data centers.
It is worth considering how the various technologies, anchored in global realities, contribute to addressing the challenges of political, social, cultural, territorial and climate sustainability in a collaborative and supportive manner in the face of possible futures of non-survival of the human species. Technologies can be a great support for prioritizing local knowledge in order to tackle these challenges (International Commission on the Futures of Education, 2021).
An ethical imperative
In short, the civilizational breakdown of a world and a planet unsustainable by the prevailing lifestyles requires a rethinking of the development and survival of the human species. This rethinking is anchored in education as one of the unavoidable foundations of a new civilizational modus. Directing the GAI through the empowerment of human intelligence is an ethical, humanistic and social imperative that contributes to cementing better futures for the new generations.
References
Labate, H. (2024). Curriculum entering the age of personalized learning. UNESCO – UNESCO-UCU Chair on Hybrid Education. In press.
The Author
Renato Opertti, Senior Education Expert, UNESCO-International Bureau of Education.