Inteligencia artificial generativa 

y los desafíos para la educación emancipadora

Por: Rodulfo H. Pérez H.

La irrupción de la inteligencia artificial generativa constituye uno de los acontecimientos tecnológicos de mayor trascendencia para la educación contemporánea. Su capacidad para producir textos, imágenes, códigos, síntesis y otras formas de contenido —mediante el procesamiento de grandes volúmenes de datos— está transformando las condiciones en que se accede a la información, se desarrolla la investigación y se produce el conocimiento. La inteligencia artificial debe ser examinada como una fuerza tecnológica que interviene en las relaciones sociales y en las condiciones históricas de producción, circulación y apropiación del conocimiento.

Su expansión acelerada ha superado, en numerosos contextos, la capacidad de respuesta de las instituciones educativas y de los marcos regulatorios. Frente a esta situación se hace urgente abrir el debate que permita dar a conocer a amplios sectores vinculados a la educación, la pedagogía, la ciencia y la tecnología, así como a la población en general, los desafíos a los que nos enfrentamos como sociedad y que derivan de la referida irrupción tecnológica. 

Tenemos la convicción de que este debate debe hacerse desde una perspectiva centrada en el ser humano crítico y emancipado, que lejos de condicionarnos a la adaptación nos permita comprender y producir respuestas orientadas a proteger tanto nuestros procesos de aprendizaje y los procesos necesarios para mantener la soberanía cognitiva, como los principios más preciados que nos han permitido obtener grandes logros en materia educativa tal es el caso de la universalidad de la educación y la inclusión.

Este planteamiento constituye un punto de partida fundamental para una reflexión científica en general y pedagógica en particular. La educación como un derecho humano y un proceso histórico de formación integral desde una perspectiva crítica y emancipadora, nos lleva a profundizar en las condiciones materiales y en las relaciones de poder que determinan el desarrollo, control y usos sociales de la inteligencia artificial. La cuestión fundamentalmente consiste en comprender quiénes controlan sus infraestructuras, quiénes producen los datos que alimentan sus sistemas, qué intereses económicos y políticos orientan su desarrollo y cuáles son las consecuencias de su expansión para la soberanía tanto nacional como cognitiva de los pueblos.

La inteligencia artificial generativa se desarrolla en un contexto de concentración de capacidades científicas, tecnológicas y financieras. El manejo de grandes volúmenes de datos, los centros de procesamiento especializados, los semiconductores, las redes de comunicación e interconexión, la energía y los medios necesarios para sostener estos sistemas constituyen condiciones materiales para su funcionamiento. Estas condiciones requieren de recursos vinculados a procesos de producción, transformación, comercialización y aplicación diseñados y desarrollados sobre relaciones profundamente desiguales.

Estudios diversos, advierten que las capacidades necesarias para crear y controlar los sistemas de inteligencia artificial generativa están fuera del alcance de la mayoría de los países, especialmente de aquellos que integran el sur global. Pero el problema es mayor, pues los desarrollos y su control también escapan a los estados del norte global, mientras progresivamente se acunan en nichos de interés de las corporaciones privadas y se inscriben, exclusivamente, en los intereses de escasos propietarios cuyo fin último es el lucro y la ganancia. 

En el ámbito educativo, esta circunstancia adquiere una importancia estratégica. Los países del sur global están condicionados por los desequilibrios científico-tecnológicos que los desfavorecen. Las corporaciones privadas vinculadas a la producción de la inteligencia artificial solo nos ven como yacimientos de minerales que se procesan con raras tecnologías a las que se nos dificulta acceder por las lógicas que impone la división internacional del trabajo. También, frecuentemente, se imponen perspectivas conservadoras dilemas éticos y políticos fundamentados en el desconocimiento lo que realmente implica la irrupción de la inteligencia artificial. Todo lo anterior y otros elementos terminan justificando que los países del sur global se acurruquen en el desconocimiento de la grave circunstancia que implica este fenómeno, condenándose a utilizar plataformas de inteligencia artificial que ponen en duda su soberanía, depender de infraestructuras, modelos, criterios de procesamiento y condiciones de acceso que escapan a su control y sentenciando a su población y a su propio futuro a un nuevo escolasticismo anti inteligencia artificial.  

La soberanía cognitiva constituye una categoría fundamental para comprender los desafíos educativos de la inteligencia artificial. Esta se refiere a la capacidad de una sociedad para producir, interpretar, preservar, desarrollar y compartir sus propios conocimientos, así como para participar en la creación de las tecnologías que intervienen en su producción y circulación. Supone la permanente adecuación del proyecto histórico a las condiciones que objetivamente van surgiendo, asegurando que sus principios se mantengan por encima de cualquier dificultad, por más estructural, compleja y densa que sea. 

Pensar con cabeza propia y construir nuestra perspectiva sobre este problema es imprescindible. Pero esto es indispensable hacerlo sobre la base de la participación del pueblo, sus comunidades, sus academias, escuelas, liceos, universidades, docentes, investigadores, científicos y estudiantes para la progresiva elaboración  de nuestro entendimiento sobre este delicado asunto y de nuestra respuesta. No podemos dejar de incorporar las opiniones surgidas en el ámbito internacional, tanto de los productores de estas tecnologías como de los órganos que pretenden su regulación, incluyendo las provenientes de comunidades científicas que hacen resistencia y encuentran alternativas a esta nueva realidad.   

Entonces, sobre la base de reconocer la necesidad de abrir el debate es importante comenzar por abordar la relación entre inteligencia artificial y conocimiento. Uno de los problemas centrales de la reflexión pedagógica es la capacidad de los sistemas de inteligencia artificial para producir respuestas coherentes, organizar información o elaborar síntesis. Pero estos procesos no significan desarrollo de conciencia histórica, comprensión crítica de la realidad o responsabilidad sobre las afirmaciones que se presentan. Los sistemas generativos producen resultados mediante operaciones computacionales sustentadas en patrones aprendidos de los datos con los que han sido entrenados. Sus respuestas pueden resultar útiles para explorar problemas, contrastar formulaciones o identificar líneas de investigación, pero también pueden contener errores, omisiones, sesgos y referencias inexistentes. Por consiguiente, la información generada debe someterse a procedimientos de crítica, confrontación, cuestionamiento, verificación, contextualización e interpretación. Primero, con el mismo sistema que ha entregado la respuesta. Y, segundo, y muy especialmente, con colectivos humanos de debate y diálogo, en función de favorecer los procesos de asimilación y elaboración de conocimientos socialmente pertinentes que aseguren la soberanía cognitiva.  

Esta distinción permite comprender que el conocimiento no se reduce a la acumulación de información ni a la capacidad de reproducir discursos formalmente coherentes. Conocer implica establecer relaciones, comprender procesos, identificar contradicciones, reconocer las condiciones históricas en que se producen y se desarrollan los fenómenos y construir explicaciones fundamentadas. El conocimiento se desarrolla en la práctica social mediada por la actividad humana, la investigación, el diálogo, la confrontación crítica con la realidad y desde la perspectiva del mundo de la cual sea portador el sujeto. La inteligencia artificial puede contribuir a algunas de estas actividades, pero no elimina la necesidad de los procesos de comprensión, no sustituye la asimilación de conceptos, categorías y abstracciones ni la producción del conocimiento.

El problema pedagógico aparece cuando la utilización de estas herramientas desplaza las actividades psicológicas superiores del ser humano que hacen posible la asimilación de la cultura y, por tanto, del aprendizaje. Si el estudiante delega sistemáticamente la formulación de preguntas, búsqueda de información, lectura, elaboración de argumentos y escritura en un sistema de inteligencia artificial, corre el riesgo de obtener productos formalmente satisfactorios para el algoritmo que rige la tecnología consultada y para la apariencia y el espejismo que surge desde el algoritmo mismo, organizado por la aleatoriedad de conceptos y palabras y mediado por la rapidez y fluidez con que se obtiene una respuesta generada. Este proceso tiene consecuencias catastróficas en el pensamiento verbal y el uso de conceptos y categorías, así como en la asimilación de abstracciones, en el análisis, la complejización del pensamiento, la deducción, la comprensión lógica, la generalización y, particularmente, en la atención voluntaria y no condicionada. En este orden de cosas, los resultados de un aprendizaje sin regulación, sin orientación pedagógica ni didáctica están condenados al debilitamiento de la capacidad de construir conocimiento poniendo en severo riesgo la soberanía cognitiva.

Ante tales peligros, la peor respuesta es dar la espalda al abordaje fundamentado y crítico. Y, más aún, es rechazar la inteligencia artificial y sacarla de los espacios formales de aprendizaje como la escuela y la universidad, negándonos a debatir las contradicciones que esta encierra y a descubrir, desde su crítica, sus posibilidades pedagógicas. Es urgente democratizar este debate, solo la comprensión social podrá evitar que se mantenga la hegemonía que sobre ella ejercen los que se orientan por el lucro y la ganancia y solo así se pondrá al servicio de la humanidad. Tenemos como exigencia, más bien, avanzar en diferenciar entre los usos que amplían condiciones humanas y aquellos que las sustituyen o reducen. 

Una utilización pedagógica y didáctica pertinente, regulada y orientada puede contribuir a explorar perspectivas, formular preguntas, comparar interpretaciones, organizar materiales, identificar contradicciones y apoyar determinados procesos de investigación. Cuando todo ello se integra a una actividad intelectual consciente en la que el estudiante conserva la responsabilidad de comprender, argumentar, verificar, crear y defender sus ideas y cuando en vez de obstaculizar los procesos de abstracción los favorecen, entonces, tendremos una poderosa herramienta que permitirá vivir mejor.

La apropiación crítica de la inteligencia artificial debe evitar convertirla en una dependencia permanente de respuestas elaboradas por sistemas externos. La pregunta pedagógica fundamental no es cuánto trabajo puede realizar una herramienta en lugar del estudiante, sino qué nuevas posibilidades ofrece la misma para que este comprenda mejor, investigue con mayor profundidad y desarrolle una relación más consciente con el conocimiento. 

En tal sentido, cuáles son los procesos pedagógicos y didácticos que deben desarrollarse durante el aprendizaje para impedir la sustitución del pensar, la reflexión crítica, la orientación a cuestionar lo que nos entrega la inteligencia artificial generativa y de qué manera es posible favorecer la comprensión de la abstracción.

Un aspecto de innegable importancia son las condiciones institucionales, económicas y políticas en que se desarrollan y utilizan estas tecnologías y fundamentalmente las fortalezas de los estados. La utilización de una herramienta resulta limitada cuando las instituciones dependen de plataformas cuyo funcionamiento, criterios de procesamiento y condiciones de acceso no se pueden controlar debido a los desequilibrios científico-tecnológicos y cuando se combinan con falsos dilemas éticos a fin de ocultar, con un dedo, un problema que tiene una evidente magnitud.

La función del docente adquiere una nueva significación en este contexto. El profesor es un sujeto social que desarrolla una práctica social y es portador de lógicas, conceptos y categorías desde las cuales comprende el mundo, sus contradicciones y su posición en él. Su postura intelectual y su práctica investigativa pedagógica, vinculada a los procesos de producción de conocimiento de su tiempo y del espacio en el cual se inserta, condicionan la dirección del aprendizaje que propicia y contribuye a la formación de la conciencia histórica tanto de sí como de sus estudiantes. La incorporación de la inteligencia artificial exige fortalecer la formación política y la consciencia científica, pedagógica, ética y tecnológica de los docentes con el objeto de reconocer sus capacidades para decidir cuándo, cómo y con qué propósitos educativos pueden utilizarse estas herramientas

El docente debe favorecer la formulación de preguntas relevantes, propiciar reflexiones valorativas sobre la pertinencia de las respuestas, contrastar afirmaciones con fuentes diversas provocando, fundamentalmente, el reconocimiento de los límites de los sistemas generativos en comparación con lo hermoso y nutritivo de la reflexión y crítica humana. También, debe promover experiencias en las que la inteligencia artificial sea objeto de cuestionamiento, confrontación e investigación y no únicamente un recurso para producir tareas. Analizar cómo responde una herramienta ante un mismo problema desde distintas formulaciones, identificar errores, reconocer ausencias y comparar sus resultados con documentos históricos o investigaciones científicas puede convertirse en una actividad de aprendizaje que fortalezca el pensamiento crítico. Confrontar formulaciones no sometidas a la crítica con aquellos cuestionamientos derivados del debate crítico puede, entonces, convertirse en una situación atractiva para los estudiantes en la cual la dirección del proceso pedagógico y didáctico, por parte de los docentes, resultará decisiva para que la interacción con la tecnología se transforme en una experiencia de conocimiento

La evaluación de los aprendizajes también requiere una reflexión profunda. Cuando el trabajo académico se valora exclusivamente por el producto escrito, se vuelve más difícil distinguir entre la elaboración intelectual del estudiante y los contenidos generados mediante herramientas automatizadas. La respuesta no consiste solamente en perfeccionar los mecanismos de detección, cuya fiabilidad puede ser limitada, sino en fortalecer formas de evaluación que permitan reconocer los procesos de aprendizaje. La defensa oral de argumentos, la explicación de las decisiones tomadas durante una investigación, la discusión colectiva de fuentes, la elaboración progresiva de textos, la confrontación y la capacidad de responder preguntas sobre el trabajo realizado contribuyen decididamente a valorar la comprensión y la soberanía cognitiva.

Esta transformación debe evitar que la evaluación se convierta en un dispositivo exclusivamente punitivo. El propósito pedagógico debe hacer énfasis en que los estudiantes comprendan las posibilidades y limitaciones de la inteligencia artificial, aprendan a utilizarla con responsabilidad y sean capaces de distinguir entre el apoyo tecnológico y la sustitución de su propia actividad intelectual. Esto, fundamentalmente, mediante el desarrollo de actividades prácticas que promuevan la asimilación de conceptos y categorías, de abstracciones y de perspectivas lógicas y críticas. Dichas actividades deben fomentar la interacción entre estudiantes y la oportunidad de que aquellos con mayor desarrollo, en algún proceso, se comprometan con quienes aún no han asimilado perspectivas críticas. Estas dinámicas, evidentemente, deben estar centradas en la concurrencia, la colaboración, la cooperación y la solidaridad.

La transparencia sobre el uso de herramientas de inteligencia artificial, la identificación de las fuentes y la responsabilidad por las afirmaciones presentadas forman parte de una ética del proceso pedagógico de aprendizaje y de investigación y constituyen elementos esenciales a regular. En la investigación científica, la inteligencia artificial generativa abre posibilidades para apoyar la exploración bibliográfica, la organización de materiales, la traducción, la revisión de textos y la formulación inicial de preguntas. Sin embargo, estas aplicaciones no eliminan las exigencias fundamentales del trabajo científico: rigor en la definición y asimilación de la perspectiva del mundo y la epistemología, la definición conceptual y categorial, así como las vías metódicas y metodológicas para el conocimiento del objeto de estudio. 

La verificación de fuentes, consistencia argumentativa, reconocimiento de las limitaciones y responsabilidad sobre los resultados. son elementos de la practica investigativa. La generación automática de referencias inexistentes, la presentación de afirmaciones no verificadas y la reproducción de sesgos pueden comprometer una investigación, si los resultados se incorporan sin revisión crítica. La responsabilidad epistemológica permanece en manos del investigador, debe conocer los procedimientos utilizados y responder por la validez de sus afirmaciones.

Para las autoridades educativas, lo abordado en este escrito reviste especial relevancia. Construir políticas institucionales que articulen la innovación tecnológica con los principios del derecho a la educación, universalización de la educación e inclusión son un ejercicio de seriedad, coherencia y responsabilidad política difícil de conseguir, no solo en el sur, sino en el norte también. En los países del sur global, esta discusión debe vincularse con la construcción de capacidades científicas y tecnológicas propias. No basta con garantizar el acceso a aplicaciones desarrolladas en otros espacios si no se avanza en la formación de investigadores, el fortalecimiento de las universidades públicas, la producción de datos pertinentes, el desarrollo de infraestructuras y la cooperación regional e internacional. La soberanía tecnológica no significa que cada país deba producir de manera aislada todos los componentes de la inteligencia artificial, sino que pueda participar en su desarrollo, establecer acuerdos de cooperación en condiciones de reciprocidad y decidir de manera autónoma sobre sus usos y prioridades.

En Venezuela, este desafío debe abordarse desde las necesidades del sistema educativo nacional, las capacidades de sus instituciones científicas y universitarias y el propósito de garantizar la educación como derecho humano y desde la universalización y la inclusion. La incorporación de la inteligencia artificial debe contribuir a fortalecer la formación docente, la investigación, la producción de conocimientos y la atención a la diversidad de los estudiantes. Al mismo tiempo, exige examinar las condiciones de conectividad, disponibilidad de equipos, acceso a recursos digitales y protección de los datos. La innovación educativa no puede evaluarse únicamente por la cantidad de herramientas incorporadas, sino por su contribución efectiva a la formación integral, la democratización del conocimiento y el fortalecimiento de las capacidades intelectuales de la población y al ejercicio efectivo de la soberanía en nuestras condiciones sociohistóricas.

Una perspectiva pedagógica emancipadora de la inteligencia artificial debe articular la apropiación crítica de la tecnología con la investigación, el diálogo, la cooperación y la transformación de la realidad. Desde esta perspectiva, la inteligencia artificial no constituye un sujeto educativo ni un fin en sí mismo, sino una creación humana cuyas posibilidades y consecuencias dependen de las relaciones sociales en las que se desarrolla. Su valor pedagógico debe determinarse a partir de su contribución al aprendizaje, la creatividad, la investigación y la formación de sujetos capaces de comprender críticamente el mundo en que viven y de transformarlo.

En definitiva, no se trata de subordinar la educación a la inteligencia artificial, sino de subordinar su utilización a los fines emancipadores de la educación, la soberanía de los pueblos y la construcción social del conocimiento.