Desarrollarán herramienta de IA para detectar posibles alertas de sesgo, discriminación o lenguaje excluyente en material educativo

*El proyecto, financiado con recursos propios de la Universidad de Colima, es dirigido por el profesor-investigador Pedro Santana Mancilla.

Con el proyecto “Modelo de revisión formativa con verificación humana para fortalecer la inclusión educativa y prevenir riesgos de comunicación en recursos educativos audiovisuales de acceso abierto”, el profesor-investigador Pedro César Santana Mancilla, de la Facultad de Telemática de la Universidad de Colima, busca desarrollar y evaluar un modelo apoyado en inteligencia artificial que contribuya a fortalecer la inclusión educativa y la comunicación responsable en recursos educativos audiovisuales.

Dicho proyecto, financiado con recursos propios de la UdeC a través del programa “Fortalecimiento de la Investigación 2026”, explicó Pedro Santana, se desarrollará en dos vertientes: la primera es tecnológica y contempla el desarrollo de una herramienta basada en inteligencia artificial capaz de apoyar el análisis de recursos educativos audiovisuales mediante la transcripción y segmentación de los contenidos, así como la identificación de posibles alertas relacionadas con el lenguaje, la comunicación y la inclusión.

“La segunda es educativa e interdisciplinaria y permitirá definir los criterios con los que serán interpretadas y verificadas estas alertas. En esta vertiente participarán dependencias como el Centro Universitario para la Igualdad y los Estudios de Género (CUpIEG), la Coordinación General de Tecnologías de Información y la Dirección de Transparencia y Protección de Datos Personales”.

Como parte de una etapa posterior de transferencia institucional, se contempla explorar la incorporación del modelo al proceso de revisión previa de nuevos recursos educativos audiovisuales destinados a REDI, la plataforma institucional de Recursos Educativos Digitales Institucionales.

¿En qué consiste?

Desde la pandemia por COVID-19, dijo el investigador universitario, se incrementó considerablemente el uso de recursos educativos digitales. “Prácticamente todos los docentes desarrollamos e incluimos este tipo de materiales en nuestras clases; incluso grabamos sesiones, aunque no se trate de una materia a distancia, para posteriormente compartirlas en plataformas educativas”.

“Lo que pretendemos ahora -añadió- es contar con una herramienta que permita revisar algunas características del lenguaje y la comunicación presentes en esos materiales e identificar posibles alertas relacionadas con discriminación, sesgos de género, lenguaje excluyente, estereotipos o barreras de accesibilidad comunicativa”.

Una forma sencilla de entender el propósito de la herramienta, explicó, es compararla con el tipo de apoyo que brinda la plataforma Turnitin, que busca similitudes durante la revisión de un texto. “Turnitin proporciona información para que una persona pueda revisar el material, pero no sustituye su criterio. En nuestro caso, utilizaremos inteligencia artificial para identificar posibles aspectos de comunicación e inclusión que convendría revisar en un recurso educativo audiovisual antes de publicarlo”.

La plataforma procesará los materiales y marcará segmentos que podrían requerir una revisión adicional. “La IA podrá ayudarnos a identificar situaciones que conviene revisar, pero no emitirá un dictamen ni determinará por sí misma que existe un problema. Cada uno de estos segmentos deberá ser revisado por una persona, porque puede tratarse de una interpretación fuera de contexto o de una situación que, al analizarla de manera integral, no requiera ningún ajuste”, explicó.

En caso de que una alerta sea confirmada durante la revisión humana, dijo, “el propósito será proporcionar una recomendación que permita mejorar el recurso educativo antes de su publicación. De esta manera, la inteligencia artificial se utilizará como un instrumento de apoyo y no como sustituto del juicio de las personas”.

Santana destacó que el objeto de análisis será el recurso educativo y no el profesor o profesora que lo elaboró; es decir, “no se trata de un mecanismo para evaluar, clasificar, señalar o sancionar a docentes; es una herramienta de carácter formativo y preventivo que busca ofrecer información útil para mejorar un material antes de publicarlo. Tampoco pretendemos utilizarla para revisar de manera retrospectiva materiales que ya se encuentran publicados”.

El proyecto contempla, además, “la construcción de una taxonomía de riesgos de comunicación y una rúbrica de revisión que considerará aspectos como sesgos de género, lenguaje excluyente, estereotipos, discriminación, sesgo capacitista, sesgo socioeconómico, violencia simbólica, tono comunicativo problemático y barreras de accesibilidad comunicativa”.

En este sentido, dijo que la participación del Centro Universitario para la Igualdad y los Estudios de Género (CUpIEG) permitirá fortalecer la construcción de estos criterios desde una perspectiva de igualdad e inclusión educativa.

Por su parte, la Dirección de Transparencia y Protección de Datos Personales acompañará los aspectos relacionados con privacidad, confidencialidad, protección de datos, trazabilidad y uso responsable de la inteligencia artificial, mientras que la Coordinación General de Tecnologías de Información apoyará la orientación de los resultados hacia una posible transferencia institucional relacionada con REDI.

En el proyecto participan también Sanely Gaytán y Pablo Alcaraz, de la Facultad de Ingeniería Mecánica y Eléctrica; Ana Zermeño, del Centro Universitario de Investigaciones Sociales; Abigail Morales, de la Facultad de Telemática, y Liliana Martínez, del Bachillerato 33.

También participan las estudiantes de Ingeniería de Software Saira Viviana Lugo Cruz y Ana Teresa Torres Barajas, quienes colaborarán en distintas actividades de desarrollo, documentación y validación del prototipo.