Muchas personas con las que he platicado en los últimos días sobre la pifia que resultó ser el examen de selección en la UNAM tienen a sus culpables, siendo principalmente los alumnos que hicieron trampa o a las autoridades que contrataron a una empresa que falló rotundamente en su plataforma tecnológica. Sin embargo, creo que el gran culpable fue el desconocimiento de las autoridades y tomadores de decisiones que siguen sorprendiéndose cuando les dicen que la Inteligencia Artificial es la solución a todos los problemas, y los ganadores son esos empresarios vendehúmos que se aprovechan de los incautos que siguen siendo engañados.
La UNAM contrató a Territorium Life S.A.P.I. de C.V., una empresa regiomontana cuyos fundadores son Guillermo Elizondo y Gerardo Sáenz González, a la que destinó 101.7 millones de pesos para aplicar el examen de selección usando IA, la cual falló y hoy conocemos la problemática que originó. Pero lo más alarmante es que esta empresa, creada como una plataforma educativa en 2009, ha sumado a lo largo de los últimos años contratos millonarios con entidades del gobierno como la Comisión Ejecutiva de Atención a Víctimas (1.9 mdp), Instituto Nacional Electoral Plataforma tecnológica del Centro Virtual INE (914 mil 345.23 pesos) y el Consejo de la Judicatura Federal, al que por cierto le cobró 50.5 millones de pesos por tres contratos para supervisión de exámenes.
Vamos a profundizar en lo que podemos llamar la ilusión de la objetividad, donde la empresa es la culpable y los sacrificables son desde la secretaria general de la UNAM, hoy despedida, hasta los alumnos que hicieron trampa usando IA. Hoy en día, en el afán de automatizar procesos y modernizar la sociedad, instituciones académicas, gubernamentales y corporativas han comenzado a depositar una fe casi ciega en la IA. Se nos vende la idea de que un algoritmo evaluador o decisor es imparcial, eficiente e inmune al cansancio humano. Sin embargo, tras la fachada de “rigor tecnológico”, se esconde una realidad incómoda: los sistemas de IA no son verdaderos jueces ni entes neutrales, sino espejos deformantes de algoritmos mal construidos, datos defectuosos e intereses comerciales. Confiar procesos críticos a estas herramientas sin una auditoría ética y técnica, no sólo es apresurado, sino conceptual y éticamente irresponsable.
Para entender por qué la IA falla, hay que desmitificar su funcionamiento. Un modelo de IA no “comprende” una situación, un examen ni un proceso legal; simplemente procesa patrones y correlaciones estadísticas. Cuando un algoritmo falla, suele deberse a grietas de diseño como son los sesgos de entrenamiento (un algoritmo es tan bueno como los datos con los que fue entrenado).
Hay que hablar de la llamada caja negra y falta de contexto: los algoritmos actuales carecen de razonamiento causal y contexto. No pueden discernir el “porqué” detrás de una conducta o una respuesta. Califican la desviación respecto a un estándar rígido como un error o un peligro, penalizando la diversidad y la complejidad humana. También están las alucinaciones y falsos absolutos: la IA generativa y predictiva suele “alucinar”. Un sistema que presenta errores garrafales con una apariencia impecable no puede ser la base para decisiones de alto impacto.
¿Por qué la IA no es confiable en los ámbitos más críticos? Delegar la calificación o supervisión de exámenes a herramientas automatizadas introduce riesgos severos como los falsos positivos en detectores de IA. La acusación injusta de plagio basada en software con altos márgenes de error vulnera el derecho de defensa de los estudiantes, aunque también puede ocurrir que un algoritmo sea engañado por el alumno.
Los algoritmos de monitoreo suelen penalizar movimientos oculares naturales, tono de piel o fallas de conectividad, convirtiendo el examen en una prueba de infraestructura digital más que de conocimiento. Pero si lo llevamos a procesos electorales, hay una manipulación y erosionamiento democrático. Me pregunto si las autoridades de la UNAM o de otras instancias que han firmado contratos millonarios con Territorium Life conocen el entrenamiento de su plataforma de IA y si experimentaron antes con ella, y no sólo la subieron al examen sin conocer previamente si podría tener fallas.
Muchas empresas, apoyadas en la falta de alfabetización digital del público general incurren en prácticas engañosas como el AI-Washing (Lavado de IA), que se etiqueta como “inteligencia artificial” a automatizaciones básicas o simples condicionales lógicos para inflar el valor de productos y servicios. Cuando la plataforma falla y perjudica a un estudiante, a un ciudadano o a un acusado, la empresa culpa a la “naturaleza del sistema” o al usuario, mientras cobra licencias millonarias a instituciones que no entienden lo que compraron.
Mientras los algoritmos sigan construyéndose sobre supuestos simplistas, opacidad comercial y sesgos no auditados, otorgarles el control sobre las aulas, las urnas o los tribunales es un acto de fe irresponsable.