¡Culpen al algoritmo!

Por Laura Coronado Contreras*

Concepción Arenal, la célebre luchadora social, mencionaba que “cuando la culpa es de todos, la culpa es de nadie”. Y tal parece que en pleno siglo XXI resulta más sencillo, cómodo y “útil” acusar a la tecnología –en la que todos confiamos y a la que poco entendemos– para que nadie sea responsable. Y lo mismo sucede cuando hay una falla en los principales aeropuertos, como sucedió con el reciente incidente de CrowdStrike y Microsoft, o bien, cuando hablamos de prevención de delitos.

Recientemente, el periódico estadunidense The New York Times publicó una investigación sobre VioGén, un software para determinar la probabilidad de que una víctima de violencia doméstica vuelva a sufrir maltrato y el nivel de protección que necesita.

El problema que muestra el reportaje es que existe un margen de error que ha desembocado en que 8% de las mujeres clasificadas “sin riesgo aparente” y 14% de las consideradas como “bajo riesgo” volvieron a sufrir maltrato, no recibieron seguimiento o protección y, lamentablemente, algunas de ellas, incluso, perdieron la vida.

¿A quién culpamos? ¿A la recomendación del programa informático? ¿Al cuestionario formulado? ¿A la manera de aplicarlo? ¿A las autoridades que respaldan sus decisiones en el software? ¿A los desarrolladores del sistema? ¿Al gobierno que lo incluye como instrumento? ¿A las mujeres por no denunciar antes? ¿A las víctimas por sentirse apenadas por llegar a hospitales mintiendo? ¿A la sociedad que no nos enseña que la violencia va escalando y normalizamos conductas que, tarde o temprano, se convierten en delitos?

¡Al algoritmo!, ya que nos parece que éste es algo científico, objetivo, inocuo, pero a la vez, caprichoso, abstracto, etéreo y, al final, inentendible.

La responsabilidad de fenómenos como la violencia doméstica no puede ser vista simplemente desde la óptica –sancionadora– del derecho.

Las agresiones sufridas por una mujer, en el lugar en donde debería sentirse más segura, no es sólo problema de la víctima o su entorno. Es una realidad –no sólo una estadística– que puede prevenirse y atenderse. Nos daña a todos como sociedad y, ante ello, tenemos la obligación moral de responder o hacernos cargo de sus consecuencias.

Tal parece que aplicamos reglas diferentes para las personas y las máquinas. Con nosotros, seguimos la máxima de Charles de Gaulle de “no te consideres indispensable o infalible” y que, por tanto, necesitamos de ellas para subsanar nuestras fallas, ya que “cualquier tecnología lo suficientemente avanzada es indistinguible de la magia”, como mencionaba Arthur C. Clarke.

Efectivamente, los seres humanos podemos equivocarnos. Sesgos machistas, comunidades pequeñas –en donde agresor, víctima y autoridad se conocen–, poca capacitación, gran carga administrativa o legislación poco adecuada son el común denominador en muchas regiones del mundo. No obstante, también es cierto que, a pesar de que las fórmulas matemáticas son objetivas, el diseño y la implementación de éstas se realiza por personas y, obviamente, la tecnología puede errar.

Las herramientas tecnológicas son indispensables, pero es ilusorio pensar que podemos usar algoritmos para que decidan por nosotros sin siquiera saber cómo funcionan, cuáles son sus alcances y sus limitaciones. Indudablemente, VioGén ha salvado a muchas mujeres, pero un proceso en donde no sabemos dónde terminan sus recomendaciones y empiezan las decisiones humanas es doblemente peligroso.

*Catedrática de la Facultad de Estudios Globales de la Universidad Anáhuac México.

X:@soylaucoronado