Algocracia

Con ironía, Winston Churchill afirmaba que el político debe ser capaz de predecir lo que va a pasar mañana, el mes próximo y el año que viene, y de explicar después por qué fue que no ocurrió lo que el predijo.

El ejercicio de la política tiene grandes dosis de intuición, pragmatismo, convicción, ideales; que se acompañan de los datos disponibles sobre la realidad de sus sociedades y ciudadan@s.

El avance y el perfeccionamiento de los algoritmos informáticos y la inteligencia artificial plantean la posibilidad de prescindir de la subjetividad política, creando un nuevo marco lógico basado en sofisticadas máquinas dotadas de la capacidad de recopilar, procesar y analizar enormes cantidades de datos.

En el ámbito público, el “big data” o “macrodatos” se han convertido en el insumo fundamental para el diseño de políticas públicas, planes de gobierno, asignación de recursos y, en general, en los procesos de toma de decisiones.

En lo electoral, este conjunto de datos es útil para determinar las preferencias de los votantes, la orientación de las campañas, la difusión de los mensajes de candidatos y organizaciones, e incidir en la aprobación o desagrado en torno a una candidatura.

Sin embargo, la enorme cantidad de datos excede con creces la capacidad de procesamiento y análisis de cualquier gobernante, funcionario o político.

Es aquí donde surgen los llamados “algoritmos” de inteligencia artificial, como una herramienta que permite procesar esta gran cantidad de información, por medio de instrucciones programadas paso a paso por máquinas mediante modelos matemáticos.

En 2016, John Danaher escribió Amenaza de la algocracia: realidad, resistencia y adaptación. El autor destacaba que una de las tendencias más notables en los últimos años ha sido la creciente dependencia de los procesos de toma de decisiones en algoritmos, es decir, instrucciones paso a paso programadas por computadora para tomar un conjunto dado de entradas y producir una salida.

Esto es justamente lo que algunos investigadores denominan la “era de la algocracia”, en la cual el poder de tomar de decisiones respecto a la gestión pública recae sobre los algoritmos y los sistemas de inteligencia artificial, prescindiendo o, por lo menos, reduciendo el protagonismo de gobernantes, jueces, parlamentarios o líderes políticos.

Una de las grandes objeciones a la algogracia es la ausencia de representatividad y la legitimidad democrática de los algoritmos. Al desplazar a los gobernantes o a los líderes de la toma de decisiones; la democracia y el ejercicio del gobierno pasarían a convertirse en un asunto exclusivo de las máquinas y no de las personas.

El gran riesgo de la algocracia es la opacidad, la falta de transparencia sobre las decisiones de los algoritmos, los sesgos en su programación y la discriminación de territorios y poblaciones, pudiendo dejar de lado ciertas opiniones al crear falsos consensos y evadiendo los mecanismos de control.

BALANCE

Cada vez más se hace necesario regular los efectos de la inteligencia artificial en la democracia. Como lo ha señalado el secretario general de la OEA, Luis Almagro, debemos trabajar en la construcción de políticas que no prescindan de los valores democráticos fundamentales, porque, si no, tendremos en el mediano plazo un déficit ético que, a la larga, deslegitimará todo lo que hacemos por la sociedad.

Nos encontramos en un momento de profunda transformación política y tecnológica en todo el mundo, pero no podemos cederles pasivamente e irreflexivamente a las máquinas, a los algoritmos y la inteligencia artificial nuestro poder de decisión sobre el rumbo de nuestros países y sociedades.

*Los puntos de vista son a título personal.

No representan la posición de la OEA