Alertan del control algorítmico en la IA; amenaza a la soberanía de los estados

La hegemonía de las grandes corporaciones tecnológicas ha trascendido la esfera de los servicios digitales para consolidarse como una amenaza estructural a la soberanía de los Estados y la autonomía individual. En el exhaustivo informe y libro The Open Future and its Enemies, How We Can Protect Free Society From AI Dictatorship (El futuro abierto y sus enemigos: cómo podemos proteger a la sociedad libre de la dictadura de la IA), presentado por la Foundation for European Progressive Studies (FEPS), se advierte que el control casi absoluto de las llamadas Big Tech sobre la infraestructura de la Inteligencia Artificial (IA) no sólo distorsiona los mercados, sino que redefine la naturaleza misma de la libertad.

“El dominio de unas pocas plataformas gigantes sobre los datos y la potencia de cómputo constituye una nueva forma de poder político que escapa al control democrático tradicional”, sostiene el documento.

Bajo la coordinación de Paul Nemitz, principal asesor de la Comisión Europea, y el periodista Matthias Pfeffer, el estudio disecciona cómo la concentración de poder tecnológico en Silicon Valley ha creado un “cuello de botella” donde las decisiones que afectan a millones de personas son tomadas por algoritmos opacos y directivos sin responsabilidad pública.

El riesgo del monopolio tecnológico no se limita a la fijación de precios o la exclusión de competidores, sino que se extiende a lo que los autores denominan el “control algorítmico” de la sociedad.

Según Pfeffer y Nemitz, este fenómeno ocurre cuando los sistemas de IA, entrenados con sesgos de rentabilidad extrema, comienzan a gestionar la opinión pública, los procesos laborales y hasta la administración de justicia.

“La IA debe estar bajo la supremacía de la ley y la democracia, no al revés; de lo contrario, caminamos hacia una dictadura de los datos donde el futuro ya ha sido preescrito por una máquina”, subrayan los autores.

En el terreno de las finanzas y la economía, el informe de la FEPS destaca que el control de las interfaces digitales permite a las empresas tecnológicas actuar como “porteros” de la actividad comercial global. Esta posición les otorga una ventaja competitiva insuperable al recolectar información privilegiada de sus propios competidores.

“El futuro abierto depende de nuestra capacidad para desmantelar estos feudos digitales y asegurar que los datos sean tratados como un bien común”, señala Pfeffer, instando a una regulación que obligue a la interoperabilidad y a la transparencia total de los algoritmos de recomendación (abrir las cajas negras)

Impactos

La investigación también pone el foco en el impacto laboral de este control algorítmico, donde la gestión de recursos humanos se delega en sistemas automatizados que pueden deshumanizar las relaciones de trabajo.

El documento es enfático al señalar que el trabajador contemporáneo se encuentra atrapado en una vigilancia constante. “Debemos empoderar a los sindicatos y a las instituciones para que puedan auditar el código que determina quién es contratado, quién es despedido y cómo se mide la productividad”, proponen los especialistas de la FEPS.

Para los autores, el concepto de Soberanía Digital es la piedra angular de cualquier proyecto progresista en la era de la IA.

Paul Nemitz advierte que “sin una infraestructura tecnológica propia y soberana, los países se convierten en simples colonias digitales que exportan datos crudos e importan inteligencia procesada”. Esta asimetría económica drena la riqueza de las naciones y debilita la capacidad de los gobiernos para implementar políticas públicas autónomas, subordinándolos a los términos de servicio de empresas extranjeras.

Ofensiva

El libro The Open Future and its Enemies no se limita al diagnóstico, sino que plantea una ofensiva legislativa y social. Propone que la transparencia de la IA no sea un gesto de buena voluntad corporativa, sino una obligación vinculante con sanciones severas.

“La legitimidad del progreso tecnológico sólo puede derivar del consenso social y el respeto estricto a los derechos fundamentales, nunca de la eficiencia algorítmica por sí misma”, sentencia el informe en uno de sus capítulos más críticos.

La consolidación de un “futuro abierto” requiere, según Pfeffer, una alfabetización democrática de la tecnología. Los ciudadanos deben comprender que detrás de cada recomendación y cada proceso automatizado hay una decisión política previa.

"La creencia en la inevitabilidad tecnológica es el mayor enemigo de la libertad. La IA no es un fenómeno meteorológico, es una creación humana que puede y debe ser regulada", agregan los coordinadores del estudio.

Los autores cierran con una advertencia sobre la urgencia de actuar antes de que la concentración de poder sea irreversible. “La lucha por el control de la IA es, en última instancia, la lucha por quién define la realidad en el siglo XXI. La soberanía de la voluntad humana frente al determinismo de las máquinas y el poder de los monopolios se presenta como el desafío definitorio de nuestra generación, exigiendo un nuevo contrato social digital que proteja el pluralismo y la equidad económica frente a la sombra del autoritarismo tecnológico”.