Inteligencia Artificial: caja de Pandora

A pesar de que la Inteligencia Artificial (IA) es una rama de las ciencias de la computación que tiene décadas de existir, su llegada a la vida cotidiana se concretó en los últimos meses, con la popularización de herramientas de inteligencia artificial como ChatGPT, Google Bard o Bing Chat, que se han transformado en una desafiante caja de Pandora.

Nos guste o no, de aquí en adelante todas nuestras actividades se estarán modificando con esta tecnología. Y, así como sucedió previamente con la Revolución Digital, sabemos que la tecnología nos ayuda, pero acarrea nuevos riesgos y peligros que, si no los evitamos, pueden resultar muy dañinos.

En el ámbito de la vida democrática, la IA ha tenido un enorme impacto en el mundo. Si bien tiene el potencial para aumentar la participación política y mejorar los procesos electorales, también presenta riesgos que hace necesaria su regulación.

El abuso de la privacidad de los electores y los ataques a la integridad de los comicios son las dos grandes amenazas de la IA para la democracia. El uso de algoritmos para la segmentación de votantes, la creación de fake news, la desinformación o la suplantación de actores políticos con deep fakes, que generan imágenes o audios con mensajes manipulados, pueden alterar los resultados de una elección.

La proliferación de contenido generado por IA se ha convertido repentinamente en una fuerza política disruptiva que amenaza la democracia en un momento crucial, cuando sufrimos los embates del autoritarismo de cara al 2024, cuando más de mil millones de electores votarán para elegir a sus gobernantes en Estados Unidos, la India, la Unión Europea, el Reino Unido y México, entre otros.

Las autoridades electorales, frecuentemente carentes de recursos suficientes, se enfrentarán a un factor adicional, brutalmente desconocido, cuyos efectos ya comienzan a sentirse.

Para tratar de enfrentar este reto, destacan algunas iniciativas, como las de la Comisión de Venecia y el Consejo de Europa, que han hecho llamados para una regulación efectiva de la IA en procesos electorales. Se ha recomendado la creación de estándares éticos para la IA y mecanismos de supervisión independientes que aseguren el cumplimiento de las reglas.

Ambas instituciones han señalado la importancia de proteger la privacidad de los ciudadanos. Ello implica reglas para normar la recolección, almacenamiento y uso de datos personales por parte de actores políticos durante campañas; necesitamos reglas claras para evitar que los datos de los electores se usen o manipulen con interés político.

Muy relevante resulta el proyecto de regulación del uso de IA en la Unión Europea (UE), aprobado por el pleno del Parlamento Europeo, hace unos días, que clasifica las herramientas de IA según el riesgo que implica para los derechos de las personas y define los términos para el funcionamiento de sistemas de IA generativa.

Se restringe el reconocimiento facial en lugares públicos y prohíbe la IA en aplicaciones violatorias de la individualidad, como la vigilancia biométrica, el reconocimiento de emociones y la vigilancia predictiva.

• BALANCE

América Latina no se debe quedar atrás. Hace unos días, tuve el privilegio de participar como ponente en el congreso Las tecnologías digitales: democracia y regulación desde Europa y América, organizado por el TEPJF de México.

Debemos realizar esfuerzos para enfrentar estos retos y asegurar que los procesos electorales sigan siendo transparentes, libres y justos. Es esencial crear marcos regulatorios efectivos para resguardar nuestra democracia en un mundo sacudido por la irrupción nunca vista de la IA.

* Los puntos de vista son a título personal.

No representan la posición de la OEA