Impostores

El desarrollo disruptivo de la Inteligencia Artificial (IA) es una realidad innegable que nos plantea nuevos e inquietantes desafíos. Aún no alcanzamos a dimensionar su impacto en la vida diaria y por extensión en el ejercicio de nuestros derechos políticos.

Las agencias We Are Social and Meltwater, en su Global Digital Report 2023, señalan que, a mediados de 2023, los usuarios de redes sociales alcanzaron 4,880 millones de personas, representando 60% de la población mundial.

Cada vez es más frecuente encontrarnos en la red con deepfakes o “falsedades profundas”, los cuáles son archivos de voz, imagen o video manipulados, creados a través de la utilización de múltiples herramientas de (IA), pareciendo originales, reales y auténticos.

Un ejemplo reciente de la presencia de deepfakes creadas por la IA, es el caso del actor norteamericano Tom Hanks, quien ha alertado sobre la falsedad de un video que utilizaba su voz e imagen para promocionar un plan dental en redes sociales, el cual fue creado a través de un software de (IA) sin su consentimiento. Los “impostores” son una realidad escalofriante, que dejan a las películas de ficción cortas por su alcance y efectos nocivos.

El uso nocivo de la IA, reflejado en las deepfakes, transciende al campo de la gobernanza y de la democracia, acentuándose su uso en las campañas electorales. De manera perversa, se utilizan herramientas digitales para captar la atención de los electores y sumar votos o adherencias con información falsa.

Distorsionando la realidad y la verdad, al reemplazarlas por datos trucados y manipulados, “impostores profesionales” han encontrado en las redes, cajas de resonancia para mensajes de desinformación, fanatismo y violencia política.

Si el debate político se basa en datos falsos nos acercamos a una especie de fake-democracy, donde las decisiones trascendentes para una sociedad podrían ser tomadas sobre una base errada, posicionando al error como la opción preferente del ciudadan@.

Las distorsiones y manipulaciones de la verdad generan un caldo de cultivo para la presencia de ciudadan@s reactivos y virales, quiénes toman posiciones y decisiones carentes de rigor y fundamentos, entregados a sus emociones sobre la información falsa que recibieron.

Debemos reconocer que el uso de las redes sociales y la presencia de la IA ha tomado desprovistos a los organismos y autoridades electorales. La regulación es mínima y Congresos y parlamentos se encuentran rezagados ante la magnitud del fenómeno.

El secretario general de la OEA, Luis Almagro ha dicho, con razón, que hoy tenemos prioridades que entonces no nos parecían tales y ahora deben estar al frente de nuestra agenda. A medida que el mundo va cambiando, también tiene que evolucionar nuestra comprensión de la democracia, de cómo promoverla y protegerla.

BALANCE

Las Misiones Internacionales de Observación Electoral de la OEA, en sus últimos informes y recomendaciones, vienen advirtiendo sobre los riesgos del mal uso de la IA y su impacto para los sistemas democráticos y los procesos electorales.

Estos nuevos escenarios demandan un gran compromiso desde lo local hacia lo mundial, en el cuál todos los países, sus gobiernos y los organismos internacionales, establezcan principios y valores mínimos para diseñar marcos regulatorios razonables y eficaces.

La Inteligencia Artificial ha llegado para quedarse. La Caja de Pandora está abierta de par en par. Tenemos el “deber civilizatorio” de aprovechar las grandes e incalculables ventajas de la tecnología sin sucumbir ante impostores y falsos profetas. La democracia está en riesgo. Ha llegado el momento de actuar.

*Los puntos de vista son a título personal.

No representan la posición de la OEA.