La IA y las deepfakes amenazan democracia; prenden alertas por vacíos legales

La inteligencia artificial, el uso de granjas de bots y otras tecnologías utilizadas en la política electoral han llegado a un punto crítico donde la credibilidad está en duda, advirtió Gisela Rubach.

En entrevista con Excélsior, la experta en marketing político alerta que, sin una regulación legal y ética clara, el uso de herramientas como los deepfakes y el procesamiento masivo de datos personales conducirá a una democracia virtual, en la que el contacto directo con la gente será la única defensa contra la desinformación.

Alertó que los comicios en México y en el mundo tienen un nuevo protagonista: el metaestratega, quien sabe qué le gusta escuchar a la gente y qué mensajes deben enviarse para generar aceptación o rechazo. Para Rubach, el tema de fondo es el uso del big data, el machine learning, los bots, la inteligencia artificial y los algoritmos. “Aquí es donde advierto un gran riesgo: la manipulación de la información”.

Actualmente, dijo, ya existe la capacidad de decirle a cada persona exactamente lo que quiere escuchar, cómo quiere escucharlo y también saber qué mensajes no desea recibir.

Con base en eso, se implementan estrategias de bombardeo digital utilizando bots y granjas automatizadas. Incluso, ya hay candidatos que cuentan con su propio chatbot para contestar llamadas o mensajes de WhatsApp. Ya no es el candidato quien responde directamente, sino su versión digital o “doble” automatizado.

Hoy, pensar en que repartir despensas o bultos de cemento resolverá una elección, es una visión limitada.

Sí, puede funcionar en ciertos segmentos, pero no en otros, especialmente entre los jóvenes, que ya son completamente digitales”, indicó.

Por ejemplo, los candidatos deben pensar en estar presentes en plataformas como Roblox, en el mundo de los videojuegos e incluso en el metaverso.

LA IA ABRE LA PUERTA A UNA DEMOCRACIA VIRTUAL 

Los procesos electorales en México y en el mundo tienen un nuevo protagonista: el metaestratega. Así lo afirmó en entrevista con Excélsior Gisela Rubach, especialista en marketing político, quien desde hace seis años trabaja en ese novedoso rol.

De acuerdo con Rubach, esta figura comienza a emerger en las campañas políticas y lo define como quienes comprenden cómo utilizar la información: qué le gusta escuchar a la gente, qué no y qué mensajes deben enviarse o evitarse, ya sea para generar aceptación o para provocar rechazo hacia la oposición.

La especialista explicó que el tema de fondo radica en el uso de herramientas como el Big Data, el machine learning, la inteligencia artificial y los algoritmos. “Aquí es donde advierto un gran riesgo: la manipulación de la información”, señaló.

En ese sentido, afirmó que la decisión de manipular o no la información dependerá de la ética y los valores de cada metaestratega, ya que actualmente no existe una regulación clara al respecto. “Será un tema que genere muchos cuestionamientos, porque los metaestrategas tendrán acceso a grandes volúmenes de información”, advirtió.

Rubach aseguró que estos nuevos mecanismos de concentración de datos nos están llevando a un punto crítico: si se rebasa esa línea, el riesgo es caer en una democracia totalmente virtual, con implicaciones mucho más profundas que las conocidas hasta ahora, y que superan los siglos —incluso milenios— de lucha de la humanidad por comprender y consolidar la democracia y sus procesos.

HERRAMIENTAS SOFISTICADAS

Sobre cómo ve ella la actualidad de la comunicación política en el contexto de la inteligencia artificial, los bots, las fake news y la desinformación que se puede crear en temas electorales, a partir de estos mecanismos, la especialista dijo:

Yo creo que ya estamos totalmente inmersos en este fenómeno y que prácticamente no hay forma de revertirlo. Me remontaría a 2016, con la primera elección de Donald Trump, cuando comenzó a visibilizarse con fuerza el tema de las fake news.

Incluso un poco antes, con el Brexit en Reino Unido ya se observaba cómo estas prácticas empezaban a influir en distintos procesos electorales alrededor del mundo.

En ese contexto, el manejo de la información jugó un papel clave, particularmente a través de los datos que Mark Zuckerberg, mediante Facebook, hoy Meta, proporcionaba sobre los usuarios de redes sociales. Esto permitió definir perfiles muy precisos y, con base en ellos, saber qué mensajes enviar: mensajes positivos, campañas negativas o incluso contenidos diseñados para desmotivar la participación electoral, como ocurrió en 2016 contra Hillary Clinton”, dijo.

Desde entonces, en estos casi diez años, el uso de estas herramientas se ha sofisticado enormemente, especialmente con el avance de la tecnología.

Hoy, con los deepfakes, manipulación de videos, ya no es posible saber con certeza si lo que vemos es real o generado por inteligencia artificial. No sabemos si un candidato o candidata realmente dijo algo o no. Para distinguirlo habría que ser un experto en lectura de labios, y la realidad es que 99% de las personas no cuenta con esa habilidad para diferenciar entre un contenido auténtico y uno creado con inteligencia artificial”, señaló Rubach y afirmó: “Estamos llegando a un punto donde creo que la credibilidad está siendo cada vez más cuestionada”.

Consultada sobre el papel que juegan los bots, los trolls, frente a la inteligencia artificial, que ahora se hace sentir en distintos campos, incluyendo las campañas electorales, la especialista en comunicación política señaló:

Sí, siguen teniendo impacto, pero ahora de una forma mucho más sofisticada. Hoy vemos granjas digitales mucho más avanzadas para el envío masivo de mensajes. En muchos casos, ya no son personas las que interactúan, sino bots operando a través de estas granjas, que pueden manejarse por miles.

Se programan en grandes centros donde hay 200, 500 o incluso 800 celulares, y desde ahí se bombardea con mensajes diseñados previamente mediante inteligencia artificial, Big Data y machine learning, a partir de la información obtenida de las propias redes sociales”.

TODO MUNDO ES UN ESTRATEGA

Rubach dijo que actualmente ya existe la capacidad de decirle a cada persona exactamente lo que quiere escuchar, cómo quiere escucharlo y también saber qué mensajes no desea recibir.

Con base en eso, se implementan estrategias de bombardeo digital utilizando bots y granjas automatizadas. Incluso, ya hay candidatos que cuentan con su propio chatbot para contestar llamadas o mensajes de WhatsApp. Ya no es el candidato quien responde directamente, sino su versión digital o “doble” automatizado.

También estamos viendo campañas en el metaverso y, desde lo que he desarrollado en los últimos cinco o seis años con la metaestrategia, observamos el uso intensivo de tecnología en distintos países. Hay campañas dentro del metaverso e incluso casos como el de Japón, donde un robot ha sido candidato en una alcaldía de Tokio; o en Dinamarca, donde un partido político tiene como presidenta a una inteligencia artificial con características femeninas.

Esto nos lleva a nuevos cuestionamientos. Por ejemplo, en Japón se debate si un robot tiene derecho a ser votado y, más aún, si un ser no orgánico tendría derecho a votar. Son discusiones que apenas comienzan y que, aunque no siempre se reflejan, aún, en campañas electorales, ya aparecen en otros ámbitos”.

Otro ejemplo al que se refirió es que, en Perú, donde se realizan misas a través de Roblox, permiten la participación mediante avatares.

Todo esto refuerza la idea de que la tecnología difícilmente se puede detener o contener. Sin embargo, su alcance también depende del nivel de conectividad y del acceso que las personas tengan a estas herramientas.

Aún existen muchas zonas donde esto no es una realidad, pero la invasión tecnológica en las campañas es cada vez mayor. Hoy prácticamente todo el mundo tiene acceso, al menos, a la versión gratuita de alguna aplicación de inteligencia artificial. En ese sentido, podría decirse que, gracias a la IA, hoy casi cualquiera se ha convertido en estratega de campaña”.

LOS CINCO ELEMENTOS

Gisela Rubach dijo que en la actualidad ya operan cinco elementos dentro de las campañas políticas.

El primero es tierra. La tierra sigue siendo el contacto directo con la gente, el trabajo puerta a puerta. Todavía no podemos votar por internet; seguimos haciendo fila el domingo para votar. En el caso de quienes viven fuera de México, existe la posibilidad de votar por correo si se registran en el consulado, pero, aun así, el voto no es digital. Por lo tanto, para México, el trabajo territorial sigue funcionando.

El segundo elemento es aire. Aunque muchas veces se desprecia a la televisión, la realidad es que sigue siendo el medio por el cual una gran parte de la población se informa hasta el día de hoy.

El tercer elemento es agua, que representa el mundo líquido: las redes sociales. Estas ya son muy importantes, pero hoy tienen aún más peso las conversaciones que se dan en WhatsApp, especialmente en los grupos. Incluso más que Facebook o TikTok, aunque TikTok ya se volvió una plataforma indispensable para cualquier político en campaña.

El cuarto elemento es fuego, que incluye el big data y toda la información que hoy se utiliza para diseñar estrategias.

Pero hay un quinto elemento que ya está entrando con fuerza y que marcará hacia dónde van las campañas. Lo veremos aplicado en Estados Unidos en las elecciones intermedias de noviembre próximo y, estoy segura, también en México rumbo a la elección presidencial de 2030. Este quinto elemento es el éter, que no es otra cosa que estar completamente inmersos en la realidad virtual y la realidad aumentada”.

El éter, dijo, tiene que ver con la inteligencia artificial en su máxima expresión.

Recordemos que el creador de ChatGPT anunció hace unas semanas que no falta mucho para el lanzamiento de ChatGPT-6, y aseguró que, cuando eso ocurra, esta tecnología será capaz de influir directamente en la elección del próximo presidente de Estados Unidos. Hablamos de que la tecnología ya nos alcanzó y nos rebasó.

LENTES PARA HACER DE TODO

Basta ver lo que hoy se puede hacer con los lentes desarrollados por Meta en colaboración con Ray-Ban u Oakley. Con unos simples lentes puedes grabar video, transmitir en vivo, escuchar llamadas, música y usar aplicaciones. Incluso, si alguien está dando una conferencia, los lentes pueden analizar al auditorio: identificar a quién está atento, quién está distraído e incluso reconocer rostros mediante biometría.

Estamos en un punto en el que pensar que repartir despensas o bultos de cemento resolverá una elección es una visión limitada. Sí, puede funcionar en ciertos segmentos, pero no en otros, especialmente entre los jóvenes, que ya son completamente digitales. Para ellos, los candidatos tienen que entrar en esta nueva dinámica tecnológica.

Eso implica estar presentes en plataformas como Roblox, en el mundo de los videojuegos y en todos estos nuevos espacios digitales que ya también se utilizan para hacer campaña. Las campañas de 2024 ya no tienen nada que ver con cómo ha avanzado la tecnología en solo los últimos dos años, y menos aún con lo que avanzará en los años que vienen”.

Rubach dijo que los costos de una campaña vía todos los mecanismos que presenta aquí y una tradicional van a ser relativos y dependerán del tipo de candidatura y la región o zona en la que se compita.

Lo que ya es impensable, es una candidatura a la presidencia de la República o a gobernador sin la utilización de las herramientas tecnológicas actuales. Sin embargo, aunque la tecnología juega un papel crucial, la relación con la tierra, con la gente, sigue siendo fundamental. Las campañas deben caminar al mismo ritmo que la evolución digital, pero no se puede olvidar que las elecciones se siguen ganando en la calle, en las zonas donde se tiene contacto directo con la gente”, señaló.

LA INVERSIÓN NO SÓLO ES DIGITAL

La especialista se refirió al gran problema del día. “Muchos candidatos creen que la mayor inversión en sus campañas debe centrarse exclusivamente en lo digital. Esto ha generado un boom que, aunque poderoso, no garantiza el éxito. Hemos visto elecciones, incluso presidenciales en otros países, donde algunos candidatos apostaron casi exclusivamente al entorno digital y, aunque lograron buenos resultados, lo cierto es que las elecciones se ganan por el contacto directo con la gente. No podemos pelear contra los avances tecnológicos, pero la tierra, al final, sigue siendo clave”.

Recordó que en las elecciones de 2016 en Estados Unidos las inversiones en redes sociales alcanzaron cifras desorbitadas.

“Las redes sociales no funcionan de manera orgánica, sino que requieren una inversión importante en pautas publicitarias. No es caridad, ni algo que suceda solo, es un negocio. Por eso, las campañas deben tener un presupuesto digital claro, que se debe transparentar.

En México, las leyes obligan a las empresas a informar los montos invertidos, lo que da un control adicional. Sin embargo, los candidatos no pueden olvidar que también deben destinar parte de su presupuesto para las campañas en tierra, en contacto directo con los votantes”.

Por otra parte, dijo, el tema de los spots publicitarios en medios tradicionales está muy regulado.

No se puede contratar tiempos a libre demanda; el tiempo aire se asigna de acuerdo con el porcentaje de votos obtenidos en la última elección, lo cual genera disparidades. Por ejemplo, un partido con un gran respaldo popular, como Morena, tendrá una cantidad significativamente mayor de tiempo en los medios que partidos como el PAN o el PRI, que no cuentan con el mismo apoyo electoral.

En la campaña de 2027, esto se reflejará de manera evidente: Morena podría tener, por ejemplo, 100 spots por cada uno que tenga el PAN o medio del PRI. Esto se debe a los resultados de las elecciones previas, lo que genera una gran ventaja para los partidos con más apoyo popular. En este sentido, las campañas se verán influenciadas por factores como la capacidad de los candidatos para conectar con los votantes, su presencia en redes sociales y cómo las usen para hacer llegar su mensaje. “En resumen, la clave para ganar una elección sigue siendo la estrategia en tierra, el contacto directo con los votantes. Las redes sociales son un complemento importante, pero no son el factor decisivo”, añadió. 

En la campaña de 2027, esto se reflejará de manera evidente: Morena podría tener, por ejemplo, 100 spots por cada uno que tenga el PAN o medio del PRI. Esto se debe a los resultados de las elecciones previas, lo que genera una gran ventaja para los partidos con más apoyo popular. En este sentido, las campañas se verán influenciadas por factores como la capacidad de los candidatos para conectar con los votantes, su presencia en redes sociales y cómo las usen para hacer llegar su mensaje.

En resumen, la clave para ganar una elección sigue siendo la estrategia en tierra, el contacto directo con los votantes. Las redes sociales son un complemento importante, pero no son el factor decisivo”, añadió. 

LAS NUEVAS HERRAMIENTAS AL SERVICIO DE LA COMUNICACIÓN POLITÍCO-ELECTORAL

BIG DATA 

Es el conjunto de datos tan grandes, rápidos y variados que no pueden ser gestionados con herramientas tradicionales, y por eso requieren tecnologías especiales para analizarlos. Es caracterizada por las cinco V. Volumen: cantidades inconmensurables de datos que se mide en billones. Velocidad: los datos se generan y procesan en tiempo real o casi real. Variedad: datos de muchos tipos: textos, imágenes, videos, audios, sensores, redes sociales. Veracidad: calidad y fiabilidad de los datos. Valor: lo importante es extraer información útil para tomar decisiones. Los ejemplos más conocidos relacionados con la Big Data están en las redes sociales analizando millones de publicaciones; Netflix o Spotify recomendando contenido; bancos detectando fraudes; ciudades inteligentes gestionando tráfico; salud: análisis de historiales médicos. Algunas de las utilidades de la Big Data es, presuntamente, para tomar mejores decisiones, predecir comportamientos, optimizar procesos y detectar patrones y tendencias. Las tecnologías que se emplean en la Big Data son bases de datos distribuidas, inteligencia artificial, machine learning y otras como Hadoop o Spark.

MACHINE LEARNING

El machine learning (aprendizaje automático) es una rama de la IA que permite que las computadoras aprendan de los datos y mejoren con la experiencia sin ser programadas explícitamente. Esta herramienta funciona a través de datos, ejemplos y un objetivo. Analiza los datos, encuentra patrones y luego puede hacer predicciones o tomar decisiones, como filtrar spam en mails, hacer recomendaciones, como sucede en Netflix o YouTube, canalizar publicidad y hacer reconocimiento de voz e imágenes. Los tipos de machine learning conocidos son aprendizaje supervisado, que aprende con datos etiquetados, como para predecir precios; el aprendizaje no supervisado, que localiza patrones sin etiquetas, como agrupar clientelas y el aprendizaje por refuerzo, que aprende por prueba y error, como en los videojuegos.

Las diferencias del machine learning con la programación tradicional es que ésta se realiza a partir de reglas más datos para obtener un resultado y machine learning es datos más resultados para aprender reglas. A partir del machine learning se pueden manejar grandes volúmenes de datos, la herramienta aprende y mejora con el tiempo.

ÉTER

Éter no es un software, sino un producto con base en la inteligencia artificial, donde la vida orgánica y la vida virtual se cruzan e interactúan. Es una red que crea vida artificial, cuya existencia depende de los usuarios orgánicos mediante la adopción y la energía obtenida de las conexiones. Esta herramienta de comunicación digital está diseñada, presuntamente, para mejorar la vida de las personas y hacer ciertos trabajos más eficientes. En ese concepto, que también se ha ido convirtiendo en una red, la realidad ampliada es uno de sus fuertes y compiten abierta y directamente con las informaciones de las redes sociales. La herramienta se plantea que con la inteligencia artificial se alcanza un nuevo nivel, que se convierte prácticamente en una extensión del usuario.

ROBLOX

Roblox es una plataforma de juegos en línea donde los usuarios pueden jugar, crear y compartir juegos creados por otras personas o por ellos mismos. Esta plataforma, a diferencia de otros videojuegos, es considerada como un universo de juegos, donde se puede acceder a millones de diferentes juegos, que son credos por la misma comunidad y permite aprender a programar y diseñar juegos. El funcionamiento de Roblox es a partir de la creación de un avatar personalizable por cada uno de los jugadores; los juegos se crean con Roblox Studio y usa un lenguaje de programación llamado Lua. Los juegos más comunes en esta plataforma son de aventuras, simuladores, juegos de rol, carreras, terror, parkour y juegos educativos. La plataforma es gratuita y tiene una moneda virtual conocida como robux. Para comprar ropa, accesorios, habilidades especiales y contenido exclusivo. Roblox es utilizada por niños, adolescentes y adultos, principalmente desarrolladores.

DEEPFAKE

Un deepfake es un contenido falso generado o modificado con inteligencia artificial que hace que una persona parezca decir o hacer algo que en realidad nunca ocurrió. Esta herramienta se utiliza en redes neuronales que analizan muchas imágenes, audios o videos reales de una persona y luego imitan su rostro, voz o gestos de forma muy realista. Los deepfakes se encuentran principalmente en videos donde alguien “aparece” diciendo palabras que en realidad nunca dijo; audios con voces clonadas de personas reales y fotografías alteradas de manera casi indistinguible de una real. La utilización de la deepfake puede ser positivo, para crear efectos especiales en el cine, doblajes y traducciones automáticas. Sin embargo, hay usos negativos como desinformación, a través de noticias falsas, fraudes y estafas o contenido no consentido. Por lo general, es casi imposible reconocer un deepfake. Habría que poner mucha atención en los movimientos faciales poco naturales, parpadeo extraño o inexistente o voz ligeramente robótica.

 cva