Detectan falsos milagros a través de inteligencia artificial

El  video pretende ser conmovedor. La imagen de Shakira recomienda que en tiempos de crisis económica “la oración sagrada de San Benito” puede resolver las deudas en 48 horas e invita a decir tres frases religiosas que lograrán “el milagro de tu vida”. 

Las palabras de la cantante colombiana parecen ser en un contexto de una charla real y son reforzadas con la aparición del reconocido padre argentino Luis Zazano, quien invita a ser parte de la clase secreta que enseña “la oración más poderosa”. Pero todo es falso, la inteligencia artificial sirvió como herramienta para cometer fraudes al aprovecharse de la fe católica.

La historia generada se compartió en un tiempo récord en WhatsApp, mientras que en las redes sociales el video manipulado prometía “más información en la bio”. Se trata de un delito de suplantación de identidad, una manipulación de imagen y de voz de personas reconocidas. Todo un maléfico plan creado para el engaño.

Si se observan con atención los movimientos que realiza la falsa Shakira son desfasados, mientras que la voz del sacerdote es con un tono diferente al real, pero incluso así, se concreta el engaño para defraudar.

“Utilizan algunos textos bíblicos mezclados con la famosa tecnología de la prosperidad”, dice Pablo Martínez al analizar del video.

Estamos ante una perversión de la fe, el pretender hacer un Dios a nuestra imagen y semejanza que se acomode a nuestras necesidades y deseos. Estamos ante una mezcla de la teología de la prosperidad, de elementos de las religiones paganas, de manipulación de textos bíblicos y secretismo. Milagros financieros y oraciones falsas atribuidas a santos. Esto es una estafa y también es algo ilícito, lo que más me llama la atención es la cantidad de personas que han compartido este video. ¿Qué nos está pasando? Necesitamos crecer en el discernimiento en el uso de las redes sociales”, agrega con desesperación el influencer argentino, quien en su cuenta de Instagram tiene a más de 271 mil seguidores y se define como músico católico, además de cursar una maestría en teología bíblica.

El peruano Kenji Igei se describe en Instagram como evangelizador digital con IA. Él creó un video para evitar este tipo de engaños. La primera imagen que presenta es de un sacerdote que se hace llamar Juan y se muestra preocupado por “la situación difícil que atraviesa su iglesia”.

Todo parece real y solicita donaciones para solventar las grandes deudas y las obras que realizan. Luego aparece otro religioso con vestimenta similar a la de un cardenal y quien realiza una supuesta purificación energética para el alma. Resulta falso, pero tiene una función positiva como alerta para no ser estafado.

“Yo no existo, ni tampoco existe el padre Juan. En realidad quien nos creó fue Kenji, aquí está”, dice la imagen del segundo padre mientras señala al creador de contenido, quien es el que en realidad habla y realiza los movimientos. “Hemos sido creados con IA, este tipo de contenidos será cada vez más real, más convincente y más difícil de distinguir. La IA puede manipular la fe, los miedos, las buenas intenciones y puede poner en riesgo a ti y a los tuyos. No creas automáticamente todo lo que recibes en internet, tampoco lo que te pasen por grupos de WhatsApp ni siquiera si lo comparte alguien de tu familia o de tu comunidad”, expresa sobre su objetivo del video.

Productos milagro, el gancho

En Colombia, se conoce de otro fraude con la imagen del reconocido padre Diego Jaramillo, con la que se generó un video con la IA en el que supuestamente promueve un producto de colágeno.

“No tengo absolutamente nada que ver con una firma o productora de colágeno, les pido que no tomen en cuenta esa publicidad y voy a ver cómo puedo quitar mi imagen porque no quiero aparecer vendiendo nada. Lo único que hago es pedir ayuda para colaborar con los pobres. ¡Dios los bendiga!”, dice en el video aclaratorio el sacerdote, quien va a cumplir 94 años.

El padre Jaramillo es predicador y escritor con más de 100 libros publicados sobre formación religiosa. Además, es presidente de la Organización El Minuto de Dios, que tiene un programa de televisión muy seguido en Colombia. Colabora en la ayuda para la construcción de viviendas para comunidades vulnerables y es una de las figuras eclesiásticas más queridas y seguidas en su país. Los delincuentes actuaron sin remordimiento y lucraron con su imagen.

Otro caso conocido en el que interviene la IA con el personaje de Fray Martín, quien en Instagram supera los 400 mil seguidores. Si bien la imagen creada del religioso no tiene fines lucrativos e intenta transmitir paz y tranquilidad con frases motivadoras, en ninguna parte de su perfil se explica que es creado con IA ni de dónde proviene la información que transmite.

“Estamos ante personajes que confusamente no aclaran que están hechos con IA, por lo tanto, promueven la desinformación y falsean la identidad”, opina Pablo Martínez en otro de sus videos.

Durante la Jornada Mundial de las Comunicaciones Sociales, a finales de enero de este año, el papa León XIV se refirió al uso de la IA: “El rostro y la voz son sagrados, nos han sido dados por Dios que nos ha creado a su imagen y semejanza. 

“(...) los sistemas conocidos como IA no sólo interfieren en los ecosistemas informativos, sino que también invaden el nivel más profundo de la comunicación, el de la relación entre las personas”, aseveró en su discurso, que se tituló Custodiar voces y rostros humanos. 

El Pontífice alertó: “Los algoritmos premian emociones rápidas y penalizan en cambio expresiones humanas que necesitan tiempo, como el esfuerzo por comprender y la reflexión”.