Iglesia pide poner límites a la IA: “No puede decidir el futuro de la humanidad”

La inteligencia artificial no puede arrogarse la facultad de decidir el futuro de la humanidad. Por ello, es necesario establecer límites que salvaguarden la dignidad humana, así como el derecho de las personas a tomar sus propias decisiones y asumir la responsabilidad por ellas.

La historia demuestra que el desarrollo científico y tecnológico ha generado avances y mejoras en la calidad de vida. Sin embargo, también conserva cicatrices que recuerdan que, cuando las innovaciones no son utilizadas con un propósito adecuado, pueden causar daños.

Ante el acelerado desarrollo de la inteligencia artificial, la Iglesia católica plantea una pregunta de fondo: ¿deben ser los algoritmos los que determinen las decisiones que tomamos y, en ese escenario, qué lugar ocupa la responsabilidad humana?

En un planteamiento difundido este domingo, la Iglesia aclaró que no se trata de temer a la tecnología ni de oponerse a los descubrimientos científicos, sino de reflexionar sobre el tipo de sociedad que se quiere construir en plena era digital y determinar qué decisiones nunca deberían quedar exclusivamente en manos de una inteligencia artificial.

En ese sentido, destacó que México tiene la oportunidad de construir una regulación que “no nazca del miedo a la tecnología, pero tampoco de una confianza ingenua en ella”.

Necesitamos reglas que permitan innovar y, al mismo tiempo, coloquen en el centro la dignidad humana. El verdadero progreso no puede medirse solo por aquello que una tecnología es capaz de hacer; también debe preguntarse a quién sirve, qué protege y qué clase de sociedad ayuda a construir”, expuso la propuesta.

El documento advirtió que, mientras se desarrollan máquinas cada vez más capaces, la sociedad debe evitar entregarles su capacidad de discernir, asumir responsabilidades y decidir sobre su futuro.

En otras palabras, la Iglesia católica sostuvo que “la inteligencia artificial necesita límites, y esos límites no pueden decidirlo las máquinas”, particularmente cuando su utilización interviene en ámbitos como el empleo, el acceso a servicios y el ejercicio de los derechos de las personas.

Cuando la IA comienza a incidir en esas áreas, deja de ser únicamente un asunto técnico, de acuerdo con el planteamiento retomado de la encíclica Magnifica Humanitas, del papa León XIV.

Al citar el documento pontificio, el análisis subrayó que la inteligencia humana debe mantenerse como guía responsable del desarrollo tecnológico y también de los límites que deben establecerse para su utilización.

Asimismo, retomó el planteamiento de León XIV sobre la necesidad de identificar “quién diseñó un sistema, quién lo utilizó, quién decidió confiarle una determinada tarea y, llegado el caso, quién debe rendir cuentas, corregir errores y reparar los daños causados”.

La premisa, destacó el documento, es que la responsabilidad humana no puede desaparecer detrás de un algoritmo.

Ante este escenario, Desde la Fe, medio de comunicación de la Iglesia católica en México, planteó una serie de preguntas que considera indispensables para construir una regulación de la inteligencia artificial centrada en la protección de las personas:

¿Qué decisiones nunca deberían quedar exclusivamente en manos de un algoritmo? ¿Quién responde cuando un sistema provoca un daño? ¿Cómo proteger la privacidad y los datos personales? ¿Qué hacer frente a los riesgos para el trabajo, los derechos de autor, la verdad o la seguridad? ¿Cómo garantizar que las personas más vulnerables no sean las primeras perjudicadas por estas tecnologías?

El debate, concluyó el documento, no consiste únicamente en determinar qué puede hacer la inteligencia artificial, sino en establecer qué decisiones debe seguir tomando el ser humano y bajo qué principios debe desarrollarse la tecnología.