El futuro necesita principios

México está discutiendo cómo regular la inteligencia artificial. Pero antes de decidir qué ley necesitamos, deberíamos responder una pregunta más importante: ¿qué queremos proteger?

La IA no es realmente una materia jurídica. Es una tecnología transversal. Trabajo, propiedad intelectual, datos personales, banca, seguros, competencia, salud, educación, justicia, elecciones, consumidores y administración pública ya están siendo alcanzados por ella.

Podríamos reformar decenas de leyes y, aun así, terminar sin una política coherente.

Existe, además, un problema mayor: la tecnología evoluciona mucho más rápido que el derecho. Podemos redactar en 2026 una regulación extraordinariamente detallada y descubrir pocos años después que regula perfectamente un mundo que dejó de existir.

Por eso propongo invertir la lógica: regular primero el destino y después el camino.

No intentar predecir cada tecnología, sino establecer principios jurídicos que permanezcan, aunque cambien los modelos, las empresas e incluso la forma misma de la inteligencia artificial. Propongo diez.

• Primero. Dignidad y autonomía. La IA debe permanecer al servicio de las personas. Automatizar una decisión no puede significar desaparecer a la persona afectada ni anular su capacidad de decidir.

• Segundo. Responsabilidad. Siempre debe ser posible identificar a las personas físicas o jurídicas responsables de aquello que estaba bajo su control. “Lo decidió el algoritmo” no puede convertirse en la gran coartada de nuestro tiempo.

• Tercero. Proporcionalidad. A mayor riesgo, mayores obligaciones. Una IA que recomienda una película no puede recibir el mismo tratamiento que otra que decide un crédito o participa en un diagnóstico médico.

• Cuarto. Libertad e innovación responsable. Investigar, desarrollar y utilizar IA debe ser, en principio, libre. Una regulación tan costosa que sólo puedan cumplirla los gigantes puede terminar protegiendo precisamente a quienes pretende controlar.

• Quinto. Transparencia. Debemos saber cuándo interactuamos materialmente con una IA y cuándo intervino de manera relevante en una decisión que nos afecta.

• Sexto. Explicación e impugnación. Ante una decisión automatizada con consecuencias relevantes debemos poder comprender suficientemente qué ocurrió y contar con una vía efectiva para controvertirla. Necesitamos poder preguntar: ¿por qué me negaron el crédito y ante quién puedo reclamar?

• Séptimo. Igualdad y no discriminación. Prometer algoritmos completamente libres de sesgos sería ingenuo. La obligación razonable debe ser identificar, medir, prevenir y corregir aquellos que produzcan discriminación jurídicamente prohibida.

• Octavo. Privacidad y gobernanza de datos. Una IA puede inferir sobre nosotros cosas que nunca le dijimos: preferencias, vulnerabilidades, salud o capacidad económica. El gran desafío no será únicamente proteger nuestros datos, sino decidir qué pueden legítimamente deducir las máquinas a partir de ellos.

• Noveno. Seguridad, robustez, trazabilidad y supervisión humana. Cuanto mayor sea el riesgo, mayores deben ser las obligaciones de prueba, vigilancia y capacidad de intervención.

Además, aparece un problema nuevo: la agencia. Los sistemas ya no sólo responden preguntas, pueden recibir objetivos, planear, utilizar herramientas y actuar durante periodos prolongados.

• Décimo. Democracia, pluralismo y Estado de derecho. Una tecnología capaz de multiplicar conocimiento también puede multiplicar vigilancia, propaganda, manipulación y concentración de poder.

Aquí aparece la parte más difícil. Todos pueden entender que conviene reducir ciertos riesgos y, al mismo tiempo, ninguno puede permitirse ser el único que reduzca la velocidad. Keynes hablaba de animal spirits. Frente a esta competencia por sistemas cada vez más capaces, quizá estamos entrando en la era de los monster spirits.

No podemos gobernar esa carrera simplemente pidiéndole a uno de los corredores que deje de correr. Necesitamos instituciones. A estos diez principios agregaría una regla transversal: neutralidad tecnológica y adaptabilidad.

La ley debe regular primordialmente funciones, riesgos y consecuencias, no tecnologías específicas. No legislar para ChatGPT. No escribir en piedra la tecnología dominante de 2026. Los principios pueden permanecer mientras las reglas sectoriales evolucionan.

La IA de 2030 probablemente será muy distinta de la actual. Y si algún día aparecen sistemas de inteligencia muy superiores a la nuestra, comenzar entonces a construir las instituciones necesarias sería llegar demasiado tarde.

El derecho no debe intentar adivinar cada tecnología que viene. Debe hacer algo mucho más difícil: decidir qué principios no estamos dispuestos a abandonar cuando llegue.