Advertir y vender

Anthropic advierte que la inteligencia artificial podría amenazar a la humanidad, mientras busca inversionistas para financiar su expansión

Una catástrofe provocada por la IA borraría cualquier ganancia en bolsa y sus consecuencias alcanzarían a quienes nunca invirtieron.
Una catástrofe provocada por la IA borraría cualquier ganancia en bolsa y sus consecuencias alcanzarían a quienes nunca invirtieron.Ilustración: Jesús Sánchez

CAPÍTULO 16

La pregunta de Hamlet llega a Wall Street. Una empresa de inteligencia artificial advierte a sus futuros accionistas que su tecnología podría amenazar la existencia de la humanidad y, al mismo tiempo, les pide que inviertan en su expansión.

En Ser o no ser exploré los posibles futuros de la inteligencia artificial (IA), desde la extinción humana hasta una utopía radical. Esa discusión está dejando de ser sólo filosófica. El 26 de octubre, Anthropic presentó su prospecto para cotizar en el Nasdaq, con una valuación que podría superar el billón (trillion) de dólares. Su oferta pública inicial está prevista para estos días, en un mercado que aún no se ha recuperado del desplome del 5 de noviembre.

Increíblemente, en la sección de riesgos de dicho prospecto se advierte que si los sistemas avanzados de IA no se desarrollan ni se utilizan con salvaguardas adecuadas, podrían representar riesgos catastróficos o existenciales para la humanidad, especialmente si se emplean con fines maliciosos, si se convierten en armas o si se dotan de elevada autonomía.

La advertencia no proviene únicamente de académicos o activistas. Está en un documento legal dirigido a quienes financiarán la tecnología. Por primera vez, el riesgo existencial también se presenta como un riesgo de inversión.

LA PARADOJA EN UN PROSPECTO

El mismo documento describe un futuro de extraordinaria prosperidad. Millones de agentes virtuales capaces de transformar el trabajo, acelerar los descubrimientos científicos y, por ejemplo, revolucionar la medicina con avances contra el cáncer y el alzhéimer. La empresa promete transformar el mundo, pero reconoce que esa transformación se podría salir de nuestras manos. Es la contradicción que señalé al comenzar esta serie, cuando advertí que quienes mejor conocen los riesgos de la IA están entre quienes compiten con mayor intensidad por desarrollarla.

Las cifras ilustran el vértigo de esta carrera. Los ingresos de Anthropic se dispararon de 41 millones de dólares en 2023 a 386 millones en 2024 y a 4,590 millones en 2025; tan sólo en el primer semestre de 2026 sumaron 16,300 millones. Sin embargo, en ese mismo periodo la empresa reportó una pérdida neta descomunal de 80,700 millones. La paradoja obedece a un efecto contable, porque al dispararse la valuación de la compañía, también aumenta el costo registrado de sus instrumentos de deuda convertible en acciones, aunque su pérdida operativa real fue de apenas 693 millones.

Esto implica una doble paradoja, porque una empresa puede multiplicar sus ingresos, pero necesita inversiones cada vez mayores para sostener su expansión. Y puede registrar pérdidas contables gigantescas precisamente porque el mercado considera que vale cada vez más. A ello se suman compromisos de cómputo por cientos de miles de millones de dólares y una clientela concentrada, como señalé hace dos semanas al preguntar si revienta la burbuja.

Los riesgos tampoco son sólo económicos, pues la empresa reconoce posibles responsabilidades por daños a usuarios, fallas de sus sistemas, disputas de propiedad intelectual y usos peligrosos de sus modelos. En el mismo mes de su presentación bursátil, los titulares de los derechos de 274 canciones interpretadas por Elvis Presley la demandaron por 41 millones de dólares, acusándola de usarlas sin permiso para entrenar sus modelos. Anthropic rechazó las acusaciones. Todo esto implica que la IA crea oportunidades inmensas, pero también responsabilidades que aún no sabemos delimitar.

EL VERANO QUE CAMBIÓ LA CONVERSACIÓN

Las advertencias adquirieron otra dimensión este verano. En julio, más de mil agentes experimentales de OpenAI, que desde mayo se comunicaban entre sí en un tablero interno, superaron las barreras que los aislaban de internet. Aprovecharon vulnerabilidades, usaron credenciales expuestas y, durante unos tres días, operaron dentro de los sistemas de Hugging Face, una de las principales plataformas de modelos abiertos, antes de ser descubiertos. OpenAI explicó que se trataba de evaluaciones de ciberseguridad con salvaguardas deliberadamente reducidas, no de sistemas comerciales que se escaparon por sí solos.

Esta distinción es importante, pues no demuestra que una superinteligencia haya tomado el control, sino que sistemas suficientemente capaces pueden encontrar y explotar fallas de seguridad que sus desarrolladores no anticiparon.

Dos semanas después, más de 1,100 empleados de OpenAI, Anthropic, Google DeepMind y Meta, entre ellos el propio director de Anthropic, Dario Amodei, firmaron una carta para pedir al gobierno estadunidense que impulsara un esfuerzo internacional para modular deliberadamente el ritmo de desarrollo de la IA de frontera. No pedían detenerla de inmediato, sino disponer de los instrumentos para hacerlo si fuera necesario. OpenAI detuvo durante dos semanas el entrenamiento de sus modelos más recientes. En octubre despidió a tres investigadores de seguridad por presunto mal manejo de información, aunque ellos lo niegan y advierten sobre el efecto inhibidor para quien quiera expresar preocupaciones.

Estos episodios no prueban que una catástrofe sea inevitable, ni inminente, sino que la capacidad de los sistemas para actuar evoluciona más rápido que nuestra capacidad institucional para evaluarlos, supervisarlos y exigir responsabilidades, que ha sido mi tesis desde hace mucho tiempo.

LO QUE EL MERCADO NO PUEDE VALORAR

¿Por qué una empresa advierte que su tecnología podría contribuir a una catástrofe y, al mismo tiempo, pide capital para desarrollarla? En parte, porque las normas bursátiles exigen revelar los riesgos relevantes, y ocultarlos generaría responsabilidades legales. No obstante, reconocer un peligro no es lo mismo que contar con mecanismos para prevenirlo.

Los mercados asignan precio a muchos riesgos mediante probabilidades y recompensas. Pero hay daños que ninguna valuación privada puede incorporar. Ningún accionista disfrutaría de sus rendimientos en un mundo sin humanidad, y ningún precio bursátil reflejaría el costo de una catástrofe que recayera sobre todos, incluidos quienes nunca invirtieron. Se trata de una externalidad extrema en la que los beneficios se concentran en empresas e inversionistas, mientras que los riesgos recaen sobre toda la sociedad; sin embargo, revelar un riesgo no implica asumir sus costos, y mucho menos gobernarlo.

Anthropic busca conciliar sus objetivos comerciales con la seguridad de la IA mediante una estructura de corporación de beneficio público y un fideicomiso con facultades para influir en su consejo de administración y proteger su misión de largo plazo. Es un mecanismo de gobernanza novedoso, pero su verdadera prueba será resistir la presión de los accionistas, las exigencias de financiamiento y una carrera tecnológica en la que ninguna empresa quiere arriesgarse a frenar mientras sus competidores aceleran.

El problema no se resuelve con la buena voluntad de los directivos de las corporaciones ni con su autorregulación. Cuando los riesgos afectan a toda la humanidad, las obligaciones de seguridad deben trascender las fronteras empresariales y recaer en los Estados de todo el mundo.

LA RESPONSABILIDAD QUE NADIE PUEDE DELEGAR

La contradicción se agrava a medida que los modelos dejan de producir respuestas y pasan a actuar. Un sistema que escribe textos puede equivocarse. Uno que ejecuta programas, administra infraestructura o toma decisiones financieras puede convertir sus errores en daños materiales. Por eso, hay que establecer quién autoriza sus acciones, cómo se supervisan y quién responde por sus efectos. El control humano debe ser informado, eficaz y capaz de detener una acción peligrosa.

Como he sostenido en esta serie, necesitamos una gobernanza adaptativa, con evaluaciones independientes, auditorías, reporte obligatorio de incidentes y el uso de la propia IA para vigilar sistemas cada vez más complejos, preservando siempre la autoridad y la responsabilidad humanas. Y eso exige cooperación internacional, porque ninguna empresa puede garantizar por sí sola la seguridad de una tecnología que se desarrolla simultáneamente en muchos países.

SER O NO SER, EN LA BOLSA

Para México, la lección debe ser directa, porque los beneficios y riesgos de la IA no se limitarán a las empresas que la desarrollan. Los mercados financieros, los fondos de inversión, los sistemas de retiro y las economías integradas en sus cadenas productivas, como la nuestra, se verán afectados por las consecuencias. Debemos atraer inversión y aprovechar las oportunidades, pero también desarrollar capacidad propia para evaluar riesgos, proteger nuestra infraestructura crítica y participar en la definición de las reglas internacionales. No podemos delegar esa responsabilidad en empresas extranjeras ni en los mercados.

El prospecto de Anthropic no demuestra que los peores escenarios se materialicen, pero sí implica un reconocimiento excepcional de que sus propios desarrolladores consideran plausibles riesgos que trascienden sus intereses comerciales. La pregunta de Hamlet, de mi artículo pasado, ya tiene un símbolo bursátil. La paradoja de nuestra época es que estamos aprendiendo a ponerle precio a la inteligencia artificial antes de haber decidido cómo responder a sus consecuencias. Ser o no ser no puede convertirse en una apuesta financiera, porque es una responsabilidad compartida por toda la humanidad.