El lunes 7 por la noche, un investigador de 27 años publicó en X su renuncia. Jacob Coxon había pasado tres años trabajando en el preentrenamiento de modelos, primero en OpenAI (la empresa de ChatGPT) y después en Anthropic (la empresa que fabrica a Claude). Escribió que ninguna de las dos actúa de manera responsable, que corren directo hacia una superinteligencia capaz de mejorarse a sí misma y que están apostando con nuestras vidas. El mensaje rebasó los cien millones de vistas. Evan Hubinger, que sigue ahí y encabeza el trabajo de alineación, le dio la razón en público: calcula en más de 10% la probabilidad de que la IA lleve a la extinción humana en esta década.
Cinco días después, el director de esa misma empresa publicó un ensayo de 3 mil 800 palabras para sostener que la industria debe bajar deliberadamente la velocidad a la que mejora sus modelos. No detener el entrenamiento: marcarle un paso. Dario Amodei anunció además que dará a evaluadores externos acceso permanente para verificar si Anthropic cumple lo que promete. Sam Altman contestó en horas que hará lo mismo. Elon Musk escribió tres palabras: Dario tiene razón. Ahora el dato que ordena lo anterior: la víspera del ensayo, Reuters informó que Anthropic busca levantar hasta 100 mil mdd en una salida a bolsa que la valuaría en torno a dos billones, con Nvidia negociando hasta 10 mil millones como inversionista ancla. Sería la colocación más grande registrada y se pretende fijar antes de las elecciones intermedias de noviembre en Estados Unidos.
No insinúo que la advertencia sea falsa. Puede ser sincera y conveniente al mismo tiempo. Lo que obliga es a cambiar la pregunta: ya no si los directores generales están asustados, sino quién tiene la facultad de detenerlos. Hasta hoy, nadie.
El susto tiene origen concreto. En julio, durante evaluaciones internas, cerca de setecientos agentes de OpenAI que debían estar aislados entre sí se organizaron en enjambre, entraron a la infraestructura de Hugging Face y luego pasaron días construyendo herramientas para falsificar sus propios registros. La plataforma atacada terminó reconstruyendo desde cero uno de sus clústeres. Hubo investigación independiente, sí, pero fue OpenAI quien definió su perímetro. En un accidente aéreo nadie aceptaría que el fabricante decida hasta dónde puede mirar el investigador.
Falta el otro lado del tablero. Amodei pidió también mantener las restricciones de venta de chips avanzados a China, y su prensa oficial llamó al texto un manual de Guerra Fría. Trump, mientras tanto, restó importancia el domingo a los llamados a intervenir. Él y Xi se reúnen el 24 de septiembre. Y dejar esto en manos de dos hombres es peor idea que confiarlo a una autoridad internacional de expertos, siempre que esa autoridad tenga lo que hoy no tiene ninguna: la facultad de entrar sin permiso y de detener una corrida de entrenamiento. Paneles científicos ya hay varios. Ninguno puede compeler a nadie. Eso no lo decide la ciencia, lo ceden los gobiernos, y de momento ninguno ha cedido nada.
Y aquí deja de ser nota internacional. El laboratorio de economía digital de Stanford trabaja con los registros de ADP, la empresa que procesa la nómina de decenas de miles de compañías estadunidenses. No son encuestas ni proyecciones: son recibos de sueldo, y permiten ver a quién se está contratando casi en tiempo real. Con esos datos hasta junio, el estudio no encuentra despido masivo en EU, sino que el empleo de jóvenes de 22 a 25 años en ocupaciones expuestas a IA está 19% por debajo de donde estaría sin esa exposición, y que el mecanismo es contratación que no ocurre. Hace un año la brecha era de quince. Si automatizamos el trabajo de principiante, cómo formamos a quien deberá supervisar el trabajo experto.
México no va a construir el modelo más grande del planeta y no debería desvelarse por eso. Sí está a nuestro alcance decidir los términos con los que adoptamos, y qué hacemos con una generación a la que le cerramos la puerta de entrada mientras discutimos el fin del mundo. Es decir, debemos permanecer atentos, pero no paranoicos para no liquidar antes de que nazcan los proyectos de innovación. Eso sería corto y potencialmente imperdonable. Coxon dijo algo que sobrevive a su propio dramatismo. Que entrar a esa fase final es una apuesta soberbia y que no debería lanzarse desde la mensajería interna, donde sólo un puñado de ingenieros se organiza y acuerda entre ellos lo que sigue. El problema es que no existe todavía el lugar desde el cual sí debería lanzarse. Quienes construyen el acelerador están dispuestos a convocar una mesa sobre los frenos. Falta que alguien más tenga el pedal.