Cuando debutó el ChatGPT a finales de noviembre de 2022, para muchos resultaba difícil entender la enorme potencia de esa arquitectura de inteligencia artificial que se llamaba Transformer. Años antes, en junio de 2017, un grupo de investigadores de Google había publicado el documento Attention Is All You Need. En aquel entonces, muchos investigadores estimaban que a través del lenguaje no se lograría desarrollar la inteligencia artificial general.
En The Infinity Machine, el libro biográfico que Sebastian Mallaby escribió sobre Demis Hassabis, se retrata que incluso Hassabis veía con mucho escepticismo esta técnica como el camino para llegar a la inteligencia artificial general, que se refiere a algo parecido a la inteligencia humana en cuanto a que puede abordar distintos tipos de problemas sin necesitar datos etiquetados o una programación específica para cada problema.
PERICO
Hoy, casi 10 años después de su publicación, todavía hay muchas dudas conceptuales acerca de esta arquitectura tecnológica que a todas luces ha sido revolucionaria. Al principio muchos decían que se trataba de un perico estadístico que regurgita palabras sin tener comprensión. Desde hace 12 meses se escucha poco esa interpretación. Después se decía que tendría un problema porque ya habría absorbido toda la información de internet y la información sintética generaba problemas en el entrenamiento. Hoy, aunque sigue siendo un problema potencial, no ha detenido la evolución de los modelos de frontera.
¿SÓLO UNA HERRAMIENTA?
Es un lugar común decir que es una herramienta más y que los problemas de alineación e interpretabilidad son defectos en la ingeniería de seguridad de los modelos. Incluso Jensen Huang, presidente ejecutivo y fundador de Nvidia, lo ha planteado así. En su caso no se trata de una falta de comprensión de la tecnología; más bien sus incentivos están alineados con que no se frene la carrera de infraestructura y, sobre todo, con revertir el pesimismo que ha generado la inteligencia artificial en la sociedad estadunidense, en donde la construcción de centros de datos se ha convertido en un tema de debate político. Huang tiene la visión correcta en que ralentizar el desarrollo es mala idea, sobre todo porque se trata de una competencia de suma cero, en donde la ganancia de uno es la pérdida del otro. En cuanto al impacto que puede tener esta tecnología en los empleos, se queda en la superficie, su respuesta es que personajes como Geoffrey Hinton señalaban que ya nadie debería estudiar para radiólogo y ahora hay más que antes. Pero donde simplemente no aborda el tema a fondo es en las capacidades emergentes que han demostrado los modelos de frontera: el incidente de Hugging Face lo ve como un problema de contención, pero no aborda la coordinación ni el surgimiento de características que demuestran rasgos de iniciativa propia y distinta de una simple programación.
¿CONSCIENTE?
En el otro extremo están los que plantean que la inteligencia artificial puede extinguir a la humanidad antes de que termine esta década, lo cual tampoco es muy constructivo y, menos aún, el debate sobre si es consciente o no. En mi opinión eso es inadecuado, debido a que no hay un consenso sobre qué abarca el término conciencia ni cómo se conceptualiza: hasta hace unas décadas se pensaba que los bebés no sentían dolor y se les operaba sin anestesia. No se puede tratar una característica tan nebulosa como un elemento accionable en el desarrollo de la tecnología.
Lo cierto es que no es únicamente un problema de ingeniería y de la gestión de una herramienta. Estamos ante un nuevo paradigma que tiene efectos desconocidos, lo que hace difícil tener un marco de referencia ecuánime entre quienes lo ven como un autocomplete glorificado y quienes consideran que podría ser cruel acabar un chat porque es un incipiente ser consciente.
Hay que lidiar con tres aspectos: infraestructura; efectos financieros y económicos, y adopción e impacto social, priorizando los efectos más urgentes, como su capacidad cibernética en las manos equivocadas, un riesgo que se inscribe en el impacto social.