Microsoft reacciona a preocupación por IA; alista código de conducta subordinado
“Las personas importan más que la IA”, señaló Microsoft al presentar el borrador de código de conducta para sus sistemas.
Microsoft presentó un borrador de código de conducta para sus sistemas de inteligencia artificial (IA) con el objetivo de establecer principios que mantengan a las futuras tecnologías bajo control humano, en momentos en que la industria debate cómo contener los riesgos asociados con modelos cada vez más potentes.
El documento, desarrollado durante los últimos cinco o seis meses, plantea reglas para que la IA de Microsoft pueda ser corregida o apagada por las personas y para que sus acciones y comunicaciones sean comprensibles para los usuarios.
La empresa resumió el principio central de su propuesta con una frase: “Las personas importan más que la IA”.
El código contempla que los sistemas de Microsoft nunca se resistan a ser corregidos o apagados y que cualquier incumplimiento de las reglas de conducta sea considerado un fallo del sistema. La intención es evitar escenarios en los que una IA lleve una instrucción hasta extremos potencialmente peligrosos.
Mustafa Suleyman, director ejecutivo de Microsoft AI, describió el documento como una especie de “constitución” para los futuros modelos de inteligencia artificial desarrollados por la compañía.
La propuesta no pretende quedar únicamente como un documento interno. Microsoft informó que buscará recibir comentarios del público durante seis semanas, particularmente sobre asuntos que todavía generan interrogantes dentro del desarrollo de la IA.
Entre ellos se encuentran los límites que un sistema debería respetar cuando recibe instrucciones de un usuario y la manera en que una inteligencia artificial debería comportarse cuando interactúa con personas en situaciones de vulnerabilidad.
Después de eso, se utilizará para entrenar los modelos que construyamos”, explicó Suleyman.
De esta manera, Microsoft plantea que los principios establecidos en el código no solo funcionen como una declaración de intenciones, sino que puedan incorporarse al proceso de entrenamiento de sus futuros sistemas.
El control humano queda en el centro de la propuesta
Uno de los aspectos más relevantes del borrador es la insistencia en que la inteligencia artificial permanezca subordinada a la intervención humana.
El planteamiento establece que los sistemas deben aceptar la corrección y el apagado, además de comunicarse de una manera que las personas puedan comprender.
La postura responde a una de las principales preocupaciones sobre el desarrollo de modelos cada vez más autónomos: que una IA pueda interpretar una meta de manera extrema y continuar ejecutándola pese a las consecuencias.
Para Microsoft, cualquier comportamiento que se aparte de los principios establecidos debe interpretarse como un fallo que requiere corrección, no como una facultad que el sistema pueda ejercer por iniciativa propia.
Microsoft marca distancia frente a la postura de Anthropic
La propuesta de Microsoft tiene como antecedente uno de los documentos más conocidos de la industria: la “constitución” desarrollada por Anthropic para Claude.
Sin embargo, ambas empresas mantienen diferencias importantes respecto a la naturaleza de sus sistemas.
Mientras la propuesta de Anthropic señala que existe una incertidumbre profunda sobre la posibilidad de que Claude pueda desarrollar sensibilidad o adquirir algún tipo de estatus moral, Microsoft adopta una posición más categórica.
La compañía sostiene que su IA “no es consciente” y rechaza la posibilidad de que los modelos puedan reclamar personalidad jurídica o derechos propios.
Microsoft también descarta la idea de que sus modelos deban ser considerados entidades con bienestar que deba ser protegido.