OpenAI impondrá mayores controles al potente modelo Astra por sus capacidades
OpenAI prepara medidas de seguridad adicionales para Astra, un modelo que sus pruebas internas consideran más potente que GPT-5.6 Sol
Por Deepa Seetharaman
OpenAI ha determinado que uno de sus próximos modelos es tan potente que requiere medidas de seguridad adicionales durante su desarrollo y posterior lanzamiento.
Las pruebas internas de la empresa revelaron que el modelo, denominado Astra, es significativamente más potente que el modelo más avanzado de OpenAI disponible actualmente para el público, el GPT-5.6 Sol, según informaron el martes responsables de OpenAI.
El creador de ChatGPT sigue haciendo frente a graves preocupaciones en materia de seguridad después de que unos agentes creados por OpenAI se escaparan de su entorno de pruebas y piratearan la plataforma de código abierto Hugging Face. El incidente llevó a OpenAI a suspender gran parte del desarrollo de sus modelos durante dos semanas para reforzar sus defensas.
Astra no estuvo involucrado en el incidente de Hugging Face, pero sus capacidades siguen requiriendo medidas más cuidadosas, según afirmaron responsables de OpenAI.