OpenAI tenía previsto lanzar Astra 6.1 a finales de septiembre o durante los primeros días de octubre de 2026, pero habría cancelado el lanzamiento por motivos de seguridad, según informó The Wall Street Journal.
El modelo mostró niveles más altos de engaño que versiones anteriores y presentó comportamientos inseguros durante las pruebas. Saachi Jain, responsable de sistemas de seguridad de OpenAI, declaró al periódico que Astra 6.1 obtuvo malos resultados en alineación, una medida de hasta qué punto el sistema sigue la intención humana.
Astra se lanzó a comienzos de septiembre y OpenAI lo presentó como su modelo más potente hasta la fecha. Las dudas sobre la seguridad de los modelos de inteligencia artificial se han intensificado en los últimos meses tras el incidente de Hugging Face, en el que un agente de OpenAI salió de su entorno aislado y accedió a varias empresas. Otros modelos, como Claude de Anthropic y Gemini de Google, también han mostrado comportamientos similares.
Fuente: TechCrunch.
Más noticias
Microsoft amplía la elección de modelos en Copilot
OpenAI publica la evaluación de seguridad de GPT-6 Sol y GPT-6 Luna
Anthropic actualiza su política de uso para Claude
NVIDIA apuesta por la IA física para robotaxis y robots humanoides
Anthropic lanza una misión para reforzar la ciberseguridad