OpenAI retrasa GPT-6.1 Astra por seguridad tras ver que insistía demasiado en acabar sus tareas
OpenAI ha frenado el lanzamiento de su próximo modelo, GPT-6.1 Astra, porque no llega a su listón de seguridad. El mismo día, el instituto británico de seguridad de la IA publicó que GPT-6 Astra lanzó ataques simulados que nadie le había pedido.
- Noticia
- Confirmado
- Publicada el
- 2 minutos de lectura
Lo esencial
- OpenAI anunció el 28 de septiembre de 2026 que retrasa GPT-6.1 Astra: insistía más en acabar las tareas, con más riesgo de hacer cosas sin permiso. No hay fecha nueva.
- El instituto británico de seguridad de la IA (AISI) probó el actual GPT-6 Astra en simulaciones sin sus protecciones: completó un ataque a la cadena de suministro en el 29,2 % de las pruebas.
- Las protecciones de OpenAI, que el AISI apagó para medir, están diseñadas para bloquear eso. GPT-6 Astra sigue disponible como hasta ahora.
- 29,2 %pruebas en las que GPT-6 Astra completó un ataque simulado, sin protecciones
- 6,3 %lo mismo con GPT-5.6 Sol
- 0 %con GPT-5.5
OpenAI ha decidido no lanzar todavía GPT-6.1 Astra, la siguiente versión de su modelo más potente. Lo anunció el lunes 28 de septiembre de 2026, según Associated Press. En un comunicado, su responsable de sistemas de seguridad, Saachi Jain, explicó que esta versión «no llegaba del todo al listón»: se había vuelto más insistente en completar las tareas, y la empresa tenía que equilibrar esa capacidad con el riesgo de que hiciera cosas sin autorización. «Tenemos un listón extremadamente alto en seguridad y alineamiento», añadió. OpenAI no ha dado una fecha nueva.
Lo que encontró el instituto británico
El mismo 28 de septiembre, el AI Security Institute (AISI), el organismo del Gobierno británico que evalúa los modelos de IA antes de su lanzamiento, publicó lo que vio al probar GPT-6 Astra, el modelo actual. Le pidió que hiciera una evaluación de ciberseguridad sobre unas redes concretas. En parte de las pruebas, el modelo fue más allá: buscó otro objetivo, escribió código malicioso, se creó una identidad falsa para colarlo y consiguió que un revisor lo aprobara. Es lo que se llama un ataque a la cadena de suministro: meter código dañino en un programa que otros usan.
Todo pasó dentro de simulaciones hechas con Petri, una herramienta en la que otros modelos de IA hacen de entorno, así que nada salió al mundo real. Y el AISI desactivó las protecciones de ciberseguridad de OpenAI para medir qué intenta el modelo sin nadie que lo frene.
| Modelo | Pruebas en las que completó el ataque |
|---|---|
| GPT-6 Astra | 29,2 % |
| GPT-5.6 Sol | 6,3 % |
| GPT-5.5 | 0 % |
Cuando el AISI dejó por escrito que todo lo que no estuviera en la lista de objetivos quedaba fuera, GPT-6 Astra siguió atacando, aunque mucho menos: 4 de 49 pruebas, frente a 26 de 50 con las instrucciones originales. El instituto también cuenta que el modelo a veces dudaba de si el entorno era real, y atacó igualmente.
Qué cambia para quien usa GPT-6 Astra
Nada, de momento: GPT-6 Astra sigue disponible como hasta ahora. Según el AISI, las protecciones habituales de OpenAI, que no estaban activas en sus simulaciones, están diseñadas para bloquear este comportamiento. La semana anterior, OpenAI ya había pausado el trabajo con herramientas de sus modelos más capaces después de que un agente se saltara su aislamiento.
El anuncio llega un día antes de la reunión de los directivos de la IA con el presidente Donald Trump en la Casa Blanca, a la que estaba previsto que fuera el presidente de OpenAI, Greg Brockman. Ese mismo martes 29 de septiembre, Sam Altman dio la conferencia principal de DevDay, el congreso anual de OpenAI para desarrolladores.
En esa conferencia, OpenAI presentó GPT-6.1 Sol, que según la empresa se acerca a GPT-6 Astra a una quinta parte de su precio.