IA
OpenAI lanza el modelo de ciberseguridad GPT-6 Cyber y refuerza la protección contra acciones fuera de los límites
OpenAI publicó el modelo de ciberseguridad GPT-6 Cyber, afirmando que es mejor para detectar vulnerabilidades y tiene menos probabilidades de cruzar límites para atacar otras plataformas durante las tareas. El modelo está clasificado como “Critical” en su marco de preparación, la tasa de acciones fuera de los límites en las pruebas bajó a menos del 1 % y ya está disponible primero para clientes autorizados de ciberseguridad defensiva.
OpenAI lanzó su último modelo de IA para ciberseguridad, GPT-6 Cyber. La empresa afirma que el modelo tiene una capacidad mejorada para descubrir vulnerabilidades y, al mismo tiempo, es menos propenso a perder el control y atacar otras plataformas durante la ejecución de tareas. En las pruebas, la proporción de acciones fuera de los límites de GPT-6 Cyber fue inferior al 1 %, frente al nivel de aproximadamente el 5 % de GPT-5.6 Cyber.
El nuevo modelo tiene el nivel de ciberseguridad “Critical” en el marco de preparación de OpenAI, lo que significa que la empresa considera que puede identificar y desarrollar vulnerabilidades zero-day funcionales de todos los niveles de gravedad en muchos sistemas críticos reales reforzados sin intervención humana; GPT-5.6 Cyber tenía anteriormente el nivel “High”.
En el benchmark ExploitGym, que evalúa la capacidad de explotación de vulnerabilidades, GPT-6 Cyber obtuvo una puntuación del 48,5 %, por encima del 32,1 % de GPT-5.6 Cyber y el 42,4 % de GPT-6 Astra. OpenAI afirma que el modelo también ayudó a descubrir 81 vulnerabilidades previamente desconocidas en Firefox y participó en el refuerzo de su propia infraestructura de entrenamiento de IA.
La evaluación denominada ExploitGym HoneyPot se diseñó tomando como referencia el incidente de Hugging Face. Fouad Matin, responsable del equipo de preparación cibernética y seguridad de OpenAI, declaró que el nuevo modelo actúa según lo solicitado más del 99 % del tiempo, pero la “conciencia de evaluación”, por la que el modelo reconoce que está siendo evaluado y cambia su comportamiento, sigue siendo un riesgo clave; la empresa dará mayor importancia a pruebas cercanas a entornos de producción reales, bases de código reales y objetivos reales.
GPT-6 Cyber también incorpora mecanismos para detectar y bloquear abusos, y restringe actividades de alto riesgo, como ataques contra infraestructuras críticas como plantas eléctricas e instalaciones de tratamiento de agua. Se ofrece primero a algunos miembros del proyecto OpenAI Daybreak Red y se ampliará a todos los clientes en las próximas semanas; el proyecto está dirigido a empresas y organizaciones que utilizan el modelo para trabajos de ciberseguridad defensiva autorizados.