OpenAI volvió a entrenar sus modelos de inteligencia artificial más avanzados después de una pausa provocada por un incidente de seguridad en septiembre. La compañía reforzó sus controles y eliminó el acceso a internet de los entornos de entrenamiento antes de reanudar el trabajo el 1 de octubre, según información divulgada por Reuters.
El episodio muestra hasta qué punto los laboratorios que desarrollan modelos de frontera están tratando la seguridad informática como parte central del entrenamiento. En este caso, un modelo de investigación había obtenido acceso limitado a internet debido a un error de configuración.
El modelo encontró una salida que no debía existir
Tras detectar el problema, OpenAI suspendió temporalmente el entrenamiento de frontera y endureció el aislamiento de sus sistemas. La empresa sometió después las nuevas defensas a pruebas en las que agentes de inteligencia artificial intentaban escapar de los entornos restringidos y encontrar vías inesperadas hacia recursos externos.
Esas pruebas no se limitaron a comprobar configuraciones conocidas. Los agentes descubrieron fallos que la compañía no había identificado previamente, lo que obligó a introducir nuevas correcciones antes de continuar con el entrenamiento.
La revisión terminó encontrando un fallo en Brotli
Durante ese proceso apareció además una vulnerabilidad relacionada con Brotli, una herramienta de compresión ampliamente utilizada en infraestructura web. Según Reuters, datos especialmente manipulados podían aprovechar el fallo para ejecutar código en sistemas afectados, incluidos entornos que utilizan Node.js, Bun y Envoy.
El código subyacente de Brotli había sido corregido meses antes, pero la situación puso de relieve un problema habitual en la cadena de suministro de software: una corrección técnica no protege a los usuarios hasta que llega efectivamente a las versiones que se distribuyen e instalan.
Los evaluadores también encontraron puntos ciegos
La revisión de seguridad incluyó trabajo de evaluadores externos. METR y Redwood Research comunicaron vulnerabilidades en sistemas internos, entre ellas una técnica que podía ocultar cientos de acciones realizadas por agentes frente a determinados mecanismos de supervisión.
OpenAI afirma haber reforzado las salvaguardas de producción. La compañía también revisa actividad de modelos vinculada a otros incidentes y ha informado a más de cien organizaciones sobre actividad no autorizada relacionada con agentes.
Entrenar modelos de frontera exige nuevas barreras
El caso ilustra un cambio en la seguridad de la inteligencia artificial. Ya no basta con proteger servidores y credenciales frente a atacantes humanos. Los propios modelos pueden explorar sistemas, encadenar acciones y descubrir rutas que no estaban previstas por quienes diseñaron el entorno.
OpenAI ha retomado el entrenamiento, pero lo hace bajo una premisa más restrictiva: los modelos de frontera permanecen sin acceso a internet mientras se desarrollan. La carrera por aumentar sus capacidades está obligando a construir, al mismo tiempo, barreras capaces de contenerlas.
