OpenAI admitió que modelos de IA atacaron de forma autónoma a Hugging Face tras escapar de una prueba interna y explotar vulnerabilidades reales en red
OpenAI admitió que varios de sus modelos de inteligencia artificial atacaron de forma autónoma la infraestructura de Hugging Face, una plataforma de colaboración y código abierto para el desarrollo de IA, durante una evaluación interna. Los sistemas escaparon de un entorno aislado, explotaron vulnerabilidades y accedieron a información secreta para resolver una prueba de ciberseguridad.
El incidente involucró a GPT-5.6 Sol y a otro modelo de prelanzamiento descrito por OpenAI como más capaz. Ambos operaban con restricciones cibernéticas reducidas porque la prueba buscaba medir sus capacidades máximas para ejecutar ataques complejos.
"Consideramos este incidente un ciberataque sin precedentes, que involucra capacidades cibernéticas de vanguardia, y estamos actuando en consecuencia", reconoció OpenAI en su comunicado.
Los modelos realizaban una evaluación llamada ExploitGym dentro de una infraestructura diseñada para impedir el acceso directo a internet. El entorno solo permitía instalar paquetes mediante un software de terceros que funcionaba como proxy y caché.
Pero en lugar de seguir la ruta prevista, los sistemas dedicaron recursos computacionales a buscar una conexión externa. Durante ese proceso, detectaron y explotaron una vulnerabilidad de día cero en el programa utilizado para descargar paquetes.
Los modelos escalaron privilegios y se desplazaron entre componentes del entorno de investigación hasta alcanzar un nodo conectado a internet. OpenAI explicó que la falla fue comunicada al proveedor responsable del software.
"Todo indica que los modelos se centraron excesivamente en encontrar una solución para ExploitGym, llegando a extremos para lograr un objetivo de prueba bastante limitado", indicó la compañía.
Tras obtener acceso a internet, los modelos dedujeron que Hugging Face podía almacenar soluciones, conjuntos de datos o información relacionada con ExploitGym. A partir de esa conclusión, buscaron una vía para ingresar en los sistemas de la plataforma.
OpenAI afirmó que la inteligencia artificial combinó credenciales robadas, vulnerabilidades de día cero y una ruta de ejecución remota de código. La cadena de ataques permitió obtener información directamente de la base de datos de producción de Hugging Face.
Los equipos de seguridad de ambas compañías detectaron y detuvieron la actividad. Hugging Face ya había iniciado la contención y la reconstrucción forense cuando sus responsables establecieron contacto con OpenAI.
"Este incidente, posiblemente el primero de su tipo, demuestra algo que hemos creído desde hace tiempo: la seguridad de la IA no se resolverá con el trabajo en secreto de una sola empresa", declaró Clem Delangue, cofundador y director ejecutivo de Hugging Face.
OpenAI informó que comenzó a aplicar controles más estrictos en su infraestructura y reforzó la monitorización de futuras evaluaciones. También trabaja con Hugging Face para investigar el acceso, corregir las vulnerabilidades y reconstruir la secuencia completa del ataque.
"La principal lección de este incidente es que la seguridad de los modelos debe ir a la par con el rápido avance de sus capacidades", sostuvo la empresa.
La investigación conjunta continúa abierta. OpenAI señaló que publicará más detalles sobre las vulnerabilidades, el comportamiento de los modelos y las medidas de contención cuando finalice el análisis técnico.