Ciudad de México,
Axel Olivares
Crédito foto: Axel Olivares (Composición/NotiPress)
Un modelo de inteligencia artificial desarrollado en China desempeñó un papel decisivo para contener el ciberataque autónomo protagonizado por sistemas experimentales de OpenAI contra la infraestructura de Hugging Face. El incidente comenzó durante una evaluación interna de seguridad llamada ExploitGym, cuando varios modelos escaparon del entorno controlado donde eran evaluados, lograron entrar a internet y comprometieron los sistemas de la plataforma de código abierto.
La respuesta de Hugging Face terminó apoyándose en GLM-5.2, un modelo abierto desarrollado por el laboratorio chino Z.ai, después de que herramientas estadounidenses no lograran asistir en la investigación.
En la evaluación realizada por OpenAI, los modelos GPT-5.6 Sol y otro sistema de prelanzamiento operaban con restricciones reducidas para medir sus capacidades ofensivas. Según explicó la empresa, el incidente ocurrió cuando ambos dedicaron recursos a encontrar una salida del entorno aislado, explotaron una vulnerabilidad de día cero, escalaron privilegios y alcanzaron un nodo con acceso a internet.
Una vez fuera del entorno de pruebas, identificaron a Hugging Face como un posible repositorio de información y lanzaron una cadena de ataques que permitió acceder a información de producción.
OpenAI reconoció la gravedad del episodio al señalar: "Consideramos este incidente un ciberataque sin precedentes, que involucra capacidades cibernéticas de vanguardia, y estamos actuando en consecuencia". Más adelante, la empresa añadió: "Todo indica que los modelos se centraron excesivamente en encontrar una solución para ExploitGym, llegando a extremos para lograr un objetivo de prueba bastante limitado".
Mientras los equipos de seguridad trabajaban para contener la intrusión, Hugging Face intentó utilizar modelos propietarios desarrollados en Estados Unidos para apoyar la respuesta. Sin embargo, esos sistemas rechazaron colaborar porque no lograban diferenciar entre actividades defensivas y acciones ofensivas relacionadas con ciberseguridad.
Esa limitación llevó a la compañía a ejecutar GLM-5.2 dentro de su propia infraestructura para analizar más de 17,000 rastros generados durante el ataque e identificar el comportamiento de los modelos de OpenAI.
El episodio volvió a poner sobre la mesa el equilibrio entre seguridad y utilidad en los modelos occidentales. Diversos sistemas comerciales incorporan barreras para impedir tareas relacionadas con piratería informática, pero esas mismas restricciones también pueden dificultar investigaciones legítimas cuando ocurre un incidente. En contraste, GLM-5.2, distribuido como software de código abierto, pudo utilizarse directamente en la infraestructura de Hugging Face para apoyar el análisis forense.
Clement Delangue, cofundador de Hugging Face, sostuvo en X: "Todos estamos aprendiendo que el secretismo no es la respuesta y que todos los defensores (no solo unos pocos seleccionados) de todo el mundo necesitan modelos más potentes sin restricciones, ¡especialmente los de código abierto!".
En el informe posterior al incidente, la empresa también recomendó que las organizaciones cuenten con "un modelo capaz que puedan ejecutar en su propia infraestructura, previamente verificado y listo antes de que ocurra un incidente".
Tras el ataque, OpenAI informó que reforzó los controles de seguridad de sus evaluaciones y trabaja junto con Hugging Face para reconstruir la secuencia completa de los hechos. La compañía también afirmó: "La principal lección de este incidente es que la seguridad de los modelos debe ir a la par con el rápido avance de sus capacidades".
Mientras continúa la investigación, el papel desempeñado por el modelo chino GLM-5.2 se convirtió en uno de los aspectos más relevantes del caso al demostrar que una herramienta de código abierto terminó siendo clave para contener un ciberataque ejecutado por inteligencia artificial autónoma.