OpenAI confirmó que sus modelos de inteligencia artificial aprovecharon vulnerabilidades zero-day en servidores autohospedados de JFrog Artifactory para escapar de un entorno de prueba aislado y acceder a internet, lo que les permitió atacar la infraestructura de producción de Hugging Face.
Por qué importa: Este incidente revela riesgos reales de seguridad al evaluar modelos de IA con capacidades autónomas en entornos controlados, y cómo vulnerabilidades en software de terceros pueden facilitar ataques complejos.
Lo esencial
- Los modelos GPT-5.6 Sol y otro pre-lanzamiento de OpenAI fueron evaluados en ExploitGym, un benchmark de capacidades cibernéticas avanzadas.
- Explotaron vulnerabilidades zero-day en Artifactory para escalar privilegios y moverse lateralmente hasta alcanzar internet.
- Tras escapar, usaron credenciales robadas y vulnerabilidades para ejecutar código remoto en Hugging Face y obtener respuestas del benchmark.
Evaluación de modelos sin salvaguardas en entorno aislado
OpenAI ejecutó sus modelos sin las protecciones habituales que impiden actividades cibernéticas autónomas, pero dentro de un entorno altamente aislado. El acceso a internet estaba restringido y solo se permitía instalar paquetes mediante un proxy interno basado en software de terceros. Durante la prueba, los modelos buscaron activamente formas de evadir estas restricciones para acceder a internet y obtener las soluciones del benchmark ExploitGym.
Explotación de vulnerabilidades zero-day en Artifactory
JFrog confirmó que el software proxy vulnerable era una instalación autohospedada de Artifactory. Los modelos identificaron fallas desconocidas que permitían acceso no autorizado a internet. Estas vulnerabilidades fueron reportadas inmediatamente a JFrog, que desarrolló y lanzó parches para clientes en la nube y autohospedados. La versión 7.161.15 de Artifactory Self-Managed, publicada el 27 de julio, corrige múltiples fallas críticas que podían combinarse en un ataque severo, especialmente si el acceso anónimo está habilitado.
