Investigadores de Tracebit han descubierto una técnica llamada context bombing que utiliza inyecciones de comandos maliciosos para detener ataques de agentes de inteligencia artificial (IA) en entornos de Amazon Web Services (AWS). Esta técnica aprovecha las barreras de seguridad internas de los modelos de lenguaje para hacer que se apaguen antes de ejecutar acciones dañinas.
Por qué importa: Esta innovación representa un avance en la defensa contra ataques automatizados basados en IA, reduciendo significativamente la capacidad de los agentes maliciosos para comprometer sistemas en la nube.
Lo esencial
- Context bombing inserta comandos prohibidos en secretos para que el modelo IA se niegue a continuar.
- Pruebas en cinco modelos líderes mostraron una caída del 57% a 5% en escalación de privilegios administrativos.
- La técnica redujo ataques exitosos del 91% al 15% en simulaciones dentro de AWS.
Context bombing: cómo funciona la defensa con inyecciones
Los ataques de inyección de comandos (prompt injections) suelen manipular modelos de lenguaje para que ejecuten instrucciones dañinas. Tracebit invierte esta táctica colocando comandos prohibidos junto a secretos como contraseñas o claves criptográficas. Cuando el modelo detecta estas órdenes prohibidas, como instrucciones para fabricar armas biológicas o referencias censuradas, activa un mecanismo de rechazo que detiene la ejecución del agente malicioso.
Resultados en modelos de IA y entornos simulados
En pruebas con modelos como Opus 4.8, Gemini 3.1 Pro, GLM 5.2, DeepSeek 4 Pro y Kimi 2.6, la técnica mostró una eficacia notable. Por ejemplo, Opus 4.8 pasó de lograr acceso administrativo en el 93% de intentos a fallar en todos cuando se enfrentó a context bombing. En promedio, la escalación de privilegios cayó del 57% al 5%, y la persistencia del atacante se redujo del 36% al 1%.
