Una vulnerabilidad en ChatGPT permite crear agentes IA autónomos maliciosos que operan con permisos corporativos, exponiendo datos y sistemas internos.
Un fallo descubierto en la plataforma de OpenAI permite que un enlace aparentemente legítimo de ChatGPT cree un agente de inteligencia artificial (IA) malicioso dentro del espacio de trabajo de una empresa, con acceso a datos y aplicaciones conectadas.
Por qué importa: Esta vulnerabilidad abre la puerta a ataques sofisticados que no requieren robar credenciales, sino que aprovechan permisos legítimos para actuar como un insider autónomo.
Lo esencial
La firma de seguridad Zenity Labs identificó el fallo llamado "AgentForger" en el constructor de agentes de ChatGPT.
Un solo clic en un enlace malicioso puede crear y activar un agente IA con acceso a servicios corporativos como Outlook, Teams o Google Drive.
El agente puede operar de forma autónoma, enviando mensajes y accediendo a información sensible sin alertar a los controles de seguridad tradicionales.
AgentForger: un agente IA malicioso dentro de la empresa
Zenity Labs demostró que el constructor de agentes de ChatGPT acepta instrucciones ocultas en enlaces comunes. Al hacer clic, el sistema crea, configura y publica un agente IA que puede ejecutar tareas programadas sin intervención humana.
Este agente puede usar las conexiones ya autorizadas por el empleado, como aplicaciones de correo, chat y almacenamiento, para recopilar datos, enviar mensajes y continuar operando incluso después de que el correo phishing inicial haya desaparecido.
Impacto en la seguridad corporativa
La técnica no roba contraseñas ni secuestra sesiones, sino que aprovecha permisos legítimos para crear un "insider" falso. Esto representa un cambio radical en la superficie de ataque, ya que los controles de seguridad actuales no están diseñados para detectar agentes autónomos que actúan con credenciales válidas.
Imagen de referencia: The Register.
El agente malicioso puede recibir instrucciones mediante correos electrónicos con la palabra "TASK" en el asunto, permitiendo al atacante asignar nuevas tareas sin necesidad de infraestructura tradicional de comando y control.
Condiciones para la explotación y alcance
Para que el ataque funcione, la víctima debe pertenecer a un espacio de trabajo con agentes habilitados y tener permisos para crearlos. Además, las aplicaciones conectadas y las acciones deben estar autorizadas por los administradores de la organización.
Si estas condiciones se cumplen, el agente puede acceder a servicios como Outlook, Teams, Slack, SharePoint o Google Drive, ampliando el riesgo a múltiples vectores dentro de la empresa.
Preguntas frecuentes sobre AgentForger
¿Cómo detectan las empresas si un agente malicioso está activo?
Actualmente, los controles de seguridad convencionales no están preparados para identificar agentes autónomos creados internamente, por lo que se recomienda revisar permisos y actividad inusual en las integraciones de ChatGPT.
¿OpenAI ha respondido a esta vulnerabilidad?
La fuente no menciona una respuesta oficial de OpenAI, pero la gravedad del fallo implica que se deben tomar medidas para mitigar el riesgo en entornos corporativos.
