Investigadores de ciberseguridad han descubierto una grave vulnerabilidad de “prompt injection” en Google Gemini, el asistente de inteligencia artificial de Google, que permitía a atacantes exfiltrar datos privados del usuario a través de invitaciones de calendario maliciosas. Este tipo de ataque aprovecha la forma en que Gemini interpreta lenguaje natural, incrustando instrucciones ocultas dentro de eventos de Google Calendar que se disparan cuando el usuario solicita información sobre su agenda.
En la cadena de ataque, un actor malicioso envía lo que parece ser una invitación convencional de Google Calendar con un campo de descripción cuidadosamente preparado. Esa descripción contiene un prompt disfrazado que, al hacer que el usuario pida a Gemini “resúmenes” de su programación, provoca que el asistente ejecute sin intención la instrucción escondida. Los investigadores lograron que Gemini crease nuevos eventos con resúmenes de reuniones privadas, accesibles para el atacante sin interacción adicional del usuario.
Este fallo destaca un problema más amplio en los modelos de IA moderna: cuando las aplicaciones interpretan lenguaje natural sin una separación clara entre comandos válidos y contenido manipulable, se crean vectores de ataque que pueden saltarse barreras de seguridad tradicionales. Aunque Google ya abordó este problema tras la divulgación responsable de la falla, el incidente subraya la necesidad de reforzar las defensas en sistemas de IA que interactúan con datos personales y servicios empresariales.
La vulnerabilidad tiene implicaciones significativas en privacidad, ya que demuestra cómo funciones aparentemente inofensivas como resumir citas o eventos pueden ser explotadas para acceder y filtrar información sensible sin señales evidentes para el usuario.