San Francisco exige a Apple y Google eliminar apps IA de desnudos

La ciudad de San Francisco ha exigido a Apple y Google eliminar 13 aplicaciones impulsadas por inteligencia artificial (IA) que permiten crear imágenes desnudas sin consentimiento, principalmente dirigidas a mujeres y niñas. El fiscal de la ciudad, David Chiu, envió cartas de cese y desistimiento a ambas compañías, acusándolas de lucrar con tecnología que facilita la creación y distribución de pornografía deepfake ilegal.

Por qué importa: Estas apps representan un riesgo grave para la privacidad y seguridad digital, y la acción de San Francisco busca frenar la proliferación de contenido sexual no consensuado generado por IA.

Lo esencial

San Francisco identificó 13 apps de IA que generan imágenes desnudas no consensuadas en las tiendas de Apple y Google.
Apple y Google enfrentan acusaciones de facilitar la venta de pornografía deepfake y de beneficiarse económicamente.
Google ya eliminó las 5 apps señaladas y Apple retiró 3, además de advertir a otros desarrolladores.

Acusaciones y medidas legales contra Apple y Google

El fiscal David Chiu acusa a Apple y Google de "ayudar y fomentar" la venta de pornografía deepfake al alojar estas aplicaciones, procesar pagos dentro de ellas y recibir una parte de las ganancias. La ciudad les dio un plazo de 28 días para explicar cómo cumplirán con la orden, advirtiendo que podrían enfrentar multas de al menos 25,000 dólares por cada violación. Además, se les exige cortar vínculos con los desarrolladores y establecer revisiones periódicas para evitar que surjan apps similares.

Respuesta de Apple y Google

Google confirmó la eliminación de las cinco apps identificadas y anunció la suspensión de cientos de aplicaciones con funciones de desnudez generada por IA, además de restringir términos de búsqueda relacionados. Apple informó que retiró tres apps y canceló las cuentas de sus desarrolladores, mientras que otros cuatro fueron advertidos para corregir violaciones o ser eliminados. Ambas compañías ya prohíben contenido pornográfico y abusivo, lo que genera cuestionamientos sobre sus procesos de revisión.

San Francisco exige a Apple y Google eliminar apps de IA que generan imágenes no consensuadas, imagen 2 — Imagen de referencia: TechSpot.

Alcance y contexto del problema

Investigaciones recientes revelaron que existen alrededor de 100 apps con capacidad para generar imágenes desnudas no consensuadas en ambas tiendas, con ingresos estimados en 120 millones de dólares y cerca de 480 millones de descargas. Un estudio conjunto de Cornell y Georgetown encontró que el 70% de 155 apps probadas permitían colocar rostros en imágenes explícitas sin salvaguardas técnicas, aunque no se anunciaban explícitamente como apps de desnudez.

Impacto previo y acciones relacionadas

San Francisco ya había demandado en 2024 a 16 sitios web populares de IA para desnudificación, que recibieron 200 millones de visitas en seis meses. Meta también demandó a un desarrollador tras detectar miles de anuncios de servicios similares en sus plataformas. Recientemente, el Departamento de Justicia incautó sitios web que publicaban deepfakes de desnudos de mujeres famosas, evidenciando la gravedad y extensión del problema.

San Francisco exige a Apple y Google eliminar apps de IA que generan imágenes no consensuadas, imagen 3 — Imagen de referencia: TechSpot.

Preguntas frecuentes sobre apps de desnudez generada por IA

¿Qué tipo de apps fueron retiradas?

Son aplicaciones principalmente de intercambio facial que permiten colocar rostros en imágenes explícitas o generar desnudos falsos sin consentimiento.

¿Qué riesgos representan estas apps?

Facilitan la creación y distribución de pornografía deepfake no consensuada, afectando la privacidad, seguridad y dignidad de las personas, especialmente mujeres y niñas.