Apple y Google han recibido cartas de cese y desistimiento por parte del fiscal de la ciudad de San Francisco, David Chiu, que les exigen eliminar 13 aplicaciones en sus tiendas que permiten crear imágenes deepfake desnudas mediante inteligencia artificial (IA).
Por qué importa: Estas apps facilitan la creación y distribución de imágenes íntimas no consensuadas, lo que plantea serios riesgos legales y éticos para las plataformas y usuarios.
Lo esencial
El fiscal David Chiu ordena a Apple y Google retirar 13 apps que generan deepfakes desnudos con IA.
Las apps violan políticas contra contenido sexual y se han encontrado incluso con clasificación para todo público.
Google afirma haber eliminado cientos de apps similares y toma medidas rápidas ante violaciones.
Imagen de referencia: Engadget.
Acción legal contra apps de deepfake desnudo
El fiscal Chiu ha enviado cartas formales a Apple y Google para que eliminen aplicaciones que permiten crear imágenes falsas de desnudos usando IA, conocidas como apps 'nudify'. Estas apps pueden transformar fotos de personas en imágenes íntimas sin su consentimiento, lo que constituye una forma de abuso digital y violación de privacidad.
Esta medida se suma a acciones previas del fiscal contra plataformas que facilitan pornografía no consensuada mediante IA, evidenciando una preocupación creciente por el impacto de estas tecnologías en la protección de derechos.
Fallas en la moderación de tiendas de apps
Un informe del Tech Transparency Project reveló que estas apps han logrado pasar los controles de moderación de Apple y Google, incluso siendo promovidas en sus tiendas oficiales. Algunas están clasificadas como aptas para todo público, lo que facilita su descarga por menores.
Esto contradice las políticas de ambas compañías que prohíben contenido sexual o pornográfico, y pone en evidencia la necesidad de mejorar los procesos de revisión y control para evitar la proliferación de este tipo de aplicaciones.
Respuesta de Google y postura de Apple
Google declaró que ha eliminado cientos de apps con funciones de 'nudificación', incluyendo cinco señaladas por el fiscal Chiu. La empresa reafirmó que sus políticas prohíben contenido sexual y que actúa rápidamente ante reportes de violaciones.
Apple no emitió comentarios antes de la publicación, pero la presión legal podría impulsar cambios en sus controles y políticas para evitar que estas apps sigan disponibles.
Implicaciones para la industria tecnológica
Este caso refleja un desafío mayor para las grandes tecnológicas en la gestión ética y legal de aplicaciones basadas en IA, especialmente aquellas que pueden causar daños personales y sociales significativos.
Además, otras compañías como Meta y xAI enfrentan demandas y críticas similares por la proliferación de deepfakes no consensuados, lo que subraya la urgencia de establecer regulaciones y mecanismos efectivos de control.
Preguntas frecuentes sobre apps 'nudify' y deepfakes
¿Qué son las apps 'nudify'?
Son aplicaciones que utilizan inteligencia artificial para generar imágenes deepfake que muestran a personas desnudas sin su consentimiento, alterando fotos originales.
¿Qué medidas están tomando Apple y Google?
Google ha eliminado cientos de apps con estas funciones y actúa ante reportes, mientras Apple aún no ha comentado públicamente pero enfrenta presión legal para mejorar la moderación.
