TikTok lanza una función que permite a creadores escanear y reportar deepfakes generados por IA que usen su imagen sin permiso.
TikTok está probando una nueva herramienta basada en inteligencia artificial (IA) que permite a los creadores verificar si existen deepfakes no autorizados que usen su imagen en la plataforma. Esta función, disponible inicialmente para algunos creadores en Estados Unidos, busca proteger la identidad digital y combatir el uso indebido de la imagen personal mediante IA.
Por qué importa: La proliferación de deepfakes generados por IA representa un riesgo creciente para la privacidad y la reputación de los creadores de contenido, por lo que esta herramienta ofrece un mecanismo para detectar y reportar abusos.
Lo esencial
TikTok prueba una función optativa para escanear deepfakes generados por IA que imitan a creadores.
Los creadores deben verificar su identidad con un escaneo facial en tiempo real y revisión de documentos.
La plataforma no retiene documentos de identidad y usa datos biométricos solo para detectar usos no autorizados.
Imagen de referencia: The Verge AI.
Funcionamiento de la herramienta de detección
Los creadores que deseen usar esta función deben primero completar un proceso de verificación de identidad con la empresa Jumio. Este proceso incluye un escaneo facial en tiempo real y la comprobación de un documento oficial. TikTok aclara que no almacena los documentos ni la información facial más allá del uso para comparar y detectar posibles deepfakes.
Una vez verificado, el sistema escanea el contenido en TikTok para identificar videos o cuentas que utilicen la imagen del creador mediante técnicas de IA sin autorización. Los creadores pueden revisar los resultados y reportar cualquier contenido o cuenta que consideren fraudulenta.
Contexto y comparación con otras plataformas
Esta iniciativa de TikTok sigue una tendencia similar a la de YouTube, que también ha desarrollado herramientas para detectar deepfakes y las ha puesto a disposición de sus usuarios adultos. La creciente preocupación por la manipulación digital y la suplantación de identidad en redes sociales impulsa a las plataformas a implementar soluciones tecnológicas para proteger a sus creadores.
El uso de IA para crear deepfakes ha aumentado en los últimos años, generando debates sobre ética, privacidad y seguridad digital. Herramientas como la que prueba TikTok son un paso hacia la mitigación de estos riesgos.
Impacto para creadores y usuarios
Para los creadores, esta herramienta representa una forma directa de controlar y proteger su imagen en TikTok, facilitando la detección temprana de abusos y la posibilidad de tomar acciones contra contenidos no autorizados. Para los usuarios, contribuye a mantener la integridad y autenticidad del contenido en la plataforma.
La función está en fase de prueba y solo disponible para un grupo limitado de creadores en Estados Unidos, por lo que se espera que su despliegue se amplíe en el futuro según los resultados y la retroalimentación recibida.
Preguntas frecuentes sobre la herramienta de detección de TikTok
¿Qué datos personales recopila TikTok para esta función?
TikTok solicita un escaneo facial en tiempo real y un documento de identidad para verificar la identidad del creador, pero no retiene estos datos ni los usa para otros fines que no sean la detección de deepfakes.
¿Quién puede usar esta herramienta?
Actualmente, la función está disponible solo para algunos creadores en Estados Unidos que opten por participar en la prueba y completen el proceso de verificación.
