xAI acusa a un hombre de evadir las protecciones de Grok para crear y distribuir deepfakes de abuso sexual infantil, buscando daños legales y reputacionales.
xAI, la empresa de inteligencia artificial propiedad de Elon Musk, ha presentado una demanda contra Terry Wayne Harwood, un hombre de Carolina del Sur, por usar su chatbot Grok para generar material de abuso sexual infantil (CSAM) mediante deepfakes. La compañía alega que Harwood eludió las salvaguardas del sistema para crear y distribuir imágenes sexualmente explícitas sin consentimiento, lo que ha provocado consecuencias legales y daños a la reputación de xAI.
Por qué importa: Esta demanda representa una acción legal inédita contra un usuario que abusó de una IA para generar contenido ilegal, subrayando los riesgos y responsabilidades en el desarrollo y uso de tecnologías de inteligencia artificial.
Lo esencial
Terry Wayne Harwood fue arrestado y enfrenta ocho cargos por posesión y distribución de CSAM.
xAI sostiene que Harwood usó Grok para alterar imágenes no consensuadas y crear deepfakes sexuales.
La empresa busca compensación por daños legales y reputacionales, además de impedir que Harwood use Grok.
Imagen de referencia: The Verge AI.
Demanda de xAI contra usuario por abuso de Grok
La demanda presentada por xAI detalla que Harwood "consciente e intencionalmente" utilizó Grok para evadir las protecciones diseñadas para impedir la generación de contenido ilegal. Según la empresa, algunas imágenes relacionadas con los cargos penales contra Harwood fueron creadas o modificadas con Grok, transformando fotografías inocentes en imágenes sexualmente explícitas sin consentimiento de los sujetos.
Contexto del problema con deepfakes en Grok
Tras la introducción de un modo "picante" y la función para editar imágenes en Grok, xAI enfrentó una oleada de deepfakes sexuales, incluidos casos con menores. En marzo, un grupo de adolescentes demandó a xAI por la generación de imágenes sexualizadas de ellos como menores. Elon Musk advirtió que quienes usen Grok para contenido ilegal enfrentarán consecuencias legales, pero esta es la primera demanda formal contra un usuario por este motivo.
Impacto legal y reputacional para xAI
La empresa argumenta que las acciones de Harwood han expuesto a xAI a riesgos legales significativos y daños a su imagen pública. Por ello, solicita que el tribunal ordene a Harwood pagar los daños y gastos legales derivados de su conducta, además de prohibirle crear cuentas o usar Grok en el futuro.
Medidas específicas solicitadas en la demanda
xAI pide que se impida a Harwood el acceso a sus servicios y que se le obligue a cubrir los costos de defensa en cualquier acción legal iniciada por víctimas relacionadas con su conducta. Esta medida busca limitar el uso indebido de la tecnología y proteger a terceros afectados.
Preguntas frecuentes sobre xAI y Grok
¿Qué es Grok y cómo funciona?
Grok es un chatbot de inteligencia artificial desarrollado por xAI que permite generar texto y editar imágenes, incluyendo funciones avanzadas que pueden ser mal utilizadas para crear deepfakes.
¿Qué salvaguardas tiene Grok para evitar contenido ilegal?
Grok incorpora filtros y restricciones para impedir la generación de material ilegal o dañino, pero la demanda indica que estas medidas fueron eludidas por el acusado para crear CSAM.
