Dario Amodei, CEO de Anthropic, niega apoyo a prohibiciones de modelos de IA abiertos y advierte sobre riesgos de IA autoritaria en China.
Dario Amodei, fundador y CEO de Anthropic, aclaró que su empresa no apoya prohibiciones a modelos de inteligencia artificial (IA) de código abierto, aunque expresó preocupación por el desarrollo de IA en gobiernos autoritarios como China, que podrían usarla para fines militares o represivos.
Por qué importa: La discusión sobre la regulación de modelos abiertos de IA se intensifica ante temores de que países autoritarios obtengan ventajas estratégicas y de seguridad mediante IA avanzada.
Lo esencial
Amodei rechaza prohibiciones generales a modelos de IA abiertos, considerándolos un bien público.
Teme que gobiernos autoritarios, especialmente China, desarrollen IA para superioridad militar y represión.
Apoya restricciones a acceso de China a chips potentes y a técnicas como la destilación de modelos.
Postura clara sobre modelos abiertos y riesgos
En respuesta a rumores, Amodei enfatizó que Anthropic nunca ha abogado por prohibir modelos de IA con pesos abiertos. Considera que estos modelos, cuando no tienen capacidades peligrosas, aportan valor a empresas, desarrolladores e investigadores sin costo más allá del cómputo necesario para ejecutarlos.
Sin embargo, distingue estos modelos abiertos del riesgo que representan gobiernos autoritarios que podrían crear modelos más potentes para mantener superioridad militar permanente o para controlar a sus poblaciones.
Preocupaciones sobre China y la seguridad global
Amodei señaló que el Partido Comunista Chino (PCCh) es el gobierno autoritario más capaz en este ámbito, aunque no el único motivo de preocupación. Destacó que la IA podría facilitar ataques biológicos además de ciberataques, y que los modelos abiertos dificultan la aplicación de controles y monitoreo.
Imagen de referencia: TechCrunch.
También citó un informe del UK AI Security Institute que advierte que una vez liberados, los modelos abiertos no pueden ser retirados, lo que complica la gestión de riesgos.
Medidas propuestas para mitigar amenazas
Entre las acciones para contrarrestar la amenaza china, Amodei mencionó la restricción al acceso de chips avanzados, una política que Estados Unidos ha mantenido. Además, pidió una regulación formal contra la destilación, técnica usada para replicar modelos mediante consultas masivas.
Finalmente, expresó apoyo a iniciativas internacionales para crear organismos de prueba de seguridad de modelos de IA, siempre que incluyan a China y otros países en un compromiso global.
Preguntas frecuentes sobre Anthropic y modelos abiertos
¿Anthropic apoya prohibir modelos de IA abiertos?
No, Dario Amodei aclaró que Anthropic nunca ha promovido prohibiciones a modelos con pesos abiertos y los considera un recurso valioso.
¿Por qué preocupa la IA desarrollada en China?
Se teme que gobiernos autoritarios como el chino usen IA para lograr superioridad militar y controlar a sus ciudadanos, además de posibles ataques biológicos facilitados por IA.
