Saltar al contenido
MENTEDEHACKERS | Cybersecurity | AI | Tech | News

OpenAI retrasa lanzamiento de modelo Astra por preocupaciones de seguridad

58 vistas

OpenAI retrasa lanzamiento de modelo Astra por preocupaciones de seguridad
LO ÚLTIMO

OpenAI retrasó el lanzamiento de su modelo Astra para fortalecer protocolos de seguridad. El modelo usa una arquitectura menos transparente que otros sistemas.

OpenAI retrasó el lanzamiento de su modelo Astra para fortalecer protocolos de seguridad. El modelo usa una arquitectura menos transparente que otros sistemas de IA.

Por qué importa: Astra podría ser difícil de monitorear debido a su técnica interna oculta

Lo esencial

  • OpenAI retrasó el lanzamiento de Astra para mejorar protocolos de seguridad
  • El modelo utiliza un sistema recurrente llamado looped transformer
  • Astra muestra menos razonamiento intermedio que otros modelos de IA

Arquitectura del modelo Astra

Astra emplea una arquitectura recurrente conocida como looped transformer, que cicla información a través de capas internas antes de generar salida.

Riesgo de falta de transparencia

La baja visibilidad del razonamiento en Astra dificulta el monitoreo, lo que genera preocupaciones sobre su capacidad para detectar comportamientos peligrosos.

Fuente original: The Verge AI.

Compartir:

Deja un comentario

Tu correo no se publicará. Los campos obligatorios están marcados *

Artículos relacionados