OpenAI
OpenAI pausa su IA más avanzada por precaución
🧒 Descubrimiento
OpenAI pulsó el botón de pausa de su robot más fuerte, como cuando paras un juego para comprobar que todo está seguro.
📰 Esencial
OpenAI suspendió durante dos semanas el entrenamiento de su modelo Astra tras detectar que se acercaba a un umbral crítico de capacidades de ciberseguridad. La empresa refuerza sus controles antes de continuar.
🔬 Experto
El marco de preparación de OpenAI detectó que Astra podía alcanzar el umbral crítico de capacidades cibernéticas, lo que motivó la parada voluntaria del entrenamiento por refuerzo. Es la primera vez que un laboratorio frena públicamente un modelo por este motivo; habrá que vigilar las condiciones de reanudación y las auditorías externas.