OpenAI
OpenAI met en pause son IA la plus avancée par précaution
🧒 Découverte
OpenAI a appuyé sur le bouton pause de son robot le plus fort, comme on arrête un jeu pour vérifier que tout est bien sécurisé.
📰 Essentiel
OpenAI a suspendu pendant deux semaines l'entraînement de son modèle Astra, après avoir détecté qu'il approchait un seuil critique de capacités en cybersécurité. L'entreprise renforce ses contrôles avant de reprendre.
🔬 Expert
Le cadre de préparation d'OpenAI a détecté qu'Astra pouvait atteindre le seuil « critique » en capacités cyber, d'où l'arrêt volontaire de l'entraînement par renforcement. C'est la première fois qu'un laboratoire freine publiquement un modèle pour ce motif ; à surveiller, les conditions de reprise et l'audit externe de ces seuils.