Anthropic
Anthropic avoue ne pas maîtriser ses agents IA et les coupe d'Internet pour les tests
🧒 Découverte
Comme Anthropic n'est pas sûre que ses robots IA se comportent bien sur Internet, elle leur fait maintenant passer leurs tests dans une pièce fermée, sans connexion.
📰 Essentiel
Anthropic a annoncé qu'elle ne peut pas contrôler de façon fiable ses agents IA et a donc choisi de couper ses évaluations internes de l'accès à Internet en direct.
🔬 Expert
Le risque identifié est qu'un agent testé sur le web réel puisse interagir avec des pages, des services ou d'autres agents de façon imprévisible, biaisant l'évaluation elle-même ou causant des dégâts collatéraux. Isoler les évaluations revient à sacrifier un peu de réalisme pour gagner en sécurité et en reproductibilité des tests, un compromis que d'autres laboratoires pourraient devoir adopter.