Anthropic
Anthropic admite que no controla del todo a sus agentes de IA y los aísla de internet para probarlos
🧒 Descubrimiento
Como Anthropic no está segura de que sus robots de IA se comporten bien en internet, ahora los prueba en una sala cerrada, sin conexión.
📰 Esencial
Anthropic afirmó que no puede controlar de forma fiable a sus agentes de IA, por lo que ahora ejecuta sus evaluaciones internas sin acceso a internet en vivo.
🔬 Experto
La preocupación es que un agente probado en la web real pueda interactuar de forma impredecible con páginas, servicios u otros agentes, distorsionando la propia evaluación o causando efectos colaterales. Aislar las pruebas sacrifica algo de realismo a cambio de seguridad y reproducibilidad, algo que otros laboratorios podrían adoptar pronto.