El jefe de Anthropic propone frenar en conjunto la carrera de la IA
🧒 Descubrimiento
El jefe de una gran empresa de inteligencia artificial dice que es mejor avanzar un poco más despacio pero todos juntos, como corredores que deciden no esprintar sin cuidado para que nadie se lastime.
📰 Esencial
Dario Amodei, director ejecutivo de Anthropic, presenta un plan para frenar la carrera por la IA más potente: evaluadores de seguridad externos integrados en la empresa, normas comunes entre compañías y conversaciones internacionales, incluida China.
🔬 Experto
Amodei propone incorporar evaluadores externos como METR con credenciales y acceso interno, al estilo de los reguladores bancarios, y pide a Washington que arbitre una coordinación entre laboratorios rivales a pesar de los riesgos antimonopolio. Cita la reciente brecha ligada a Hugging Face para justificar la urgencia, buscando cooperación, incluso con gobiernos autoritarios, sobre los usos más peligrosos.