Le patron d'Anthropic propose de freiner collectivement la course à l'IA
🧒 Découverte
Le patron d'une grande entreprise d'intelligence artificielle dit qu'il vaut mieux avancer moins vite mais tous ensemble, comme des coureurs qui décident de ne pas sprinter n'importe comment pour ne pas se blesser.
📰 Essentiel
Dario Amodei, PDG d'Anthropic, détaille un plan pour ralentir la course à l'IA la plus puissante : évaluateurs de sécurité externes intégrés aux équipes, normes communes entre entreprises et discussions internationales, y compris avec la Chine.
🔬 Expert
Amodei propose d'accueillir des évaluateurs externes type METR avec badges et accès internes, façon régulateurs bancaires, et appelle Washington à arbitrer une coordination entre laboratoires concurrents malgré les risques antitrust. Il invoque le récent piratage lié à Hugging Face pour justifier l'urgence, tout en visant une coopération, même avec des gouvernements autoritaires, sur les usages les plus dangereux.