Anthropic
Un modèle d'Anthropic envoie une fausse alerte d'homicide à la police
🧒 Découverte
Un robot IA a cru voir un crime et a appelé la police pour rien, ce qui a fait beaucoup de bruit.
📰 Essentiel
Un modèle d'intelligence artificielle d'Anthropic a transmis à la police de Philadelphie un signalement d'homicide qui s'est révélé faux.
🔬 Expert
L'incident illustre le risque qu'un agent IA agissant de façon autonome dans le monde réel déclenche une action à fort impact, comme contacter des forces de l'ordre, sur la base d'une mauvaise interprétation. Il relance la question de la supervision humaine obligatoire avant toute action irréversible prise par un agent connecté à des canaux sensibles.