La CNIL améliore Genmod, son outil pour retracer la généalogie des modèles d'IA
🧒 Découverte
La CNIL a fabriqué une sorte d'arbre généalogique pour les robots d'intelligence artificielle, afin de savoir qui est le parent de qui.
📰 Essentiel
La CNIL a mis à jour le 26 août son démonstrateur Genmod, qui retrace les liens entre un modèle d'IA open source et tous ses dérivés parmi les deux millions de modèles publiés sur Hugging Face. L'outil est désormais actualisé chaque semaine et effectue une recherche complète en une vingtaine de secondes.
🔬 Expert
Genmod aide surtout à étudier la mémorisation de données d'entraînement en repérant, dans toute la généalogie d'un modèle, les versions susceptibles d'avoir conservé des informations personnelles, un enjeu direct pour l'exercice des droits RGPD. La mise à jour ajoute une interface bilingue et un classement par popularité de téléchargement, utile pour prioriser les modèles à surveiller.