L’État français lance un projet collaboratif pour détecter les contenus artificiels
En vue du Sommet pour l’Action sur l’IA qui aura lieu en février 2025, deux services de l’État, PEReN et Viginum, se sont associés pour créer un méta détecteur de publications générées par des intelligences artificielles. L’objectif est de lutter contre la diffusion de fausses informations à partir d’images ou de vidéos fabriquées par des modèles mathématiques.
Une réponse opérationnelle à la menace
La France accueillera le Sommet pour l’Action sur l’IA dans quelques semaines et l’État cherche à concrétiser des usages de l’intelligence artificielle. La création et la diffusion de fausses informations à partir d’images ou de vidéos générées par des IA représentent un enjeu critique. C’est pourquoi les services PEReN et Viginum ont lancé un projet collaboratif pour développer un détecteur de contenus artificiels.
Une démarche collaborative
PEReN, qui est un service interministériel, et Viginum, le service technique de l’État chargé de la vigilance numérique, ont ouvert ce projet collaboratif. L’objectif est de créer un outil permettant de repérer les images et les contenus utilisés à des fins de désinformation. Pour cela, ils font appel à l’expertise cumulée de particuliers. Il s’agit d’une approche similaire à celle des logiciels open source, où chacun peut contribuer en fonction de ses compétences. Les différentes briques logicielles développées seront ensuite mises à disposition du grand public.
Une approche novatrice des enjeux technologiques
Ce projet collaboratif ne prétend pas résoudre tous les problèmes liés à l’IA, mais il témoigne d’une nouvelle façon d’aborder les difficultés dans un environnement technologique complexe. Les compétences diverses de chacun permettent d’obtenir des résultats de qualité. Les briques logicielles produites seront en libre accès et faciles d’utilisation. Cette approche témoigne d’une volonté de lutter contre les usages malveillants de l’IA tout en favorisant la collaboration et le partage de connaissances.
