Développé par le Département ingénierie, logiciels et systèmes (DILS) du CEA-List, PyRAT est un outil de validation formelle de réseaux de neurones : un logiciel qui vérifie mathématiquement le bon fonctionnement d’une intelligence artificielle selon des spécifications données. Ce système permet de garantir la sûreté et la stabilité des systèmes d’IA afin qu’ils remplissent correctement leurs fonctions.

À quoi ça sert ? Comment ça marche ? Le défi pour les équipes du CEA était de présenter simplement le fonctionnement de cet outil logiciel complexe, de rendre sa technologie plus accessible et compréhensible, et de montrer comment cette innovation peut être utile dans de nombreux domaines de l’industrie.

Pour présenter cet outil et toute l’étendue de ses possibilités, nous avons réalisé un démonstrateur fonctionnel, composé d’une application web associée à un contrôleur physique. Ce dispositif, très simple d’utilisation, permet à l’utilisateur d’expérimenter plusieurs scénarios d’usages. Il est notamment possible de valider le fonctionnement de réseaux de neurones pour la détection de cellules cancéreuse via l’analyse d’images médicales ou de tester la réponse de systèmes de pilotage automatique d’engins volants. Les valeurs d’analyse et sa précision sont modifiées par l’utilisateur via l’interface tactile ou le module de commande et les résultats sont représentés sous formes de graphiques.

Ce démonstrateur est actuellement présenté au showroom technologique du CEA-List, situé à Nano-Innov sur le plateau de Saclay.