Des scientifiques de l'UCLouvain révèlent les faiblesses des systèmes de détection intelligents.
Les systèmes de détection intelligents associent une caméra enregistrant les images à un logiciel d'analyse automatique. Entraînés sur des milliers d'images d'hommes et de femmes variés, ils identifient les personnes malgré les différences de taille, de couleur de cheveux ou de traits du visage. Ils distinguent également les humains des objets inertes, comme les chaises.
Ces technologies révolutionnent la sécurité : autrefois, les agents passaient des heures à surveiller les écrans ; désormais, un signal d'alerte est émis automatiquement dès qu'un intrus apparaît, même s'il tente de se dissimuler.
Cependant, ces systèmes ne sont pas infaillibles. Basés sur la reconnaissance de formes, ils peuvent être trompés. Des chercheurs du monde entier explorent ces vulnérabilités : une simple paire de lunettes en carton suffit parfois à perturber la reconnaissance faciale.
À Louvain, l'équipe EAVISE (Embedded and Artificially Intelligent Vision Engineering) a réussi à déjouer YOLO, l'un des algorithmes les plus utilisés pour la détection d'objets et de personnes. L'étudiante en master Simen Thys et la postdoctorante Wiebe Van Ranst ont présenté devant elles une pancarte en carton de 40 cm² imprimée d'un motif généré par IA. Résultat : elles devenaient totalement invisibles au système, ni reconnues comme humains ni comme objets. Dans des tests antérieurs avec un T-shirt arborant l'image d'un oiseau, l'algorithme détectait uniquement l'oiseau.
Toon Goedemé, chef du groupe de recherche, explique : « Il est impossible de déterminer précisément pourquoi YOLO se laisse tromper, car ces algorithmes reposent sur des millions de paramètres. Nous avons identifié une vulnérabilité à corriger, par exemple en entraînant le modèle à reconnaître les personnes tenant une telle pancarte. Mais d'autres motifs pourraient émerger. » Il est convaincu que ces failles ne seront jamais totalement éradiquées, motivant ainsi la poursuite des recherches.
