Un designer allemand crée un vêtement capable de perturber les algorithmes de vidéosurveillance. Une expérience qui interroge les limites de l’IA dans l’espace public.
À Berlin, un designer expérimente une nouvelle forme de « camouflage numérique ». Avec son projet Digital Camouflage, Simon Weckert imagine un vêtement dont le motif est conçu pour perturber les systèmes de vision artificielle.
Un vêtement conçu contre les algorithmes
L’idée intervient alors que des dispositifs de vidéosurveillance augmentée par l’intelligence artificielle sont déployés à Kottbusser Tor, à Berlin. Contrairement à une caméra classique, ces systèmes peuvent analyser automatiquement les images afin d’identifier des personnes ou certains comportements.
Le motif imaginé par Weckert n’a donc pas été choisi au hasard. Il a été développé à l’aide d’une technique appelée « attaque adversariale ». Le vêtement est testé face à un modèle de détection d’objets, puis le motif est progressivement modifié pour faire baisser la probabilité que l’algorithme identifie une silhouette humaine.
Invisible pour l’IA, pas pour les caméras
Le résultat est surprenant : dans certaines conditions, le système peut ne plus détecter correctement la personne portant le vêtement.
Mais attention au terme « invisible ». Le vêtement ne rend évidemment pas son porteur invisible à une caméra. Il cherche plutôt à tromper certains algorithmes de reconnaissance.
Une réflexion sur la surveillance
Avec Digital Camouflage, Simon Weckert pose ainsi une question plus large : peut-on vraiment faire confiance à des systèmes d’intelligence artificielle lorsqu’ils sont utilisés pour surveiller l’espace public ?
Pour recevoir gratuitement notre newsletter du lundi au vendredi, inscrivez-vous !
Pour nous suivre sur Facebook, Twitter et Instagram.
Sur le même sujet
L'annuaire 
L'agenda 
