Les chercheurs ont conçu un motif à imprimer sur un t-shirt, capable de tromper le système de classification et d’étiquetage du réseau d’IA.
Photography Matthew Modoono/Northeastern University / dazeddigital.com
Auteur(s) : FranceSoir
Pour contrer les technologies de surveillance des mouvements et de reconnaissance faciale, des chercheurs et activistes réfléchissent à la manière de tromper les caméras et autres capteurs. Contre la reconnaissance faciale par exemple, une technologie capable d’identifier une personne même masquée et avec des lunettes, le collectif de manifestants pacifiques londonien Dazzle club avait choisi d’utiliser le maquillage de camouflage. Aujourd’hui, des chercheurs de la Northeastern University du MIT et d’IBM vont plus loin, avec le développement d’un t-shirt capable de rendre son porteur invisible à la technologie de reconnaissance faciale.
Voir aussi : Jean-Frédéric Poisson : « Quel est ce pays qui en est à vouloir inspecter le fond des consciences ? »
Tromper la reconnaissance faciale avec du « bruit numérique »
Xue Lin, professeur adjoint de génie électrique et informatique à Northeastern et co-auteur d’un article récent sur le sujet, a expliqué au magazine Wired comment fonctionne ce t-shirt. La reconnaissance faciale est basée sur une technologie dite de « réseau de neurones », capable de reconnaître quelqu’un ou quelque chose dans une image. Pour cela, l’intelligence artificielle dessine une « boîte englobante » autour de l’objet à reconnaître, et attribue une étiquette à cet objet. Les chercheurs ont donc conçu un motif à imprimer sur un t-shirt, capable de tromper le système de classification et d’étiquetage du réseau d’IA. En examinant spécifiquement deux réseaux neuronaux de reconnaissance d’objets couramment utilisés à des fins de formation, l’équipe a pu identifier les zones du corps sur lesquelles l’ajout de « bruit numérique » (image dégradée) pourrait induire l’IA en erreur, et de fait, rendre le porteur invisible.
Ces t-shirts ne sont efficaces qu’immobiles…
Xue Lin pense qu’il est peu probable que ces T-shirts soient utilisés dans le monde réel, car bien que les imprimés soient capables de tromper la technologie de reconnaissance faciale, le faire dans une vidéo où la personne est en mouvement ne sera pas efficace, car lorsque la personne bouge, l’interférence du t-shirt ne sera pas visible. La chercheuse explique qu’en réalité, le but ultime de l’équipe de chercheurs, n’est pas d’aider les gens à échapper aux technologies de surveillance, mais plutôt d’aider les développeurs de ces technologies, en trouvant « des trous dans les réseaux de neurones afin que les entreprises de surveillance puissent les réparer ». En définitive, une telle découverte pourrait aider les systèmes de surveillance à ne pas être trompés.
Voir aussi : Sylviane Noël : « une société de flicage aux antipodes des valeurs de mon pays »
D’autres pistes pour tromper la reconnaissance faciale
D’autres chercheurs se sont déjà lancés dans l’étude de la manière de tromper les technologies de surveillance. Mais, pour l’instant, les solutions reposent sur des images fixes. En 2018, des chercheurs des universités américaines Carnegie Mellon et de Caroline du Nord ont optimisé l’idée d’utiliser des lunettes pour tromper la technologie de reconnaissance faciale. Cinq paires de lunettes ont été créées, efficaces pour 90 % de la population, grâce à quelques pixels sur le cadre des lunettes. Mais il reste un obstacle de taille : pour tromper les technologies de reconnaissance faciale, les chercheurs doivent connaître précisément les algorithmes utilisés par la technologie en question. Autre point négatif de cet outil : à l’avenir, pour une plus grande efficacité des technologies de surveillance, lunettes et accessoires pourront facilement être interdits lors des contrôles d’identité, notamment dans les aéroports, par exemple.
Source :
