Des lunettes spéciales changent la personnalité d'une personne pour un système de reconnaissance faciale
Usurpation d'identité réussie dans le système de reconnaissance faciale. À gauche: l'actrice Reese Witherspoon, dont le réseau neuronal reconnaît l'identité avec une probabilité de 100%. Au centre: des verres sélectionnés pour l'emprunt d'identité de l'acteur Russell Crowe. À droite: victime d'une imitation.Grâce aux réseaux de neurones, les systèmes de vision industrielle ont atteint une précision record en reconnaissance faciale. La personnalité d'une personne est presque indéniablement reconnue, même sur les photographies floues et sur celles où le visage n'est que partiellement visible. Des algorithmes sont créés qui tiennent compte du contexte: vêtements, environnement, démarche. Jusqu'à présent, ce ne sont que des développements technologiques avancés. Mais étant donné l'hystérie mondiale entourant le terrorisme et la sécurité (bien que 53 fois moins de personnes meurent du terrorisme)que dans les accidents de la circulation), de tels programmes de reconnaissance seront très prochainement connectés à des millions de caméras de surveillance en extérieur dans les lieux publics. La question est, quelles sont les méthodes pour lutter contre une telle surveillance?La reconnaissance faciale est très difficile à combattre, mais les scientifiques essaient toujours de trouver des «vulnérabilités» dans les systèmes de reconnaissance faciale. Tromper un tel système nécessite une manière spécifique de changer l'apparence physique. Il n'y a aucun problème à lancer une capuche ou à porter de grosses lunettes noires. Mais cela est suspect - une personne dont le visage est fermé peut être détenue par la police ou des gardes de sécurité. Il doit y avoir des moyens plus intelligents. Certains petits changements peuvent certainement contourner le système de reconnaissance informatique, mais en même temps, ils n'affecteront guère la perception d'une personne aux yeux des autres et ne susciteront pas de soupçons.La tâche est similaire à celle que les distributeurs de spam résolvent pour contourner les filtres anti-spam. Ils ont besoin du message pour atteindre les consommateurs sous une forme lisible, mais sans passer par des filtres informatiques. Alors ici - une personne doit être ouvertement et bien reconnue par les gens, mais ne doit pas être reconnue par un réseau de neurones.
Le visage de l'attaquant (à gauche), l'illustration de l'attaque (au centre) et la victime de l'usurpation d'identité (à droite)Idéalement, le visage ouvert d'une personne devrait être reconnu par le système comme un visage d'étranger , suivant le schéma de remplacement des yeux du protagoniste du film "Opinion spéciale". Dans ce cas, les gardes et la police n'auront aucune plainte et la personne pourra se déplacer librement dans les lieux publics scannés par des caméras de vidéosurveillance.Il est important de comprendre exactement quels changements toucheront le plus les algorithmes des réseaux de neurones dans la reconnaissance faciale. Un groupe de chercheurs de l'Université Carnegie Mellon a étudié la question en détail et a récemment publié les résultats de leurs recherches sur ce sujet. En fait, les chercheurs parlent d'un nouveau type d'attaque .Les attaques qui modifient physiquement l'apparence, mais en même temps semblent inoffensives pour l'observateur extérieur.
Contrairement à d'autres attaques similaires, dans ce cas, les chercheurs se sont concentrés sur le facteur «inoffensif» afin que le fait de manipuler le réseau neuronal ne suscite aucun soupçon chez les étrangers, y compris les agents de sécurité qui regardaient le flux vidéo à partir de caméras de surveillance.Les scientifiques ont découvert que dans ce cas, il est plus efficace d'utiliser des lunettes avec un motif spécialement sélectionné qui affecte le réseau neuronal pour reconnaître les visages. Les tests des systèmes de reconnaissance faciale ont déterminé que le point le plus vulnérable des réseaux de neurones est une comparaison de la couleur des pixels voisins à des endroits spécifiques du visage autour des yeux.«L'innocuité» est vraiment importante, car si elle est détenue, une personne aura la possibilité de nier efficacement une intention malveillante. Personne ne peut prouver que ces lunettes sont spécialement conçues pour tromper le système de reconnaissance faciale et n'ont pas de coloration aléatoire.Les chercheurs ont proposé deux options pour mener une attaque: l'usurpation d'identité et l'évasion. Dans le premier cas, la tâche consiste à distribuer le visage de la personne avec des lunettes pour le visage d’une autre personne en particulier. Dans le cas d'une attaque contre l'évasion, la tâche consiste à distribuer le visage de la personne avec des lunettes pour le visage de toute autre personne.Comme l'ont montré des tests sur de vrais systèmes de reconnaissance faciale, il est possible de créer de telles lunettes dans la plupart des cas pour certaines personnes. Par exemple, pour le visage d'un homme blanc, des lunettes spécialement sélectionnées usurpent l'identité de Mila Jovovich dans 87,87% des cas. Trois auteurs du travail scientifique (trois hommes blancs) ont testé les lunettes sur eux-mêmes et ont déclaré que des lunettes imprimées avec un motif spécifique permettaient d'éviter une attaque dans 80% des cas contre les systèmes commerciaux de reconnaissance faciale les plus modernes.Bien sûr, le succès d'une attaque contre l'usurpation d'identité dépend largement de la race et de la couleur de l'attaquant. Par exemple, une femme sud-asiatique est capable d'usurper l'identité d'un homme du Moyen-Orient dans 88% des cas, mais les hommes du Moyen-Orient peuvent usurper l'identité de Clive Owen (un homme blanc) dans seulement 16,13% des cas.Les systèmes ont été testés sur le système de reconnaissance faciale Face ++ , ainsi que sur le système de détection de visage en utilisant la méthode Viola-Jones la plus courante à ce jour . L' algorithme Viola-Jones proposé en 2001 est implémenté dans de nombreux programmes populaires, notamment la bibliothèque de vision par ordinateur OpenCV. Il trouve des visages avec une grande précision et un faible nombre de faux positifs.Les scientifiques ont optimisé l'algorithme pour que l'apparence des lunettes soit la plus belle, avec des transitions de couleurs douces, et soit adaptée à l'impression sur une imprimante conventionnelle.
Les chercheurs estiment que l'impression des cadres et des verres en papier pour contourner les systèmes modernes de reconnaissance faciale coûtera environ 22 cents. Pour tester l'efficacité du système d'évasion de reconnaissance, 20 photos aléatoires ont été sélectionnées dans la base de données de photos de visage PubFig. L'utilisation de lunettes standard a permis de mener une attaque d'évasion dans 19 cas sur 20, et l'utilisation d'accessoires auxiliaires (lentilles de contact, bonnet d'hiver, etc.) a porté le succès de l'attaque à 100%. Les scientifiques notent également que la méthode fonctionne avec succès non seulement dans les systèmes de reconnaissance faciale avec code open source, mais également sur des systèmes tels que la boîte noire.Source: https://habr.com/ru/post/fr398915/
All Articles