L'utilisation généralisée de la reconnaissance faciale suscite de plus en plus de préoccupations parmi le public. Alors que certains individus contestent son utilisation devant des instances nationales et internationales, d'autres recherchent des moyens de contrecarrer cette technologie.
Fawkes, une solution dans cette dernière catégorie, propose une approche novatrice. Le logiciel vise à altérer subtilement les images pour tromper les systèmes de reconnaissance faciale.
Le principe sous-jacent de Fawkes, nom également donné au projet qui a donné naissance au logiciel, est relativement simple. Bien que son fonctionnement repose sur une fonctionnalité appelée "cloaking", il ne rend pas l'utilisateur véritablement invisible. En réalité, Fawkes apporte de légères modifications, de l'ordre de quelques pixels, aux images fournies.
Pour un observateur humain, ces images "camouflées" semblent identiques à l'original. Cependant, ces minuscules altérations induisent une distorsion significative pour les systèmes informatiques, empêchant ainsi l'identification des personnes en question. Selon le SAND Lab, le laboratoire de recherche de l'Université de Chicago à l'origine de ce logiciel, cette technique brouille considérablement les données, rendant difficile la création de modèles précis de reconnaissance faciale à partir de ces images "camouflées".
Fawkes est présenté comme une réponse directe aux systèmes de reconnaissance faciale, certains étant entraînés à partir de portraits collectés sans le consentement des individus concernés. Les créateurs du projet mentionnent spécifiquement Clearview.AI, un service soupçonné d'avoir utilisé une base de données de 3 milliards de photos de personnes sans leur consentement.
Selon le média Futurity, le programme est principalement conçu pour neutraliser de tels modèles. Il est noté que l'outil n'affecte pas les systèmes de reconnaissance faciale légitimement obtenus, notamment ceux utilisés par les forces de l'ordre. Cependant, le SAND Lab affirme qu'il est "efficace à 100%" contre des systèmes tels que l'Amazon Rekognition, le Face API de Microsoft et Face++.
Emily Wenger, une étudiante de l'Université de Chicago et co-responsable du projet, souligne l'objectif de responsabiliser les individus. Elle déclare : "Nous n'avons pas l'illusion que cela résoudra toutes les atteintes à la vie privée, et il existe probablement des solutions techniques et juridiques pour contrer les abus de cette technologie. Mais l'objectif de Fawkes est d'autonomiser les individus, car à l'heure actuelle, rien de tel n'est disponible".
Présenté lors du Symposium USENIX 2020, le logiciel est disponible en téléchargement et a déjà dépassé la barre des 175 000 installations.
