Logiciel de reconnaissance faciale utilisant des photos piratées

2020 est une année charnière pour l’apprentissage automatique. Il a vu la véritable arrivée de l’apprentissage automatique standardisé, où les modèles et algorithmes d’apprentissage en profondeur sont facilement
accessibles aux utilisateurs d’Internet. Les GPU sont moins chers et plus facilement disponibles que jamais, et de nouvelles méthodes de formation comme l’apprentissage par transfert ont permis de former de puissants modèles d’apprentissage en profondeur en utilisant des ensembles de données plus petits.

Mais l’apprentissage automatique accessible a également ses inconvénients. Un récent New York Times article par Kashmir Colline profile clearview.ai, un service de reconnaissance faciale non réglementée qui a maintenant téléchargé plus de 3 milliards de photos de personnes des médias Internet et sociaux, les utiliser pour construire des modèles de reconnaissance faciale pour des millions de citoyens à leur insu ou permission. Clearview.ai montre à quel point il est facile de créer des outils invasifs de surveillance et de suivi à l’aide de l’apprentissage en profondeur.

Alors, comment pouvons-nous nous protéger contre des tiers non autorisés qui construisent des modèles de reconnaissance faciale pour nous reconnaître où que nous allions? Les réglementations peuvent et aideront à restreindre l’utilisation de l’apprentissage automatique par les entreprises publiques, mais auront un impact négligeable sur les organisations privées, les individus ou même d’autres États-nations ayant des objectifs similaires.

Le SAND Lab de l’Université de Chicago a développé Fawkes 1 , un algorithme et un outil logiciel (s’exécutant localement sur votre ordinateur) qui donne aux individus la possibilité de limiter la façon dont leurs propres images peuvent être utilisées pour les suivre. À un niveau élevé, Fawkes prend vos images personnelles et leur apporte de minuscules modifications au niveau des pixels qui sont invisibles à l’œil humain, dans un processus que nous appelons le camouflage d’image..

Vous pouvez ensuite utiliser ces photos “masquées” comme vous le feriez normalement, les partager sur les réseaux sociaux, les envoyer à des amis, les imprimer ou les afficher sur des appareils numériques, comme vous le feriez pour n’importe quelle autre photo. La différence, cependant, est que si et quand quelqu’un essaie d’utiliser ces photos pour créer un modèle de reconnaissance faciale, des images «masquées» enseigneront au modèle une version très déformée de ce qui vous ressemble. L’effet de cape n’est pas facilement détectable et ne provoquera pas d’erreurs dans la formation du modèle. Cependant, quand quelqu’un essaie de vous identifier en utilisant une image inchangée de vous (par exemple une photo prise en public), et essaie de vous identifier, il échoue.

<br>
L a suite c’est par ICI