Community Trust ScoreVérifié
Bill Swearingen a réalisé 31 millions de tests depuis son domicile à Kansas City. Le résultat : un motif qui rend les véhicules pratiquement invisibles aux caméras de surveillance Flock — sans toucher à l’objectif, sans bloquer une seule image.
Le projet, appelé noRecognition, cible la couche logicielle de détection d’objets située derrière la caméra. Les caméras Flock continuent d’enregistrer normalement. L’IA ne peut tout simplement pas identifier ce qu’elle voit. Swearingen y parvient grâce à l’apprentissage automatique adversarial — des motifs qui génèrent du bruit visuel calibré spécifiquement pour tromper les algorithmes de reconnaissance. Son modèle d’apprentissage par renforcement génère de nouveaux motifs chaque minute, s’ajustant constamment pour devancer ce que le logiciel de la caméra s’attend à voir. Il a décrit le processus d’apprentissage comme enseignant au modèle « comment peindre ». Cependant, il garde les motifs les plus efficaces hors ligne. Délibérément. Il ne veut pas que les fabricants de caméras mettent la main dessus et corrigent la vulnérabilité.
Franchement intelligent.
La démonstration à Def Con
Swearingen n’a pas seulement théorisé. Il s’est rendu à Def Con et a montré que cela fonctionnait dans le monde réel, aux côtés de Donut Media. Ils ont enveloppé une Toyota Yaris 2009 dans l’un de ses derniers motifs et l’ont conduite devant une caméra Flock. La caméra a enregistré le passage. Le logiciel de détection n’a pas enregistré de véhicule. Test réussi. Swearingen a cependant signalé que l’application du motif sur les roues était particulièrement difficile — la géométrie y est compliquée — mais le résultat global a tenu. Donut Media prévoit de publier des images de la démonstration, bien qu’aucune date précise n’ait été donnée pour sa diffusion.
Flock est controversé depuis un certain temps. Les caméras de surveillance de l’entreprise se développent rapidement à travers les États-Unis, et la réaction des défenseurs de la vie privée a augmenté parallèlement à cette expansion. Une proposition qui a suscité des critiques particulièrement vives : transformer les caméras de tableau de bord d’Uber et Lyft en unités mobiles de lecture de plaques. Cette idée à elle seule a déclenché une nouvelle vague d’inquiétude quant à l’étendue à laquelle le suivi automatisé des véhicules pourrait s’immiscer dans la vie quotidienne.
Et les conséquences d’une erreur ne sont pas abstraites. Des incidents où des lecteurs automatiques de plaques d’immatriculation ont mal identifié des véhicules ont conduit à la détention d’innocents sous la menace d’une arme. Pour les immigrants et les manifestants en particulier, les enjeux d’être pris dans les réseaux de surveillance alimentés par l’IA sont graves. Les défenseurs de la vie privée ont suivi tout cela de près, cherchant des angles juridiques pour riposter.
Angle de la vie privée et zones grises juridiques
Swearingen a cofondé le meetup de sécurité SecKC, et il est assez ouvert sur ce qui le motive ici. Il voit noRecognition comme un outil permettant aux gens de « se soustraire au suivi ». Son inquiétude concernant la surveillance lors des manifestations est en partie ce qui l’a poussé à construire cela en premier lieu. Il ne cache pas sa motivation.
Le cadre juridique, cependant, est flou. Les lois sur l’obstruction des plaques varient selon les États, et il n’est pas clair comment différentes juridictions traiteraient un véhicule enveloppé dans un motif adversarial. Les conceptions de Swearingen couvrent uniquement la carrosserie — pas les plaques d’immatriculation elles-mêmes — ce qui est probablement important d’un point de vue légal. Mais probablement ne signifie pas certainement, et personne n’a encore entièrement cartographié l’exposition État par État. Cette ambiguïté ne disparaîtra pas de sitôt.
noRecognition cherche également à lever des fonds. Swearingen a lancé une campagne de financement participatif pour produire des T-shirts, des sweat-shirts, et éventuellement des habillages de véhicules avec les motifs. Il y a donc aussi un angle produit de consommation ici, pas seulement un projet de recherche en sécurité dans un laboratoire.
Le travail de Swearingen s’inscrit dans une longue tradition de personnes trouvant des moyens créatifs pour perturber les systèmes de surveillance. Les tactiques antérieures étaient assez basiques — placer des cônes de signalisation sur des véhicules autonomes pour les immobiliser, par exemple. noRecognition est quelque chose de différent. C’est un système d’apprentissage automatique contre un autre système d’apprentissage automatique, motif contre motif, mis à jour chaque minute. C’est une catégorie de résistance entièrement différente.
L’empreinte plus large de Flock
Flock n’est pas la seule technologie de surveillance à être scrutée en ce moment. Les législateurs ont été plus insistants sur la reconnaissance faciale en général, y compris l’utilisation par Meta dans les lunettes intelligentes. L’environnement politique autour de la surveillance automatisée évolue, et le timing de Swearingen — se dévoilant à Def Con avec une démonstration fonctionnelle — s’inscrit en plein dans cette conversation.
Il dit qu’il continuera à améliorer le modèle. Les motifs deviennent plus efficaces au fil du temps à mesure que le système d’apprentissage par renforcement continue de s’entraîner. Reste à savoir si cela dépassera les contre-mesures que les fabricants de caméras finiront par mettre en place. Aucun détail à ce sujet pour l’instant.
La Toyota Yaris 2009 a passé une caméra Flock. Le logiciel n’a rien vu.
Questions Fréquentes
Comment le motif noRecognition de Bill Swearingen échappe-t-il aux caméras Flock ?
Les motifs utilisent l’apprentissage automatique adversarial pour générer du bruit visuel qui perturbe le logiciel de détection d’objets de Flock, tandis que la caméra elle-même continue d’enregistrer normalement.
Qu’a démontré Swearingen à Def Con ?
Lui et Donut Media ont conduit une Toyota Yaris 2009 enveloppée dans l’un de ses motifs devant une caméra Flock, échappant avec succès à la détection de véhicule lors du test en direct.
