Flock Safety défend son activité de surveillance alors que les critiques s’intensifient concernant les abus policiers, l’accès étendu aux données de localisation des véhicules et le rôle de l’entreprise dans l’expansion de la surveillance automatisée aux États-Unis. Le PDG Garrett Langley a appelé à un « compromis » entre sécurité publique et vie privée, tandis que l’entreprise rend plusieurs contrôles obligatoires au lieu de facultatifs.

Les changements concernent les recherches effectuées sur le réseau de lecteurs de plaques d’immatriculation de Flock, qui comprend environ 120 000 caméras, selon MIT Technology Review. Les agents doivent désormais saisir un numéro d’affaire avant de lancer une recherche, et Flock impose un système d’audit automatisé destiné à signaler les activités suspectes. L’entreprise a également recommandé de réduire la durée de conservation par défaut des données de 30 jours à sept.

Ces mesures interviennent alors que des élus, des groupes de défense des libertés civiles et des communautés locales se demandent si les garde-fous de Flock peuvent empêcher les abus à l’échelle que son réseau permet. Le débat dépasse le cadre d’un seul fournisseur de surveillance : il met à l’épreuve la manière dont les agences publiques devraient encadrer les données de localisation interrogeables, la surveillance automatisée et l’accès de la police à des infrastructures exploitées par des acteurs privés.

Flock transforme des garde-fous facultatifs en système par défaut

Flock a annoncé ces changements de politique en réaction à une controverse qui a notamment inclus des allégations selon lesquelles des agents auraient utilisé ses outils pour harceler des partenaires amoureux actuels ou anciens. Une enquête du Washington Post a identifié 46 cas dans lesquels des agents étaient accusés d’utilisation non autorisée, selon TechCrunch et MIT Technology Review.

L’entreprise proposait auparavant la saisie d’un numéro d’affaire et l’audit automatisé comme options. Dans les nouvelles règles, les deux deviennent obligatoires. Flock affirme que le numéro d’affaire sert à établir une finalité d’enquête légitime, tandis que la fonction d’audit analyse le comportement de recherche et alerte les administrateurs lorsqu’elle détecte une activité qu’elle juge suspecte.

Ces contrôles ne constituent pas des vérifications totalement indépendantes. MIT Technology Review a indiqué que Flock ne vérifiera pas si les numéros d’affaire soumis sont authentiques. Les agences et les agents pourraient donc toujours saisir des informations dénuées de sens ou génériques. La publication a également cité des conclusions antérieures de l’American Civil Liberties Union, qui avait constaté que des agents saisissaient des explications vagues ou des requêtes de recherche moqueuses lorsque des exigences similaires étaient en place.

Le changement de conservation de Flock est lui aussi une recommandation plutôt qu’une limite absolue. Les agences peuvent outrepasser la valeur par défaut de sept jours, notamment via un paramètre « Evidence Mode » permettant une conservation plus longue. Les services peuvent également restreindre les recherches d’autres agences à des finalités précises, comme les enquêtes sur les enlèvements plutôt que l’application des lois sur l’immigration. Cette protection repose néanmoins toujours sur le fait que les utilisateurs indiquent avec exactitude pourquoi ils effectuent la recherche.

Les éléments qui sous-tendent la défense de Flock — et les inquiétudes de ses détracteurs

Langley a reconnu que les victimes présumées de ces abus avaient subi un préjudice. Après avoir entendu l’une d’elles, il a déclaré à CBS News : « Je suis désolé. Cela me détruit de savoir qu’elle a vécu cela. » Il a toutefois soutenu que Flock n’avait pas créé les abus policiers, mais avait conçu des outils qui rendent ce comportement visible.

Dans une interview accordée à Fox News et citée par TechCrunch, Langley a déclaré que le pays devrait rechercher un équilibre entre vie privée et sécurité plutôt que d’en privilégier une seule. Il a également soutenu qu’une réglementation et une responsabilité insuffisantes affectent Flock et d’autres technologies, et a demandé aux États de faire de l’usage illégal des données de Flock une infraction pénale.

L’explication donnée par Flock pour la perte de clients est contestée. Langley a déclaré à MIT Technology Review que la désinformation était la principale raison pour laquelle l’entreprise avait perdu des contrats, y compris l’idée erronée selon laquelle Flock pratiquerait la reconnaissance faciale ou vendrait les données collectées à des acheteurs commerciaux. Des critiques, dont l’ACLU, ont remis en cause les descriptions publiques par l’entreprise de ses capacités et de ses politiques.

Les affirmations les plus solides concernant le nouveau système d’audit restent non vérifiées par des tiers. Flock n’a pas publié de chiffres de précision pour l’outil et ne l’a pas ouvert à des évaluateurs indépendants, selon MIT Technology Review. Les agences, les chercheurs et le public ne disposent donc d’aucune base claire pour juger à quelle fréquence les recherches suspectes sont détectées ou combien de faux positifs le système produit.

La contestation s’étend à la politique et aux contrats

L’opposition à Flock ne se limite plus aux organisations de défense des libertés civiles. TechCrunch a rapporté des critiques de responsables démocrates, dont le sénateur du Vermont Bernie Sanders et le candidat au Sénat du Michigan Abdul El-Sayed. De l’autre côté de l’échiquier politique, trois représentants républicains ont présenté une loi qui empêcherait le gouvernement fédéral d’acheter des systèmes de surveillance automatisée utilisant la reconnaissance faciale, l’identification biométrique ou la reconnaissance des plaques d’immatriculation, y compris les caméras de Flock.

MIT Technology Review a rapporté que certaines villes ont résilié des contrats Flock sous la pression des protestations. NPR a constaté qu’au moins 30 villes avaient mis fin à des contrats au cours de l’année précédente, tandis que le groupe militant DeFlock avançait un chiffre plus élevé. Flock a déclaré que les résiliations ne représentaient qu’une petite part des quelque 5 000 agences qu’elle compte parmi ses clients, mais l’ampleur exacte des pertes de contrats reste difficile à établir.

Certaines juridictions envisagent ou adoptent des restrictions générales sur les lecteurs de plaques d’immatriculation. D’autres se tournent vers des fournisseurs concurrents tels qu’Axon et Motorola. Ce mouvement met Flock sous pression pour démontrer que ses changements peuvent protéger les habitants sans rendre le système trop difficile à utiliser pour les services de police.

Pour l’ACLU, cependant, les incidents isolés ne sont qu’une partie du problème. Chad Marlow, conseiller principal en politiques de l’organisation, a déclaré à MIT Technology Review que la préoccupation plus profonde est l’énorme volume d’informations de localisation disponibles pour l’enquête sans mandat ni suspicion établie d’acte répréhensible. Dans cette perspective, un meilleur audit peut réduire les abus sans traiter l’ampleur sous-jacente de la surveillance.

Pourquoi ce débat compte pour l’IA et les bâtisseurs du secteur public

La réponse de Flock illustre un problème récurrent de gouvernance pour les systèmes automatisés et pilotés par l’IA dans le secteur public : une mesure de protection qui n’existe qu’en option peut avoir peu d’effet pratique si les agences peuvent choisir de ne pas l’utiliser. Rendre les numéros d’affaire et l’audit obligatoires constitue un changement opérationnel significatif, mais sa valeur dépend de la vérification, de l’application et d’une mesure transparente.

Pour les acheteurs des secteurs privé et public, la controverse met en lumière des questions qui devraient être réglées avant le déploiement. Qui peut interroger les données ? Quelles preuves doivent justifier une requête ? Combien de temps les informations sont-elles conservées ? Une autre agence peut-elle y accéder, et dans quel but ? Qui examine les alertes issues de la surveillance automatisée, et que se passe-t-il lorsqu’un administrateur les ignore ?

Les concepteurs font face à un défi de conception connexe. Le système de Flock n’est pas simplement un produit de caméras ; c’est un réseau interrogeable dont le risque augmente à mesure que davantage d’agences contribuent des données et y accèdent. Un contrôle technique qui fonctionne au sein d’un seul service peut être insuffisant lorsque les informations traversent les frontières de compétence. Les équipes produit qui développent des agents IA, des systèmes de recherche ou des outils d’analyse pour le secteur public devraient considérer l’auditabilité et les limites d’accès comme des exigences fondamentales du produit, et non comme des fonctionnalités de conformité facultatives.

Le débat montre également pourquoi les assurances des fournisseurs sont peu susceptibles de suffire à elles seules à apaiser les inquiétudes du public. Des tests indépendants de l’audit automatisé, des rapports publics sur les incidents d’abus et des journaux clairs de conservation et d’accès offriraient aux agences et aux résidents des éléments plus solides que les affirmations internes. Sans ces divulgations, les changements de politique de Flock pourraient être jugés principalement à l’aune de leur intention déclarée plutôt que de résultats mesurables.

À surveiller ensuite

Le prochain test sera de savoir si Flock publie des preuves montrant que son audit automatisé détecte de manière fiable les recherches inappropriées. Une évaluation indépendante, plutôt que les performances déclarées par l’entreprise, aiderait à déterminer si le système obligatoire constitue un contrôle substantiel ou principalement procédural.

Les décisions locales concernant les contrats fourniront un autre signal. Les villes qui envisagent un renouvellement, une résiliation ou un passage à Axon ou Motorola pourront évaluer non seulement les promesses de lutte contre la criminalité, mais aussi la question de savoir si les règles de conservation, d’accès inter-agences et d’application de Flock répondent aux exigences locales.

Les prochaines étapes des législateurs compteront également. Une législation fédérale visant les achats de systèmes de surveillance automatisée, des sanctions pénales au niveau des États pour l’utilisation illégale des données et des restrictions locales sur les lecteurs de plaques d’immatriculation pourraient remodeler le marché plus directement que les politiques internes de Flock.

Enfin, l’attention se portera sur « Evidence Mode » et les autres mécanismes de contournement. Si les agences prolongent régulièrement la conservation ou autorisent des recherches larges, la valeur par défaut de sept jours et les contrôles d’accès fondés sur la finalité pourraient avoir un effet limité. Si les contournements sont rares, consignés et examinables de manière indépendante, Flock disposera d’un argument plus solide selon lequel ses nouvelles règles modifient le comportement dans le monde réel.

Perspective Creati.ai

L’appel de Flock au compromis est une tentative de repositionner l’entreprise, qui passerait d’un fournisseur de surveillance défendant son utilité à un opérateur de plateforme promettant des limites opposables. La distinction est importante : les protections de la vie privée ne sont crédibles que lorsqu’elles contraignent le client, l’administrateur et le fournisseur — pas seulement lorsqu’elles sont disponibles dans un menu de paramètres.

L’entreprise a répondu à des défaillances précises par des contrôles précis, mais la question centrale reste sans réponse. Un réseau national de données de véhicules interrogeables crée un risque structurel pour la vie privée qui ne peut pas être évalué uniquement à travers des cas individuels d’abus. La prochaine phase de Flock sera définie par sa capacité à accepter un contrôle indépendant et à démontrer que ses garde-fous fonctionnent dans des conditions opérationnelles réelles.