Flock Safety verteidigt sein Überwachungsgeschäft, während die Kritik über Polizeimissbrauch, weitreichenden Zugriff auf Fahrzeugstandortdaten und die Rolle des Unternehmens bei der Ausweitung automatisierter Überwachung in den Vereinigten Staaten zunimmt. CEO Garrett Langley hat zu einem „Kompromiss“ zwischen öffentlicher Sicherheit und Privatsphäre aufgerufen, während das Unternehmen mehrere Kontrollen von optionalen zu verpflichtenden Maßnahmen umstellt.

Die Änderungen betreffen Suchanfragen im Netzwerk von Kennzeichenlesern von Flock, das laut MIT Technology Review rund 120.000 Kameras umfasst. Beamtinnen und Beamte müssen nun vor einer Suche eine Fallnummer eingeben, und Flock verlangt ein automatisiertes Auditsystem, das verdächtige Aktivitäten markieren soll. Das Unternehmen hat außerdem empfohlen, die standardmäßige Aufbewahrungsfrist von 30 Tagen auf sieben Tage zu verkürzen.

Diese Maßnahmen kommen zu einem Zeitpunkt, an dem gewählte Amtsträger, Bürgerrechtsgruppen und lokale Gemeinschaften infrage stellen, ob die Schutzmechanismen von Flock Missbrauch in dem Ausmaß verhindern können, das sein Netzwerk ermöglicht. Die Debatte ist größer als ein einzelner Überwachungsanbieter: Sie testet, wie öffentliche Stellen durchsuchbare Standortdaten, automatisierte Überwachung und den Zugriff der Polizei auf privat betriebene Infrastruktur regeln sollten.

Flock verlagert optionale Schutzmaßnahmen ins Standardsystem

Flock kündigte die Richtlinienänderungen als Reaktion auf eine Gegenreaktion an, zu der auch Vorwürfe gehörten, Beamte hätten seine Werkzeuge genutzt, um aktuelle oder frühere romantische Partner zu verfolgen. Eine Untersuchung der Washington Post identifizierte 46 Fälle, in denen Beamte laut TechCrunch und MIT Technology Review der unbefugten Nutzung beschuldigt wurden.

Das Unternehmen hatte zuvor die Eingabe einer Fallnummer und automatisierte Prüfungen als Optionen angeboten. Nach den neuen Regeln sind beide verpflichtend. Flock sagt, die Fallnummer solle einen legitimen Ermittlungszweck belegen, während die Prüfungsfunktion Suchverhalten analysiert und Administratoren auf Aktivitäten aufmerksam macht, die sie als verdächtig einstuft.

Die Kontrollen sind keine vollständig unabhängigen Prüfungen. MIT Technology Review berichtete, dass Flock nicht überprüfen wird, ob eingereichte Fallnummern echt sind. Behörden und Beamte könnten daher weiterhin bedeutungslose oder allgemeine Angaben eingeben. Die Veröffentlichung verwies zudem auf frühere Erkenntnisse der American Civil Liberties Union, wonach Beamte vage Begründungen oder spöttische Suchanfragen eingaben, als ähnliche Anforderungen galten.

Auch die Änderung der Aufbewahrungsfrist durch Flock ist eher eine Empfehlung als eine absolute Grenze. Behörden können die siebentägige Voreinstellung außer Kraft setzen, einschließlich über eine „Evidence Mode“-Einstellung, die längere Speicherung erlaubt. Dienststellen können außerdem die Suche anderer Behörden auf bestimmte Zwecke beschränken, etwa auf Entführungsuntersuchungen statt auf Einwanderungsdurchsetzung. Dieser Schutz hängt jedoch weiterhin davon ab, dass Nutzer den Suchgrund korrekt angeben.

Die Belege hinter Flocks Verteidigung – und die Bedenken der Kritiker

Langley hat eingeräumt, dass die Opfer des mutmaßlichen Missbrauchs Schaden erlitten haben. Nachdem er von einem mutmaßlichen Opfer gehört hatte, sagte er gegenüber CBS News: „Es tut mir leid. Es zerreißt mich, dass sie das durchmachen musste.“ Dennoch argumentiert er, Flock habe Polizeimissbrauch nicht geschaffen, sondern Werkzeuge gebaut, die solches Verhalten sichtbar machen.

In einem von TechCrunch zitierten Interview mit Fox News sagte Langley, das Land solle ein Gleichgewicht zwischen Privatsphäre und Sicherheit anstreben, statt nur eines von beiden zu priorisieren. Er argumentierte zudem, dass unzureichende Regulierung und Rechenschaftspflicht Flock und andere Technologien betreffen, und forderte die Bundesstaaten auf, die illegale Nutzung von Flock-Daten unter Strafe zu stellen.

Flocks Erklärung für den Verlust von Kunden ist umstritten. Langley sagte MIT Technology Review, Fehlinformationen seien der Hauptgrund für geschäftliche Einbußen des Unternehmens gewesen, darunter die falsche Annahme, Flock betreibe Gesichtserkennung oder verkaufe gesammelte Daten an kommerzielle Käufer. Kritiker, darunter die ACLU, haben die öffentlichen Darstellungen der Fähigkeiten und Richtlinien des Unternehmens infrage gestellt.

Die stärksten Behauptungen über das neue Auditsystem bleiben extern unbestätigt. Flock hat laut MIT Technology Review keine Genauigkeitswerte für das Tool veröffentlicht und es auch unabhängigen Prüfern nicht zugänglich gemacht. Damit fehlen Behörden, Forschenden und der Öffentlichkeit klare Grundlagen, um zu beurteilen, wie oft verdächtige Suchanfragen erkannt werden oder wie viele Fehlalarme das System erzeugt.

Gegenwind breitet sich in Politik und bei Verträgen aus

Die Ablehnung von Flock ist nicht mehr auf Bürgerrechtsorganisationen beschränkt. TechCrunch berichtete über Kritik demokratischer Politiker, darunter der Senator aus Vermont, Bernie Sanders, und der Senatskandidat in Michigan, Abdul El-Sayed. Auf der anderen Seite des politischen Spektrums brachten drei republikanische Abgeordnete ein Gesetz ein, das der Bundesregierung den Kauf automatisierter Überwachungssysteme mit Gesichtserkennung, biometrischer Identifizierung oder Kennzeichenerkennung verbieten würde, einschließlich Flock-Kameras.

MIT Technology Review berichtete, dass einige Städte Flock-Verträge nach Protesten aufgekündigt haben. NPR stellte fest, dass im Vorjahr mindestens 30 Städte Verträge beendet hatten, während die Aktivistengruppe DeFlock eine höhere Zahl meldete. Flock sagte, Kündigungen machten nur einen kleinen Teil der rund 5.000 Behörden aus, die das Unternehmen als Kunden zählt, doch das genaue Ausmaß der Vertragsverluste bleibt schwer zu beziffern.

Einige Zuständigkeitsbereiche erwägen oder verabschieden Beschränkungen für Kennzeichenleser insgesamt. Andere wechseln zu konkurrierenden Anbietern wie Axon und Motorola. Die Entwicklung setzt Flock unter Druck zu zeigen, dass seine Änderungen die Bevölkerung schützen können, ohne das System für Polizeibehörden zu schwer nutzbar zu machen.

Für die ACLU sind einzelne Vorfälle jedoch nur ein Teil des Problems. Chad Marlow, leitender Policy Counsel der Organisation, sagte MIT Technology Review, die tiefere Sorge sei das schiere Volumen an Standortinformationen, die ohne Durchsuchungsbefehl oder begründeten Verdacht auf Fehlverhalten für Ermittlungen verfügbar seien. Aus dieser Sicht kann besseres Auditing Missbrauch verringern, ohne die zugrunde liegende Größenordnung der Überwachung anzugehen.

Warum der Streit für KI- und Public-Sector-Entwickler wichtig ist

Flocks Reaktion verdeutlicht ein wiederkehrendes Governance-Problem bei KI-gestützten und automatisierten Systemen im öffentlichen Sektor: Eine Schutzmaßnahme, die nur optional vorhanden ist, kann wenig praktische Wirkung entfalten, wenn Behörden sie nicht nutzen müssen. Die verpflichtende Eingabe von Fallnummern und Audits ist eine bedeutende betriebliche Änderung, doch ihr Wert hängt von Überprüfung, Durchsetzung und transparenter Messung ab.

Für Käufer aus Wirtschaft und Verwaltung rückt der Streit Fragen in den Fokus, die vor dem Einsatz geklärt werden sollten. Wer darf die Daten durchsuchen? Welche Belege müssen eine Abfrage rechtfertigen? Wie lange werden Informationen gespeichert? Kann eine andere Behörde darauf zugreifen, und zu welchem Zweck? Wer prüft Warnungen aus der automatisierten Überwachung, und was geschieht, wenn ein Administrator sie ignoriert?

Für Entwickler stellt sich eine ähnliche Gestaltungsaufgabe. Flocks System ist nicht einfach ein Kameraprodukt; es ist ein durchsuchbares Netzwerk, dessen Risiko steigt, je mehr Behörden Daten beisteuern und Zugriff darauf erhalten. Eine technische Kontrolle, die in einer einzelnen Dienststelle funktioniert, kann unzureichend sein, wenn Informationen über Zuständigkeitsgrenzen hinweg fließen. Produktteams, die KI-Agenten, Suchsysteme oder Analysetools für den öffentlichen Sektor entwickeln, sollten Prüfbarkeit und Zugriffsbeschränkungen als zentrale Produktanforderungen behandeln und nicht als optionale Compliance-Funktionen.

Der Streit zeigt auch, warum Zusicherungen von Anbietern öffentliche Bedenken kaum allein ausräumen werden. Unabhängige Tests des automatisierten Audits, öffentliche Berichte über Missbrauchsfälle sowie klare Aufbewahrungs- und Zugriffsprotokolle würden Behörden und Einwohnern stärkere Belege liefern als interne Behauptungen. Ohne diese Offenlegungen könnten Flocks Richtlinienänderungen vor allem an ihrer beabsichtigten Wirkung statt an messbaren Ergebnissen gemessen werden.

Worauf als Nächstes zu achten ist

Der nächste Test wird sein, ob Flock Belege veröffentlicht, dass sein automatisiertes Auditsystem unzulässige Suchanfragen zuverlässig erkennt. Eine unabhängige Bewertung, statt von dem Unternehmen gemeldeter Leistung, würde helfen zu bestimmen, ob das verpflichtende System eine substanzielle Kontrolle oder vor allem eine prozedurale Maßnahme ist.

Lokale Vertragsentscheidungen werden ein weiteres Signal liefern. Städte, die über Verlängerung, Kündigung oder einen Wechsel zu Axon oder Motorola nachdenken, könnten nicht nur Kriminalitätsbekämpfungsversprechen abwägen, sondern auch, ob Flocks Aufbewahrungs-, behördenübergreifende Zugriffs- und Durchsetzungsregeln lokale Anforderungen erfüllen.

Auch die nächsten Schritte der Gesetzgeber werden wichtig sein. Bundesgesetze gegen den Kauf automatisierter Überwachungssysteme, staatliche Strafandrohungen für die illegale Nutzung von Daten und lokale Beschränkungen für Kennzeichenleser könnten den Markt direkter verändern als Flocks interne Richtlinien.

Schließlich wird sich die Aufmerksamkeit auf den „Evidence Mode“ und andere Umgehungsmechanismen richten. Wenn Behörden die Aufbewahrung routinemäßig verlängern oder weitreichende Suchen zulassen, könnten die siebentägige Voreinstellung und die zweckgebundenen Zugriffskontrollen nur begrenzte Wirkung entfalten. Wenn Ausnahmen selten, protokolliert und unabhängig überprüfbar sind, hätte Flock ein stärkeres Argument, dass seine neuen Regeln das Verhalten in der Praxis verändern.

Creati.ai-Perspektive

Flocks Aufruf zum Kompromiss ist ein Versuch, das Unternehmen von einem Überwachungsanbieter, der seinen Nutzen verteidigt, zu einem Plattformbetreiber umzupositionieren, der durchsetzbare Grenzen verspricht. Der Unterschied ist wichtig: Datenschutzschutz ist nur dann glaubwürdig, wenn er Kunde, Administrator und Anbieter einschränkt – nicht nur dann, wenn er in einem Einstellungsmenü verfügbar ist.

Das Unternehmen hat auf konkrete Fehlentwicklungen mit konkreten Kontrollen reagiert, doch die zentrale Frage bleibt ungelöst. Ein landesweites Netzwerk durchsuchbarer Fahrzeugdaten schafft ein strukturelles Datenschutzrisiko, das sich nicht allein anhand einzelner Missbrauchsfälle bewerten lässt. Flocks nächste Phase wird davon bestimmt, ob das Unternehmen unabhängige Prüfung akzeptiert und zeigt, dass seine Schutzmechanismen unter realen Betriebsbedingungen funktionieren.