Flock Safetyは、警察による不正利用、車両位置データへの広範なアクセス、そして米国全土で自動監視を拡大する同社の役割をめぐる批判が強まる中で、自社の監視事業を دفاعしている。CEOのGarrett Langley氏は、同社がいくつかの管理機能を任意ではなく必須にする一方で、公共の安全とプライバシーの「妥協」を求めた。

変更の対象となるのは、MIT Technology Reviewによれば約12万台のカメラを含むFlockのナンバープレート読取ネットワークでの検索だ。現在、警官は検索前に事件番号を入力しなければならず、Flockは疑わしい活動を検知するための自動監査システムを義務化している。同社はまた、データ保持の既定期間を30日から7日に短縮するよう推奨している。

こうした措置は、Flockの安全対策が、そのネットワークが可能にする規模の濫用を防げるのかを、選挙で選ばれた公職者、市民的自由団体、地域コミュニティが疑問視する中で導入された。この議論は一社の監視ベンダーにとどまらない。検索可能な位置情報、自動監視、そして民間運営のインフラへの警察アクセスを公的機関がどう統治すべきかを試すものだ。

Flockは任意の安全策を標準システムへ

Flockは、現職または元交際相手を追跡するために自社ツールが使われたとの疑惑を含む反発を受けて、これらの方針変更を発表した。Washington Postの調査では、TechCrunchとMIT Technology Reviewによると、警官が不正利用を行ったとされる46件が特定された。

同社は以前から、事件番号の入力と自動監査をオプションとして提供していた。新ルールでは両方が必須となる。Flockによれば、事件番号は正当な捜査目的を示すためのものであり、監査機能は検索行動を分析して、疑わしいと判断した活動を管理者に通知する。

ただし、これらの管理は完全に独立した検証ではない。MIT Technology Reviewは、Flockが提出された事件番号が本物かどうかを確認しないと報じた。そのため、機関や警官は今後も無意味な、あるいは一般的すぎる情報を入力できる可能性がある。同誌はまた、同様の要件が導入されていた際に、警官が曖昧な説明や嘲笑的な検索プロンプトを入力していたことを示した、American Civil Liberties Unionの以前の調査結果も引用した。

Flockの保存期間変更も、絶対的な上限ではなく推奨にすぎない。各機関は7日間の既定設定を上書きでき、より長い保存を可能にする「Evidence Mode」設定も含まれる。さらに、各部署は他機関による検索を、移民取り締まりではなく拉致事件捜査など特定の目的に限定することもできる。しかし、その保護も結局は、利用者が検索理由を正確に申告することに依存している。

Flockの防御を支える根拠と、批判側の懸念

Langley氏は、疑われる不正利用の被害者が傷ついたことを認めている。ある被害者とされる人物の話を聞いた後、CBS Newsに対し「申し訳ない。彼女がそれを経験したなんて、胸が張り裂けそうだ」と述べた。それでも彼は、Flockが警察の不正を生み出したのではなく、そうした行為を可視化するツールを作ったのだと主張している。

TechCrunchが引用したFox Newsのインタビューで、Langley氏は、国は一方だけを優先するのではなく、プライバシーと安全のバランスを取るべきだと述べた。また、規制と説明責任の不足はFlockや他の技術にも影響していると主張し、州に対してFlockデータの違法利用を犯罪化するよう求めた。

顧客流出についてのFlockの説明には異論がある。Langley氏はMIT Technology Reviewに対し、同社が失ったビジネスの主因は誤情報であり、Flockが顔認識を行っている、あるいは収集データを商業購入者に販売しているという誤解も含まれていたと述べた。ACLUを含む批判者は、同社の能力や方針に関する公的説明に異議を唱えてきた。

新しい監査システムについて最も強い主張は、外部では依然として未検証だ。MIT Technology Reviewによれば、Flockはこのツールの精度指標を公表しておらず、独立評価者にも開放していない。そのため、機関、研究者、一般市民には、疑わしい検索がどの程度検出されるのか、あるいはどれだけの誤検知が発生するのかを判断する明確な基準がない。

反発は政治と契約に広がる

Flockへの反対は、もはや市民的自由団体だけに限られない。TechCrunchは、バーモント州選出のBernie Sanders上院議員やミシガン州の上院候補Abdul El-Sayed氏など、民主党系政治家からの批判を報じた。政治スペクトルの反対側では、下院共和党議員3人が、顔認識、生体認証、またはナンバープレート認識を使う自動監視システムの連邦政府による購入を禁止する法案を提出した。これにはFlockのカメラも含まれる。

MIT Technology Reviewによれば、抗議の中でFlockとの契約を打ち切った都市もある。NPRは、前年に少なくとも30都市が契約を終了したと報じた一方、活動家グループDeFlockはそれより高い数字を示した。Flockは、解約は約5,000の機関顧客のうちごく一部にすぎないと述べているが、契約喪失の正確な規模は依然として把握しにくい。

一部の自治体では、ナンバープレート読取装置そのものへの制限を検討または可決している。ほかの自治体は、AxonやMotorolaのような競合ベンダーへ切り替えている。この流れは、Flockに対し、その変更が住民を守りつつ、警察にとってシステムを使いにくくしすぎないことを示すよう圧力をかけている。

しかしACLUにとって、個別事案は問題の一部にすぎない。組織の上級政策顧問Chad Marlow氏はMIT Technology Reviewに対し、より深刻なのは、令状や違法行為の疑いを立証する根拠なしに捜査可能な位置情報が膨大に存在することだと語った。この見方では、より良い監査は濫用を減らせても、監視の根本的な規模には対処できない。

なぜこの争点がAIと公共部門の構築者に重要なのか

Flockの対応は、AI対応の公共部門システムや自動化システムに共通する統治上の問題を示している。任意の安全策は、機関が使わなくてもよいなら、実際にはほとんど効果を持たない可能性がある。事件番号と監査を必須化するのは重要な運用変更だが、その価値は検証、執行、そして透明な測定に左右される。

企業や政府の購入者にとって、この論争は導入前に決めるべき問いを浮き彫りにする。誰がデータを検索できるのか。どんな証拠が照会を正当化するのか。情報はどれくらいの期間保持されるのか。他機関はアクセスできるのか、できるなら何の目的でか。自動監視からの警告は誰が確認し、管理者が無視したらどうなるのか。

構築者も関連する設計課題に直面している。Flockのシステムは単なるカメラ製品ではなく、機関がデータを提供しアクセスするほどリスクが増す検索可能なネットワークだ。ある部署内では有効な技術的統制も、情報が管轄をまたげば不十分になり得る。AIエージェント、検索システム、公共部門向け分析ツールを開発する製品チームは、監査可能性とアクセス境界を、任意のコンプライアンス機能ではなく中核的な製品要件として扱うべきだ。

この争いは、ベンダーの説明だけでは公共の懸念を収めにくいことも示している。自動監査の独立テスト、濫用事例の公開報告、明確な保存・アクセスログがあれば、機関や住民は内部説明よりも強い根拠を得られる。そうした開示がなければ、Flockの方針変更は測定可能な成果ではなく、主張された意図で評価されることになる。

次に注目すべき点

次の焦点は、Flockが自動監査が不適切な検索を確実に検知している証拠を公表するかどうかだ。企業報告ではなく独立評価があれば、義務化されたシステムが実質的な統制なのか、それとも主に手続き上のものなのかを判断しやすくなる。

地域レベルの契約判断も別の手がかりになる。更新、解約、あるいはAxonやMotorolaへの切り替えを検討する都市は、犯罪対策の主張だけでなく、Flockの保存、他機関連携アクセス、執行ルールが地域要件を満たすかどうかも考慮するだろう。

立法者の次の一手も重要だ。自動監視の購入を対象とする連邦法、違法なデータ利用に対する州レベルの刑事罰、ナンバープレート読取装置への地域的制限は、Flockの内部方針よりも直接的に市場を変え得る。

最後に、「Evidence Mode」やその他の上書き機能への注視が集まる。各機関が保存期間を常態的に延長したり、広範な検索を許可したりすれば、7日間の既定値や目的ベースのアクセス制御の効果は限定的かもしれない。上書きが稀で、記録され、独立して検証できるなら、Flockには新ルールが現実の行動を変えているという、より強い主張ができる。

Creati.aiの見解

Flockの妥協の呼びかけは、自社の有用性を دفاعする監視ベンダーから、執行可能な制限を約束するプラットフォーム運営者へと立場を変えようとする試みだ。この違いは重要だ。プライバシー保護が信頼できるのは、設定メニューにあるというだけでなく、顧客、管理者、ベンダーのいずれも制約するときだけだ。

同社は具体的な失敗に対して具体的な統制で応じたが、中心的な問いは依然として未解決だ。全国規模の検索可能な車両データネットワークは、個別の濫用事例だけで評価できない構造的なプライバシーリスクを生み出す。Flockの次の段階は、独立した精査を受け入れ、実運用条件下で安全策が機能することを示せるかどうかで決まるだろう。