AI News

隨著外界對警方濫用、對車輛位置資料的廣泛存取,以及該公司在美國擴大自動化監控中的角色批評升溫,Flock Safety 正在捍衛其監控業務。執行長 Garrett Langley 呼籲在公共安全與隱私之間取得「妥協」,同時公司也將多項控制措施由選用改為強制。

這些變更影響的是 Flock 的車牌辨識器網路中的搜尋;根據 MIT Technology Review,該網路約包含 12 萬台攝影機。現在,警員在搜尋前必須輸入刑事案件編號,而 Flock 也要求啟用一套自動稽核系統,用來標示可疑活動。公司同時建議將預設資料保留期從 30 天縮短為 7 天。

當民選官員、公民自由團體與地方社區質疑 Flock 的防護措施是否能阻止其網路所能帶來的大規模濫用時,這些作法隨之而來。這場辯論不只關乎單一監控供應商:它正在測試公共機構應如何治理可搜尋的位置資料、自動化監控,以及警方對私人營運基礎設施的存取。

Flock 將可選防護措施納入預設系統

Flock 在回應一波反彈時宣布這些政策變更;其中包括指控警員使用其工具跟蹤現任或前任戀愛對象。根據 TechCrunch 和 MIT Technology Review,華盛頓郵報的調查指出,有 46 起案件中,警員被指控未經授權使用該工具。

該公司先前將輸入案件編號與自動稽核設為選項。新規則下,兩者都變成強制要求。Flock 表示,案件編號是為了建立合法的調查目的,而稽核功能則會分析搜尋行為,並向管理員警示其認定可疑的活動。

這些控制並非完全獨立的檢查。MIT Technology Review 報導指出,Flock 不會驗證提交的案件編號是否真實。因此,機構與警員仍可能輸入毫無意義或過於籠統的資訊。該報導也引用了 American Civil Liberties Union 先前的發現:在類似要求存在時,警員會輸入模糊的說明,甚至帶有嘲諷意味的搜尋提示。

Flock 對資料保留期的調整也只是建議,而非絕對限制。機構可以覆寫 7 天預設值,包括使用允許更長保存時間的「Evidence Mode」設定。各部門也可以將其他機構的搜尋限制為特定用途,例如綁架調查而非移民執法。不過,這項保護仍仰賴使用者準確說明搜尋原因。

支撐 Flock 辯護的證據,以及批評者的疑慮

Langley 承認,據稱遭到濫用的受害者確實受到了傷害。在聽到一名據稱受害者的說法後,他對 CBS News 表示:「我很抱歉。她經歷那些事,真的讓我很難受。」儘管如此,他仍主張 Flock 並沒有創造警方濫用,而是建立了能讓這類行為被看見的工具。

在 TechCrunch 引述的 Fox News 訪問中,Langley 表示,美國應在隱私與安全之間尋求平衡,而不是只優先其中一方。他也認為,監管與問責不足同樣影響 Flock 與其他技術,並呼籲各州將非法使用 Flock 資料的行為定為刑事犯罪。

Flock 對客戶流失的解釋也受到質疑。Langley 告訴 MIT Technology Review,錯誤資訊是公司失去業務的主因,包括誤以為 Flock 會進行臉部辨識,或將蒐集到的資料出售給商業買家。包括 ACLU 在內的批評者,則質疑該公司對自身能力與政策的公開說法。

關於新稽核系統最有力的說法,外部仍未獲證實。根據 MIT Technology Review,Flock 尚未公開該工具的準確率數據,也未向獨立評估者開放。這讓機構、研究人員與公眾缺乏清楚基準來判斷可疑搜尋被偵測到的頻率,以及系統產生多少誤報。

反彈正擴散到政治與合約層面

對 Flock 的反對已不再侷限於公民自由組織。TechCrunch 報導,民主黨政治人物也提出批評,包括佛蒙特州參議員 Bernie Sanders 與密西根州參議員候選人 Abdul El-Sayed。另一方面,三名眾議院共和黨人提出一項法案,將禁止聯邦政府採購使用臉部辨識、生物特徵識別或車牌辨識的自動監控系統,其中包括 Flock 的攝影機。

MIT Technology Review 報導,一些城市在抗議聲中終止了 Flock 合約。NPR 發現,前一年至少有 30 座城市終止合約,而倡議團體 DeFlock 則報出更高數字。Flock 表示,取消合約只占其約 5,000 個機構客戶中的一小部分,但實際的合約流失規模仍難以確定。

有些司法管轄區正在考慮,或已通過,全面限制車牌辨識器。另一些則轉向 Axon、Motorola 等競爭供應商。這股趨勢迫使 Flock 必須證明,其變革能保護居民,同時又不會讓警方部門難以使用系統。

不過,對 ACLU 而言,個別事件只是問題的一部分。該組織的資深政策顧問 Chad Marlow 告訴 MIT Technology Review,更深層的擔憂在於:有龐大數量的位置資訊可在沒有搜索令或既定不法嫌疑的情況下被用來調查。從這個角度看,更好的稽核也許能減少濫用,但無法解決監控本身的規模問題。

為何這場爭議對 AI 與公共部門建置者很重要

Flock 的回應說明了 AI 驅動與自動化公共部門系統反覆出現的一項治理問題:如果機構可以選擇不使用某項防護,那麼它即使存在也可能幾乎沒有實際效果。強制輸入案件編號與稽核是一項重要的作業變革,但其價值取決於驗證、執行與透明衡量。

對企業與政府買家而言,這場爭議突顯了在部署前就應解決的問題。誰可以搜尋資料?什麼證據能正當化一次查詢?資料會保留多久?其他機構能否存取,若能,是為了什麼目的?自動監控的警示由誰審查?如果管理員忽略了警示又會發生什麼?

建置者也面臨相關的設計挑戰。Flock 的系統不只是攝影機產品;它是一個可搜尋的網路,而隨著更多機構提供資料並取得存取權,其風險也會上升。若資訊跨越管轄邊界,即使某項技術控制在單一部門內有效,也可能不足。開發 AI 代理、搜尋系統或公共部門分析工具的產品團隊,應將可稽核性與存取邊界視為核心產品需求,而非可有可無的合規功能。

這場爭議也說明,為何供應商的保證不太可能單靠自身就平息公眾疑慮。若有自動稽核的獨立測試、濫用事件的公開報告,以及清楚的保留與存取紀錄,將比內部說法更能讓機構與居民信服。若缺少這些揭露,Flock 的政策變更可能主要只會依其聲稱意圖來評判,而非可衡量的結果。

接下來值得關注的重點

下一個測試將是 Flock 是否會公布證據,證明其自動稽核能可靠偵測不當搜尋。若能有獨立評估,而非僅依公司自述的績效,將有助於判斷這套強制系統究竟是實質控制,還是主要只是程序性措施。

地方合約決策也會提供另一個訊號。正在考慮續約、取消,或改用 Axon、Motorola 的城市,不只會衡量打擊犯罪的主張,也會評估 Flock 的保留、跨機構存取與執行規則是否符合地方需求。

立法者接下來的動作同樣重要。針對自動監控採購的聯邦法案、對非法使用資料的州級刑事處罰,以及對車牌辨識器的地方限制,都可能比 Flock 內部政策更直接地重塑市場。

最後,外界也會聚焦於「Evidence Mode」與其他覆寫機制。如果機構經常延長保留期或允許大範圍搜尋,那麼 7 天預設值與基於目的的存取控制可能效果有限;若覆寫情況罕見、可記錄且能被獨立審查,Flock 將更有力地證明其新規則正在改變現實中的行為。

Creati.ai 觀點

Flock 呼籲妥協,顯示其正試圖從一個 دفاع自身用途的監控供應商,重新定位為承諾可執行限制的平台營運者。這個區別很重要:隱私保護只有在能約束客戶、管理員與供應商時才可信,而不只是存在於設定選單裡。

公司已針對具體失誤提出具體控制,但核心問題仍未解決。一個全國性的可搜尋車輛資料網路,會帶來結構性的隱私風險,不能只透過個別濫用案例來評估。Flock 的下一階段將取決於它是否接受獨立審視,並證明其防護機制在真實營運條件下有效。

精選

監控公司面臨日益強烈反彈之際,Flock 執行長呼籲「妥協」

在公眾監督日益加劇之際,Flock Safety 正在收緊對車牌資料的存取,而執行長 Garrett Langley 則呼籲在隱私與安全之間取得妥協。