Flock Safety는 경찰의 오남용, 차량 위치 데이터에 대한 광범위한 접근, 그리고 미국 전역에서 자동 감시를 확산시키는 데 회사가 맡고 있는 역할을 둘러싼 비판이 거세지자 자사의 감시 사업을 방어하고 있다. CEO Garrett Langley는 회사가 여러 통제 기능을 선택 사항이 아닌 의무 사항으로 바꾸는 가운데, 공공 안전과 프라이버시 사이의 “타협”을 촉구했다.

이번 변화는 MIT Technology Review에 따르면 약 12만 대의 카메라를 포함하는 Flock의 번호판 판독기 네트워크 전반의 검색에 영향을 미친다. 이제 경찰관들은 검색 전에 사건 번호를 입력해야 하며, Flock은 의심스러운 활동을 표시하도록 설계된 자동 감사 시스템을 의무화하고 있다. 회사는 또한 기본 데이터 보존 기간을 30일에서 7일로 줄일 것을 권고했다.

이러한 조치는 선출직 공직자, 시민자유 단체, 지역사회가 Flock의 안전장치가 그 네트워크가 가능하게 하는 규모의 남용을 막을 수 있는지 의문을 제기하는 가운데 나왔다. 이 논쟁은 한 감시 업체를 넘어서 있다. 검색 가능한 위치 데이터, 자동 감시, 그리고 민간 운영 인프라에 대한 경찰 접근을 공공기관이 어떻게 관리해야 하는지를 시험하고 있기 때문이다.

Flock, 선택 사항이던 안전장치를 기본 시스템으로 전환

Flock은 현직 또는 전 연인 관계에 있던 사람들을 스토킹하는 데 자사 도구가 사용됐다는 주장 등 반발에 대응해 정책 변경을 발표했다. Washington Post의 조사에 따르면, TechCrunch와 MIT Technology Review에 의하면 경찰관의 무단 사용 의혹 사례는 46건이 확인됐다.

회사는 이전에는 사건 번호 입력과 자동 감사를 선택 사항으로 제공했다. 새로운 규정 아래에서는 두 기능 모두 의무다. Flock은 사건 번호가 합법적인 수사 목적을 입증하기 위한 것이라고 설명하며, 감사 기능은 검색 행동을 분석해 의심스럽다고 판단되는 활동을 관리자에게 알린다고 말한다.

하지만 이 통제는 완전히 독립적인 검증 수단은 아니다. MIT Technology Review는 Flock이 제출된 사건 번호가 실제인지 확인하지 않을 것이라고 보도했다. 따라서 기관과 경찰관은 여전히 무의미하거나 일반적인 정보를 입력할 수 있다. 같은 매체는 유사한 요구사항이 있었을 때 경찰관들이 모호한 설명이나 조롱 섞인 검색 문구를 입력했다고 밝힌 American Civil Liberties Union의 이전 조사 결과도 인용했다.

Flock의 보존 기간 변경 역시 절대적 제한이 아니라 권고에 가깝다. 기관은 더 긴 저장을 허용하는 “Evidence Mode” 설정을 포함해 7일 기본값을 덮어쓸 수 있다. 부서는 또한 다른 기관의 검색을 이민 집행이 아니라 납치 수사와 같은 특정 목적에만 제한할 수 있다. 그러나 이 보호도 결국 사용자가 검색 이유를 정확히 밝히는 데 의존한다.

Flock 방어 논리의 근거와 비판자들의 우려

Langley는 의심되는 오남용의 피해자들이 피해를 입었다는 점을 인정했다. 한 피해자라고 주장하는 사람의 이야기를 들은 뒤 CBS News에 그는 “사과드립니다. 그분이 그런 일을 겪었다는 사실이 너무 괴롭습니다”라고 말했다. 그럼에도 그는 Flock이 경찰의 오남용을 만들어낸 것이 아니라, 그런 행위를 드러내는 도구를 만들었다고 주장했다.

TechCrunch가 인용한 Fox News 인터뷰에서 Langley는 미국이 프라이버시와 안전 중 하나만 우선할 것이 아니라 균형을 찾아야 한다고 말했다. 그는 또한 규제와 책임성 부족이 Flock과 다른 기술에 영향을 미친다고 주장하며, 주 정부가 Flock 데이터의 불법 사용을 범죄화해야 한다고 촉구했다.

고객 감소에 대한 Flock의 설명은 논란의 여지가 있다. Langley는 MIT Technology Review에 회사가 사업을 잃은 주된 이유는 잘못된 정보였으며, Flock이 얼굴 인식을 수행한다거나 수집한 데이터를 상업 구매자에게 판매한다는 오해도 포함됐다고 말했다. ACLU를 포함한 비판자들은 회사가 자사의 역량과 정책을 공개적으로 설명하는 방식에 이의를 제기해 왔다.

새 감사 시스템에 대한 가장 강한 주장들은 외부 검증이 아직 이뤄지지 않았다. MIT Technology Review에 따르면 Flock은 이 도구의 정확도 수치를 공개하지 않았고 독립 평가자에게도 개방하지 않았다. 그 결과 기관, 연구자, 대중은 의심스러운 검색이 얼마나 자주 탐지되는지, 또는 시스템이 얼마나 많은 오탐을 만들어내는지 판단할 명확한 근거를 갖지 못한다.

반발은 정치권과 계약으로 확산

Flock에 대한 반대는 더 이상 시민자유 단체에만 국한되지 않는다. TechCrunch는 버몬트주 상원의원 Bernie Sanders와 미시간주 상원 후보 Abdul El-Sayed를 포함한 민주당 정치인들의 비판을 보도했다. 정치 스펙트럼의 반대편에서는 하원 공화당 의원 3명이 얼굴 인식, 생체 인식, 또는 번호판 인식을 사용하는 자동 감시 시스템의 연방정부 구매를 금지하는 법안을 제출했으며, 여기에는 Flock 카메라도 포함된다.

MIT Technology Review는 일부 도시가 시위 속에서 Flock 계약을 해지했다고 보도했다. NPR은 전년도에 최소 30개 도시가 계약을 종료했다고 밝혔고, 활동가 단체 DeFlock은 더 높은 수치를 제시했다. Flock은 해지 사례가 약 5,000개 기관 고객 중 일부에 불과하다고 말하지만, 계약 상실의 정확한 규모는 여전히 파악하기 어렵다.

일부 관할권은 번호판 판독기 자체에 대한 제한을 검토하거나 도입하고 있다. 다른 곳은 Axon이나 Motorola 같은 경쟁 업체로 이동하고 있다. 이러한 움직임은 Flock이 자사의 변화가 경찰 부서가 사용하기 어려울 정도로 시스템을 복잡하게 만들지 않으면서도 주민을 보호할 수 있음을 입증하라는 압박을 받고 있음을 보여준다.

그러나 ACLU에 따르면 개별 사건은 문제의 일부일 뿐이다. 조직의 선임 정책 자문 Chad Marlow는 MIT Technology Review에, 더 깊은 우려는 영장이나 위법 행위에 대한 확립된 의심 없이도 조사에 사용할 수 있는 위치 정보의 엄청난 양이라고 말했다. 이 관점에서 더 나은 감사는 남용을 줄일 수는 있어도 감시의 근본적인 규모를 해결하지는 못한다.

왜 이 논쟁이 AI와 공공 부문 구축자에게 중요한가

Flock의 대응은 AI 기반 및 자동화된 공공 부문 시스템에서 반복적으로 나타나는 거버넌스 문제를 보여준다. 선택 사항인 안전장치는 기관이 사용을 거부할 수 있다면 실제로는 거의 효과가 없을 수 있다. 사건 번호와 감사를 의무화하는 것은 의미 있는 운영 변경이지만, 그 가치는 검증, 집행, 그리고 투명한 측정에 달려 있다.

기업 및 정부 구매자에게 이 논란은 배포 전에 해결해야 할 질문들을 부각한다. 누가 데이터를 검색할 수 있는가? 어떤 증거가 질의를 정당화해야 하는가? 정보는 얼마나 오래 보존되는가? 다른 기관이 접근할 수 있는가, 그리고 어떤 목적인가? 자동 감시 알림은 누가 검토하며, 관리자가 무시하면 어떻게 되는가?

구축자들도 관련된 설계 과제에 직면한다. Flock의 시스템은 단순한 카메라 제품이 아니라, 더 많은 기관이 데이터를 제공하고 접근할수록 위험이 커지는 검색 가능한 네트워크다. 한 부서 내에서 작동하는 기술적 통제도 정보가 관할 경계를 넘나들면 불충분할 수 있다. AI 에이전트, 검색 시스템, 또는 공공 부문 분석 도구를 개발하는 제품팀은 감사 가능성과 접근 경계를 선택적 준수 기능이 아니라 핵심 제품 요구사항으로 다뤄야 한다.

이 논쟁은 또한 공급업체의 보증만으로는 대중의 우려를 해소하기 어렵다는 점을 보여준다. 자동 감사에 대한 독립적 테스트, 오남용 사건의 공개 보고, 명확한 보존 및 접근 로그가 있어야 기관과 주민은 내부 주장보다 더 강한 증거를 얻을 수 있다. 이런 공개가 없다면 Flock의 정책 변화는 측정 가능한 결과가 아니라 명시된 의도에 따라 평가될 가능성이 크다.

다음에 주목할 점

다음 시험대는 Flock이 자동 감사 시스템이 부적절한 검색을 신뢰성 있게 적발한다는 증거를 공개할지 여부다. 회사가 제시한 성능이 아니라 독립 평가가 있어야 의무화된 시스템이 실질적 통제인지, 아니면 주로 절차적 장치인지 판단하는 데 도움이 된다.

지역 계약 결정도 또 다른 신호가 될 것이다. 갱신, 해지, 또는 Axon이나 Motorola로의 전환을 고려하는 도시들은 범죄 대응 주장뿐 아니라 Flock의 보존, 기관 간 접근, 집행 규칙이 지역 요구를 충족하는지도 따져볼 것이다.

입법자들의 다음 행동도 중요하다. 자동 감시 구매를 겨냥한 연방 법안, 불법 데이터 사용에 대한 주 차원의 형사 처벌, 번호판 판독기에 대한 지역 제한은 Flock의 내부 정책보다 더 직접적으로 시장을 바꿀 수 있다.

마지막으로 “Evidence Mode”와 기타 우회 메커니즘에 대한 감시가 집중될 것이다. 기관이 보존 기간을 상습적으로 연장하거나 광범위한 검색을 허용한다면 7일 기본값과 목적 기반 접근 통제의 효과는 제한적일 수 있다. 우회가 드물고, 기록되며, 독립적으로 검토 가능하다면 Flock은 새 규칙이 실제 행동을 바꾸고 있다는 더 강한 주장을 할 수 있다.

Creati.ai 관점

Flock의 타협 요구는 자사의 유용성을 방어하는 감시 업체에서, 집행 가능한 한계를 약속하는 플랫폼 운영자로 스스로를 재정위치시키려는 시도다. 이 구분은 중요하다. 프라이버시 보호는 설정 메뉴에 존재한다는 사실만으로는 신뢰할 수 없고, 고객·관리자·공급업체 모두를 제약할 때만 신뢰할 수 있다.

회사는 구체적인 실패에 대해 구체적인 통제로 대응했지만, 핵심 질문은 여전히 풀리지 않았다. 전국 규모의 검색 가능한 차량 데이터 네트워크는 개별 오남용 사례만으로 평가할 수 없는 구조적 프라이버시 위험을 만든다. Flock의 다음 단계는 독립적 검증을 수용하고 실제 운영 환경에서 안전장치가 제대로 작동함을 입증할 수 있는지에 의해 결정될 것이다.