Flock Safety защищает свой бизнес в сфере наблюдения, поскольку усиливается критика из-за злоупотреблений со стороны полиции, широкого доступа к данным о местоположении автомобилей и роли компании в расширении автоматизированного мониторинга по всей территории США. Генеральный директор Garrett Langley призвал к «компромиссу» между общественной безопасностью и приватностью, в то время как компания делает несколько мер контроля обязательными, а не факультативными.

Изменения затрагивают поиск по сети считывателей номерных знаков Flock, которая, по данным MIT Technology Review, включает около 120 000 камер. Теперь офицеры должны вводить номер уголовного дела перед поиском, а Flock требует автоматизированную систему аудита, предназначенную для выявления подозрительной активности. Компания также рекомендовала сократить стандартный срок хранения данных с 30 до семи дней.

Эти меры принимаются в момент, когда избранные должностные лица, правозащитные организации и местные сообщества задаются вопросом, способны ли меры защиты Flock предотвратить злоупотребления в масштабе, который допускает её сеть. Спор важен не только для одного поставщика систем наблюдения: он проверяет, как государственные органы должны управлять доступными для поиска данными о местоположении, автоматизированным мониторингом и доступом полиции к инфраструктуре, которой управляют частные компании.

Flock переводит необязательные меры защиты в системный стандарт

Flock объявила об изменениях политики в ответ на волну критики, в том числе на обвинения в том, что сотрудники полиции использовали её инструменты для слежки за нынешними или бывшими романтическими партнёрами. Расследование Washington Post выявило 46 случаев, в которых офицеров обвиняли в несанкционированном использовании, согласно TechCrunch и MIT Technology Review.

Ранее компания предлагала ввод номера дела и автоматизированный аудит как опции. По новым правилам оба механизма обязательны. Flock заявляет, что номер дела должен подтверждать законную следственную цель, а функция аудита анализирует поисковое поведение и уведомляет администраторов о действиях, которые считает подозрительными.

Эти меры не являются полностью независимой проверкой. MIT Technology Review сообщил, что Flock не будет проверять, являются ли введённые номера дел подлинными. Следовательно, ведомства и офицеры по-прежнему смогут вводить бессмысленную или общую информацию. Издание также сослалось на более ранние выводы American Civil Liberties Union, которая обнаружила, что офицеры вводили расплывчатые объяснения или насмешливые поисковые запросы, когда действовали аналогичные требования.

Изменение сроков хранения у Flock — это тоже рекомендация, а не жёсткий предел. Ведомства могут отменять стандартные семь дней, в том числе с помощью режима «Evidence Mode», допускающего более длительное хранение. Подразделения также могут ограничивать поиск другими ведомствами определёнными целями, например расследованиями похищений, а не иммиграционным контролем. Однако эта защита по-прежнему зависит от того, насколько точно пользователи указывают причину поиска.

Аргументы в защиту Flock и опасения критиков

Langley признал, что пострадавшие от предполагаемых злоупотреблений понесли вред. Выслушав одну из предполагаемых жертв, он сказал CBS News: «Мне очень жаль. Меня разрывает от того, что ей пришлось через это пройти». Тем не менее он утверждает, что Flock не создавала полицейские злоупотребления, а лишь построила инструменты, делающие такое поведение видимым.

В интервью Fox News, которое цитирует TechCrunch, Langley сказал, что страна должна искать баланс между приватностью и безопасностью, а не ставить во главу угла только одно из этих начал. Он также заявил, что недостаточное регулирование и подотчётность затрагивают Flock и другие технологии, и призвал штаты сделать незаконное использование данных Flock уголовным преступлением.

Объяснение Flock по поводу потери клиентов оспаривается. Langley сообщил MIT Technology Review, что основная причина потери бизнеса — дезинформация, включая ошибочное мнение, будто Flock выполняет распознавание лиц или продаёт собранные данные коммерческим покупателям. Критики, включая ACLU, ставили под сомнение публичные заявления компании о её возможностях и политике.

Самые сильные утверждения о новой системе аудита остаются внешне непроверенными. По данным MIT Technology Review, Flock не публиковала показатели точности инструмента и не открывала его независимым оценщикам. Это оставляет ведомства, исследователей и общественность без ясной основы для оценки того, как часто обнаруживаются подозрительные поиски и сколько ложных срабатываний создаёт система.

Негативная реакция распространяется на политику и контракты

Оппозиция Flock уже не ограничивается правозащитными организациями. TechCrunch сообщил о критике со стороны демократических политиков, включая сенатора от Вермонта Bernie Sanders и кандидата в Сенат от Мичигана Abdul El-Sayed. По другую сторону политического спектра три республиканца Палаты представителей внесли законопроект, который запретил бы федеральному правительству покупать автоматизированные системы наблюдения, использующие распознавание лиц, биометрическую идентификацию или распознавание номерных знаков, включая камеры Flock.

MIT Technology Review сообщила, что некоторые города разорвали контракты с Flock на фоне протестов. NPR выяснил, что как минимум 30 городов расторгли контракты в течение предыдущего года, тогда как активистская группа DeFlock сообщила о более высокой цифре. Flock заявила, что отмены составляют лишь небольшую долю примерно 5 000 ведомств, которых компания считает своими клиентами, однако точный масштаб потерь контрактов остаётся трудным для определения.

Некоторые юрисдикции рассматривают или принимают ограничения на считыватели номерных знаков вообще. Другие переходят к конкурентам, таким как Axon и Motorola. Это давление требует от Flock показать, что её изменения могут защищать жителей, не делая систему слишком сложной для использования полицейскими подразделениями.

Однако для ACLU отдельные инциденты — лишь часть проблемы. Chad Marlow, старший советник организации по политике, сказал MIT Technology Review, что более глубокая проблема — это огромный объём информации о местоположении, доступной для расследования без ордера или установленного подозрения в правонарушении. С этой точки зрения более качественный аудит может сократить злоупотребления, но не решает базовый масштаб слежки.

Почему этот спор важен для ИИ и разработчиков в госсекторе

Ответ Flock иллюстрирует повторяющуюся проблему управления для автоматизированных и ИИ-ориентированных систем в государственном секторе: мера защиты, существующая как опция, может иметь мало практического эффекта, если ведомства могут отказаться от её использования. Обязательные номера дел и аудит — это значимое операционное изменение, но его ценность зависит от проверки, принуждения к соблюдению и прозрачного измерения.

Для корпоративных и государственных покупателей эта полемика подчёркивает вопросы, которые следует решить до внедрения. Кто может искать данные? Какие доказательства должны обосновывать запрос? Как долго информация хранится? Может ли к ней получить доступ другое ведомство, и для какой цели? Кто проверяет предупреждения автоматизированного мониторинга и что происходит, когда администратор их игнорирует?

Разработчики сталкиваются с похожей задачей проектирования. Система Flock — это не просто камера; это поисковая сеть, риск которой растёт по мере того, как всё больше ведомств добавляют данные и получают к ним доступ. Технический контроль, работающий в рамках одного департамента, может быть недостаточным, когда информация пересекает границы юрисдикций. Команды, создающие ИИ-агентов, поисковые системы или аналитические инструменты для госсектора, должны рассматривать аудируемость и границы доступа как базовые требования продукта, а не как необязательные функции комплаенса.

Спор также показывает, почему заверения поставщика вряд ли сами по себе снимут общественные опасения. Независимое тестирование автоматизированного аудита, публичные отчёты о случаях злоупотреблений и чёткие журналы хранения и доступа дали бы ведомствам и жителям более веские доказательства, чем внутренние утверждения. Без таких раскрытий изменения политики Flock могут оцениваться главным образом по заявленным намерениям, а не по измеримым результатам.

На что смотреть дальше

Следующей проверкой станет публикация Flock доказательств того, что её автоматизированный аудит надёжно выявляет ненадлежащие поиски. Независимая оценка, а не показатели, заявленные самой компанией, поможет понять, является ли обязательная система существенным контролем или преимущественно процедурной мерой.

Ещё один сигнал дадут местные решения по контрактам. Города, которые рассматривают продление, расторжение или переход к Axon или Motorola, будут оценивать не только заявления о борьбе с преступностью, но и то, соответствуют ли правила Flock по хранению, межведомственному доступу и принуждению к соблюдению местным требованиям.

Дальнейшие шаги законодателей также будут важны. Федеральное законодательство, направленное против закупок автоматизированных систем наблюдения, уголовные наказания на уровне штатов за незаконное использование данных и местные ограничения на считыватели номерных знаков могут изменить рынок сильнее, чем внутренние политики Flock.

Наконец, внимание будет сосредоточено на «Evidence Mode» и других механизмах обхода ограничений. Если ведомства регулярно продлевают срок хранения или разрешают широкие поиски, стандартные семь дней и контроль доступа по целям могут иметь ограниченный эффект. Если же такие исключения редки, фиксируются в журналах и подлежат независимой проверке, Flock сможет убедительнее утверждать, что её новые правила действительно меняют поведение в реальности.

Позиция Creati.ai

Призыв Flock к компромиссу — это попытка перепозиционировать компанию: от поставщика слежки, защищающего её полезность, к оператору платформы, обещающему enforceable limits. Разница важна: защита приватности убедительна только тогда, когда она ограничивает клиента, администратора и поставщика — а не просто доступна в меню настроек.

Компания ответила на конкретные сбои конкретными контролями, но центральный вопрос остаётся нерешённым. Общенациональная сеть поисковых данных о транспортных средствах создаёт структурный риск для приватности, который нельзя оценить только через отдельные случаи злоупотреблений. Следующий этап Flock будет определяться тем, примет ли компания независимый надзор и докажет ли, что её ограничения работают в реальных условиях эксплуатации.