Flock заявляет, что новый инструмент поможет выявить злоупотребления полиции, но не объясняет, как он работает

Компания Flock, специализирующаяся на технологиях наблюдения, в четверг объявила о новых политиках и инструментах, которые, по её словам, помогут ограничить злоупотребления системой автоматических камер для считывания номерных знаков. Теперь компания рекомендует полицейским департаментам хранить данные в течение семи дней вместо прежних 30. Также вводится «режим доказательств» (Evidence Mode), который можно включать в исключительных случаях, когда данные нужно хранить дольше, и для этого требуется номер конкретного дела. Клиенты смогут ограничивать обмен данными с другими клиентами в зависимости от типа расследуемого правонарушения.

Ключевым изменением компания называет инструмент «Audit Assistance», запущенный в апреле. По данным Flock, уже более трети клиентов включили его, и к концу года он станет обязательным для всех. Компания заявляет, что инструмент «обнаруживает ненормальную активность и отправляет сигнал администратору», а также может автоматически блокировать пользователей до вмешательства администратора. Утверждается, что инструмент уже помог клиентам выявить и остановить злоупотребления.

Однако, несмотря на заявленную важность, Flock не объяснил детально, как именно работает Audit Assistance. В комментариях представители компании упоминали, что он может отмечать подозрительную историю поиска или повторяющиеся поиски одного и того же номера в течение длительного времени. Один из клиентов, майор полиции Данвуди Патрик Криг, описал его как «алгоритм, который уведомляет нас о любой предвзятости».

Flock сообщил TechCrunch, что Audit Assistance не основан на машинном обучении или ИИ. Это инструмент для работы с данными, который отмечает нетипичные шаблоны поиска для дальнейшей проверки. Например, если пользователь ищет один и тот же номер с использованием разных кодов дел, это может указывать на возможное злоупотребление. При этом отметка не означает, что злоупотребление точно имело место, а лишь требует дальнейшего расследования.

Многие вопросы остаются без ответа: есть ли у Flock статистика эффективности инструмента, каковы показатели ложных срабатываний и пропусков, проводилась ли независимая проверка. Правозащитные организации и эксперты настроены скептически. Представитель ACLU Чад Марлоу заявил, что нет доказательств стабильной работы инструмента, и призвал подвергнуть его независимой оценке. Купер Квинтин из Electronic Frontier Foundation считает, что даже работающий инструмент можно обойти, а главное — добиться ответственности за нарушения. Рэйчел Левинсон-Вальдман из Brennan Center назвала обязательное использование Audit Assistance шагом в правильном направлении, но отметила, что сам инструмент нуждается в аудите.

Объявление Flock появилось после нескольких лет сообщений о злоупотреблениях со стороны клиентов компании. На этой неделе трое бывших помощников шерифа из Джорджии были арестованы по обвинению в слежке за людьми, с которыми у них были личные отношения, с использованием камер Flock. Офис шерифа округа Бибб прямо приписал раскрытие этих нарушений инструменту Audit Assistance.