Видеоаналитика толпы: точность, смещения и границы допустимого использования

Короткий ответ

Видеоаналитика толпы объединяет разные инструменты компьютерного зрения — оценку плотности, подсчёт людей, детекцию покинутых предметов и аномалий поведения, — которые по точности и правовому статусу сильно отличаются от биометрической идентификации. Любые метрики здесь остаются оценками с погрешностью, зависящей от плотности сцены, освещения и угла камеры, а алгоритмы работают неравномерно для разных групп людей. Поэтому допустимое применение требует проверяемых заявлений о точности, тестов на смещения и документально зафиксированных границ цели.

Главные выводы

Видеоаналитика толпы выдаёт оценки (плотность, число людей, аномалии), а не точные факты о конкретном человеке; погрешность растёт с плотностью, заслонением и качеством кадра.
Надёжность нельзя свести к одной маркетинговой цифре: нужны ошибки I и II рода, средняя абсолютная ошибка и точность/полнота, измеренные на сценах, похожих на ваши.
Смещения возникают задолго до установки камеры — из состава обучающих данных, размещения камер, освещения и разметки; исследования NIST и ориентиры EDPB подтверждают неравномерность работы алгоритмов для разных групп.
Биометрическая идентификация и простая видеоаналитика толпы различаются и по закону: в ЕС запрещён ряд практик (включая «живое» распознавание в публичных местах), а часть аналитики признаётся высокорисковой.
Допустимое применение начинается с конкретной цели, проверки пропорциональности, DPIA и постоянного надзора человека, а не с покупки «умной» камеры.
Полезен стандарт ISO/IEC TR 24027 как ориентир по методам выявления и устранения смещений на всех этапах жизненного цикла модели.

Относитесь к заявлениям о точности как к условным оценкам

Видеоаналитика толпы обычно возвращает не «факты о человеке», а оценки: сколько людей в зоне, насколько сцена плотная, куда движется поток, есть ли покинутые предметы или необычное поведение. Подсчёт в плотной толпе — это именно оценка: погрешность заметно растёт при высокой плотности, заслонении людей друг другом и перегруженности сцены. Простые счётчики «линии пересечения» могут давать высокую точность в контролируемых условиях, тогда как подсчёт плотной толпы или детекция оставленных предметов остаются более сложными и требуют доказанного измерения погрешности.

Не принимайте единственный процент точности из презентации вендора как характеристику вашей площадки. Требуйте метрики ошибок, измеренные на сценах, близких к вашим: среднюю абсолютную ошибку подсчёта, точность и полноту, частоту ложных срабатываний. Прежде чем разворачивать систему, прогоните её на собственных записях с учётом ваших камер, ракурсов, времени суток и погоды — иначе цифры точности останутся непроверяемыми.

Метрики, которые стоит запросить у вендора: MAE, precision/recall, доля ложных срабатываний и пропусков по классу событий
Проверяйте на собственных данных: разрешение камеры, угол обзора, высокая/низкая освещённость, дождь, ночь, плотность потока
Отдельно измеряйте точность «пиковых» сценариев (выход с мероприятия, давка), где цена ошибки максимальна

Два класса ошибок и их реальная цена

Ложное срабатывание — это сигнал или тревога там, где события не было. Пропуск — необнаружение реального события. Их цена в реальной эксплуатации разная: при диспетчеризации охраны поток ложных срабатываний истощает ресурсы и подрывает доверие операторов, из-за чего они начинают игнорировать и настоящие тревоги. Пропуски же означают, что происшествие, ради которого система и ставилась, остаётся незамеченным.

Оценка точности «вообще» бессмысленна без указания, о каком классе ошибки и о каком сценарии речь. Исследователи NIST подчёркивают, что тип ошибки и характер поиска (один-к-одному при верификации против один-ко-многим при идентификации) несут разные последствия: при идентификации ложное срабатывание помещает невиновного в список кандидатов, требующих дальнейшей проверки. Для вашего решения это означает: фиксируйте заранее, какой класс ошибки для какого сценария неприемлем.

Ложное срабатывание в «один-ко-многим» поиске может привести к ложному обвинению — цена выше, чем при верификации
Ложное срабатывание у подсчёта людей обычно лишь искажает статистику, но у тревоги «аномалия» оно вызывает выезд наряда
Задайте пороги срабатывания исходя из допустимой частоты ложных тревог в вашем центре охраны

Откуда берутся смещения задолго до включения камеры

Алгоритмы обучаются на данных; если какие-то группы людей недостаточно представлены в обучающей выборке, для них чаще возникают ошибки. Смещения появляются и из размещения камеры (слишком высокий/низкий ракурс), освещения (недодержка людей с тёмной кожей или пересвет светлокожих) и разметки. Это касается не только распознавания лиц, но и «неидентифицирующей» видеоаналитики: счётчик людей и детектор поведения тоже зависят от того, кого и как система «видела» при обучении — дети, пользователи инвалидных колясок и люди в нетипичной одежде могут выпадать из выборки.

В исследовании NIST 2019 года по 189 алгоритмам распознавания лиц большинство показали демографические различия: для некоторых алгоритмов уровень ложных срабатываний при сравнении «один-к-одному» у азиатских и афроамериканских лиц был в 10–100 раз выше, чем у европеоидных, при этом ложные отрицания сильно зависели от качества изображения. EDPB в ориентирах по видеонаблюдению отмечает, что программное обеспечение распознавания и анализа работает по-разному в зависимости от возраста, пола и этничности человека, и называет смещение одной из главных проблем видеонаблюдения.

Практический вывод: смещение нельзя устранить одной «настройкой». Стандарт ISO/IEC TR 24027 описывает техники выявления и устранения смещений на всех этапах жизненного цикла — от сбора и разметки данных до тестирования и эксплуатации. Регулярно перепроверяйте систему на вашей аудитории, а не только один раз при приёмке.

Проверяйте систему на разных группах посетителей: по возрасту, полу, мобильности, национальности
Контролируйте качество изображения: освещение и ракурс влияют на ложные отрицания сильнее, чем кажется
Документируйте состав обучающих данных и просите у вендора отчёт о тестировании на разнородных выборках

Видеоаналитика толпы — это не биометрическая идентификация

С юридической точки зрения важно не смешивать «аналитику» и «идентификацию». В ЕС Регламент об ИИ (AI Act) в статье 5 запрещает ряд практик, включая использование систем дистанционной биометрической идентификации «в реальном времени» в общедоступных местах в целях правоприменения (с узкими исключениями и мерами защиты), а также неизбирательный сбор изображений лиц из интернета или записей камер для создания баз распознавания.

Обычная видеоаналитика толпы — оценка плотности, подсчёт, детекция оставленных предметов — не является биометрической идентификацией. Но по Приложению III AI Act в категорию высокорисковых могут попасть системы биометрической категоризации и распознавания эмоций; аналитика, применяемая в правоохранительных целях, также может оказаться высокорисковой. Даже там, где технология не запрещена, действуют требования прозрачности, оценки рисков и надзора. Вне ЕС ситуация различается по юрисдикциям, поэтому нормативный анализ должен проводиться для конкретной страны применения.

Проведите классификацию: аналитика (плотность/подсчёт/поведение) против биометрической идентификации/категоризации
Для ЕС: проверьте соответствие статье 5 и Приложению III AI Act и требованиям высокорисковых систем
Для всех юрисдикций: зафиксируйте правовое основание обработки персональных данных и оцените риски

Как определить допустимые границы до установки системы

Начните с конкретной цели и честного ответа: какое реальное изменение нужно и можно ли его достичь только видеонаблюдением? EDPB подчёркивает, что видеонаблюдение не является необходимостью по умолчанию, если есть другие средства достижения цели. Подход «приватность за счёт проектирования» (privacy by design) должен работать с самого начала: соберите как можно меньше данных, оставьте записи ненадолго, ограничьте цель единственной задачей.

Перед запуском проведите оценку воздействия на защиту данных (DPIA), проверку пропорциональности и прозрачности для людей (информирование). Предусмотрите человека в контуре: аналитический сигнал — это заявка на проверку, а не готовое обвинение; рекомендации Europol для правоохранителей говорят о введении систем только для определённых сценариев, с одобрением старшего руководителя и общественным обсуждением. Опишите, как долго хранятся записи и кто имеет доступ к журналам, и назначьте ответственного за пересмотр точности.

Сформулируйте цель словами, проверяемыми метрикой: не «повысить безопасность», а «сократить среднее время реакции на покинутый предмет в зоне X»
Проведите DPIA до, а не после запуска
Предусмотрите правила «двух пар глаз» при принятии решений на основе сигналов аналитики
Запланируйте регулярный аудит: сравнение сигналов с реальными событиями и пересчёт метрик на новых данных

Практический инструмент

Аудит допустимого применения видеоаналитики толпы перед запуском

Этот чек-лист из восьми пунктов помогает владельцу объекта, оператору охраны или интегратору проверить проект до закупки и развёртывания: отделить заявления вендора от проверяемых фактов, выявить риски смещений и зафиксировать границы использования. Пройдите его как минимум дважды: на стадии требований и перед приёмкой.

Зафиксирована ли единственная конкретная цель и метрика успеха (не «безопасность вообще», а измеримый показатель)?
Доказано ли, что проблему нельзя решить менее инвазивным способом, чем видеонаблюдение (пропорциональность)?
Получены ли от вендора метрики ошибок (MAE, precision/recall, ложные срабатывания/пропуски) на сценах, похожих на вашу, а не один процент точности?
Проведён ли прогон системы на собственных записях с учётом ваших камер, освещения, погоды и пиковых плотностей?
Проверена ли работа на разных группах людей (возраст, пол, мобильность, национальность) и задокументирован ли состав обучающих данных?
Выполнена ли классификация по закону: аналитика против биометрической идентификации; для ЕС — соответствие статье 5 и Приложению III AI Act?
Проведена ли оценка воздействия на защиту данных (DPIA) и определён ли срок хранения записей и круг лиц с доступом?
Есть ли человек в контуре, правило «двух пар глаз» и назначенный ответственный за регулярный пересмотр точности и смещений?

Частые вопросы

Насколько точна видеоаналитика подсчёта толпы на практике?

Точность зависит от сценария и типа сцены. Простые счётчики пересечения линии или подсчёт в зоне при контролируемых условиях могут быть высокоточными, но в плотной или заслонённой толпе результат — это оценка с заметной погрешностью: подсчёт «сверху» в плотных потоках обычно занижает реальное число. Надёжной считайте цифру, измеренную на данных, похожих на ваши: средняя абсолютная ошибка, точность/полнота и частоты ложных срабатываний и пропусков по каждому классу событий. Никогда не полагайтесь на единственный процент точности из презентации.

Чем видеоаналитика толпы отличается от распознавания лиц с точки зрения закона?

Видеоаналитика толпы (плотность, подсчёт, детекция оставленных предметов и аномалий поведения) обычно не устанавливает личность человека, тогда как биометрическая идентификация сравнивает биометрические данные с базой для определения личности. Это разные правовые режимы. В ЕС Регламент об ИИ запрещает ряд практик, включая дистанционную биометрическую идентификацию «в реальном времени» в общедоступных местах в правоохранительных целях (с узкими исключениями), а биометрическая категоризация и распознавание эмоций относятся к высокорисковым системам по Приложению III. Аналитика без идентификации не запрещена автоматически, но к ней применяются требования защиты данных, пропорциональности и надзора человека; вне ЕС режим зависит от местного законодательства.

Как проверить заявления вендора о точности и отсутствии смещений?

Запросите подробные метрики: среднюю абсолютную ошибку, точность и полноту, частоты ложных срабатываний и пропусков, разбитые по типам сцен и, если применимо, по демографическим группам. Узнайте состав и разнообразие обучающих данных и есть ли отчёт о тестировании на разнородных выборках. Затем проведите собственный пилот на записях с ваших камер с учётом освещения, погоды, ракурсов и пиковых плотностей и сравните сигналы системы с реальными событиями. Зафиксируйте метрики до и после настройки порогов. При выявлении смещений требуйте повторного обучения или дообучения на ваших данных.

Когда по Регламенту об ИИ в ЕС применение видеонаблюдения толпы запрещено или высокорисковое?

Статья 5 AI Act запрещает, в частности, использование систем дистанционной биометрической идентификации «в реальном времени» в общедоступных местах в целях правоприменения (кроме узких, чётко прописанных исключений с уведомлением регуляторов и мерами защиты) и неизбирательный сбор изображений лиц из интернета или записей камер для создания баз распознавания. По Приложению III высокорисковыми признаются, в том числе, системы биометрической категоризации и распознавания эмоций, а также ряд систем в правоохранительной сфере. Обычная неидентифицирующая аналитика (плотность, подсчёт) не запрещена автоматически, но для высокорисковых применений действуют строгие требования к данным, документации, надзору человека и регистрации. Режим для каждой конкретной системы нужно проверять по тексту регламента и национальным правилам.

Что даёт оценка воздействия на защиту данных (DPIA) для камерной аналитики?

DPIA заставляет до запуска систематически описать цель обработки, правовое основание, объём собираемых данных, риски для прав людей и меры их снижения. Для видеонаблюдения это практический инструмент: в нём фиксируется, какие данные реально нужны, как долго они хранятся, кто имеет доступ, используется ли аналитика без идентификации и можно ли достичь цели менее инвазивным способом. Регуляторы (например, EDPB) прямо требуют DPIA перед внедрением видеоаналитики на публичных событиях, а подход «приватность за счёт проектирования» означает, что ограничения закладываются в архитектуру с самого начала, а не добавляются постфактум.

Как оператор должен обрабатывать сигналы видеоаналитики, чтобы применение было этичным?

Сигнал аналитики — это заявка на проверку человеком, а не готовый факт или обвинение. Введите правило «двух пар глаз»: по крайней мере два уполномоченных сотрудника должны сверять сигнал с видео перед принятием решения. Обучите операторов учитывать ложные срабатывания и смещения, ведите журналы всех сигналов и решений, ограничьте доступ к записям и срок их хранения. Ограничьте систему одной явной целью и не расширяйте её функциональность молча; регулярно пересматривайте точность и доводите до людей прозрачную информацию о том, что и зачем анализируется.

Источники и дополнительные материалы

Источники проверены при подготовке страницы. Изменяемые даты, нормы и цены уточняйте у первоисточника.

NIST Study Evaluates Effects of Race, Age, Sex on Face Recognition SoftwareNational Institute of Standards and Technology (NIST)
FRTE: Demographic Effects in Face Recognition (summary page)National Institute of Standards and Technology (NIST)
EDPB: Data Protection Guidelines on Video Surveillanceeucrim / ERA (European Data Protection Board coverage)
Step 1: Define User Cases and Goals (Responsible use of computer vision in public space)Open Research Amsterdam / City of Amsterdam
Europol releases report on ethical use of AI video analyticsBiometric Update
Article 5: Prohibited AI Practices (EU AI Act)EU Artificial Intelligence Act (Futurium tracker)
Annex III: High-Risk AI Systems Referred to in Article 6(2) (EU AI Act)EU Artificial Intelligence Act (Futurium tracker)