Этика исследований компьютерного зрения в публичном пространстве

Почему публичное пространство — особый этический режим

Съёмка в месте, открытом для свободного посещения, часто воспринимается как нейтральная и «разрешённая», однако для исследователя компьютерного зрения это иллюзия. Камеры, дополненные видеоаналитикой, способны не просто фиксировать сцену, а распознавать людей, восстанавливать их перемещения и строить выводы, которые человек в кадре не ожидает и не контролирует. Методические материалы Амстердама по мониторингу толпы прямо предупреждают: необходимо с самого начала отдавать отчёт в инвазивности технологий наблюдения в социальном контексте и оценивать не только пользу, но и долгосрочные риски для прав, доверия и приватности.

Особенность публичного пространства в том, что согласие здесь почти всегда отсутствует или не может быть осмысленным. В отличие от лабораторного эксперимента с подписанным информированным согласием, прохожий не знает, что его лицо попало в обучающий набор или в систему видеоаналитики. Это смещает этическую нагрузку с индивидуального согласия на институциональную ответственность: именно исследователь и оператор должны заранее обосновать, почему наблюдение необходимо, насколько оно соразмерно и какие гарантии защищают права случайных людей. Массовость наблюдения также меняет поведение людей, создавая охлаждающий эффект, когда человек избегает законных действий из-за страха быть отслеженным.

• Оценивайте не только пользу, но и совокупный вред от массовой фиксации людей.
• Помните: ожидание приватности существует и в публичных местах.
• Учитывайте «охлаждающий эффект» на свободу собраний и самовыражение.

Правовой контур: общие сведения по юрисдикциям, а не консультация

В России использование изображения гражданина регулируется статьёй 152.1 Гражданского кодекса: согласие не требуется при съёмке в местах, открытых для свободного посещения, или на публичных мероприятиях, если изображение не является основным объектом использования, а также в государственных, общественных или иных публичных интересах. Параллельно закон о персональных данных (152-ФЗ) требует письменного согласия для обработки биометрических персональных данных, за исключением узких случаев. На практике суды подходили к городским системам распознавания лиц по-разному: московский районный суд в одном деле решил, что видеоаналитика без процедуры установления личности не создаёт биометрических данных, тогда как эксперты указывали на нерешённые вопросы об операторе данных и минимизации их сбора.

Отдельно действует добровольный Кодекс этики в сфере искусственного интеллекта, принятый Альянсом в сфере ИИ в октябре 2021 года: он задаёт риск-ориентированный подход, принципы непричинения вреда, предосторожности, безопасности данных и ответственности соразмерно возможному ущербу, а также поощряет назначение ответственных по этике. На наднациональном уровне Европейский суд по правам человека в деле «Глухин против России» (2023) назвал распознавание лиц высокоинтрузивной технологией: её использование властями допустимо только при ясном, доступном и предсказуемом законе и реальных гарантиях от произвола; в самом деле суд усмотрел нарушение права на частную жизнь и свободу выражения. Всё это — общая информация, а не юридическое заключение: нормы меняются, поэтому для конкретного проекта обращайтесь к квалифицированному юристу по релевантной юрисдикции.

• Проверяйте правовой статус изображения и биометрии в стране сбора и в стране обработки.
• Отделяйте обезличенную аналитику толпы от идентификации конкретных лиц.
• Учитывайте, что международные стандарты (например, ЕСПЧ) могут применяться к проекту.

От цели к соразмерности: как строить исследование

Этически зрелый проект начинается не с модели, а с формулировки цели. Практический вопрос из руководства Амстердама звучит жёстко: существует ли реальная проблема, которую можно решить только с помощью камер и компьютерного зрения, и как снизить инвазивность до минимума? Если задача решается счётчиком людей, тепловым датчиком или анонимными данными — стоит предпочесть менее интрузивное решение. Принцип privacy by design, заложенный в том числе в европейское регулирование данных, означает, что защита приватности проектируется в систему с самого начала, а не добавляется постфактум.

На этапе планирования полезно зафиксировать, какие гипотезы проверяются, есть ли ресурсы их подтвердить и как будет измеряться успех и реальное воздействие. Если наблюдение неизбежно, нужно оценить пропорциональность: соответствует ли объём и характер данных заявленной пользе и нет ли более мягкой альтернативы. Для исследователя это означает ещё и честность перед собой о потенциальных вредных применениях технологии — даже если непосредственная задача кажется нейтральной, метод может попасть в руки тех, кто использует его для слежки или профилирования, поэтому в публикации стоит обсуждать возможные злоупотребления и меры защиты.

Данные: согласие, биометрия и смещения

Отдельного внимания требует жизненный цикл данных: сбор, разметка, хранение и удаление. Ориентиры из этических правил крупных конференций по компьютерному зрению предписывают проверять, содержится ли в наборе личная информация, давали ли люди согласие на сбор, можно ли по данным вывести сведения, которые человек не хотел раскрывать, и не закрепляют ли они предвзятость по полу, возрасту, расе и другим характеристикам. Эксперименты с участием людей должны проходить рецензирование профильным этическим комитетом (IRB или аналогом), а при работе в юрисдикциях с сильным регулированием данных необходимо предусмотреть механизм удаления человека из набора.

Показательна судьба набора DukeMTMC-ReID, использовавшегося в исследованиях трекинга людей: он был изъят авторами и его не следует использовать в новых работах. Это напоминание, что доверие сообщества и права людей важнее удобства готового набора. Для публичного пространства особый риск — смещения: если система обучалась на одних группах людей, а применяется к другим, ошибки распределяются неравномерно и чаще бьют по уязвимым сообществам. Поэтому ошибки следует отчитывать в разбивке по демографическим группам, а оценку проводить не на синтетике, а на данных, отражающих реальное разнообразие места применения.

• Не используйте изъятые или дискредитированные наборы данных.
• Фиксируйте согласие или законное основание на каждый источник.
• Отчитывайте метрики в разбивке по группам, а не только усреднённо.
• Предусмотрите удаление и право на забвение для участников набора.

Прозрачность, оценка рисков и публикация

Завершающий слой ответственности — видимость решений. Прозрачность означает, что людей информируют о наблюдении, а результаты исследования можно проверить и оспорить. Как показывают разборы дела «Глухин», непрозрачность систем распознавания затрудняет человеку доказать сам факт слежки и защитить себя, что бьёт по справедливости процедур. Для исследователя это повод публиковать не только впечатляющие метрики, но и ограничения, источники данных и процедуры контроля качества.

Крупные конференции по компьютерному зрению уже встроили этику в рецензирование: работы с существенными рисками направляются в этический комитет, а в тексте ожидается обсуждение воздействия на разные группы стейкхолдеров и возможных мер смягчения — от контролируемого релиза моделей до механизмов мониторинга злоупотреблений. Такой же дисциплины стоит придерживаться и вне конференций: фиксировать риск-оценку, назначать ответственного по этике, а перед масштабированием системы — проводить оценку воздействия на права человека. Хорошая практика — рассматривать этику не как разовую проверку, а как цикл, повторяемый при каждой новой цели, наборе данных или сценарии применения.