Только, чур, не подсматривать! В Сан-Франциско полицейским запретили использовать технологию распознавания лиц на видео

«В этом году все уличные видеокамеры Москвы подключат к системе распознавания лиц, позволяющей с большой точностью идентифицировать личность», — рапортовало РИА «Новости» 10 мая. Система тотальной уличной слежки — с поиском по истории передвижений и маршрутов, мгновенными уведомлениями о появлении на улице разыскиваемого человека или несанкционированном массовом собрании — описывается в статье информагентства фразой «мечта урбаниста». Артем Кухаренко из компании NtechLab, создавшей алгоритм распознавания Findface, называет ложное срабатывание маловероятным, но добавляет: «Если система работает на границе, лучше отправить человека на дополнительную проверку, чем пропустить потенциального нарушителя». 

Подобные доводы не убедили власти американского Сан-Франциско — город, который считается родиной многих современных технологий, первым в США законодательно ограничил их применение. Сегодня городской совет одобрил запрет на использование алгоритмов по распознаванию лиц сотрудниками полиции и иных муниципальных структур. Восемь из девяти присутствовавших на заседании членов совета высказались за запрет; теперь постановлению предстоит пройти второе чтение, которое считается скорее формальностью. 

Документ вносит в городской устав требование об обязательном получении муниципальными служащими специального разрешения горсовета на применение средств распознавания лиц на видео — эта мера касается не только закупки нового оборудования и программ, но и уже имеющихся в распоряжении чиновников средств, которые подлежат теперь инвентаризации и сертификации. Также горсовет требует ежегодного отчета об использовании всех возможных видов оборудования для слежки за горожанами. Под определение попадает «любое программное обеспечение, электронный прибор, система, использующая электронный прибор или аналогичный ему разработанный для сбора, хранения, обработки или передачи аудио-, электронной, визуальной, геолокационной, термальной, биометрической, обонятельной и аналогичной информации, имеющей <...> потенциал для идентификации любого гражданина или группы граждан». Под оборудованием для слежки понимаются, в том числе, ложные базовые станции (IMSI-catchers, оборудование для перехвата переговоров), автоматические ридеры номерных знаков, системы улавливания звука выстрелов, носимые на обмундировании сотрудников полиции камеры, наборы для забора образцов ДНК, приложения для мониторинга соцсетей, считыватели RFID-меток, инструменты взлома компьютеров и сетей. 

Решение о запрете распознавания лиц стало принципиальным, поскольку сейчас полицейский департамент Сан-Франциско такие технологии не использует — хотя и проводил испытания на фотографиях задержанных в 2013–2017 годах.

Один из ключевых авторов законопроекта, член городского совета Сан-Франциско Аарон Пескин перед началом голосования подчеркнул, что «это не антитехнологическая мера», но процесс распознавания лиц в видеопотоке должен быть строго подотчетным как «беспрецедентно опасный и ущемляющий права».

«Поддерживать образ мировой столицы технологий можно, только осознавая свою ответственность за устранение перегибов», — пояснил он. Запрет поддержала коалиция 25 правозащитных организаций различного профиля; в их числе — Американский союз защиты свобод (ACLU) , Совет по американо-исламским отношениям Калифорнии (CAIR California), Фонд электронных рубежей (EFF), Фонд свободы прессы, Комитет по расовой справедливости, Национальный центр лесбийских прав, Коалиция в интересах бездомных Сан-Франциско и другие НКО. 

Юрист ACLU Мэтт Кейгл приветствовал решение законодателей Сан-Франциско, подчеркнув, что технология распознавания лиц в толпе «дает властям беспрецедентные возможности слежки за людьми в повседневной жизни», что «несовместно со здоровой демократией». Кейгл и его единомышленники отмечали, что сегодня затруднительно даже в общих чертах оценить распространение технологии на территории США: «Власти и частные компании попросту держат эту информацию в секрете, и общественность по большей части не в курсе происходящего». Известно лишь, что распознающие камеры установлены в аэропортах, на стадионах и в других публичных местах — в распоряжении ФБР, к примеру, уже к 2016 году было свыше 400 млн снимков из разных баз данных. 

Выступление на заседании горсовета юриста EFF Шахида Буттара

Против ограничений активно выступали представители бизнеса. На предыдущих слушаниях в горсовете Сан-Франциско два десятка предпринимателей пытались высказать свое недовольство тем, что постановление фактически запрещает им давать полицейским доступ к видео с собственных камер наблюдения ради борьбы с магазинными кражами. Членов горсовета эти доводы не убедили: полицейские по-прежнему смогут просматривать видео со скрытых камер наблюдения, но без использования баз данных для распознавания лиц покупателей, попавших в кадр. 

Во время обсуждения законопроекта в адрес городского совета Сан-Франциско поступили десятки писем. Так, организация Stop Crime SF, члены который борются за снижение уровня преступности в своих районах, выражала обеспокоенность инициативой, которая «серьезно осложнит работу правоохранительных органов по борьбе с преступностью при помощи видеокамер».

«Никто не делает вид, что технология распознавания лиц идеальна, особенно в свете проблем с опознанием людей с отличным от белого цветом кожи, — писали активисты организации. — После взрывов на Бостонском марафоне полицейские потратили более четырех тысяч часов на поиск террористов. Камеры наблюдения помогают охватить участки с недостаточным присутствием полиции. Также видеозаписи беспристрастны и дают возможность составить полную картину событий» (авторы письма используют оборот total recall — так же назывался фантастический триллер с Арнольдом Шварценеггером в главной роли, который в российском прокате шел под названием «Вспомнить все»). 

«Пожалуйста, внесите в "Постановление о прекращении секретной слежки" поправки, позволяющие полицейским использовать видео с камер наблюдения, которое добровольно предоставляют владельцы домов и предприятий», — просила Нэнси Панело, автор одного из многочисленных писем в горсовет, которые пестрят шаблонными формулировками вроде making us less safe («мы будем хуже защищены») и jeopardize public safety («поставит под удар общественную безопасность»). 

Тем временем аналогичные запреты готовятся ввести городские советы соседнего Окленда (там муниципалов уже обязали объяснять необходимость закупки распознающих камер) и располагающегося на восточном побережье США Сомервилла; в штате Массачусетс обсуждается мораторий на использование технологии распознавания лиц и прочих биометрических систем удаленной слежки, а в Конгресс США внесен законопроект, запрещающий собирать при помощи систем распознавания лиц данные о покупателях без их согласия. К Конгрессу неоднократно обращалась Microsoft, которая просит установить четкие законодательные рамки дозволенного в сфере распознавания лиц; глава корпорации Сатья Наделла предупреждал, что отсутствие государственных стандартов приведет к «гонке по нисходящей» на рынке и бесконтрольному вмешательству в жизнь граждан.  

С подобными заявлениями выступала и Amazon, однако эта корпорация сама разрабатывает программу распознавания лиц по потоковому видео в реальном времени Rekognition и продает ее полицейским. Летом прошлого года правозащитники из ACLU провели эксперимент: через систему прогнали фото членов Конгресса, и 28 конгрессменов были опознаны алгоритмом как «преступники», при этом среди политиков с темным цветом кожи ошибочные срабатывания оказались более частыми. В январском исследовании Массачусетского технологического института (MIT) программа Rekognition безошибочно определяла пол мужчин со светлой кожей, но принимала женщин за мужчин в 19% случаев, а темнокожих женщин — в 31% случаев. Проблемы с разработкой Amazon не уникальны: в прошлом году похожие ложные срабатывания были получены исследователями на системах Microsoft, IBM и китайской компании Megvii.

«Медиазона» подробно писала о системах распознавания лиц, которые внедряют российские власти — на примере политического активиста Михаила Акселя, данные которого сотрудники Центра «Э» внесли в базу разыскиваемых лиц. 

Редактор: Дмитрий Ткачев

Обновлено в 12:30 Добавлена информация о том, что в настоящее время полиция Сан-Франциско не использует технологии распознавания.