Технологии распознавание лиц (FRT-facial recognition technology) возвращаются в Соединенные Штаты?
Возможно, поскольку запреты на использование этой технологии и обуздание расовых предубеждений в полиции оказываются под угрозой, на фоне всплеска преступности и усиления лоббирования со стороны разработчиков.
В штате Вирджиния в июле могут отменить запрет на использование систем распознавания лиц местной полицией.
И это примерно через год после его утверждения.
А штат Калифорния и город Новый Орлеан уже в этом месяце могут быть следующими, где могут нажать «кнопку отмены».
Отчеты об убийствах в Новом Орлеане выросли на 67% за последние два года по сравнению с двумя годами раньше, и полиция утверждает, что им нужны все возможные инструменты по борьбе с преступностью.
«Технологии необходимы для раскрытия этих преступлений и привлечения людей к ответственности», — заявил журналистам суперинтендант полиции Шон Фергюсон, тем самым призывая городской совет отменить запрет, вступивший в силу в прошлом году.
Усилия по введению запретов встречают сопротивление в больших и малых юрисдикциях от Нью-Йорка и штата Колорадо до Западного Лафайета, штата Индиана.
Даже Вермонт, последний штат, оставшийся с почти 100%-ным запретом на использование полицией распознавания лиц, в прошлом году отказался от своего закона, чтобы разрешить расследование преступлений на сексуальной почве среди детей.
С 2019 по 2021 год около двух десятков государственных или местных органов власти США приняли законы, ограничивающие распознавание лиц. Исследования показали, что технология менее эффективна при идентификации темнокожих людей, а протесты Black Lives Matter против полиции придали аргументам импульс.
Но текущие исследования Национального института стандартов и технологий федерального правительства (NIST) показали значительный прогресс в области точности в отрасли. И тестирование Министерства внутренней безопасности, опубликованное в прошлом месяце, показало незначительные различия в точности по цвету/тону кожи и полу.
«Растёт интерес к политическим подходам, которые решают проблемы, связанные с технологией, обеспечивая ее использование ограниченным, точным и недискриминационным способом, который приносит пользу сообществам», — сказал Джейк Паркер, старший директор по связям с правительством в лоббистской группе Ассоциации индустрии безопасности.
Изменение настроений может принести её членам, включая Clearview AI, Idemia и Motorola Solutions(MSI.N), большую долю из 124 миллиардов долларов, которые государственные и местные органы власти ежегодно тратят на полицию.
Часть, посвященная технологиям, не отслеживается пристально.
Получение нового контракта с полицией становится все более важным для Clearview, которая на этой неделе урегулировала иск о конфиденциальности изображений, собранных из социальных сетей, согласившись не продавать свою флагманскую систему частному сектору США. Подробнее
Clearview, которая помогает полиции находить совпадения в данных социальных сетей, заявила, что приветствует «любое регулирование, которое помогает обществу получить максимальную выгоду от технологии распознавания лиц, ограничивая потенциальные недостатки».
Idemia и Motorola, которые предоставляют совпадения из правительственных баз данных, отказались от комментариев.
Хотя недавние исследования ослабили сомнения законодателей, дебаты продолжаются.
Администрация общих служб, которая курирует федеральных подрядчиков, заявила в отчете, опубликованном в прошлом месяце, что основные инструменты распознавания лиц непропорционально не соответствовали афроамериканцам в своих тестах. Агентство не ответило на запросы предоставить подробную информацию о тестировании.
Распознавание лиц будет рассмотрено новым Национальным консультативным комитетом президента по ИИ, который недавно начал формировать подгруппу, которой поручено изучить его использование в полиции.
«ПЕРВЫЙ В СТРАНЕ»
В штате Вирджиния одобрили запрет с помощью процесса, который ограничивал вклад разработчиков распознавания лиц.
Начиная с 1 июля полиция сможет использовать инструменты распознавания лиц, которые достигают 98% или более высокой точности по крайней мере в одном тесте NIST с минимальными демографическими изменениями.
«В этом году лоббисты компаний были готовы продвигать законодательство, которое лучше сбалансировало бы индивидуальные свободы с потребностями полицейского расследования», -заявил сенатор штата Скотт Суровелл.
NIST отказался от комментариев, сославшись на практику обсуждения законодательства.
Технические критики заявили, что стандарт имеет благие намерения, но несовершенен, и что для использования технологии распознавания лиц должны потребоваться ордера.
«Решение дискриминационной полиции путем двойной проверки алгоритма немного похоже на попытку решить жестокость полиции, проверив, что пистолет не является «расистским»: строго говоря, это лучше, чем альтернатива, но реальная проблема — это человек, который его держит», — сказал Ос Кейс, сотрудник «Ada Lovelace» в Вашингтонском университете.
Штат Вирджиния запретила наблюдение в режиме реального времени, и совпадения лиц не могут служить вероятным основанием для подачи заявок на ордер. Неправильное использование может привести к проступку.
Лоббист Паркер назвала этот закон «первым в стране, требующим, чтобы точность технологии распознавания лиц, используемой правоохранительными органами, оценивалась правительством США», и «самым строгим в стране сводом правил ее использования».
Бывший делегат Lashrecse Aird штата Вирджинии, которая возглавила прошлогодний законопроект, сказала, что компании в этом году хотели разработать модель, чтобы победить запреты по всей стране.
«Они считают, что это обеспечивает большую подотчетность — это прогресс, но я не знаю», — сказала она.
Это контрастирует с законом штата Вашингтон, который требует, чтобы агентства проводили свои собственные тесты заранее «в рабочих условиях».
«МОМЕНТЫ КРИЗИСА»
В штате Калифорния в 2019 году запретили полиции использовать распознавание лиц на мобильных устройствах, таких как камеры для ношения на теле. Но запрет истекает 1 января из-за положения, добавленного сенаторами штата.
«Теперь новостные сообщения о росте розничных краж и грабежей захватили внимание законодателей», -сказала Дженнифер Джонс, штатный адвокат Американского союза защиты гражданских свобод(ACLU) в Северной Калифорнии.
В результате ACLU столкнулся с сопротивлением со стороны правоохранительных органов, чтобы сделать запрет постоянным.
«Полицейские управления используют страхи людей перед этим преступлением, чтобы накопить больше власти. Так было десятилетиями, мы видим, как новые технологии выталкиваются в моменты кризиса» — сказал Джонс.
Активисты в Нью-Йорке также настаивают на запрете распознавания лиц, несмотря на рост преступности.
Эрик Адамс, который стал мэром в январе, сказал месяц спустя, что его можно безопасно использовать в соответствии с существующими правилами, в то время как его предшественник Билл де Блазио призвал к большей осторожности.
В Западном Лафайете чиновники дважды не смогли ввести запрет на распознавание лиц за последние шесть месяцев, сославшись на его ценность в расследованиях.
“Запретить его или отказаться от его применения было бы немного недальновидно”, — сказал мэр Джон Деннис, бывший полицейский.
Дэвид Сандерс, городской советник, стоящий за предложениями о запрете, сказал, что озабоченность ухудшением низкого морального духа среди офицеров «доминирует над реакцией людей«.
После проигрыша в Виргинии в Новом Орлеане активизировались группы за гражданские свободы.
Десять национальных организаций на прошлой неделе призвали членов совета усилить, а не отменить запрет, сославшись на риск неправомерных арестов, основанных на ошибочных идентификациях.
Местная группа Eye on Surveillance заявила, что штат Новый Орлеан «не может позволить себе вернуться назад«.
Если кто то из вас не имеет достаточного представления о том, как устроена технология распознавания лиц(FRT), вы можете ознакомиться с ней в статье по ссылке
Можно ли обмануть алгоритм распознавания лиц
Несмотря на случающиеся промахи, точность машинного распознавания уже нередко превосходит ту, с какой определяют лица люди.
К примеру в Китае скоро появится система, способная найти конкретного человека среди 1,3 миллиарда других жителей за 3 секунды, с точностью до 90%.
И всё же однозначно на этот вопрос ответить сложно, потому что единственного идеального алгоритма распознавания лиц не существует.
Большие очки, наклеенная борода, кепка, высокая скорость перемещения, специальный макияж (например, нарисованная на лице решётка) — всё это способно запутать алгоритмы.
Особенно всё вышеперечисленное в совокупности, потому что сегодня для распознавания бывает достаточно и 70% открытого лица.
А теперь представьте, что использовать вышеперечисленные ухищрения необходимо в условиях реального города.
Звучит не так уж просто, верно?
Конечно, нельзя бесконечно ограничивать себя в прогулках по улицам, где камеры установлены на каждом перекрестке, однако возможность сохранить свою анонимность сформируется, если будет соответствующий запрос от общества.
Многие наблюдатели считают подобные технологии распознавания лиц «буквальной френологией» и даже связывают их с евгеникой.
В большинстве случаев явная цель этих технологий состоит в том, чтобы контролировать людей и лишать возможностей тех, кто по каким либо причинам считается «непригодным» или даже «неугодным».
Но когда мы сами критикуем подобные алгоритмы, на какую именно проблему мы пытаемся указать?
Мы говорим о несовершенстве методов с научной точки зрения – или же ведём рассуждения о моральной стороне вопроса?
Пусть каждый из вас задумается об этом самостоятельно, и зделает соответствующие выводы.