Обнаружены недостатки в распознавании лиц: мужчина из Флориды подал в суд на полицию после того, как 93% совпадений

Мужчина подает в суд на полицию Флориды из-за ареста на основании технологии распознавания лиц, «соответствующей на 93%»

В знаковом деле, подчеркивающем растущую напряженность между технологическим прогрессом и гражданскими свободами, житель Флориды подал иск против местных сотрудников правоохранительных органов после ареста, основанного исключительно на распознавании лиц с достоверностью 93 %. Это дело вызвало ожесточенные споры о надежности технологий биометрического наблюдения и правовых стандартах, регулирующих их использование в уголовных расследованиях.

Подробности дела

В иске, поданном в федеральный суд, утверждается, что истец был незаконно арестован и подвергнут публичному унижению после того, как полиция использовала технологию распознавания лиц, чтобы идентифицировать его как подозреваемого в деле о мошенничестве с чеками. Согласно судебным документам, полицейское управление Пинеллас-Парка использовало алгоритм распознавания лиц, который на 93 % совпал между истцом и видеозаписями реального преступника.

"Я просто шел по своим делам, когда на мое место работы пришли офицеры и арестовали меня", - заявил истец в письменных показаниях. «Они утверждали, что компьютер сопоставил мое лицо с человеком, совершившим преступление, но я никогда не был в местах, где происходили эти инциденты. Это было страшно и неловко».

Технология распознавания лиц в правоохранительных органах

Технология распознавания лиц становится все более распространенной в правоохранительных органах США. Эти системы работают, анализируя черты лица по фотографиям или видео и сравнивая их с базами данных изображений, часто включая фотографии и фотографии с водительских прав.

Эта технология обычно выдает показатель достоверности или процент, показывающий, насколько близко проанализированное лицо соответствует эталонному изображению. Однако критики утверждают, что эти проценты могут вводить в заблуждение, поскольку они не обязательно отражают вероятность того, что идентификация верна.

Юридическая битва

Юридическая группа истца утверждает, что арест представляет собой нарушение Четвертой поправки, защищающей от необоснованного ареста, а также прав Четырнадцатой поправки на надлежащую правовую процедуру. Они утверждают, что совпадение в 93 % не является достаточным основанием для ареста, особенно с учетом известного уровня ошибок технологии распознавания лиц.

"Когда на карту поставлена свобода человека, мы должны требовать большего, чем процент, генерируемый компьютером, который не учитывает реальный уровень ошибок этих технологий", - заявил ведущий адвокат истца. «Это дело касается того, чтобы человеческое суждение и конституционная защита не были затмеваемы непроверенными технологическими упрощениями».

Напротив, сотрудники правоохранительных органов утверждают, что распознавание лиц — это просто еще один инструмент в их следственном арсенале, ничем не отличающийся от показаний очевидцев или других форм доказательств. Они утверждают, что совпадение на 93% в сочетании с дополнительной следственной работой предоставило разумные основания для ареста.

Проблемы технической надежности

Результаты многочисленных исследований подняли серьезные вопросы о точности технологий распознавания лиц, особенно когда они применяются к цветным людям и женщинам. Комплексное исследование, проведенное Национальным институтом стандартов и технологий (NIST) в 2019 году, показало, что многие алгоритмы распознавания лиц демонстрируют более высокий уровень ложного совпадения для лиц афроамериканцев и азиатов по сравнению с лицами европеоидной расы.

В следующей таблице обобщены основные результаты исследований точности распознавания лиц:

Уровень уверенности	Типичная реакция правоохранительных органов	Проблемы в области гражданских свобод
90–95%	Часто достаточно для обоснования причины и ареста	Высокий риск ложных срабатываний
95–98%	Как правило, считается надежным доказательством	По-прежнему существует вероятность ошибки
98%+	Обычно требуется для судебного преследования	Минимальная, но ненулевая частота ошибок

Прецеденты и более широкие последствия

Этот случай произошел не на пустом месте. Несколько юрисдикций уже предприняли шаги по регулированию или ограничению использования правоохранительными органами технологии распознавания лиц. В 2019 году Сан-Франциско стал первым крупным городом, запретившим полиции использовать систему распознавания лиц. За ним последовали другие города, в том числе Бостон и Портленд.

Однако правовая ситуация остается неопределенной. Никакое федеральное законодательство конкретно не касается технологии распознавания лиц, оставляя за собой множество местных и государственных правил. Судам еще предстоит установить четкие стандарты допустимости и значимости доказательств, основанных на распознавании лиц, в уголовном судопроизводстве.

Реакция отрасли

Разработчики технологий распознавания лиц признают ограничения своих продуктов, но утверждают, что улучшения вносятся быстрыми темпами. Многие компании сейчас подчеркивают, что их системы следует использовать в качестве вспомогательного средства для расследования, а не для окончательной идентификации.

"Распознавание лиц не является безошибочным, но это мощный инструмент, который может помочь правоохранительным органам расставлять приоритеты и более эффективно распределять ресурсы", - заявил представитель одного из крупных поставщиков технологий. «Главное — внедрить соответствующие меры безопасности и протоколы человеческого надзора».

Перспектива гражданских свобод

Организации по защите гражданских свобод выражают растущую обеспокоенность по поводу расширения наблюдения за распознаванием лиц без соответствующей правовой защиты. Они утверждают, что эта технология создает потенциал для непрерывного и повсеместного мониторинга, который может ограничить свободу выражения мнений и собраний.

«Когда правительство может идентифицировать и отслеживать людей без их ведома и согласия, это фундаментально меняет отношения между гражданами и государством», — заявил представитель ACLU. "Подобные случаи подчеркивают, почему нам нужна надежная правовая база, прежде чем эти технологии получат широкое распространение".

Путь вперед

Поскольку это дело будет рассматриваться в суде, оно может создать важные прецеденты в отношении правовых стандартов в отношении доказательств, основанных на распознавании лиц. Эксперты по правовым вопросам предполагают несколько возможных последствий:

Суды могут устанавливать минимальные пороги достоверности для идентификации с помощью распознавания лиц.

Требования к предоставлению дополнительных подтверждающих доказательств перед арестом, основанным исключительно на распознавании лиц.

Обязательное раскрытие информации об уровне алгоритмических ошибок и ограничениях для ответчиков.

Разработка общеотраслевых стандартов тестирования и валидации систем распознавания лиц.

Заключение

Иск во Флориде представляет собой критический момент в дебатах о роли искусственного интеллекта в правоохранительной деятельности. Поскольку технология распознавания лиц становится все более сложной и широко распространенной, правовой системе приходится искать баланс между технологическими возможностями и фундаментальной защитой гражданских свобод.

Независимо от исхода этого конкретного дела, оно подчеркивает острую необходимость во всеобъемлющих правовых рамках, которые гарантируют, что технологические инновации будут осуществляться в гармонии с конституционными правами. Этот случай служит напоминанием о том, что, когда на карту поставлена свобода, человеческое суждение и надлежащая правовая процедура никогда не должны подчиняться алгоритмическим определениям, какими бы уверенными они ни казались.

Мужчина подает в суд на полицейских Флориды из-за ареста, вызванного «93% совпадением» в распознавании лиц. Читать статью полностью #facialrecognition #civilrights #lawenforcement Мужчина подал в суд на полицейских Флориды из-за ареста, вызванного «93% совпадением» в распознавании лиц. Читать статью полностью #facialrecognition #civilrights #lawenforcement

Исследование	Год	Основные выводы
НИСТ ФРВТ	2019	Некоторые алгоритмы в 10–100 раз чаще ошибочно распознают лица афроамериканцев и азиатов
Гендерные оттенки MIT	2018	Темнокожих женщин ошибочно идентифицируют до 34%
Тест ACLU	2019	Система распознавания лиц ошибочно идентифицировала 28 членов Конгресса как арестованных