В последние месяцы споры разразились над различными техническими компаниями, заключающими контракты с различными правоохранительными и военными ведомствами. В Google сотрудники публично выразили отвращение к контракту компании, чтобы предоставить Министерству обороны США технологию искусственного интеллекта. Разочарование было настолько высоким, что некоторые сотрудники Google фактически ушли . Амазонка также столкнулась с внутренней розни, поскольку группа сотрудников распространила внутреннее письмо генеральному директору Джеффу Безосу (который также владеет газетной почтой Washington Post , имеющей тесные связи с разведывательными агентствами США), требуя, чтобы он прекратил продавать программное обеспечение для распознавания лица Amazon по распознаванию правоприменение. В июне « Активист пост» сообщила, что Фонд «Электронный пограничник», Американский союз гражданских свобод, Хьюман Райтс Вотч, Фонд свободы прессы и около 40 других организаций объединились, чтобы потребовать, чтобы Amazon прекратила предоставлять правоохранительным средствам доступ к технологиям наблюдения. Организации подписали письмо в Amazon, которое осуждает компанию за разработку новых инструментов распознавания лиц, которые позволяют осуществлять наблюдение в режиме реального времени с использованием камер органов власти и постоянно растущей взаимосвязанной сети камер в большинстве крупных американских городов. «Amazon активно рекламирует этот инструмент под названием« Rekognition »- для правоохранительных органов, и он уже используется агентствами во Флориде и Орегоне», — писал EFF. «Эта система предоставляет государству огромные и опасные возможности надзора, и это создает угрозу конфиденциальности и свободе общин по всей стране. Это включает в себя многие из собственных клиентов Amazon, которые представляют более 75 процентов американских онлайн-потребителей ». Партнерство Amazon и Google с правоохранительными органами и правительством не только вызвало сопротивление со стороны групп активистов и гражданских свобод. Этот вопрос фактически заставил генерального директора другой технической компании заявить, что его компания не будет вести бизнес с такими агентствами. Брайан Брэккин (Brian Brackeen), генеральный директор компании Kairos, производитель программного обеспечения для распознавания лиц, недавно сделал анонс в выпуске для Tech Crunch . «Имея привилегию всестороннего понимания того, как работает программное обеспечение, я вижу уникальную перспективу, которая сформировала мои позиции в отношении ее использования», — пишет Брэккин. «В результате я (и моя компания) пришел к выводу, что использование коммерческого распознавания лиц в правоохранительных органах или в государственном надзоре любого рода является неправильным — и что оно открывает дверь для грубых нарушений в моральном отношении». Брэккин также утверждает, что текущее программное обеспечение распознавания лиц имеет тенденцию ложно идентифицировать людей с цветом. «Чтобы быть действительно эффективными, алгоритмы, обеспечивающие программное обеспечение для распознавания лиц, требуют огромного объема информации. Чем больше изображений людей, которые он видит, тем больше вероятность их правильной идентификации », — писал Брэккин. «Проблема заключается в том, что существующее программное обеспечение не подвергалось воздействию достаточно изображений людей с цветом, чтобы надежно полагаться на их идентификацию. И неправильная идентификация может привести к неправомерному убеждению или, что еще хуже ».
В Америке нет места для распознавания лиц, которое поддерживает ложные аресты и убийства ».
Брэккин сказал The Wall Street Journal, что его компания отказалась от контрактов на разработку программы распознавания лиц для Axon Enterprise Inc., ранее Taser International, производителя камер для тела и электрического оружия. Он также заявил, что Кайрос отказался создать систему для идентификации людей в толпе из кадры, собранной с помощью беспилотников. Г-н Брэккин преувеличивает свои опасения по поводу того, что программное обеспечение для распознавания лиц и ИИ находятся в руках нынешнего правительства и полиции? Есть ли основания беспокоиться о том, что технические компании продают свои игрушки «властям»? Документы, полученные ACLU Северной Калифорнии недавно показали Rekognition, программа распознавания лица Amazon, в настоящее время используется полицией в Орландо и округе штата Орегон в Вашингтоне. Как и в случае с инструментами для наблюдения сотового телефона Stingray, инструмент требует от правоохранительных органов подписать соглашения о неразглашении, чтобы избежать публичного раскрытия информации. EFF призывает Amazon «противостоять гражданским свободам» и «отключить правоохранительные органы от использования технологии распознавания лиц». В собственном рекламном материале Amazon говорится, что Rekognition может идентифицировать людей в режиме реального времени посредством «мгновенного поиска баз данных, содержащих десятки миллионы лиц ». Amazon предлагает функцию отслеживания людей, которая гласит:« Делает исследование и мониторинг людей простым и точным »для« приложений наблюдения ». Амазонка говорит, что Rekognition можно использовать для определения« всех лиц в групповых фотографиях, переполненных событиях » , а также в общественных местах, таких как аэропорты ». EFF предупреждает, что местная полиция может использовать Rekognition для выявления политических протестующих, зарегистрированных камерами органов власти. Кроме того, Rekognition может отслеживать людей, даже если они не могут видеть их лицо, могут идентифицировать и каталогизировать пол человека, то, что они делают, что они носят, и их эмоциональное состояние. Программа также может обозначать вещи, которые он считает «небезопасными» или «неуместными».