Технологія розпізнавання осіб недосконала і при використанні може завдати шкоди ні про що не підозрюючим людям.
Сан-Франциско незабаром стане першим містом США, що заборонило поліції та іншим міським службам використовувати автоматичне розпізнавання осіб. Це відображає зростання негативної реакції на технології, впроваджувані в аеропортах, засобах пересування, магазинах, стадіонах і камерах домашньої охорони.
Державні установи в США вже понад 10 років використовують технологію розпізнавання для сканування баз даних підозрюваних і запобігання шахрайству з особистими даними. Однак останні досягнення в області штучного інтелекту дозволили створити більш досконалі інструменти комп'ютерного зору, полегшують поліції знаходити зниклих дітей або протестуючих у рухомому натовпі людей, а в торгівлі - аналізувати вираз обличчя покупця при перегляді полиць магазинів.
Зусилля з обмеження використання цієї технології стикаються з відсіччю силових структур і технологічної індустрії. Microsoft закликає не до прямої заборони, а до встановлення обмежень, попереджаючи, що відсутність контролю над застосуванням технології може призвести до антиутопії, що нагадує роман Орвелла «1984».
"Розпізнавання осіб - одна з технологій, що визнаються людьми моторошною, - говорить Альваро Бедойя (Alvaro Bedoya), керівний Центр приватності і технології (Center on Privacy and Technology) в Джорджтаунському університеті (Georgetown University). У цій технології є те, що дійсно змушує волосся ворушитися ".
За словами скептиків, якщо використовувати технології без правил, що забороняють правоохоронним органам отримувати доступ до баз даних водійських прав, може статися так, що люди, які ніколи не були заарештованими, без свого відома можуть потрапити під підозру віртуальної поліції.
Скептики турбуються, що одного разу люди не зможуть піти в парк, магазин або школу, не будучи ідентифіковані або відстежені.
Вже кілька великих магазинів по всій території США випробують камери з розпізнаванням облич, здатні вгадувати вік, стать або настрій клієнтів, що проходять повз, з метою показу цільової реклами в реальному часі на відеоекранах магазинів.
Якщо Сан-Франциско прийме пропозицію про заборону, за цим можуть послідувати інші міста, штати і навіть Конгрес. Законодавці обох партій будуть прагнути обмежити спостереження з боку уряду. Всі інші будуть сподіватися обмежити аналіз емоцій і ходи ні про що не підозрюють людей представниками бізнесу.
Законодавчі збори Каліфорнії розглядають пропозицію, що забороняє використання технології встановлення особи на нагрудних відеореєстраторах. Законопроект, ініційований в Сенаті США представниками обох партій, не виключає поліцейського застосування, але пропонує встановити обмеження щодо аналізу осіб людей без їх згоди для приватного сектора.
Бедойя каже, що заборона в Сан-Франциско, «найбільш технологічно просунутому місті США», буде попередженням іншим поліцейським управлінням, які замислюються про випробування цієї недосконалої технології. Але Даніель Кастро (Daniel Castro), віце-президент підтримуваного компаніями Фонду інформаційних технологій та інновацій, заявив, що ця постанова занадто жорстка, щоб служити зразком для наслідування. «У Сан-Франциско він може домогтися успіху, але я буду здивований, якщо його схвалять в інших містах», - сказав він.
У Сан-Франциско знаходяться такі технологічні інноватори як Uber, Airbnb і Twitter, але відносини міста з цією галуззю досить напружені.
У той же час, Сан-Франциско приділяє велику увагу захисту іммігрантів, громадянських свобод і недоторканності приватного життя. У листопаді майже 60% виборців схвалили пропозицію щодо зміцнення принципів конфіденційності даних.
Запропонована містом заборона на розпізнавання осіб є частиною більш широкого законодавчого процесу, спрямованого на регулювання використання відеоспостереження міськими відомствами. Законодавство застосовується тільки до керівництва Сан-Франциско і не зачіпає компанії або людей, які бажають використовувати дану технологію. Це також не вплине на використання системи розпізнавання осіб у міжнародному аеропорту Сан-Франциско, де безпека в основному контролюється федеральними органами.
Поліція Сан-Франциско повідомляє, що припинила тестування розпізнавання осіб у 2017 році. Прес-секретар Девід Стівенсон (David Stevenson) сказав у заяві, що департамент з нетерпінням чекає «розробки законодавства, що враховує проблеми конфіденційності в застосуванні технологій, забезпечуючи при цьому баланс інтересів громадської безпеки в зростаючому багатонаціональному місті».
Керівник Аарон Пєскін (Aaron Peskin) визнає, що законодавство під назвою «Постанова про припинення таємного спостереження» не дуже підходить для технічних фахівців. Але громадський контроль має вирішальне значення, враховуючи потенційну можливість зловживання.
Технологія часто дає збої. Дослідження показали, що частота помилок у системах аналізу осіб, створених компаніями Amazon, IBM і Microsoft, була набагато вищою, коли це були темношкірі жінки, а не світлошкірі чоловіки.
Навіть якщо розпізнавання осіб буде абсолютно точним, його використання створить серйозну загрозу для громадянських прав, особливо в місті з багатою історією протесту, каже Метт Кейгл (Matt Cagle), адвокат.
«Якщо розпізнавання осіб додати на нагрудні відеореєстратори або на загальнодоступні канали спостереження, це загрожує можливості людей піти на акцію протесту або в парк Долорес», - говорить він. Нагрудним відеореєстратором оснащений кожен лінійний співробітник департаменту поліції Сан-Франциско.
Місцеві критики законодавства Сан-Франциско, однак, турбуються про перешкоджання поліцейським розслідуванням у місті з великою кількістю викрадень транспортних засобів і кількома великими щорічними ходами. Вони хочуть бути впевнені, що поліція зможе продовжувати використовувати відеоспостереження, в тому числі відео з камер в торгових точках і цивільних об'єктах, в розслідуваннях, не відволікаючись на бюрократичні зволікання.
Джоель Енгардіо (Joel Engardio), віце-президент низового об'єднання «Зупинити злочинність у Сан-Франциско», хоче, щоб місто було гнучким.
"Наша пропозиція полягає не в повній забороні назавжди, а в мораторії. Краще не використовувати проблемні технології, але відкрити їм двері, коли вони вдосконаляться ", - говорить він.
Найчастіше зусилля уряду з регулювання розпізнавання осіб відбуваються потай або залишаються непоміченими. У Массачусетсі реєстр транспортних засобів використовує цю технологію з 2006 року для запобігання шахрайству з водійськими правами, а деякі поліцейські відомства використовують її як інструмент для розшуку.
Сенатор штату Массачусетс Синтія Крим (Cynthia Creem) заявила, що стурбована відсутністю стандартів, що захищають суспільство від неточностей і упередженості технології розпізнавання осіб. За її словами, поки не будуть розроблені більш чіткі керівні принципи, ця технологія не повинна використовуватися урядом.
Каліфорнійський дорожній патруль не використовує технологію розпізнавання осіб. Прес-секретар Каліфорнійського департаменту автотранспорту Марті Грінштейн (Marty Greenstein) каже, що технологія розпізнавання облич на фото спеціально заборонена в департаменті.
Законодавці домагалися введення мораторію на розпізнавання осіб у Вашингтоні, рідному штаті Microsoft і Amazon, але він був відхилений через опір з боку індустрії і поліції. Замість цього, Microsoft підтримала більш слабку пропозицію в рамках більш широкого законопроекту про конфіденційність даних, але дискусія зайшла в глухий кут, і законодавці відклали обговорення.