Сан-Франциско виграв битву, але війна за розпізнавання облич тільки почалася

Сан-Франциско стало першим містом в Америці, де заборонили розпізнавання облич. Ну, начебто.

Насправді, заборона, за яку цього тижня проголосувала міська рада наглядачів, стосується лише використання розпізнавання облич міськими установами, такими як поліція. Вона не впливає на використання технології розпізнавання облич в таких місцях, як, наприклад, аеропорти або порти, або з приватних додатків, організованих приватними компаніями. Так, і оскільки поліція Сан-Франциско в даний час не використовує технологію розпізнавання облич, ця постанова забороняє те, що насправді не використовувалося. Хоча департамент тестував цю технологію на фотографіях для бронювання в період з 2013 по 2017 рік, він не впровадив її на постійній основі.

Тож це просто безглузде законодавство, щось, що добре звучить і виглядає на папері, але в кінцевому підсумку нічого не досягає? Зовсім ні. Це проактивний крок, який, сподіваємось, призведе до того, що інші підуть його слідами. Як я писав нещодавно, розпізнавання облич зросло у своєму застосуванні дуже і дуже швидко. Технологія, яка здавалась науковою фантастикою протягом життя багатьох з нас, зараз є повсюдною. Чорт забирай, сьогоднішні найбільш продавані моделі смартфонів використовують розпізнавання обличчя як спосіб надання нам доступу до наших пристроїв. (Як зазначалося, на це не вплинуть нові закони, які набувають чинності з 1 липня).

• Цей безкоштовний сервіс щойно досяг величезної віхи в безпеці веб-сайтів
• Понад 1 мільйон кредитних карток щойно потрапили до злочинців у темну мережу
• Злом як послуга дозволяє хакерам вкрасти ваші дані всього за $10

Дисплей з системою розпізнавання облич для правоохоронних органів під час конференції NVIDIA GPU Technology ConferenceБільша частина впровадження (і значна частина грошей) в розпізнавання облич припадає на додатки для безпеки. Це те, що ми бачимо сьогодні в таких країнах, як Китай, де державні ЗМІ часто говорять про свої можливості ідентифікувати (і, в свою чергу, вживати заходів проти) окремих злочинців у багатотисячних натовпах інших людей. Завдяки прогресу в технологіях спостереження, все більше і більше інструментів розпізнавання облич використовується для того, що називається розпізнаванням облич в реальному часі (LFR), що означає автоматизоване “зіставлення” осіб з кураторським “списком спостереження” на відеозаписах в реальному часі.

Насправді є дві проблеми з цим застосуванням. Перша – це питання точності. Незважаючи на прогрес у технології розпізнавання облич, все ще існує занепокоєння щодо помилок та упередженості. На небезпеку алгоритмічної упередженості справедливо вказували

Хоча вони відрізняються як за алгоритмом, так і за навчальними даними, багато інструментів розпізнавання облич виявилися менш ефективними при розпізнаванні осіб з темним кольором шкіри. Неправильне розпізнавання алгоритмом розпізнавання обличчя може помилково позначити законослухняних темношкірих громадян як правопорушників, які повинні або ідентифікувати себе, або потенційно навіть зіткнутися з неправомірним арештом. Хоча ідентифікація за допомогою системи розпізнавання облич сама по собі не є безпомилковим “доказом”, покладання на ці інструменти правоохоронних органів може завдати шкоди громадам, які вже мають підстави відчувати себе маргіналізованими.

Чи потрібне нам розпізнавання облич взагалі?

З часом деякі з цих технічних проблем можуть і будуть вирішені. Можна буде створити більш інклюзивні набори даних з більшою різноманітністю та рівнем точності. Але навіть якщо ці інструменти будуть повністю ефективними, все одно є причини, чому ми можемо скептично ставитися до їх використання. Не потрібно бути абсолютистом приватності, щоб вважати, що громадяни повинні мати можливість вести своє життя без постійного моніторингу. Подібно до широкомасштабного телефонного стеження, масове розпізнавання облич означає стеження за кожною людиною – незалежно від того, що вона зробила чи не зробила.

Доведення того, що розпізнавання облич є достатньо корисним, щоб виключити втрату свободи і приватності, яку воно тягне за собою, – це те, що ще не доведено, не кажучи вже про те, щоб бути узгодженим. Коротше кажучи, якщо однією з цілей державних органів має бути формування довіри до поліції, то такі інструменти, як розпізнавання облич, можуть бути не найкращим способом її досягнення – незалежно від того, чи є вони вільними від упередженості чи ні.

Є два способи регулювання. Один – почекати, поки щось погане не станеться, а потім заднім числом з’ясувати, як це зупинити і покарати винних. Інший – зупинити це до того, як це станеться. Сан-Франциско обирає останній варіант. Чи буде це рішення переглянуте пізніше, коли будуть розроблені і публічно продемонстровані більш інклюзивні системи розпізнавання облич, ще належить з’ясувати. Але це приклад, який може призвести до того, що інші міста та штати приймуть подібні правила. Зрештою, якщо мешканці технологічного центру Сан-Франциско стурбовані технологією розпізнавання облич, то які шанси, що багато громадян в інших місцях також стурбовані?

Технологічні компанії говорять про необхідність рухатися швидко і ламати стереотипи. Закони, які рухаються повільно і намагаються їх виправити, часто можуть безнадійно відставати. Це один дуже приємний виняток із правил.

Рекомендації редакції

• Хакери щойно викрали дані LastPass, але ваші паролі в безпеці
• Оновіть Windows зараз – Microsoft щойно виправила кілька небезпечних експлойтів
• Шахрайство з онлайн-платежами подвоїлося за останні сім років
• Хакери тепер експлуатують нові уразливості всього за 15 хвилин
• Розробник вірусу-здирника AstraLocker передумав і припинив свою діяльність

Source: digitaltrends.com