Три причини, чому Facebook/Meta відключає систему розпізнавання облич

Meta, нова материнська компанія Facebook, оголосила у вівторок, що Facebook ліквідує свою систему розпізнавання облич в найближчі тижні. Більше третини постійних користувачів Facebook користуються функціями розпізнавання облич, тому ця зміна торкнеться багатьох людей.

• Питання конфіденційності
• Питання точності та справедливості
• Регуляторні питання
• Що ми втрачаємо або набуваємо?

Якщо користувачі в даний час “погодилися” на налаштування розпізнавання обличчя, шаблони, що використовуються для ідентифікації кожного користувача, будуть видалені. Також більше не буде автоматичного розпізнавання обличчя на фотографіях і відео. Ще одна сфера, на яку це вплине, – це автоматичний альтернативний текст, або AAT, який використовується для опису зображень для людей з вадами зору або сліпих. Як тільки система розпізнавання облич зникне, зникне і можливість конкретно ідентифікувати кожну людину на фотографії за допомогою розпізнавання облич.

З огляду на переваги, які дає розпізнавання облич, чому компанія Meta позбавляється від нього? В оголошенні Джером Песенті, віце-президент зі штучного інтелекту в Meta, посилається на “зростаюче занепокоєння суспільства, особливо тому, що регулятори ще не надали чітких правил”.

Існує три основні сфери занепокоєння, які ми обговорюємо нижче.

Питання конфіденційності

Facebook зберіг “відбитки облич” сотень мільйонів користувачів, і не всі будуть цьому раді. Не так давно Facebook врегулював колективний позов, який був поданий у 2015 році, пов’язаний із занепокоєнням щодо конфіденційності через функцію розпізнавання облич та пропозиції тегів. В результаті компанія виплатила понад півмільярда доларів. Вона також зупинила заплутану функцію “пропозиції тегів” і перейменувала її на “розпізнавання обличчя” для більшої ясності, а також додала чіткий компонент згоди на використання перейменованої технології. Але навіть з урахуванням цих змін у сфері конфіденційності, система розпізнавання облич створює більше проблем, ніж вона того варта – особливо зараз, коли Meta займає чільне місце в заголовках газет за свої сумнівні практики.

Питання точності та справедливості

Якщо ви дивилися останні документальні фільми про поліцейські розслідування, ви, ймовірно, знаєте, що поліція все більше покладається на соціальні мережі як на інструмент розслідування, в тому числі і особливо на розпізнавання облич у Фейсбуці. Багато громадських активістів та правозахисників стурбовані тим, як це впливає на рівність, чесність та загальне правосуддя.

Звичайно, розпізнавання облич можна використовувати для розкриття злочинів. Але воно також може бути використане для помилкового звинувачення, ідентифікації мирних протестувальників, а також як інструмент випадкової або цілеспрямованої дискримінації (як відомо, воно має проблеми з неточним розпізнаванням BIPOC – чорношкірих корінних або кольорових людей). У 2019 році Сан-Франциско заборонив використання розпізнавання облич місцевими відомствами, ставши першим великим містом у США, яке зробило це, як і штат Мен. Європейський парламент також підняв шум з цього приводу, і ми все частіше спостерігаємо хвилю протесту проти цієї технології як на національному, так і на міжнародному рівні.

Регуляторні питання

Facebook також зіткнувся з регуляторними питаннями, пов’язаними з цією технологією. У 2018 році спільно з іншими групами споживачів Інформаційний центр з питань електронної конфіденційності подав скаргу до Федеральної торгової комісії (FTC) щодо технології розпізнавання облич Facebook. І, як ми всі знаємо, Facebook не чужий для FTC.

У своєму блозі Песенті пише: “Забігаючи наперед, ми як і раніше розглядаємо технологію розпізнавання облич як потужний інструмент, наприклад, для людей, яким необхідно підтвердити свою особу або запобігти шахрайству і видачі себе за іншу особу. Ми вважаємо, що розпізнавання обличчя може допомогти в таких продуктах, які забезпечують конфіденційність, прозорість і контроль, тому ви самі вирішуєте, чи буде ваше обличчя використовуватися і як саме. Ми продовжимо працювати над цими технологіями та залучати зовнішніх експертів”.

Він продовжує пояснювати: “Кожна нова технологія несе з собою потенціал як для користі, так і для занепокоєння, і ми хочемо знайти правильний баланс. У випадку з розпізнаванням облич, його довгострокова роль в суспільстві повинна обговорюватися відкрито і серед тих, на кого воно найбільше вплине. Ми будемо продовжувати брати участь у цій розмові і працювати з групами громадянського суспільства та регуляторними органами, які ведуть цю дискусію”.

Що ми втрачаємо або набуваємо?

Найбільша і найочевидніша зміна полягає в тому, що обличчя людей більше не будуть розпізнаватися і автоматично позначатися на фотографіях, відео та спогадах, хоча ручне позначення все ще буде доступним і заохочуватиметься. Ви також більше не побачите запропонованих тегів. Можливо, найбільш помітною втратою є втрата для користувачів з вадами зору, які більше не отримуватимуть імена людей на фотографіях за допомогою функції автоматичного підбору тексту, хоча ця технологія продовжуватиме функціонувати для тексту, незважаючи на відсутність імен. Все це не є великими втратами, навіть разом узяті, і шаблон розпізнавання облич для тих, хто погодився, буде видалено, в той час як ті, хто ніколи не погоджувався, не побачать жодних змін.

Поки що невідомо, чи повернеться функція розпізнавання облич у Facebook, коли і як саме. Але поки що багато користувачів почуватимуться більш захищеними без цієї технології, тоді як інші втратять деякі ключові функції та переваги, якими вони користуються.

Рекомендації редакції

• Забудьте TikTok – настав час заборонити Twitter
• Що насправді означає оновлення шифрування iCloud від Apple – і чому вас це повинно хвилювати
• Google виплатить 392 мільйони доларів 40 штатам в рамках врегулювання питання відстеження місцезнаходження
• Котушки ось-ось з’являться в ще одній функції Facebook
• Meta знайшла понад 400 мобільних додатків, “призначених для крадіжки” логінів Facebook

Source: digitaltrends.com