Як Apple дізнається про вас, не ідентифікуючи вас, використовуючи “диференційовану конфіденційність

Диференційована конфіденційність Apple не почне працювати до запуску iOS 10, і вона буде опціональною

Джуліан Чоккатту 24 червня 2016 року

Всі хочуть ваші дані, і вони їх отримують – це безцінна інформація, яка може розвинути багато аспектів бізнесу, від поліпшення самої послуги, що пропонується, до розширення потоку доходів. Такою є ціна використання безкоштовних сервісів від таких компаній, як Google, Facebook та багатьох інших, включаючи Apple.

Але Apple стала зразком конфіденційності з тих пір, як вона протистояла ФБР у справі про стрілянину в Сан-Бернардіно, Каліфорнія. І щоб відповідати своєму новому мисленню, спрямованому на захист приватності, виробник iPhone суттєво обмежує кількість даних, які він збирає про людей, зберігаючи при цьому анонімність. Це все завдяки методу, який він впроваджує в iOS 10 під назвою “диференційована конфіденційність”.

Apple намагається показати, що збір даних про користувачів на мобільних пристроях не завжди має означати жертвування конфіденційністю користувача.

Крейг Федерігі, старший віце-президент Apple з програмного забезпечення, нагадав, що Apple не створює профілі користувачів. А такі сервіси, як iMessage, HomeKit і FaceTime, використовують наскрізне шифрування для захисту даних, що означає, що ні правоохоронні органи, ні злочинці, ні навіть Apple не можуть отримати до них доступ. Тепер Apple роз’яснила, як буде працювати диференційована конфіденційність За даними Recode, iOS 10 стане першим випадком, коли Apple почне збирати диференційовані дані. Але ключовим моментом є те, що цей збір даних є opt-in – користувач повинен буде дати згоду.

iOS 10 використовує внутрішній інтелект пристрою для виконання таких завдань, як ідентифікація людей, об’єктів і сцен в Фото, а також підказки для клавіатури. Функції розпізнавання зображень покладаються не на збережені користувачем фотографії, а на інші набори даних. Apple не уточнила, які саме дані вона використовує, але це точно не фотографії користувачів, що зберігаються в хмарі.

“Коли справа доходить до аналізу ваших даних, – сказав Федерігі під час виступу на Всесвітній конференції розробників. “Ми робимо це на ваших пристроях, зберігаючи ваші особисті дані під вашим контролем”.

Дані не надсилатимуться до хмари, на відміну від аналізу даних Google. За допомогою диференційованих даних Apple намагається показати, що збір даних користувачів на мобільних пристроях не завжди має означати жертвування конфіденційністю користувача.

Що таке диференційована конфіденційність і як вона працює?

Диференційована конфіденційність – це математична техніка, яка вивчається вже кілька років. Це метод збору даних про велику групу людей, при цьому дізнаючись якомога менше про окремих осіб в цій групі.

“Починаючи з iOS 10, Apple використовує технологію, яка називається диференційована конфіденційність, щоб допомогти виявити моделі використання великої кількості користувачів без шкоди для індивідуальної конфіденційності”, – пише Apple. “В iOS 10 ця технологія допоможе поліпшити підказки QuickType і емодзі, підказки глибоких посилань Spotlight і підказки пошуку в Нотатках”.

По суті, ваші дані рандомізуються, а потім надсилаються в Apple у великій кількості разом з іншими даними користувача – таким чином, вони надсилаються безпечно. Цей метод збирає популярні тенденції щодо того, що люди люблять, хочуть і роблять, без необхідності пов’язувати ці дані з конкретною особою. Apple, хакери або правоохоронні органи не зможуть визначити, від кого надходять ці дані, або навіть чи є конкретний користувач частиною набору даних.

Apple – WWDC 2016 Keynote

Google фактично використовує диференційовану конфіденційність з 2014 року в своєму браузері Chrome, але пошуковий гігант вирішив назвати цю методику RAPPOR – Randomized Aggregatable Privacy-Preserving Ordinal Response (Рандомізована агрегована відповідь, що зберігає конфіденційність). Люди, які створили RAPPOR, найкраще описують його як техніку, яка дозволяє вивчати “ліс клієнтських даних, не допускаючи можливості дивитися на окремі дерева”.

“Спираючись на концепцію рандомізованої відповіді, RAPPOR дозволяє вивчати статистику про поведінку програмного забезпечення користувачів, гарантуючи при цьому конфіденційність клієнтів”, – пише Google в блозі. “Гарантії диференційованої конфіденційності, які широко визнані як найсильніша форма конфіденційності, майже ніколи не використовувалися на практиці, незважаючи на інтенсивні дослідження в академічних колах. RAPPOR представляє практичний метод досягнення цих гарантій”.

Які частини iOS 10 використовують диференційовану конфіденційність?

Apple привносить цю клієнтську конфіденційність в клавіатуру iOS 10, пошук Spotlight і Нотатки. Цілком ймовірно, що Apple спочатку тестує технологію на цих сервісах і додатках. У разі успіху компанія з Купертіно може поширити цю технологію збору даних на інші сервіси, такі як Карти.

“Ми вважаємо, що у вас повинні бути великі можливості і велика конфіденційність”, – сказав Федерігі під час виступу. “Диференційована конфіденційність – це дослідницька тема в області статистики та аналізу даних, яка використовує хешування, субдискретизацію і введення шуму, щоб забезпечити … краудсорсингове навчання, зберігаючи при цьому дані окремих користувачів повністю приватними. Apple виконує надважливу роботу в цій галузі, щоб дозволити диференційовану конфіденційність розгортатися в масштабах”.

“Щоб приховати особистість людини, диференційована конфіденційність додає математичний шум до невеликої вибірки шаблону використання людини”.

Це спрощує, але хешування перетворює дані на випадкові символи; субвибірка означає, що Apple бере лише невелику частину даних; а ін’єкція шуму додає інші дані, щоб приховати вашу особисту інформацію.

“Щоб приховати особистість людини, диференційована конфіденційність додає математичний шум до невеликої вибірки шаблону використання людини”, – говорить компанія в своєму посібнику з попереднього перегляду iOS 10. “Оскільки все більше людей використовують один і той же шаблон, починають з’являтися загальні закономірності, які можуть інформувати і покращувати взаємодію з користувачем”.

Створення додаткового шуму в області даних затушовує, звідки вони надходять, але тенденції будуть з’являтися в міру того, як все більше людей будуть ділитися одним і тим же шаблоном.

Як це робить iOS 10 краще?

Диференційована конфіденційність призначена не тільки для збору даних – вона також може допомогти поліпшити якість послуг.

“Існує думка, що чим більше конфіденційності, тим менш корисними є дані”, – говорить Аарон Рот, доцент кафедри інформатики в Університеті Пенсільванії, який також написав книгу про диференційовану конфіденційність. “У цьому є частка правди, але не все так просто. Конфіденційність також може підвищити корисність даних, запобігаючи такого роду надмірному використанню”.

У клавіатурі iOS 10 Apple збирає дані про користувачів, щоб поліпшити пропозиції для QuickType і емодзі. Замість того, щоб покладатися на свій особистий словник на своєму пристрої і оновлювати його, Apple буде використовувати диференційовану конфіденційність, щоб визначити емодзі і мовні тенденції для всіх своїх користувачів. Таким чином, ви зможете побачити, які емодзі є найбільш популярними, а новий сленг може з’явитися ще до того, як ви їх наберете.

“Звичайно, одним з важливих інструментів для того, щоб зробити програмне забезпечення більш інтелектуальним, є виявлення закономірностей в тому, як різні користувачі використовують свої пристрої”, – сказав Федерігі. “Наприклад, вам може знадобитися інформація про те, які нові слова в тренді, щоб ви могли швидше пропонувати їх на клавіатурі QuickType”.

Spotlight пошук також має переваги диференційованої конфіденційності. Наразі, якщо ви шукаєте “У пошуках Дорі”, ви отримаєте посилання на статті з додатку “Новини” та веб-контенту, а також способи придбання квитків, якщо у вас встановлені такі додатки, як Fandango. Це все завдяки функції глибокого зв’язування, яка з’явилася минулого року в iOS 9.

Але як ранжуються ці результати пошуку? Чому стаття Apple News з’являється першою перед результатами Fandango? Існує також багато нерелевантних результатів, які переповнюють пошукову видачу, і диференційована конфіденційність допомагає, надаючи вам найпопулярніші глибокі посилання. Отже, якщо всі проігнорували статтю з Apple News і перейшли на результати Fandango – саме вони будуть показані першими.

На даний момент Notes є єдиним сервісом, який використовує диференційовану конфіденційність. В iOS 10 Нотатки стають трохи розумнішими – окрім того, що ви зможете використовувати їх з кількома людьми, додаток також дозволить вам взаємодіяти з текстом для виконання інших функцій. Наприклад, якщо ви напишете ім’я та номер в Нотатках, програма запропонує створити новий контакт. Ці пропозиції не є випадковими. Диференційована конфіденційність допомагає компанії Apple знати, які нотатки роблять люди, і вона буде пропонувати те, що має відношення до вас.

Ви хочете більш розумні пристрої або приватні пристрої?

Рот, найвидатніший фахівець з диференційованої конфіденційності, сказав, що робота Apple є “революційною”. Apple показує нам, що ви дійсно можете мати розумні функції, одночасно захищаючи конфіденційність користувача – і компанія заявила на презентації, що вона навіть збирає менше даних.

Порівняйте це з майбутнім додатком для обміну повідомленнями Allo від Google. Пошуковий гігант не включив наскрізне шифрування в усьому додатку, оскільки він не зможе запропонувати свої спеціальні функції помічника в потоках повідомлень. Allo має режим інкогніто, як і Chrome, який буде використовувати наскрізне шифрування – але це, очевидно, компроміс. Це спосіб запропонувати певну конфіденційність, зберігаючи при цьому всі функції розумного штучного інтелекту. Як повідомляється, Facebook навіть розглядає “режим” для включення наскрізного шифрування в своєму додатку Messenger.

Apple хоче запропонувати розумні функції і теж потребує ваших даних, але компанія не хоче ставити під загрозу існуюче наскрізне шифрування. Таким чином, інтелект на пристрої та диференційована конфіденційність – це її спосіб вирішення цієї проблеми. Безумовно, це спонукатиме інші великі технологічні компанії переоцінити обсяг даних, які вони збирають, і спосіб, у який вони їх збирають.

Тим часом нам доведеться почекати і подивитися, наскільки “розумними” будуть ці функції iOS в порівнянні з тим, що можуть зробити Google і Facebook, і ми, ймовірно, побачимо більше інформації, пов’язаної з тим, як працює диференційована конфіденційність в новій версії, з наближенням осені.

Оновлення:

Оновлено 24.06.2016 Джуліаном Чоккатту: Додано роз’яснення від Apple про те, коли почнеться диференційований збір даних, і що він є добровільним.

Рекомендації редакції

• Щойно придбали новий iPhone? Ось 12 порад та підказок для його освоєння
• Фотографічні стилі – найбільш недооцінена функція камери iPhone 14, яку ви не використовуєте
• Новий постійно включений дисплей iOS 16.2 змусив мене зненавидіти мій iPhone 14 Pro
• Apple може зробити немислиме – дозволити сторонні магазини додатків для iPhone
• Супутниковий зв’язок в iPhone 14: як це працює, скільки коштує і не тільки

Source: digitaltrends.com