Що АНБ вибирає з ваших телефонних розмов? Лише “недобровільну правду

“Перша програма, що виконується відповідно до розділу 215 Патріотичного акту, санкціонує збір лише телефонних метаданих”, – заявив генеральний директор Агентства національної безпеки Кіт Александер перед комітетом Палати представників з питань розвідки 18 червня. Закликаючи до рідкісних публічних слухань щодо діяльності АНБ, Александер виголосив цю заяву лише через тиждень після першого з серії витоків надсекретної інформації від колишнього підрядника Едварда Сноудена.

“Як ви вже чули раніше, метадані – це лише номери телефонів, контакт, час і дата дзвінка, а також тривалість дзвінка, – продовжив Александер. “Таким чином, ці повноваження не дозволяють уряду прослуховувати телефонні розмови будь-кого, навіть терористів”.

Предиктивна аналітика – це виявлення “недобровільної правди” про людей.

Це одна з домінуючих сюжетних ліній АНБ та її захисників: Телефонні дані, зібрані компанією Verizon практично про кожного чоловіка, жінку і дитину, які користуються телефоном у Сполучених Штатах, не викликають занепокоєння. Як сказав під час тих же слухань заступник генерального прокурора США Джеймс Коул, ці метадані – це саме те, що “ви регулярно показуєте багатьом і багатьом людям в телефонній компанії”. І, тим не менш, саме ці самі телефонні дані АНБ називає вирішальними для своїх контртерористичних зусиль.

Давайте на мить відкладемо в сторону питання про те, чи повинен відбуватися цей збір даних, і поставимо важливе питання тепер, коли ми знаємо, що він відбувається: Як це можливо, що метадані наших телефонів можуть бути одночасно нешкідливими і ключовими для запобігання, скажімо, вивільненню отруйного газу групою або окремою особою в системі метро Нью-Йорка?

Детальна відповідь на це питання засекречена. Але виходячи з того, що ми знаємо про наявні методи, освічений погляд на можливості вказує нам на один напрямок: Предиктивна аналітика.

Предиктивна аналітика 101

Якщо говорити дуже просто, то предиктивна аналітика – це спосіб використання методів “великих даних” для прогнозування можливих результатів, від результатів президентських виборів до поведінки окремих людей. Залежно від застосування, дані прогнозної аналітики часто включають демографічну інформацію, сімейний і сімейний стан, історію покупок, минулі погодні умови, історію бізнес-транзакцій, активність в соціальних мережах, кліки на веб-сайтах і, звичайно, метадані телефонних розмов, які допомагають сформувати карту можливої реальності, що лежить в основі прогнозу.

“Йдеться про створення можливості не лише передбачати майбутнє, але й впливати на нього”, – говорить доктор Ерік Сігел, автор і засновник конференцій Predictive Analytics World. Далі, пояснює він, йдеться про розкриття “недобровільної правди” про людей.

Ми знаємо, що АНБ використовує різноманітні методи і технології Big Data, деякі з яких були розроблені самим агентством. Виникає питання: як вони використовують комп’ютерне прогнозування?

Як ми використовуємо предиктивну аналітику

Громадськість, можливо, вперше дізналася про предиктивну аналітику в 2012 році завдяки статті Чарльза Духігга в журналі The New York Times Magazine. Ви, мабуть, пам’ятаєте його бомбезний анекдот: Батько, виявивши купони від Target зі знижками на дитячі товари, надіслані його маленькій доньці, обурився на ритейлера за те, що той нібито намагався примусити підлітка до сексу. Насправді, внутрішні аналітики Target розробили алгоритм, який визначав, чи були певні клієнти вагітними, на основі, здавалося б, випадкових змін у їхніх купівельних звичках.

Пізніше чоловік вибачився перед менеджером Target; його дочка, як він дізнався, мала народитися через кілька місяців.

Це, на сьогоднішній день, найяскравіша історія про можливості предиктивної аналітики отримувати факти про світ за допомогою даних і алгоритмів. Але плоди предиктивної аналітики знаходяться навколо нас, в менш моторошних формах: Відеорекомендації Netflix, фільтри спаму в електронній пошті та Google Now, віртуальний “персональний асистент” технологічного гіганта для мобільних пристроїв, є яскравими прикладами предиктивної аналітики в роботі. Замість того, щоб точно передбачити дату вашого візиту, Google Now просто пропонує менш перевантажений маршрут до вашого офісу.

У своїй новій книзі з влучною назвою “Предиктивна аналітика: Сила передбачати, хто натисне, купить, збреше або помре”, Сігел наводить безліч яскравих прикладів того, як предиктивна аналітика прогнозує більше, ніж просто те, яким клієнтам надсилати рекламу.

Hewlett-Packard, наприклад, розробила для своїх співробітників показник “ризик втечі”, який “пророкує, чи можете ви покинути свою роботу”, пише Сігел. Компанії, що випускають кредитні картки, точно розшифровують, хто з нас буде затримувати платежі. Комісії з умовно-дострокового звільнення з’ясовують, хто з ув’язнених найбільш схильний до скоєння нового злочину після звільнення. Компанії стільникового зв’язку з’ясовують, кому і коли надсилати пропозиції щодо телефонів зі знижкою. Американські військові виявляють, хто з солдатів може впоратися з дуже вимогливим життям у спецпідрозділах. Страхові компанії прогнозують, коли люди помруть. Цей список можна продовжувати – і з кожним днем він стає дедалі більшим.

Злочинність майбутнього

В останні роки прогнозна аналітика увійшла в нову сферу: Поліція. Найгучніший приклад так званої “прогностичної поліції” розпочався в Санта-Крузі, штат Каліфорнія, в 2011 році. Професор Університету Санта-Клари Джордж Молер створив прогнози щодо “гарячих точок” злочинності на основі історичних даних про злочинність, починаючи з 2006 року, а також нових даних, що додаються до системи щодня. Результатом цього експерименту стало програмне забезпечення під назвою PredPol, створене у 2012 році Молером і П. Джеффрі Брантінгемом з Каліфорнійського університету в Лос-Анджелесі, яке з того часу використовується все більшою кількістю поліцейських департаментів по всій країні, в тому числі і поліцією Лос-Анджелеса.

Хоча термін “предиктивна поліція” неминуче викликає в уяві сцени з “Особливої думки”, реальність має набагато більше спільного з додатком Waze, ніж з похмурим майбутнім, яке уявляється трьом позбавленим сонця істотам у чані з желе KY. Іншими словами, PredPol не дозволяє офіцерам передбачити, хто скоїть злочин, але де злочин, швидше за все, станеться, незалежно від того, хто його скоїть.

PredPol розроблений таким чином, щоб бути “повністю сліпим до людей”, – каже Зак Френд, керівник округу Санта-Крус і поліцейський консультант, який очолював розробку PredPol. “Єдиними чотирма вхідними даними в систему є дата, час, тип злочину і місце його скоєння”.

Поліція вже давно використовує інструменти картографування “гарячих точок”, які спираються на історичні дані про злочинність, щоб допомогти департаментам визначити проблемні зони. PredPol є наступним етапом еволюції в роботі поліції на “гарячих точках”. Уявіть собі, що це традиційна карта “гарячих точок”, яка оновлюється в режимі реального часу і направляє офіцерів у певні місця в певний час, де і коли є ймовірність скоєння конкретного злочину.

Дані про злочини часто можуть надходити до патрульних машин від потерпілих, що дозволяє офіцерам бачити навколишній криміногенний ландшафт з висоти пташиного польоту, який змінюється щохвилини.

За словами Френда, незважаючи на те, наскільки потужною може бути прогностична поліція, обмеження, що накладаються на типи даних, які використовуються для прогнозування злочинів, є ключовим компонентом для запобігання переходу PredPol на небезпечну територію.

“Я б не хотів сказати, що “Ендрю” збирається [скоїти конкретний злочин]”, – каже Френд. “Це в дусі “Окремої думки”. Натомість ми хотіли сказати: “Це місце, ця [широта і довгота], 500 футів на 500 футів, має найбільшу ймовірність того, що в цю зміну станеться пограбування. Це все, що ми хотіли зробити”.

Результатом такої тактики є чітке і постійне зниження рівня злочинності. У Санта-Крузі кількість квартирних крадіжок зменшилась на 19 відсотків у 2012 році порівняно з аналогічним періодом 2011 року. А в Лос-Анджелесі злочинність скоротилася на 12 відсотків невдовзі після запровадження програми PredPol. За весь 2012 рік загальна злочинність в Лос-Анджелесі знизилася на 1,4 відсотка, а насильницькі злочини – на 8,2 відсотка.

Хоча PredPol, можливо, прагне обмежити свою систему прогнозуванням часу і місця, інші дослідники даних почали розвивати цю технологію на крок далі. За повідомленням Bloomberg News, Джим Адлер, колишній директор з питань конфіденційності брокера даних Intelius, створив комп’ютерну модель, яка може “точно” передбачити, чи вчинить людина кримінальний злочин. Програмне забезпечення Адлера спочатку робило такі прогнози, використовуючи невелику кількість промовистих даних, включаючи стать, колір очей і шкіри, порушення правил дорожнього руху, кримінальну історію і “наявність у людини татуювань”, повідомляє Bloomberg.

Передбачення і АНБ

Поява PredPol та інших зусиль у сфері предиктивної поліції відкриває вікно в те, які інструменти прогнозування може мати в своєму розпорядженні АНБ, і, можливо, як шпигунське агентство використовує ці інструменти. Наприклад, під час війн в Іраку та Афганістані АНБ використовувало прогнозні моделі та інші інструменти Big Data, створені компанією Palantir з Кремнієвої долини, щоб допомогти з’єднати точки між відомими терористами. За словами урядовців, технологія Palantir навіть допомогла військовим запобігти атакам терористів-смертників і придорожніх терористів. Аналогічні інструменти від Palantir зараз використовуються АНБ, ФБР і ЦРУ, які надавали компанії грошову підтримку.

Деякі з найпотужніших засобів роботи з великими даними були розроблені самим АНБ. Головною з них є система під назвою Accumulo (pdf), яка дозволяє АНБ наносити на карту трильйони “вузлів” (точок даних) і “ребер” (зв’язків між двома або більше точками даних), щоб створити чітку картину світових комунікацій, використовуючи телефонні метадані та дані інтернет-трафіку, зібрані в рамках нині суперечливої програми PRISM.

За словами колишнього співробітника міжнародних правоохоронних органів, який побажав залишитися анонімним у зв’язку з поточними професійними обов’язками, АНБ, ймовірно, може визначити підозрілу комунікаційну активність, використовуючи прогностичну модель, засновану на записах дзвінків та інтернет-активності. Прогнози можуть включати отримання даних про ім’я, вік та стать або визначення ймовірного майбутнього місцезнаходження окремих осіб.

“Прогностичний аналіз часто може дати уявлення про вік і стать суб’єкта лише на основі частоти і тривалості дзвінків”, – каже колишній агент. “Тривалість і частота дзвінків можуть бути індикаторами значущості абонентів один для одного”.

У тому ж ключі дані про географічне розташування можуть бути використані “для того, щоб зробити висновки про те, як діють злочинні організації”, каже агент. Те ж саме стосується і терористичних угруповань, і ця інформація може бути використана для того, щоб визначити, хто працює, а хто ні, над потенційною змовою, і де ці учасники можуть зустрічатися.

“Прогностичний аналіз може вказати, коли, найімовірніше, хтось з’явиться в певному місці”, – каже агент. “Аналогічно, якщо модель дає високу ймовірність того, що дві особи зустрінуться у певному часовому проміжку, і цей проміжок спливає, це може бути ознакою того, що щось змінилося у їхніх стосунках. Це може бути просто спущене колесо, або ж сварка”.

Ця інформація може бути більш цінною, ніж пряме спостереження – це шпигунство 2.0

Однак висновки, які можна отримати з предиктивної аналітики, не зупиняються на тому, хто кого знає. За словами Сігела, метадані, якщо їх ввести в добре налаштовану предиктивну модель, можуть розповісти про людину та її наміри більше, ніж конкретний електронний лист або телефонна розмова. Іншими словами, предиктивна аналітика дозволяє АНБ або правоохоронним органам отримувати розвідувальні дані про об’єкти, які ці об’єкти не розкрили, а також інформацію, яка може бути більш цінною, ніж пряме спостереження – це шпигунство 2.0.

“Всі ці метадані – це гайки і болти, тобто синтаксичні речі, відомі [про особу], які часто є надзвичайно показовими, не кажучи вже про те, що з ними набагато легше мати справу, ніж з контентом, таким як набране повідомлення електронної пошти або вимовлені слова під час телефонної розмови”, – говорить Сігел.

Сігел зазначає, що в кожному конкретному випадку те, що об’єкт говорить в Інтернеті або по телефону, може виявитися “найважливішим з усього [для розслідування], але також не обов’язково перевершить метадані. А самі метадані можуть мати величезне значення”.

Метадані є настільки показовими, тому що їх “легко агрегувати і аналізувати” в необробленому вигляді, як стверджує професор комп’ютерних наук Принстонського університету Едвард Фелтен в нещодавньому судовому поданні (pdf), написаному від імені Американського союзу громадянських свобод, який судиться (pdf) з вищими посадовими особами адміністрації Обами з приводу збору АНБ метаданих про телефонні розмови. Мовлення і зміст електронних листів, навпаки, набагато складніше розшифрувати комп’ютерам, пояснює Фелтер. Додайте до цього значне зростання обчислювальних потужностей і різке падіння вартості зберігання даних, і АНБ зможе легко отримати “чутливі деталі нашого повсякденного життя”.

“Складні обчислювальні інструменти дозволяють аналізувати великі масиви даних для виявлення вбудованих шаблонів і взаємозв’язків, включаючи особисті дані, звички і поведінку”, – пише Фелтен. “Як наслідок, окремі фрагменти даних, які раніше мали менший потенціал для викриття приватної інформації, тепер, в сукупності, можуть розкривати делікатні деталі нашого повсякденного життя – деталі, якими ми не мали наміру або не очікували ділитися”.

Порівняйте це зі змістом телефонного дзвінка, який вимагає набагато більше зусиль для того, щоб надати йому придатну для використання форму. Щоб проаналізувати телефонні дзвінки, “уряд повинен спочатку розшифрувати дзвінки, а потім визначити, які частини розмови є цікавими і важливими”, – пояснює Фелтен. “Якщо припустити, що дзвінок правильно розшифрований, уряд все одно повинен спробувати визначити зміст розмови: Коли об’єкт спостереження говорить, що “посилка буде доставлена наступного тижня”, чи йдеться про замовлення, яке він зробив в інтернет-магазині, партію наркотиків, що пересилається поштою, чи про терористичний напад? Аналізувати та інтерпретувати таку інформацію, навіть якщо це робиться вручну, надзвичайно складно”.

Для подальшої ілюстрації можливостей предиктивної аналітики Фелтен наводить наступну гіпотезу:

“Молода жінка телефонує своєму гінекологу; потім відразу ж телефонує своїй матері; потім чоловікові, з яким протягом останніх кількох місяців вона неодноразово розмовляла по телефону після 23:00; після цього вона телефонує до центру планування сім’ї, який також пропонує аборти. Виникає ймовірна сюжетна лінія, яка не була б настільки очевидною при вивченні запису одного телефонного дзвінка”.

Розширюйте збір телефонних метаданих протягом декількох місяців або років, і “багато подібних закономірностей з’являться після того, як зібрані телефонні записи будуть піддані навіть найпростішим аналітичним методам”, – пише Фелтен. Можна легко уявити, як ці методи можуть бути використані для викорінення терористів – або зловживати ними для шпигунства за невинними людьми.

Хоча ми не знаємо, в якій мірі АНБ застосовує прогнозне моделювання, офіційні особи підтвердили, що воно використовує аналітику в цілях, подібних до тих, які окреслив Фелтер. Як сказав Девід Херрі, головний науковий співробітник відділу комп’ютерних наук АНБ, в інтерв’ю журналу InformationWeek в 2012 році: “Об’єднавши набори даних разом, це дозволило нам побачити в них речі, які ми не обов’язково бачили, дивлячись на дані з тієї чи іншої точки”.

Обмеження прогнозування

Яким би потужним інструментом не була предиктивна аналітика, її власники поспішають підкреслити, що це не срібна куля і не чарівна кришталева куля.

“Загалом, мова не йде про точні прогнози, – каже Сігел. “Йдеться про те, щоб передбачати значно краще, ніж просто здогадуватися. І це справедливо для більшості застосувань, в тому числі і для правоохоронних органів”.

Через обмеження предиктивної аналітики експерти вважають, що АНБ, ймовірно, використовує цю техніку великих даних як відправну точку або для посилення інших частин поточних розслідувань.

“З мого досвіду, прогнозне моделювання саме по собі не використовується для виявлення підозрюваних або осіб, що представляють інтерес”, – говорить наше неназване джерело. “Я не можу сказати, що воно ніколи не використовувалося таким чином. Однак я використовував методи прогнозного моделювання в ході середньострокових і довгострокових розслідувань, відкритих з інших причин”.

Дін Ебботт, засновник компанії Abbott Analytics, каже, що телефонні метадані, зібрані АНБ, можуть бути “особливо корисними у встановленні зв’язку між особами з групи високого ризику та іншими особами, про яких АНБ може не знати заздалегідь, що вони пов’язані з особою, яка їх цікавить”. Однак він додає, що інструменти прогнозування, ймовірно, будуть корисними лише в поєднанні з різними іншими розвідувальними даними.

“Ці мережі, як правило, найкраще використовувати як двигуни для генерації лідів”, – пише Ебботт у блозі Predictive Analytics World. Ебботт пояснює, що при такому використанні предиктивна аналітика і аналіз зв’язків, таких як зв’язки, виявлені за допомогою Accumulo, є “надзвичайно потужними” інструментами.

Підводячи риску

Якою б обмеженою не була предиктивна аналітика, експерти вважають, що потенціал цього методу для трансформації природи приватного життя і громадянських свобод є потужним.

За словами Джона Елдера, генерального директора Elder Research Inc., найбільшої спеціалізованої компанії з аналізу даних у США, “досить легко передбачити”, чи буде злочинець повторювати свої злочини. “Вам подобається той фільм з Томом Крузом, де ви перехоплюєте когось до того, як він скоїть злочин? Це, мабуть, заходить надто далеко з точки зору того, щоб дозволити людям брати на себе відповідальність за свої власні дії”.

Системи великих даних також можуть бути розроблені з урахуванням проблем конфіденційності. Наприклад, Accumulo має складну систему тегування, відому як Column Visibility, яку АНБ вбудувало, щоб обмежити на кожному рівні, які аналітики можуть бачити, які типи даних через використання міток безпеки. Цілком ймовірно, що саме цей аспект Accumulo має на увазі АНБ, коли говорить про вбудований захист громадянської свободи і приватності.

“Окремі фрагменти даних … можуть тепер, в сукупності, розкривати чутливі деталі нашого повсякденного життя”.

Деякі експерти в галузі права вважають, що прогнозне моделювання змусить нас переглянути наші закони про конфіденційність. У розширеному аналізі правових наслідків предиктивної поліції, опублікованому в 2004 році, доцент кафедри права Університету округу Колумбія Ендрю Г. Фергюсон робить висновок, що предиктивна аналітика змінить способи застосування поліцією, наприклад, ФБР або поліцією Лос-Анджелеса, гарантії Четвертої поправки про те, що правоохоронні органи повинні мати “достатні підстави” для проведення обшуку та/або конфіскації.

“…Прогностичні поліцейські прогнози в кінцевому підсумку будуть розглядатися як “позитивний фактор” для знаходження обґрунтованої підозри”, – пише Фергюсон. “Однак, використання лише прогнозів не буде достатньою інформацією для обґрунтування обґрунтованої підозри або вірогідної причини для вилучення на підставі Четвертої поправки”.

Іншими словами, за оцінкою Фергюсона, прогнозне моделювання може використовуватися для розкриття наших найпотаємніших таємниць – але суди, швидше за все, не дозволять поліції обшукувати нас лише на підставі цієї інформації.

Наразі дебати щодо стеження АНБ залишаються чітко зосередженими на зборі даних, а не на способах їх використання для отримання розвідувальної інформації. У липні Палата представників Конгресу США з мінімальною перевагою відхилила законопроект, який би значною мірою обмежив можливості АНБ збирати телефонні метадані, не пов’язані безпосередньо з поточним розслідуванням. І тепер, після нещодавніх викриттів того, що АНБ тисячі разів порушувало правила захисту приватного життя у 2012 році, законодавці нарощують зусилля, щоб протистояти АНБ принаймні трьома новими законопроектами.

Хоча ми можемо побачити обмеження на збір даних АНБ, використання предиктивної аналітики для відсіювання злочинців і терористів – або навіть просто для продажу нам підгузників і мобільних телефонів – нікуди не дінеться, каже Сігел.

“Силу предиктивної аналітики не слід недооцінювати так само, як не слід недооцінювати силу ножа”, – каже він. “Ніж може бути використаний як для добра, так і для зла. Я думаю, що про повну заборону ножів не йдеться”.

Рекомендації редакції

• Топ-9 Instagram: як побачити свої 9 найкращих фотографій 2022 року
• Щойно придбали новий iPhone? Ось 12 порад і підказок, як його освоїти
• Що таке Amazon Music: все, що потрібно знати
• Підсумки Instagram 2022: як зробити свій ролик на кінець року
• Як користуватися розширеним захистом даних на iPhone (і навіщо це потрібно)

Source: digitaltrends.com