Прогностичні алгоритми поліцейської діяльності — добро чи зло?

У листопаді 2011 року журнал TIME назвав «прогностичну поліцейську діяльність» (predictive policing) або PredPol одним з 50 кращих винаходів року.
«Вікіпедія» зазначає, що прогностична поліцейська діяльність стосується використання математичних, прогностичних і аналітичних методів у правоохоронних органах для виявлення потенційної злочинної діяльності. Методи прогностичної поліцейської діяльності підрозділяються на чотири загальні категорії: методи прогнозування злочинів, методи прогнозування правопорушників, методи прогнозування ідентичностей винуватців і методи прогнозування жертв злочину. Разом з ресурсом e-flux намагаємося зрозуміти, про що йдеться, і прийти до висновків через кілька років застосування технології на практиці.
Співпраця ботанів і копів
В 2011 році Школа управління ним. Джона Ф. Кеннеді Гарвардського університету та Національного інституту юстиції США опублікували спільну роботу під назвою «Поліцейська наука: рух до нової парадигми», ідеї якої були розроблені на засіданні виконавчої сесії з питань поліції і громадської безпеки, що відбулася в Гарвардському університеті. Документ закликав до «радикального реформування ролі науки в поліцейській діяльності», визначаючи пріоритети політики, заснованої на доказах, та акцентуючи увагу на необхідності тісної співпраці між науковцями та поліційними відділами. Автори Девід Уайсбурд (David Weisburd) і Пітер Нейруд (Peter Neyroud) стверджували, що «застосування наукових досягнень у поліцейській справі є необхідним, якщо поліція хоче зберегти підтримку населення і легітимність своїх дій».
Враховуючи те, що критики американської поліції асоціюють правоохоронні органи з довільним застосуванням сили, расовою дискримінацією та неконтрольованими повноваженнями по прийняттю рішень щодо того, хто буде жити, а хто помре, ребрендинг поліцейської діяльності таким чином, щоб зосередити увагу на статистичній безособовості і символічно усунути домінування окремих офіцерів, – це доцільний спосіб зобразити поліцейську діяльність нейтральної, неупередженої і раціональної.
Параноя
Що ж, власне, робить PredPol? PredPol – це програма, яка використовує алгоритми (розроблені на основі рівнянь, що використовуються для визначення підземних поштовхів, які слідують після землетрусів), щоб визначити, де і коли відбудуться злочину, грунтуючись на наборах даних минулих злочинів. Наприклад, в Санта-Круз, Каліфорнія, одному з міст, де вперше застосували PredPol, для прогнозування були використані дані про місцевих злочини за останні 11 років. У поліцейських підрозділах, які використовують PredPol, офіцерам дають роздруковані картки, на які нанесені червоні квадратики, які вказують на регіони, де протягом дня, за прогнозами програмного забезпечення, відбудеться злочин. Офіцери повинні періодично патрулювати ці регіони в надії на те, що вони або зловлять злочинців, або перешкодять потенційним злочинцям вчинити правопорушення.
У критиків PredPol відразу ж виникло безліч запитань, зокрема: відношення або психологічна налаштованість офіцерів, які патрулюють один з таких помічених червоним квадратиком регіонів? Або офіцери сподіваються стати свідками злочину, потрапляючи в такий регіон? Як очікування стати свідком злочину може вплинути на те, що «знаходять» поліцейські? Будуть люди, які переміщуються такими так званими «тимчасовими зонами кримінальної активності», автоматично сприйматися як підозрілі? 22 листопада 2014 року офіцерові поліції Клівленда Тімоті Лехманну (Timothy Loehmann) знадобилося менше ніж дві секунди, щоб застрелити Таміра Райса (Tamir Rice), дванадцятирічного афроамериканця, який грався іграшкою. Виникає питання: якщо співробітники правоохоронних органів вже готові так просто застосовувати зброю, дійсно маленькі червоні квадратики, що позначають часові зони злочинності, зменшать час реакції офіцерів, які перебувають у таких регіонах?
А як буде діяти цивільне населення, перебуваючи в таких місцевостях? Звичайно, у людини, що потрапляє в район, за яким спостерігає поліція, виникають додаткові причини для страху. Однак, враховуючи те, що цивільне населення не знає, де і коли з’являться червоні квадрати, громадяни не можуть знати, коли перетинають тимчасові зони кримінальної активності. Така невизначеність, стверджують психологи, критики, вже може викликати у людини відчуття того, що він перебуває під постійним наглядом.
Крім того, моделі передбачення залежать від наборів даних, використовуваних для прогнозування, тому важливо запитати, хто збирає дані і яким чином. Хоча позиціонують дані як нейтральні біти інформації про наш світ і нашу поведінку у сфері кримінального правосуддя, вони є відображенням того, на кого спрямоване спостереження. Критики стверджують, що PredPol – це спосіб легітимізувати упередження поліції, адже тепер офіцери патрулюють ті райони, на які їм вказує програма, алгоритми якої, втім, розроблені на основі довгострокової моделі поведінки поліцейських.
Помилковий позитив
За кілька років використання технології прогностичної поліцейської діяльності можна знайти безліч позитивних відгуків про її застосування. Однак, враховуючи складність вимірювання ефективності методів прогнозування таких дій, існує ризик помилкової зв’язку «позитивних» результатів правоохоронних заходів з використанням ПЗ. Не існує чіткої узгодженої інформації щодо того, як виміряти успіх. Коли поліцейські направляються патрулювати червоні квадратики, або передбачається, що вони будуть ловити злочинців в процесі вчинення злочинів, що своєю присутністю вони дотримають вчинення правопорушень? У першому випадку еталоном успіху буде збільшення кількості арештів на певних територіях, а в другому – навпаки, їх зменшення. Однак обидва кінцевих результату були використані для підтвердження успіху PredPol.
Дарма, що сайт PredPol рекламує «науково доведені результати застосування ЗА», ні одна незацікавлена сторона жодного разу не підтвердила заяви компанії. Велику тривогу викликає той факт, що PredPol запропонував 50% знижку З тим поліцейським відділам, які погодилися взяти участь у пілотній програмі PredPol. Програма передбачала співпрацю з розробником протягом трьох років і зажадала від поліцейських відділів надати відгуки, які могли б бути використані для продажу програмного забезпечення.
Криза невизначеності
Невизначеність є одночасно і проблемою інформації, і екзистенціальної проблемою, яка формує те, як ми живемо в світі. Якщо ми визнаємо, що існуємо у світі, який є принципово незбагненним для окремих людей, ми також визнаємо, що їм загрожує будь-яку кількість ризиків, які перебувають за межами нашого контролю. Чим менше ступінь нашого власного контролю, тим більше ми бажаємо порядку, свідчать психологи. І цим прагненням до правопорядку, посилюється, коли ми усвідомлюємо свою тілесну вразливість до потенційно небезпечним для нас незрозумілих загроз, можуть стратегічно маніпулювати компанії, які використовують алгоритмічні методи поліцейської діяльності для запобігання злочинності і тероризму як на рівні держави, так і на світовому рівні.
Катастрофи, війни і злочини можуть ще більше поглиблювати наше колективне прагнення до безпеки. В епоху big data невизначеність представляється як інформаційна проблема, яку можна подолати шляхом комплексного збору даних, статистичного аналізу, який може визначати моделі і відносини, а також з допомогою алгоритмів, які можуть визначати майбутні результати шляхом аналізу минулих результатів. Прогностична поліцейська діяльність обіцяє зняти екзистенційний страх, викликана незнанням того, що станеться, використовуючи дані, щоб дати нам точні знання про те, де і коли відбудеться злочин. Дані стають рішенням проблеми невизначеності, вимагаючи досягнення повної інформованості і подолання людських аналітичних обмежень.
Анонімна ультралевая група Tiqqun пов’язує розвиток кризи невизначеності з розвитком кібернетики. Її представники описують кібернетику як ідеологію управління, самоорганізації, упорядкування, контролю, автоматизації і технічної впевненості. На думку Tiqqun, ця ідеологія почалася після Другої Світової війни і прагне вирішувати «метафізичну проблему створення порядку з безладу» для подолання криз, нестабільності і нерівноваги, що, за твердженням групи, є невід’ємним побічним продуктом капіталістичного розвитку. Однак «метафізична» проблема невизначеності дозволяє кібернетичної ідеології укоринится. Незважаючи на те, що практично за всіма ознаками «сьогодні американці живуть в “найменш жорстокому часу в історії нації”, хоча самі американці вважають, що рівень злочинності зростає». Немає підстав вважати, що існує безпрецедентний злочинний бум, який загрожує розвалити суспільство, але через «емоційні інвестиції» в такий світогляд розширюються сфери застосування спостереження і контролю.