Кого повинен переїхати безпілотний автомобіль: дитину або бабусю? Це залежить від країни

Сумнозвісна “дилема вагонетки” (trolley problem), вперше сформульована в 1967 році британським філософом Филиппой Фут, була закладена в основу глобального дослідження, в якому брали участь мільйони людей. Це дослідження показало, наскільки моральні і етичні норми відрізняються в різних країнах.
У 2014 році вчені з лабораторії MIT Media Lab почали експеримент під назвою Moral Machine (Моральна машина). Ідея полягала в тому, щоб створити онлайн-платформу, подібну ігровий, яка б зібрала думки людей про те, як безпілотні автомобілі повинні визначати, кого саме рятувати в різних варіаціях «дилеми вагонетки». Передбачалося, що це дослідження дозволить краще зрозуміти колективні етичні пріоритети різних культур.
Дослідники не прогнозували, що експеримент стане вірусним. І через чотири роки після старту мільйони людей в 233 країнах і територіях залишили 40 мільйонів відповідей, що зробило це дослідження одним з найбільших серед тих, що виконувалися в глобальному масштабі.
Новий матеріал, опублікований в журналі Nature, представляє аналіз цих даних показує, наскільки міжкультурна етика розрізняється в залежності від культури, економіки та географічного розташування країни.
Нагадаємо, що «дилема вагонетки» сформульована наступним чином: важка некерована вагонетка мчить по рейках. На шляху її проходження перебувають п’ятеро людей, прив’язаних до рейок. На щастя, ви можете перемкнути стрілку — і тоді вагонетка поїде по іншому, запасному шляху. І на запасному шляху знаходиться одна людина, також прив’язаний до рейок. Які ваші дії? Нічого не робити і дозволити загинути тим п’ятьом, чи все ж переключити стрілку і вбити одного, але врятувати п’ятьох?
В основі Moral Machine лежить приблизно та ж ідея, але збільшено кількість варіацій: чи повинен безпілотний автомобіль надавати пріоритет людини над домашніми тваринами, пасажирам над пішоходами, більшій кількості людей над меншою, жінок над чоловіками, молодим над старим, здоровим над хворими, людей з вищим соціальним статусом над нижчим, законослухняним громадянам над порушниками ПДР? І, нарешті, має автомобіль взагалі робити певні активні дії або просто тримати курс (тобто уникати будь-яких проблемних рішень)?
Але дослідники пішли далі, і замість того, щоб створювати прості порівняння, комбінували їх у більш складні питання. Наприклад, чи повинна машина просто рухатися прямо і збити трьох літніх пішоходів або відвернути в бік і врізатися в стовп, убивши трьох молодих пасажирів.
Вчені виявили, що думки в різних країнах сильно відрізняються між собою, а ще вони також потужно корелюють з культурою та економікою. Наприклад, учасники опитування з колективістських культур, таких як Китай та Японія, менше схильні рятувати молодих людей замість старих — можливо з тієї причини, вважають дослідники, що в тих країнах старим приділяється надзвичайно велика повага. В країнах з більш індивідуалістичними культурами, швидше за все, будуть рятувати молодих.
Так само, учасники дослідження з бідних країн з менш усталеними правовими нормами більш толерантні до пішоходів-порушників на противагу тим пішоходам, які дотримуються правила дорожнього руху. У свою чергу учасники дослідження з країн з високим рівнем економічної нерівності продемонстрували великий розрив у ставленні до осіб з високим і низьким соціальним статусом.
Крім того, дослідники з’ясували, що чисельність людей, які можуть постраждати від ДТП, не завжди була переважаючим фактором у виборі того, яку групу треба рятувати. Результати показали, що респонденти з індивідуалістичних культур, таких як Великобританія та США, приділяли більше уваги збереженню більшої кількості життів, але враховували і всі інші варіанти — можливо, на думку авторів, внаслідок того, що в цих країнах більш поширена антропоцентричная культура.
В країнах з більш індивідуалістичними культурами, швидше за все, будуть намагатися врятувати більшу кількість життів
Країни, розташовані в безпосередній близькості один від одного, також продемонстрували приблизно однакові результати опитування, до того ж можна було виділити три основних кластера на Заході, Сході і Півдні.
Дослідники визнають, що результати можуть бути необ’єктивні, оскільки учасників опитування не відбирали за якимись критеріями, а вони самі виявили бажання взяти участь в експерименті. До того ж це були люди з високим соціальним статусом тісно пов’язані з інтернетом і технічно підковані. Але ті, хто зацікавлені в експлуатації самохідних машин, швидше за все, будуть мати аналогічні характеристики.
Дослідження має цікаві наслідки для країн, які зараз відчувають безпілотні автомобілі, оскільки зібрані думки можуть зіграти певну роль у створенні конструкції та законодавчих норм для таких транспортних засобів. Автовиробники, наприклад, можуть виявити, що китайські споживачі віддають перевагу самохідним автомобілів, в яких більш пріоритетним є захист пасажирів над пішоходами.
Як у різних країнах роблять вибір, кого рятувати: пішоходів чи пасажирів
Втім, автори дослідження підкреслили, що результати опитування не мають на меті диктувати, як повинні діяти різні країни. Навіть більше, в деяких випадках автори вважали, що технологи та політики не повинні прислухатися до громадської думки. Едмон Эвад (Edmond Awad), автор статті, в якості прикладу навів результати опитування щодо соціального статусу.
«Схоже, що в деяких країнах вважається нормальним, коли в разі ДТП потрібно віддавати перевагу порятунку людей з більш високим соціальним статусом», — сказав він. Тому тут розробникам важливо заявити: «Ми можемо лише оцінити кількість людей на дорозі, [а не їх соціальний статус]».
Результати опитування, за його словами, повинні використовуватися представниками індустрії та органів влади як основа для розуміння того, як громадськість буде реагувати на етику різних конструкторських та регуляторних рішень. Эвад сподівається, що результати дослідження також допоможуть технологам більш глибоко задуматися про етику штучного інтелекту (AI) за межами безпілотних машин.
«Ми використовували дилему з вагонеткою, оскільки це дуже хороший спосіб зібрати потрібні дані, але ми сподіваємося, що обговорення етичних норм не залишиться в рамках тільки цієї теми. Дискусія повинна перейти до аналізу ризиків — про те, хто більше або менше в зоні ризику — замість того, щоб обговорювати хто в підсумку загине, а також про те, які спостерігаються тренди ».
Але яким чином результати опитування можуть вплинути на формування більш етичного підходу при створенні штучного інтелекту — це питання, яке треба вивчити в майбутньому.
За словами Эвада, протягом останніх 2-3 років все більше людей обговорюють етику ІІ. І все частіше вони усвідомлюють, що AI може мати різні етичні наслідки для різних груп людей. Але сам факт, що люди почали цікавитися такою тематикою, є важливим і перспективним.