Люди повинні зберігати контроль над автономними автомобілями

Минулого місяця вперше в історії, в США, пішохід загинув у ДТП за участю самокерованого автомобіля. Машина, яка рухалася на автопілоті, здійснила смертельний наїзд на жінку р. Темпу (штат Арізона). Операто в авто не зміг запобігти аварії.
Хоча такі інциденти ще поки рідкісні, їх число може зрости, адже на дорогах з’являється все більше машин, які їздять без людського втручання. В минулому році декілька країн ухвалили закони, які дозволили відчувати такі автомобілі на дорогах загального користування. Наприклад, Сінгапур навіть змінив свої правила дорожнього руху. Транспортне агентство Швеції дозволив рух самоврядних автобусів в північному Стокгольмі, а в Сполучених Штатах Палата представників прийняла закон про автономні транспортні засоби (Self Drive Act), який повинен узагальнити закони діють у різних штатах. Ще більше лібералізувати американське законодавство має законопроект Autonomous Vehicle Start Act, який поки що зависло в Сенаті США.
Багато законодавці з ентузіазмом сприймають потенціал самоврядних транспортних засобів. Таксі “на вимогу” можуть зменшити кількість автомобілів у приватних власників і, отже, частково вирішити проблему заторів і шкідливих викидів в атмосферу. Штучний інтелект може набагато ефективніше, ніж людина, контролювати витрату палива. Але найбільша перевага таких авто полягає в тому, що вони потенційно здатні зберегти до 1,25 млн життів на рік, які гинуть у ДТП, адже більшість аварій відбувається саме через людських помилок.
Тому уряди хочуть якомога швидше прийняти закони, які лібералізують такі транспортні засоби і прискорять їх поява на дорогах. Однак вони часто роблять це, звільняючи виробників від певних правил безпеки. Це, зокрема, вимога, щоб людина-оператор завжди був усередині транспортного засобу, який обов’язково повинен бути оснащений кермом, гальмами і дзеркалами, і все це повинно працювати, навіть коли машина рухається на автопілоті. Деякі виробники дотримуються цих вимог, адже досі немає ніяких гарантій, що автономні транспортні засоби будуть відповідати стандартам безпеки сучасних автомобілів.
У той же час уряди втратять мільярди доларів податками, якщо менше людей будуть купувати машини. Мільйони таксистів, водіїв вантажівок та автобусів втратять робочі місця. А алгоритми машинного навчання, які здійснюють управління, ще аж ніяк не такі досконалі, щоб спокійно делегувати їм відповідальність за життя пасажирів і пішоходів.
Законодавці повинні більш тісно працювати з вченими та розробниками, щоб створити нові правила дорожнього руху для автономних транспортних засобів. Це дуже великий виклик, адже він вимагає інтеграції досліджень відразу з багатьох сфер. Ми б хотіли позначити тільки дві сфери, які вимагають термінового уваги, — відповідальність і безпеку.
Як і виробники будь-яких товарів, розробники автономних автомобілів несуть юридичну відповідальність за збиток, пов’язаний з дефектами конструкції, виробництва або маркетингу. Потенційний ризик дуже високий, адже складні системи, які лежать в основі самокерованих автомобілів, у визначених ситуаціях можуть повести себе несподіваним способом.
В інтересах виробника — мінімізувати кількість позовів проти себе. Ключова стратегій — проінформувати користувачів продукту про те, як він працює. Наприклад, розробники ліків подають інформацію про дозування і побічні дії; виробники електроніки — інструкції та попередження. Втім, як і у випадку зі смартфонами, технології в основі самоврядних транспортних засобів дуже складно пояснити і зрозуміти. Люди воліють купувати прості речі, які дозволяють виконувати складні завдання. Проте чим складніше річ, тим менше в її користувачів здатності розпізнавати й усувати проблеми в її функціях. Дуже мало водіїв, наприклад, знають, як комп’ютер в їх авто контролює параметри двигуна. Тому і пасажир автономного транспортного засобу, швидше за все, не буде знати, чому програма раптом зробила різкий поворот на зустрічну смугу або чому не випереджає повільну машину попереду.
Ситуація ще більше ускладнюється тим, що алгоритми машинного навчання непередбачувані. Рішення, які вони приймають, визначені попереднім досвідом. Ніхто, навіть розробник алгоритму, не може точно визначити, як автомобіль себе поведе при тих чи інших обставинах.
На сьогодні немає жодного закону, який би регулював, скільки “тренуватися” потрібно таким авто перш ніж дозволити їм виїхати на трасу. Вже сьогодні різні марки по-різному реагують на критичні ситуації. Одні, наприклад, намагаються об’їхати перешкоду, а інші різко активує гальма. Деякі дорожні ситуації, наприклад, переворот вантажівки вітром, взагалі поки що не вдається запрограмувати.
Щоб поінформувати пасажирів, чому авто веде себе в той чи інший спосіб, потрібний складний інтерфейс. Сьогоднішні панелі керування містять інформацію про швидкості і витраті пального. Але завтра, напевно, з’являться набагато більш складні дисплеї, які будуть повідомляти про “наміри” і логіці поведінки машини. Наприклад, пасажир має право знати, що машина не випереджає повільного транспортного засобу попереду, тому що комп’ютер розрахував, що є тільки 10% шансів, що маневр буде успішним.
На жаль, люди часто ігнорують інформацію, навіть якщо від неї залежить питання життя і смерті. Наприклад, 70% авіапасажирів не читають листівок з інформацією про безпечність в літаку, хоча їх про це прямо просять. Ці листівки містять інформацію про те, як одягнути рятувальну кисневу маску або відкрити рятувальний шлюз.
Натомість автономні транспортні засоби повинні повідомляти набагато більше даних. Їх сенсори та алгоритми повинні розуміти поведінку пішоходів, розрізняти різні стилі водіння і пристосовуватися до змін в освітленні. Дослідження, як донести цю інформацію людям доступно і зрозуміло, сьогодні мають ключове значення. Втім, як і достатня компетентність людей, які будуть використовувати ці технології.
Переваги безпеки та ефективності автономних машин полягають насамперед у тому, що комп’ютери приймають рішення краще і швидше, ніж люди. Від людини вимагається лише внести пункт призначення, а все інше повинен зробити комп’ютер. Але виробники цілеспрямовано не зробили транспортних засобів повністю автономними. Люди і досі краще, ніж комп’ютери, реагують на непередбачувані обставини. Пілоти можуть перейняти управління в системі fly-by-wire, якщо ключові комп’ютери на борту літака відмовлять.
Товариство має право не довіряти повної автоматизації. Виробники повинні чітко пояснити, що машина зробить для безпеки пасажирів, якщо не спрацюють системи управління, зламаються камери або “помруть” внутрішні карти. Але це нелегко спроектувати. Без камер автомобіль, наприклад, не бачить, куди їде.
На наш погляд, деяка форма людського втручання завжди буде необхідна. Самокеровані автомобілі, швидше за все, будуть нагадувати літаки, в яких від функцій пілотів так і не відмовилися, хоча є сучасні високоавтоматизовані системи. Виробники автономних транспортних засобів, в цілому, дотримуються цієї вимоги. Під час тестів завжди присутні водії, хоча розробники і регулятори кажуть про повну автоматизацію.
Але залучення людей тягне за собою інші проблеми. Автономні автомобілі завжди будуть вимагати від своїх користувачів певних знань і умінь, і деяким людям непросто буде ними користуватися, наприклад, тим, у кого ослаблені когнітивні функції. Парадокс у тому, що саме ці люди найбільше виграють від таких автомобілів. Це, зокрема, літні люди, які мають підвищений ризик ДТП, оскільки когнітивні здібності з віком слабшають. До речі, одним з головних стимулів інвестицій в технологію в Японії є саме надання більше мобільності літнім людям.
Функції водіння може на себе взяти віддалений оператор, що вже давно практикують для літаків. Але скільки потрібно таких операторів, щоб рух мереж самоврядних машин було безпечним? У 1991 році занадто завантажений контролер повітряного трафіку скоїв аварію в Лос-Анджелесі, посадивши один літак прямо на інший. А в минулому році серед головних причин помилок лікарів в Гонконзі назвали їх надмірну завантаженість пацієнтами.
В межах чинного законодавства відповіді на ці виклики. Закони в Сполучених Штатах вимагають лише того, щоб користувачі були “інформовані” про технологію перед тим, як її використовувати. Стандарти цієї компетентності навіть не згадуються.
Ми закликаємо законодавців переосмислити підхід до регулювання автономних транспортних засобів і врахувати наступні шість пунктів.
Якщо автомобіль самоврядний, це не означає, що він може обійтися без людини-оператора. Автоматизація не витісняє людської праці, а лише змінює його характер.
Користувачі повинні бути інформовані про те, як система працює. Виробники повинні докласти всіх зусиль, щоб ключова для безпеки інформацію, включаючи дані з камер, лазерів і радарів, була доступною користувачам в зрозумілій формі.
Оператори повинні володіти достатнім рівнем компетентності. Сьогодні ще немає консенсусу, якою повинна бути ця компетентність. Однак її перевірку повинні здійснювати державні органи, що видають посвідчення, і вона повинна доповнювати посвідчення водія, що вже існують.
Регулярна перевірка компетентності для операторів повинна стати обов’язковою. Необхідно визначити часові інтервали, враховуючи стан когнітивних здібностей людини і технологій, які постійно розвиваються.
Необхідно створити дистанційний нагляд над мережами таких авто. Обов’язковою вимогою є визначення максимальної кількості транспортних засобів, якими може керувати один оператор.
Для віддалених операторів необхідно встановити безпечний режим роботи.
Шлях до автономії аж ніяк не є заздалегідь визначеним. Тому на важливі виклики потрібно вже сьогодні шукати відповіді.