Роботи можуть тиснути на дітей, але не думайте, що ми застраховані від цього

Трохи видозмінимо назву відомого телешоу: Діти роблять найстрашніші речі. Нещодавно вчені з Німеччини та Великобританії провели дослідження, опубліковане в журналі Science Robotics, яке продемонструвало, наскільки діти схильні до тиску роботів-однолітків. Версія TLDR: відповідь на старе батьківське питання: “Якби всі твої друзі сказали тобі стрибнути зі скелі, ти б стрибнув?”, цілком може бути “Звичайно. Якби всі мої друзі були роботами”.

• Чи справді дорослі настільки розумніші?
• Кожному кораблю – корабельна аварія

Тест відтворює відомий експеримент 1951 року, вперше проведений польським психологом Соломоном Ашем. Експеримент продемонстрував, як люди можуть піддаватися впливу групового мислення, навіть якщо це суперечить інформації, яку вони знають, як правильну. В експериментах Аша група студентів коледжу була зібрана разом, і їм показали дві картки. На лівій картці було зображення однієї вертикальної лінії. На картці праворуч – три лінії різної довжини. Потім експериментатор запитав учасників, яка лінія на правій картці відповідає довжині лінії, зображеної на лівій картці.

“Особливість цього вікового діапазону дітей полягає в тому, що вони все ще перебувають у тому віці, коли вони призупиняють недовіру”.

Поки що все так просто. Однак, де все стало більш хитромудрим, так це в складі групи. Лише одна людина з групи була справжнім учасником, тоді як всі інші були акторами, яким заздалегідь сказали, що говорити. Експеримент полягав у тому, щоб перевірити, чи піде справжній учасник разом з іншими членами групи, коли вони одноголосно дадуть неправильну відповідь. Як виявилося, більшість – так. Тиск однодумців означає, що більшість людей будуть заперечувати інформацію, яка є очевидно правильною, якщо це означає відповідати думці більшості.

• Майбутнє за автоматизацією: Роботи прийдуть, але вони не заберуть вашу роботу
• Роботизовані поліцейські поступово нормалізуються, хочемо ми цього чи ні
• Автоматизація, спричинена пандемією, поглинає робочі місця, і ми ніколи їх не повернемо

У реміксі експерименту 2018 року був використаний той же принцип – тільки замість групи однолітків студентського віку “реальним учасником” стала дитина, віком від семи до дев’яти років. “Акторів” грали три роботи, запрограмовані на неправильну відповідь. У вибірці з 43 добровольців 74 відсотки дітей дали таку ж неправильну відповідь, як і роботи. Результати свідчать про те, що більшість дітей цього віку будуть ставитися до тиску з боку роботів так само, як і до сечі.

“Особливість цього вікового діапазону дітей полягає в тому, що вони все ще перебувають у тому віці, коли вони призупиняють невіру”, – розповів Digital Trends Тоні Белпаеме, професор з інтелектуальних і автономних систем управління, який допомагав проводити дослідження. “Вони будуть грати з іграшками і все ще віритимуть, що їхні фігурки або ляльки справжні; вони все ще дивитимуться лялькову виставу і дійсно віритимуть у те, що відбувається; вони можуть все ще вірити в [Санта Клауса]. Те ж саме, коли вони дивляться на робота: вони бачать не електроніку і пластик, а соціальний персонаж”.

Цікаво, що експеримент контрастував з реакцією дорослих. На відміну від дітей, дорослі не реагували на помилки роботів. “Коли дорослі бачили, що робот дає неправильну відповідь, вони дивилися на нього спантеличено, а потім давали правильну відповідь, – продовжив Белпаеме.

Отже, немає про що хвилюватися? Поки ми не даємо дітям до рук роботів, запрограмованих давати погані відповіді, все повинно бути добре, чи не так? Не поспішай.

Чи справді дорослі настільки розумніші?

Як визнав Белпаме, це завдання було розроблене настільки простим, що не було жодної невизначеності щодо того, якою може бути відповідь. Реальний світ є іншим. Коли ми думаємо про види робіт, які легко передаються машинам, то часто це завдання, які ми, люди, не завжди здатні виконати досконало.

Це завдання було розроблене настільки простим, що не було ніякої невизначеності щодо того, якою може бути відповідь.

Може виявитися, що завдання неймовірно просте, але машина може виконати його значно швидше, ніж ми. Або це може бути більш складне завдання, в якому комп’ютер має доступ до набагато більших обсягів даних, ніж ми. Залежно від потенційного впливу виконуваної роботи, не дивно, що багато хто з нас був би незадоволений тим, що коригує машину.

Чи була б медсестра в лікарні рада скасувати затверджений FDA алгоритм, який може допомогти визначити пріоритети щодо здоров’я пацієнта, відстежуючи життєво важливі показники, а потім надсилаючи сповіщення медичному персоналу? Або чи буде водієві комфортно сісти за кермо безпілотного автомобіля, коли він має справу з особливо складною дорожньою ситуацією? Або навіть пілоту, який відміняє автопілот, бо вважає, що той приймає неправильне рішення? У всіх цих випадках ми хотіли б думати, що відповідь “так”. Проте, з різних причин, це може бути не так.

Про це пише Ніколас Карр у своїй книзі 2014 року “Скляна клітка: куди нас веде автоматизація”. Те, як він це описує, підкреслює ту неоднозначність, з якою пов’язані реальні випадки автоматизації, де проблеми набагато складніші, ніж довжина лінії на картці, машини набагато розумніші, а результат потенційно більш важливий.

“Як виміряти втрати від ерозії зусиль і залученості, або послаблення самостійності і автономії, або ледь помітного погіршення навичок? Ніяк”, – пише він. “Це ті тіньові, нематеріальні речі, які ми рідко цінуємо, доки вони не зникнуть.

Соціальні роботи, подібні до тих, про яких теоретизує Белпаеме в своїй дослідницькій роботі, ще не стали мейнстрімом, але вже є ілюстрації деяких з цих загадок в дії. Наприклад, Карр відкриває свою книгу згадкою про меморандум Федерального управління цивільної авіації, в якому зазначалося, що пілоти повинні витрачати менше часу на польоти на автопілоті через ризики, які це створює. Це було зроблено на основі аналізу даних про авіакатастрофи, який показав, що пілоти часто занадто покладаються на комп’ютеризовані системи.

Схожий випадок був у 2009 році, коли жінка на ім’я Лорен Розенберг подала позов проти Google після того, як їй порадили йти пішки по маршруту, який вів до небезпечного руху. Хоча справа і не дійшла до суду, вона показує, що люди можуть переступити через власний здоровий глузд, вірячи в те, що машинний інтелект має більше розуму, ніж ми.

На кожен корабель – своя корабельна аварія

Кожному кораблю – корабельна аварія

“Роботи, які чинять на вас соціальний тиск, можуть бути гарною річчю; це не обов’язково має бути зловісним”, – продовжив Белпаме. “Якщо у вас є роботи, які використовуються в охороні здоров’я або освіті, ви хочете, щоб вони могли впливати на вас. Наприклад, якщо ви хочете схуднути, вам можуть дати робота для схуднення на два місяці, який стежитиме за споживанням калорій і заохочуватиме вас робити більше фізичних вправ. Ви хочете, щоб такий робот був переконливим і впливав на вас. Але будь-яка технологія, яка може бути використана для добра, може бути використана і для зла”.

Яка відповідь на це? Такі питання обговорюватимуться в кожному конкретному випадку. Якщо погане в кінцевому підсумку переважить хороше, то такі технології, як соціальні роботи, ніколи не злетять. Але важливо, щоб ми винесли правильні уроки з таких досліджень, як дослідження про тиск з боку однолітків, спричинений роботами. І не факт, що ми набагато розумніші за дітей.

Рекомендації редакції

Частково Термінатор, частково Тремор: Цей роботизований черв’як може плавати по піску

• Роботи, що еволюціонують і самовідтворюються, вже тут – але не хвилюйтеся про повстання
• Holotron – роботизований екзокостюм, який може змінити те, як ми використовуємо VR
• Більшість художніх галерей закриті, але ви все ще можете відвідати цю – з роботом
• Протези, які не потребують практики: Усередині останнього прориву в біоніці
• HBO Max

• Спеціальні можливості
• Що буде далі: Як технології допомагають суспільству відкритися після коронавірусу
• Дослідження тиску на роботів з боку однолітків

Source: digitaltrends.com