Чи розумітиме жінок штучний інтелект, створений “морем чуваків”? Проблема інклюзивності ШІ

У комп’ютерних технологій є проблема – в цій галузі занадто мало жінок.

Тільки 26 відсотків комп’ютерних фахівців були жінками в 2013 році, згідно з недавнім оглядом Американської асоціації жінок з університетами. З 1990 року цей показник знизився на 9 відсотків.

Пояснень цьому безліч. Одні кажуть, що ця галузь є чоловічою за своєю суттю. Інші стверджують, що комп’ютерна культура є несприятливою – навіть ворожою – для жінок. Отже, в той час як в галузях STEM, таких як біологія, хімія і інженерія, спостерігається збільшення різноманітності, в комп’ютерних технологіях цього не відбувається. Незважаючи на це, це серйозна проблема.

• Чому ШІ ніколи не буде правити світом
• Meta хоче перезарядити Вікіпедію за допомогою ШІ-оновлення
• ФБР: Deepfakes створюються з використанням ваших даних для подачі заявок на роботу

Штучний інтелект все ще знаходиться в зародковому стані, але він готовий стати найбільш проривною технологією з часів Інтернету. ШІ буде скрізь – у вашому телефоні, у вашому холодильнику, у вашому Форді. Інтелектуальні алгоритми вже відстежують вашу активність в Інтернеті, знаходять ваше обличчя на фотографіях у Facebook і допомагають вам з фінансами. Протягом наступних кількох десятиліть вони повністю контролюватимуть ваш автомобіль і стежитимуть за здоров’ям вашого серця. Одного разу штучний інтелект може навіть стати вашим улюбленим виконавцем.

Програми, написані сьогодні, будуть інформувати системи, побудовані завтра. І якщо дизайнери мають один світогляд, то можна очікувати на однаково вузькоспрямовані машини.

ШІ вже упереджені

Минулого року дослідження Університету Карнегі-Меллона показало, що набагато меншій кількості жінок, ніж чоловіків, показували рекламу Google про високооплачувану роботу. Дослідники розробили інструмент під назвою AdFisher, який створює імітовані профілі і проводить експерименти в браузері, переглядаючи веб-сторінки і збираючи дані про те, як незначні зміни в профілях і перевагах впливають на показаний контент.

“Користувачам-чоловікам показували високооплачувані оголошення про роботу близько 1800 разів, у порівнянні з користувачами-жінками, які бачили ці оголошення близько 300 разів”, – сказав у прес-релізі Аміт Датта, аспірант в галузі електротехніки та комп’ютерної інженерії.

Вступ: Розв’язання рівняння

[…] […] […]

[…] […] […]

У вересні цього року в Лондоні на саміті з глибокого навчання Rework у Лондоні було море чоловіків, а жінок серед приблизно 500 учасників було дуже мало.

Засновник Rework Нікіта Джонсон визнає гендерну нерівність у сфері ШІ і хоче щось з цим зробити.

“Якщо системи штучного інтелекту будуються в основному тільки чоловіками, то вони з більшою ймовірністю будуть створювати упереджені результати, і представництво розробників буде домінувати”.

“Якщо системи штучного інтелекту будуються переважно тільки чоловіками, то вони з більшою ймовірністю будуть створювати упереджені результати, і представництво будівельників буде домінувати”, – сказала вона в інтерв’ю Digital Trends. “Обмежуючи різноманітність в командах, ми обмежуємо широту досвіду, який може бути привнесений в проект. Наприклад, набори даних повинні збиратися як чоловіками, так і жінками, щоб гарантувати, що результати з даних включають широкий погляд на гендерні питання”.

За допомогою заходів “Жінки в машинному інтелекті” Джонсон і її команда, яка складається переважно з жінок, привертають увагу до жіночого таланту і заохочують учасниць знаходити колег, партнерів і наставниць в інших жінках. Вона вважає таку мережу необхідним кроком на шляху до збільшення представництва жінок у цій галузі.

“Однією з причин [відсутності різноманітності в спільноті ШІ] є циклічність між відсутністю рольових моделей для молодих жінок і дівчат, на яких вони могли б рівнятися”, – сказала Джонсон. “Тому у жінок і дівчат немає мотивації вибирати ШІ і комп’ютерні науки в якості потенційного кар’єрного шляху”.

Але, як зазначила Джонсон, є багато надихаючих жінок в області комп’ютерних технологій, кілька з яких виступили на конференції.

Ірина Хіггінс з Google DeepMind продемонструвала концепцію своєї команди для системи, яка може вивчати візуальні концепції без нагляду. Рая Хадселл – також з DeepMind – розповіла про дослідження своєї команди в галузі симульованого глибокого навчання з підкріпленням – процесу, за допомогою якого фізичний робот тренує навички за допомогою симульованої версії самого себе. Вона порівняла цю техніку з навчанням, як це роблять люди.

Кількома годинами пізніше Міріам Реді з Кембриджської лабораторії Bell Labs пролила світло на невидиму сторону візуальних даних, показавши, як дослідники можуть виявити суб’єктивні упередження, вбудовані в системи. У дослідженні з естетики Реді і її команда розробили систему глибокого навчання, яка автоматично оцінює зображення з точки зору їхньої композиційної краси. Дослідження допомогло з’ясувати, що відрізняє хороший портрет від поганого з алгоритмічної точки зору, але також виявило групу ознак раси та статі, які система помилково вважала релевантними.

“Проводячи подібні дослідження і вивчаючи те, що відбувається всередині нашої суб’єктивної системи машинного бачення, ми можемо уникнути подібної расистської поведінки машин”, – сказав Реді.

Алгоритми моніторингу для уникнення гендерних упереджень допомагають розвивати більш інклюзивні системи, а такі заходи, як організовані Rework, пропонують заохочення через зв’язки, але зацікавленість та мотивація можуть прийти набагато раніше для молодих жінок. Підтримка сім’ї є ключовим фактором. Існують десятки додатків та освітніх іграшок, щоб навчити дітей основам кодування.

Так, дослідниця ШІ Кембриджського університету Шаона Гош наполягає на тому, що початкова мотивація має йти з дому. “Перш за все, підтримка, віра та заохочення повинні йти від батьків, – каже вона. “Це величезний і важливий крок, який не може компенсувати жодна освіта і жодні можливості”.

Не існує простого способу переломити ситуацію з морем чоловіків і просувати жінок в ШІ, але це в наших спільних інтересах. Це вимагає зусиль від організаторів, таких як Джонсон, і дослідників, таких як Кроуфорд, Хіггінс, Хадселл і Реді, але, як радить Гош, можливо, найефективніші зусилля починаються вдома з батьків, які виховують наступне покоління комп’ютерних вчених.

Рекомендації редакторів

Мета зробила DALL-E для відео, і це одночасно моторошно і дивовижно

• Я подав свою безглузду ідею стартапу роботові VC
• Оптичні ілюзії можуть допомогти нам створити наступне покоління ШІ
• Як ми дізнаємося, коли штучний інтелект дійсно стане розумним?
• Microsoft відмовляється від свого моторошного штучного інтелекту, що зчитує емоції
• Жінки в штучному інтелекті очолили центр обробки даних Google

Source: digitaltrends.com