Компанія Google планує припинити участь у проекті Maven

Поки Google продовжує роботу над військовим проектом, десяток співробітників звільняються

Лулу Чанг і Брюс Браун 2 червня 2018 року

У квітні понад 4000 співробітників Google підписали відкритого листа до генерального директора компанії Сундара Пічаї з проханням вийти з того, що вони називають “військовим бізнесом”. За повідомленням The New York Times, серед тисяч співробітників Google, які підписали лист, були і старші інженери компанії. У листі містилася вимога негайного скасування конкретного військового проекту і більш загальної політичної заяви про створення технологій для військових.

Через місяць близько десятка співробітників Google вирішили звільнитися на знак протесту проти продовження участі компанії у військовому проекті, відомому як Project Maven. Ті, хто звільняється, посилаються на етичні проблеми, пов’язані з використанням штучного інтелекту у війні з безпілотниками, а також на більш загальне занепокоєння рішеннями Google на політичній арені. Багато співробітників, які вирішили припинити роботу в Google, поділилися своїми міркуваннями в документі, який був поширений всередині Google.

Як повідомляє Gizmodo, “Співробітники, які звільняються на знак протесту … кажуть, що керівники стали менш прозорими зі своєю робочою силою щодо суперечливих бізнес-рішень і, здається, менш зацікавлені в тому, щоб вислуховувати заперечення працівників, ніж колись”. І хоча культуру Google часто описували як відкриту і чесну, схоже, що ситуація змінюється. Як сказав один співробітник, який звільняється: “За останні пару місяців мене все менше і менше вражає реакція і те, як до проблем людей ставляться і прислухаються до їхніх думок”.

• Дзвінки для користувачів Google Fi на Android тепер наскрізь зашифровані
• Проект Google Starline – це чарівне дзеркало, яке оживить 3D-відеочат
• Google планує випробувати безпілотники для гасіння пожеж

У відкритому листі, який, судячи з усього, залишився без уваги керівництва, містилося прохання до Google негайно скасувати свою роль в реалізації Project Maven. Project Maven – це кодова назва міжфункціональної групи з алгоритмічної війни (AWCFT) Міністерства оборони (DoD), яка займається розробкою програми штучного інтелекту (ШІ), що знаходиться в стадії розробки. Метою Maven є оцінка відеоматеріалів, знятих безпілотниками, повідомляє Gizmodo.

У відповідь на ці протести компанія Google вирішила не продовжувати Project Maven, хоча поточний контракт закінчується. Google не робив ніяких офіційних заяв з цього приводу, хоча Reuters посилається на джерела, “знайомі з угодою”. Раніше Google захищав контракт, заявляючи, що Project Maven використовується в ненаступальних цілях і буде рятувати життя.

Project Maven був створений Міністерством оборони США для Пентагону в квітні 2017 року. У листі на бланку заступника міністра оборони, датованому 26 квітня 2017 року, йдеться про необхідність “більш ефективної інтеграції штучного інтелекту і машинного навчання в операції для збереження переваг над все більш потужними супротивниками і конкурентами”.

У заяві заступника міністра оборони йдеться про те, що початкове призначення Maven полягає у забезпеченні “алгоритмів комп’ютерного зору для виявлення, класифікації та оповіщення об’єктів” для тактичних безпілотних літальних апаратів (БПЛА) або безпілотників.

Друге, більш загальне прохання в листі Google, полягало в тому, щоб Пічаї “розробив, оприлюднив і забезпечив дотримання чіткої політики, в якій говориться, що ні Google, ні його підрядники ніколи не будуть створювати військову технологію”.

Участь у Project Maven “завдасть непоправної шкоди бренду Google і його здатності конкурувати за таланти”, йдеться в листі. Google “бореться за те, щоб зберегти довіру громадськості”, продовжується в листі, в той час як багато хто побоюється “упередженого і озброєного штучного інтелекту”.

У листі міститься посилання на заяву про основні цінності Google: “Кожен з наших користувачів довіряє нам. Ніколи не ставте це під загрозу. Ніколи”. Підписанти листа стверджують, що контракт з Міністерством оборони США прямо суперечить цій базовій цінності і ставить під загрозу репутацію компанії.

Колишній генеральний директор і виконавчий голова Google Ерік Шмідт був основним доповідачем на саміті з питань штучного інтелекту і глобальної безпеки, організованому Центром нової американської безпеки в листопаді 2017 року. Шмідта запитали про взаємозв’язок між технологічними компаніями, дослідженнями в галузі штучного інтелекту та національною безпекою.

“У технологічному співтоваристві існує загальна стурбованість тим, що військово-промисловий комплекс якимось чином неправильно використовує їх матеріали для вбивства людей”, – сказав Шмідт.

Лист до нинішнього генерального директора Пічаї є свідченням того, що принаймні для тих, хто його підписав, загальне занепокоєння, про яке говорив Шмідт, є реальним і конкретним. З того часу було поширено ще один лист, авторами якого стали понад 90 вчених у галузі штучного інтелекту, етики та комп’ютерних наук, які аналогічним чином попросили Google припинити роботу над проектом Maven.

Оновлено 2 червня: Як повідомляється, компанія Google вирішила не продовжувати роботу над Project Maven.

Рекомендації редакції

• Google Smart Canvas отримує більш глибоку інтеграцію між додатками
• Чи може штучний інтелект перевершити інженерів-людей у проектуванні мікросхем? Google вважає, що так
• LaMDA від Google – розумний мовний ШІ для кращого розуміння розмови
• Материнська компанія Google запустила інтернет-проект повітряної кулі Loon
• Звіт вказує на те, що Google припиняє розробку системи Nest Secure

• Новітні технології
• Новини
• Бізнес
• HBO Max
• Що буде далі: Як технології допомагають суспільству знову відкритися після коронавірусу