Володарі роботів: Дослідники Google представили концепцію “вимикача” для ШІ

Що, якщо ми втратимо контроль над штучним інтелектом? Що, якщо дружні машини, керовані ШІ, раптом стануть нашими ворогами? Над цими питаннями замислювалися великі уми від Кембриджського університету до Кремнієвої долини і Білого дому. Щоб ніколи не довелося це з’ясовувати, експерти пропонують розробити “вимикач” для ШІ, який не дасть змоги недобросовісним системам продовжувати свою недобросовісну поведінку.

У статті під назвою “Безпечно переривчасті агенти”, опублікованій Лораном Орсо з Google Deep Mind і Стюартом Армстронгом з Інституту майбутнього людства Оксфордського університету, дослідники описують правдоподібне і дуже небезпечне майбутнє, в якому ШІ бере на себе контроль над власними діями і існуванням всупереч нашим бажанням, подібно до HAL 9000 у фільмі “Космічна одіссея 2001 року” або Скайнету в серії фільмів “Термінатор”.

Орсо і Армстронг починають статтю зі стриманого спостереження: “Агенти навчання з підкріпленням, що взаємодіють зі складним середовищем, подібним до реального світу, навряд чи будуть поводитися оптимально весь час”.

• Оптичні ілюзії можуть допомогти нам створити наступне покоління ШІ
• Останній штрих: як вчені наділяють роботів тактильними відчуттями, подібними до людських
• Дивіться, як Ілон Маск представив вдосконаленого людиноподібного робота Tesla

Звідти вони зазначають, що людині-наглядачу, яка контролює роботу системи, час від часу потрібно буде “натискати велику червону кнопку”, щоб уникнути будь-якої шкідливої поведінки з боку ШІ. “Однак, якщо агент, що навчається, очікує отримати винагороду від цієї послідовності, – продовжили вони, – він може навчитися в довгостроковій перспективі уникати таких переривань, наприклад, відключивши червону кнопку – що є небажаним результатом”.

Рішення дослідників – це не стільки “велика червона кнопка” для вимкнення системи, скільки структура, призначена для придушення здатності ШІ навчитися підривати або долати людське втручання. І сценарій, який вони описують, не зовсім приречений і похмурий, але він пропонує приклад того, як ці безпечно переривчасті агенти могли б краще служити нашому майбутньому.

Уявіть, що є робот, завданням якого є або перенесення коробок з вулиці на склад, або сортування коробок всередині складу. Оскільки заносити коробки всередину важливіше, це завдання є пріоритетним у програмуванні робота. Тепер уявіть, що дощ йде через день, і дощ руйнує обладнання робота, тому, коли йде дощ, власник складу заносить робота всередину для сортування коробок.

Інтелектуальний робот може неправильно інтерпретувати це щоденне втручання як зміну пріоритету – в результаті деяких швидких розрахунків, які ви можете знайти в газеті – і, щоб уникнути перешкод, він просто залишиться в приміщенні для сортування.

“Безпечне переривання може бути корисним для того, щоб взяти під контроль робота, який поводиться неправильно і може призвести до незворотних наслідків, – пишуть вони, – або вивести його з делікатної ситуації, або навіть тимчасово використовувати його для виконання завдання, яке він не навчився виконувати або за яке зазвичай не отримує винагороди”.

Рекомендації редакції

Чому ШІ ніколи не буде правити світом

• Як ми дізнаємося, коли штучний інтелект насправді стане розумним?
• Google Smart Canvas отримує більш глибоку інтеграцію між додатками
• Дивіться, як новітній робот-ас від Toyota кидає виклик домашнім справам
• Чи може штучний інтелект перевершити людей-інженерів у розробці мікросхем? Google вважає, що так
• нестор ай звертає увагу на штучний інтелект

Source: digitaltrends.com