Глибокі нейронні мережі і ідеальне зір роботів: обдурити ілюзіями

Комп’ютери отримують все більше людських властивостей і нещодавно вони навчилися розпізнавати предмети так, як це роблять люди. Машини, наприклад, можуть легко створити підпис до картинки чи фото або вправляються з керуванням авто. Однак колекція оптичних ілюзій для штучного інтелекту показала, що машини бачать інакше, ніж люди. І це відкриває шлях до небезпечних вразливостей.
Алгоритми розпізнавання зображень сьогодні тренуються на величезних масивах картинок, на яких вони навчаються ідентифікувати шаблони, притаманні тим або іншим об’єктам. Наприклад, у кота і чашки будуть різні геометричні форми і різні шаблони.
Одним з найпопулярніших таких алгоритмів розпізнавання є глибокі нейронні мережі (DNN), які здатні не тільки ідентифікувати, але і самі придумувати образи. Останнє вони поки що роблять з допомогою людей-помічників, але Джефф Клун з Університету Вайомінга спробував замінити останніх іншою програмою.
Усунення людей та передача всієї роботи штучного алгоритмом виявило, що роботи бачать зовсім не так, як ми. «Ми очікували, що отримаємо такі ж результати – багато якісних знімків, на яких можна розпізнати об’єкти, – говорить Клун. – Зате ми отримали дивні зображення, наприклад, гепарда, який не виглядає, як гепард».
Зір роботів легко обдурити. Для своєї роботи Клун використав одну з кращих глибоких нейронних мереж, що існують, під назвою AlexNet. Її у 2012 році створили в Університеті Торонто, і продуктивність цього рішення вразила представників Google, які запропонували вченим роботу пошукового гіганта.
Виявилося, що при непомітних для людини зміни в зображенні AlexNet помилково визначав їх з упевненістю на 99% як такі, що містять тварина. А в деяких випадках замість правильного об’єкта глибока нейронна мережа бачила бейсбольні м’ячі, електрогітари або побутове приладдя.
Науковці кажуть, що така поведінка пояснюється відмінністю між людським і машинним баченням. Якщо ми ідентифікує того ж гепарда, глянувши на все його тіло (форму, колір тощо), то DNN цікавиться лише тими частинами, які найбільше відрізняються від інших. «Це як би те, що роботи є великими фанатами мистецтва в стилі кубізму», – говорить учений.
Оптичні ілюзії. Вчені кажуть, що не варто дивуватися можливості обдурити зір комп’ютера або робота – людське око саме постійно стає жертвою оптичних ілюзій. «Всі оптичні ілюзії – це як би злам візуальної системи людини, – розповідає вчений. – Ми також змусили комп’ютер бачити те, чого не було насправді».
Однак оптичні ілюзії в машинах – це не тільки цікава іграшка. Їх вивчення і дослідження відмінностей з людським зором може більше розповісти про нас самих. Так вважає Йорген Шмидгубер, який працює у швейцарському Інституті штучного інтелекту. «Ці нейронні мережі відкривають те, що нейрологи досліджують в людях через кілька десятиліть, як тільки наука дозволить зчитувати синапси в людському мозку», – говорить він.
Однак до того часу більш важливим є питання, як надати машин імунітет проти оптичних ілюзій. Адже якщо комп’ютери можна обдурити статичними фотографіями, тоді зловмисник може, наприклад, пройти систему біометричного контролю, яка розпізнає обличчя. Або він може змусити автомобіль з автопілотом побачити дорогу, якої не існує. «Через це виявляється вразливою кожна програма, яка використовує такий тип комп’ютерного бачення», – говорить Клун.