Ця черепаха – зброя! Вчені Массачусетського технологічного інституту виявили серйозний недолік у розпізнаванні зображень

Коли гвинтівка насправді є надрукованою на 3D-принтері черепахою? Коли еспресо насправді є бейсбольним м’ячем? Захоплююче, але тривожне нове дослідження Лабораторії комп’ютерних наук і штучного інтелекту (CSAIL) Массачусетського технологічного інституту (MIT) показує, що можна створити об’єкти, які здатні обдурити алгоритми розпізнавання зображень Google, змусивши їх думати, що вони дивляться на щось зовсім інше.

У своїй роботі команда дослідників з Массачусетського технологічного інституту описує алгоритм, який змінює текстуру об’єкта рівно настільки, щоб обдурити алгоритми класифікації зображень. Докази того, що команда називає “протилежними прикладами”, виявляється, збивають з пантелику системи розпізнавання зображень, незалежно від того, під яким кутом розглядаються об’єкти – наприклад, надрукована на 3D-принтері черепаха, яка постійно ідентифікується як гвинтівка. Це погана новина для систем безпеки, які використовують ШІ для виявлення потенційних загроз безпеці.

Попередній Наступний

“Справа не тільки в тому, що вони уникають правильної категоризації – вони класифікуються як обраний клас супротивника, тому ми могли б перетворити їх на що завгодно, якби захотіли”, – сказав дослідник Аніш Аталє в інтерв’ю Digital Trends. “Класи гвинтівок та еспресо були обрані однаково випадковим чином. Приклади-суперники були створені за допомогою алгоритму під назвою Expectation Over Transformation (EOT), який представлений в нашій дослідницькій роботі. Алгоритм бере будь-яку текстуровану 3D-модель, наприклад, черепаху, і знаходить спосіб тонко змінити текстуру таким чином, щоб збити з пантелику дану нейронну мережу, змусивши її думати, що черепаха є будь-яким обраним цільовим класом”.

• Боротьба з футбольними травмами за допомогою 3D-друкованих, гіперперсоналізованих щитків
• Ось що, на думку штучного інтелекту, який аналізує тенденції, стане наступною великою подією в технологіях
• Нові супутники, надруковані на 3D-принтері, несприйнятливі до спеки, холоду і космічного випромінювання

Хоча це може здатися смішним, коли надруковану на 3D-принтері черепаху визнають гвинтівкою, проте дослідники зазначають, що наслідки цього досить жахливі. Уявіть собі, наприклад, систему безпеки, яка використовує штучний інтелект для позначення зброї або бомб, але може бути обманута, думаючи, що це помідори або чашки кави, або навіть зовсім невидимі. Це також підкреслює слабкість систем розпізнавання зображень, на які покладатимуться безпілотні автомобілі на високій швидкості, щоб розпізнавати навколишній світ.

“Наша робота демонструє, що приклади з протидією є більшою проблемою, ніж багато хто вважав раніше, і вона показує, що приклади з протидією для нейронних мереж є реальною проблемою у фізичному світі”, – продовжив Аталіє. “Ця проблема – не просто інтелектуальна цікавість: Це проблема, яку необхідно вирішити для того, щоб практичні

Source: digitaltrends.com