Дослідники Массачусетського технологічного інституту працюють над створенням нейронних мереж, які перестануть бути чорними скриньками

Незалежно від того, чи подобається вам це – як це, безумовно, роблять такі компанії, як Google – чи ви не зовсім довіряєте цьому – логічний прихильник штучного інтелекту Селмер Брінгсджорд є одним з відвертих критиків – не можна заперечувати, що нейронні мережі глибокого навчання, натхненні мозком, довели свою здатність досягти значних успіхів у низці галузей, пов’язаних зі штучним інтелектом, за останнє десятиліття.

Але це не означає, що воно є досконалим за будь-якими параметрами.

“Глибоке навчання призвело до значного прогресу в комп’ютерному зорі, обробці природної мови та інших областях”, – розповів Digital Trends Томмі Яаккола, професор електротехніки та комп’ютерних наук Массачусетського технологічного інституту, професор електротехніки та інформатики. “Він надзвичайно гнучкий з точки зору відображення вхідних/вихідних даних, але гнучкість і потужність мають свою ціну. Саме тому дуже важко зрозуміти, чому він виконує певний прогноз в конкретному контексті”.

Ця непрозорість, захована в чорному ящику, була б однією справою, якби системи глибокого навчання все ще обмежувалися лабораторними експериментами, але це не так. Сьогодні системи штучного інтелекту все більше впроваджуються в реальний світ – а це означає, що вони повинні бути доступними для вивчення людиною.

“Це стає реальною проблемою в будь-якій ситуації, де є наслідки прогнозування або дій, які здійснюються на основі цього прогнозу”, – сказав Яаккола.

На щастя, саме тут вступає в дію новий проект Лабораторії комп’ютерних наук і штучного інтелекту Массачусетського технологічного інституту (CSAIL). Дослідники вже провели попередню роботу, яка показує, що можна навчити нейронні мережі таким чином, щоб вони не просто пропонували прогнози і класифікації, але й раціоналізували свої рішення.

Для дослідження вчені вивчали нейронні мережі, які були навчені на текстових даних. Ця мережа була розділена на два модулі: один з них виділяв сегменти тексту і оцінював їх за довжиною і зв’язністю, другий виконував роботу з прогнозування або класифікації.

Набір даних, на якому дослідники тестували свою систему, представляв собою групу відгуків з веб-сайту, в яких користувачі оцінювали пиво. Дані, які використовували дослідники, включали як текстовий огляд, так і відповідний зірковий огляд, оцінений за п’ятибальною шкалою. За допомогою цих вхідних і вихідних даних дослідники змогли точно налаштувати систему, яка “мислила” так само, як і люди-рецензенти – тим самим зробивши її рішення більш зрозумілими.

Зрештою, збіг системи з людськими коментарями склав 96% і 95%, відповідно, при прогнозуванні оцінок зовнішнього вигляду і аромату пива, і 80% при прогнозуванні смаку.

Дослідження все ще перебуває на ранній стадії, але воно є інтригуючим кроком у розвитку систем штучного інтелекту, які мають сенс для людей, що їх створюють, і можуть відповідно обґрунтовувати свої рішення.

“Питання обґрунтування прогнозів буде переважати в складних системах ШІ”, – сказав Яаккола. “Вони повинні мати можливість спілкуватися з людьми. Чи буде рішенням саме ця архітектура чи ні, ще належить з’ясувати. Зараз ми перебуваємо в процесі перегляду цієї роботи і робимо її більш досконалою. Але вона абсолютно відкриває область досліджень, яка є дуже важливою”.

Рекомендації редакції

• Генератори зображень зі штучним інтелектом пропагують гендерні та расові стереотипи
• Чому ШІ ніколи не буде правити світом
• Meta хоче зарядити Вікіпедію за допомогою ШІ-оновлення
• ФБР: На основі ваших даних створюються глибокі фейки, щоб влаштуватися на роботу
• Як ми дізнаємося, коли штучний інтелект дійсно стане розумним?

Source: digitaltrends.com