Нейро-символічний ШІ – майбутнє штучного інтелекту. Як це працює

Уявіть собі тацю. На таці лежить набір фігур: Одні кубики, інші сфери. Фігури зроблені з безлічі різних матеріалів і представляють собою асортимент розмірів. Всього на підносі, мабуть, вісім предметів. Моє запитання: “Дивлячись на предмети, чи однакова кількість великих речей і металевих сфер?”

• Зліт і падіння символічного ШІ.
• Світ нейронних мереж
• Палаючі світлофори
• Доповнюючі ідеї
• Дослідження ШІ: наступне покоління

Це питання без підступу. Той факт, що воно звучить саме так, є доказом того, наскільки воно просте насправді. Це питання, на яке, швидше за все, з легкістю відповість дошкільник. Але це майже неможливо для сучасних нейронних мереж. Це потрібно змінити. І це має відбутися шляхом переосмислення штучного інтелекту, яким ми його знаємо.

Це не моя думка, це думка Девіда Кокса, директора лабораторії MIT-IBM Watson A.I. в Кембриджі, штат Массачусетс. У минулому житті Кокс був професором Гарвардського університету, де його команда використовувала знання з неврології для створення кращих комп’ютерних систем машинного навчання на основі мозку. На своїй нинішній посаді в IBM він керує унікальним партнерством між Массачусетським технологічним інститутом і IBM, яке сприяє розвитку досліджень в області штучного інтелекту, включаючи платформу IBM Watson A.I. Watson, для тих, хто не знає, був ШІ, який знаменито переміг двох найкращих гравців в історії в телевізійному шоу-вікторині Jeopardy. Watson також є в першу чергу системою машинного навчання, яка навчається на основі масиву даних, а не правил, створених людиною.

Тому, коли Кокс каже, що світ повинен переосмислити ШІ, вступаючи в нове десятиліття, це звучить дещо дивно. Зрештою, 2010-ті роки були, мабуть, найуспішнішим десятиріччям в історії ШІ: Період, коли прориви відбувалися, здавалося б, щотижня, і без жодного морозного натяку на зиму ШІ в полі зору. Проте саме тому він вважає, що ШІ потребує змін. І його пропозиція щодо цих змін – поки що маловідомий термін “нейро-символічний ШІ” – цілком може стати однією з тих фраз, з якими ми будемо добре знайомі до кінця 2020-х років.

Зліт і падіння символічного ШІ.

Нейросимволічний ШІ, строго кажучи, не є абсолютно новим способом створення ШІ. Це поєднання двох існуючих підходів до побудови машин, що мислять, які колись протистояли один одному як смертельні вороги.

“Символічна” частина назви відсилає до першого мейнстрімного підходу до створення штучних

Якщо мозок є аналогом комп’ютера, то це означає, що кожна ситуація, з якою ми стикаємося, залежить від запуску внутрішньої комп’ютерної програми, яка крок за кроком пояснює, як виконати ту чи іншу операцію, ґрунтуючись виключно на логіці. За умови, що це так, дослідники символічного ШІ вважають, що ті ж самі правила організації світу можуть бути відкриті, а потім кодифіковані у вигляді алгоритму для виконання комп’ютером.

Символічний ШІ призвів до досить вражаючих демонстрацій. Наприклад, у 1964 році вчений-комп’ютерник Бертрам Рафаель розробив систему під назвою SIR, що розшифровується як “Semantic Information Retrieval” (“Семантичний пошук інформації”). SIR була обчислювальною системою міркувань, яка, здавалося, була здатна вивчати взаємозв’язки між об’єктами у спосіб, що нагадував справжній інтелект. Якщо ви скажете їй, що, наприклад, “Джон – хлопчик; хлопчик – людина; людина має дві руки; рука має п’ять пальців”, то SIR відповість на питання “Скільки пальців у Джона?” правильним числом 10.

“…на стіні з’явилися тривожні тріщини, які починають давати про себе знати”.

Комп’ютерні системи, засновані на символьному ШІ, досягли піку своєї могутності (і занепаду) у 1980-х роках. Це було десятиліття так званих “експертних систем”, які намагалися використовувати системи, засновані на правилах, для вирішення реальних проблем, таких як допомога хімікам-органікам в ідентифікації невідомих органічних молекул або допомога лікарям в рекомендації правильної дози антибіотиків при інфекціях.

Основоположна концепція цих експертних систем була міцною. Але у них були проблеми. Системи були дорогими, вимагали постійного оновлення і, що найгірше, могли фактично ставати менш точними, чим більше правил було включено.

Світ нейронних мереж

Світ нейронних мереж

Нейронні мережі працюють інакше, ніж символьний ШІ, тому що вони керуються даними, а не правилами. Пояснити щось символічній системі ШІ означає чітко надати їй кожен біт інформації, необхідний для правильної ідентифікації. Як аналогію, уявіть, що ви посилаєте когось забрати вашу маму з автовокзалу, але повинні описати її, надавши набір правил, які дозволять вашому другові виділити її з натовпу. Щоб навчити нейронну мережу робити це, ви просто показуєте їй тисячі фотографій об’єкта, про який йде мова. Як тільки вона стане достатньо розумною, вона зможе не лише розпізнавати цей об’єкт, але й створювати власні подібні об’єкти, які ніколи не існували в реальному світі.

“Безумовно, глибоке навчання уможливило дивовижні досягнення, – сказав Девід Кокс в інтерв’ю Digital Trends. “Водночас, у стіні починають з’являтися тривожні тріщини, які викликають занепокоєння”.

Одна з цих так званих тріщин спирається саме на те, що зробило сучасні нейронні мережі такими потужними: дані. Як і людина, нейромережа навчається на прикладах. Але в той час як людині може знадобитися лише один або два навчальних приклади об’єкта, щоб правильно його запам’ятати, штучному інтелекту знадобиться набагато, набагато більше. Точність залежить від наявності великої кількості анотованих даних, за допомогою яких він може вивчати кожне нове завдання.

Палаючі світлофори

Палаючі світлофори

Представлення перцептивних автоматів

До приходу в IBM Кокс був співзасновником компанії Perceptive Automata, яка розробляла програмне забезпечення для безпілотних автомобілів. У команди був канал Slack, в якому вони публікували кумедні зображення, на які натрапляли під час збору даних. На одному з них, зробленому на перехресті, було зображено, як горить світлофор. “Це один з тих випадків, які ви, можливо, ніколи не побачите у своєму житті”, – сказав Кокс. “Я не знаю, чи є у Waymo і Tesla зображення палаючих світлофорів в наборах даних, які вони використовують для навчання своїх нейронних мереж, але я готовий посперечатися … якщо вони є, то їх буде дуже мало”.

Одна справа, коли наріжний випадок є чимось незначним, тому що він рідко трапляється і не має великого значення, коли трапляється. Отримати погану рекомендацію ресторану, можливо, не ідеально, але цього, ймовірно, буде недостатньо, щоб навіть зіпсувати ваш день. Якщо попередні 99 рекомендацій, які дала система, були хорошими, немає реальних причин для розчарування. Самокерований автомобіль, який не реагує належним чином на перехресті через палаючий світлофор або кінний екіпаж, може зробити набагато більше, ніж просто зіпсувати вам день. Це малоймовірно, але якщо це станеться, ми хочемо знати, що система розроблена таким чином, щоб бути здатною впоратися з цим.

“Якщо у вас є здатність міркувати і екстраполювати за межі того, що ми бачили раніше, ми можемо впоратися з цими сценаріями”, – пояснив Кокс. “Ми знаємо, що люди на це здатні. Якщо я бачу, що горить світлофор, я можу застосувати багато знань. Я знаю, наприклад, що світлофор не скаже мені, зупинитися чи їхати далі. Я знаю, що мені потрібно бути обережним, тому що [водії навколо мене будуть розгублені.] Я знаю, що водії, які їдуть в інший бік, можуть поводитися інакше, тому що їх світло може працювати. Я можу розробити план дій, який приведе мене туди, куди мені потрібно. У таких критично важливих для безпеки, критично важливих для місії умовах, я не думаю, що глибоке навчання поки що слугує нам якнайкраще. Ось чому нам потрібні додаткові рішення”.

Додаткові ідеї

Доповнюючі ідеї

Пояснення нейросимволічного ШІ

“Нейронні мережі та символічні ідеї дійсно чудово доповнюють один одного, – сказав Кокс. “Тому що нейронні мережі дають вам відповіді, як перейти від безладу реального світу до символічного представлення світу, знайти всі кореляції в образах. Після того, як ви отримали це символічне представлення, ви можете робити деякі досить магічні речі з точки зору міркувань”.

Наприклад, у прикладі з фігурою, з якого я почав цю статтю, нейро-символічна система використовувала б можливості розпізнавання образів нейронної мережі для ідентифікації об’єктів. Потім вона покладалася б на символічний ШІ, щоб застосувати логіку і семантичне міркування для виявлення нових взаємозв’язків. Такі системи вже довели свою ефективність.

І це не лише кутові випадки, де це було б корисно. Все частіше стає важливим, щоб системи штучного інтелекту можна було пояснити, коли це потрібно. Нейронна мережа може виконувати певні завдання надзвичайно добре, але значна частина її внутрішніх міркувань є “чорним ящиком”, незбагненним для тих, хто хоче знати, як вона прийняла своє рішення. Знову ж таки, це не має великого значення, якщо це бот, який рекомендує неправильний трек на Spotify. Але якщо вам відмовили в банківському кредиті, відхилили заявку на роботу або хтось постраждав в інциденті за участю автономного автомобіля, краще мати можливість пояснити, чому були зроблені ті чи інші рекомендації. Саме тут на допомогу може прийти нейро-символічний ШІ.

Дослідження ШІ: наступне покоління

Дослідження ШІ: наступне покоління

“Дуже цікаво спостерігати за молодим поколінням”, – сказав Кокс. “[Багато людей в моїй команді] відносно молоді: свіжі, натхненні, відносно недавно закінчили свої докторські ступені. Вони просто не мають такого досвіду. Їм просто байдуже [до того, що два підходи протиставляються один одному] – а байдужість дуже потужна, тому що вона відкриває тебе і позбавляє від цих упереджень. Вони з радістю досліджують перетини… Вони просто хочуть зробити щось круте зі штучним інтелектом”.

Якщо все піде за планом, ми всі отримаємо вигоду від результатів.

Рекомендації редакторів

Чому штучний інтелект ніколи не буде правити світом

• Як ми дізнаємося, коли ШІ дійсно стане розумним?
• Аналоговий ШІ? Звучить божевільно, але за цим може бути майбутнє
• Ось що, на думку експерта з аналізу трендів, стане наступною великою подією в технологіях
• Прочитайте моторошно красиве “синтетичне писання” штучного інтелекту, який вважає себе Богом
• IBM Watson Shapes

Source: digitaltrends.com