Посібник для початківців про штучний інтелект та “сингулярність

Ви чули, як люди говорять про технологічну сингулярність, позитивно чи негативно, але не знали достатньо, щоб приєднатися до розмови? Хочете знати, чи варто пакувати валізи і тікати в гори, рятуючись від навали роботів, що наближається? Або, можливо, приєднатися до церкви, щоб вітати наших нових володарів-роботів? Спершу обов’язково ознайомтеся з нашим посібником для початківців з відповідями на всі ваші запитання про сингулярність.

Що саме таке сингулярність?

Технологічна сингулярність, якщо використовувати її повну назву, – це гіпотеза, що передбачає створення штучного суперінтелекту. На відміну від “вузького” штучного інтелекту, який ми маємо сьогодні – який може бути надзвичайно хорошим у виконанні одного завдання, але не може функціонувати в багатьох сферах, як більш узагальнений інтелект, такий як наш власний – суперінтелект буде володіти здібностями більшими, ніж наш власний. Це стане свого роду переломним моментом, в якому відбудуться величезні зміни в людському суспільстві.

Зважаючи на те, що штучний інтелект, зокрема нейронні мережі з глибоким навчанням, досягають нових вершин, здавалося б, щодня, тут, в 2017 році, ця ідея не здається такою вже науковою фантастикою, як колись.

• Оскільки 2020 рік недостатньо божевільний, рот робота співає молитви зі штучним інтелектом в Парижі
• ШІ-перекладач проливає світло на таємну мову мишей
• ШІ, що глибоко навчається, може імітувати ефекти спотворення культових гітарних богів

Це нова ідея?

Ні. Як і у випадку з багатьма іншими ШІ, ці ідеї циркулюють вже давно – хоча лише відносно недавно такі галузі, як глибоке навчання, почали прориватися в мейнстрім. І.Д. Гуд, британський математик, який працював з Аланом Тюрінгом як криптолог під час Другої світової війни, вперше запропонував концепцію інтелектуального вибуху ще в 1965 році.

Він вважав, що в міру того, як комп’ютери стають дедалі потужнішими, зростає і їхня здатність розв’язувати проблеми і знаходити нестандартні рішення проблем. Врешті-решт, суперінтелектуальні машини розроблятимуть ще кращі машини або просто переписуватимуть себе, щоб стати розумнішими. Результатом є рекурсивне самовдосконалення, яке або дуже добре, або дуже погано для людства в цілому.

Цю ідею пізніше підхопив Вернор Віндж, письменник-фантаст, професор математики і комп’ютерний науковець. У відомому есе 1993 року “Технологічна сингулярність, що наближається” Він зробив знамените передбачення, що: “Протягом 30 років ми матимемо технологічні засоби для створення надлюдського інтелекту. Незабаром після цього людська ера закінчиться”.

Отже, Віндж був тим, хто придумав термін “сингулярність”?

Не зовсім. Можливо, Віндж і популяризував його, але термін “сингулярність” вперше застосував до комп’ютерів математик Джон фон Нейман, одна з найважливіших фігур у сучасній обчислювальній техніці. Наприкінці свого життя, у 1950-х роках, фон Нейман був одночасно зачарований і стривожений “постійно прискорюваним прогресом техніки і змінами в способах людського життя, що створює видимість якоїсь істотної сингулярності в історії раси, за межами якої людські справи, як ми їх знаємо, не могли б продовжуватися”.

Коли саме все це має статися?

Дякую за прості запитання. Як ми вже згадували, Вернор Віндж дав 30-річну таблицю часу ще в 1993 році. Це означає, що сингулярність відбудеться десь до або під час 2023 року. Футурист і ентузіаст сингулярності Рей Курцвейл, тим часом, визначив 2029 рік як дату, коли ШІ пройде дійсний тест Тюрінга і досягне людського рівня інтелекту. Після цього, на його думку, сингулярність відбудеться в 2045 році, і в цей момент “ми помножимо наш ефективний інтелект в мільярд разів шляхом злиття з інтелектом, який ми створили”.

Інші стверджують, що обидві ці оцінки є до смішного передчасними і ґрунтуються на хибному розумінні того, що таке інтелект. А фільм “Термінатор 2: Судний день”, один з найкращих науково-фантастичних фільмів усіх часів, визначив точку, в якій комп’ютери стають “самосвідомими”, як 2:14 ночі за східним часом 4 серпня 1997 року. Так хто ж насправді знає?

Скайнет, самосвідомі комп’ютери і злиття з нашими власними машинами…. Я не зовсім впевнений, як ставитися до всього цього.

Ви, я і всі інші. Уявляти собі, якою буде сингулярність, – це все одно, що намагатися уявити абсолютно новий колір, якого світ ніколи не бачив раніше. Пам’ятаєте фразу Марка Цукерберга з фільму “Соціальна мережа”, яку написав Аарон Соркін, про те, що “Якби ви, хлопці, були винахідниками Facebook, ви б винайшли Facebook”? Те ж саме стосується і не надрозумних істот, таких як ми, які намагаються уявити собі, як суперінтелект дивився б на світ.

Суперінтелект має можливість вирішити всі наші проблеми майже миттєво. Або вона може вважати нас непотрібним ризиком і в одну мить знищити. Або ми можемо стати його новими домашніми тваринами, зайнятими тим, що може бути людським еквівалентом лазерної іграшки для кота.

Боже, ви так говорите, ніби сингулярність буде якоюсь богоподібною присутністю, яка дарує вибір між гнівом та спасінням.

Ти не жартуєш! У тому завзятті, з яким деякі люди говорять про сингулярність, безумовно, є щось релігійне. Це майже як відповідь Кремнієвої долини на захоплення, в якому ми постійно позбавлені статусу найрозумніших хлопців і дівчат в кімнаті завдяки всевидющій присутності. Чорт забирай, у цьому небесному сценарії задіяні навіть хмари (або, ну, хмара).

Приклад: Ентоні Левандовскі – інженер, який працював над автономним автомобілем Google – створив релігійну некомерційну організацію, яка дуже схожа на церкву, присвячену поклонінню ШІ.

Чому б нам просто не висмикнути вилку з розетки прямо зараз?

Ну, це, безумовно, був би один з варіантів, так само, як ми могли б вирішити проблему бідності, фінансової нерівності, воєн і Джастіна Бібера, провівши повне 100-відсоткове винищення людської раси. Якби всі дослідження в галузі штучного інтелекту були зупинені прямо зараз, то перспектива сингулярності була б лише відвернута. Але хто цього хоче? І хто змусить це зробити? Прямо зараз ШІ допомагає покращити життя мільярдам людей. Він також приносить величезні гроші власникам таких компаній, як Google, Facebook, Apple та інших.

Наразі ми ще не маємо штучного суперінтелекту, і навіть найбільш вражаючі приклади ШІ порівняно вузькі в тому, чого вони можуть досягти. Навіть якщо одного дня вдасться відтворити справжній інтелект всередині комп’ютера, дехто сподівається, що знайдуться способи контролювати його без того, щоб він захопив владу. Наприклад, одна з ідей може полягати в тому, щоб тримати суперінтелект в ізольованому середовищі без доступу до Інтернету. (З іншого боку, дослідник Еліезер Юдковський вважає, що, як і спроби тримати під замком Ганнібала Лектора, жоден суперінтелектуальний ШІ не вдасться утримати надовго).

Інші вважають, що все буде гаразд, якщо ми запрограмуємо ШІ поводитися добре і морально. (Але уявний експеримент Ніка Бострома з “максимізатором скріпок” робить кілька дірок і в цьому питанні). Проте це, безумовно, викликає занепокоєння – і це те, про що говорять усі, від Ілона Маска до Стівена Гокінга.

Знову ж таки, якщо суперінтелект виявиться найбільшою річчю, яка коли-небудь траплялася з людством, чи дійсно ми хочемо його зупинити?

Чи є сингулярність нашою єдиною проблемою, пов’язаною зі штучним інтелектом?

Зовсім ні. Існує безліч інших проблем, пов’язаних зі штучним інтелектом, які не стосуються суперінтелекту – вплив ШІ на зайнятість і використання ШІ і роботів у війні – це лише дві з них. Іншими словами, не втрачайте надії: є набагато більше, ніж сингулярність, про що варто турбуватися, коли справа доходить до ШІ.

Рекомендації редакторів

• Революційний мозковий імплантат зі штучним інтелектом перетворює думки на слова
• ШІ, що глибоко навчається, допомагає археологам перекладати стародавні таблички
• Ілон Маск попереджає, що всі ШІ повинні регулюватися, навіть у Tesla
• Фейкові новини? Алгоритм АІ виявляє політичну заангажованість у статтях, які ви читаєте
• Завдяки масштабуванню АІ фільм 1896 року виглядає так, ніби його зняли в сліпучому 4К

Source: digitaltrends.com