Facebotlish або якою мовою спілкується штучний інтелект?

Новина про те, що боти в Лабораторії дослідження штучного інтелекту (AI) компанії Facebook створили свій штучну мову, підірвало мережу. Дослідники, які хотіли навчити роботів вести переговори, помітили, що залишені самі на себе, вони створили власний, незрозумілий людям мову.
Як наслідок, експеримент довелося припинити і перебудовувати моделі, щоб вони спілкувалися таки англійською (власне, це і є мета дослідження — створити роботів, які могли б спілкуватися з користувачами мережі Facebook). На цю новину медіа відреагували з сумішшю подиву і страху. Адже машини, які придумують свою мову, — це щось не менш страшне, як і дивовижне.
Цей діалог здається нісенітницею. Але важливо і те, що боти так і не досягли ніякого результату в переговорах. Еліс так і не відійшла від своєї початкової позиції. Як свідчать дані Facebook, іноді такі переговори все-таки закінчуються успішно і боти доходять до потрібних результатів, — повідомляють в лабораторії вивчення AI. Іноді дослідники погано налаштовують свої моделі — і боти вибирають неправильні стратегії ведення переговорів, хоча й спілкуються зрозуміло з людським стандартам.
Один із способів думати про це подає явище криптофазии, коли діти-близнюки спілкуються на своєму, тільки їм зрозумілій мові. На популярному відео 2011 року двоє близнюків весело базікають між собою, а їх розмова нагадує текучий, але незрозумілий діалог.
Лінгвісти вже десятиліттями сперечаються про те, криптофазия — це власне мову або тільки радісне белькотіння, яке імітує мова. Малюки соціалізовані, наслідуючи мову, але, мабуть, не повідомляють один одному нічого змістовного.
У випадку з Facebook це, однак, більше нагадує саме мова, — стверджують експерти компанії. У минулому дослідники AI вже спостерігали за тим, як машини створювали власні мови з когерентної структурою, визначеним словником і синтаксисом, хоча і не завжди зрозумілі за людським стандартам.
Читайте також: Людство повинно створити систему контролю за розвитком штучного інтелекту
У статті, опублікованій на початку року на сервері препринтів arXiv, дослідники з некомерційної організації OpenAI описали, як боти навчилися спілкуватися абстрактним мовою і як вони звернулися до невербальної комунікації, еквівалентної жестам і вказівок, коли мовне спілкування стало недоступним (ботам не потрібна тілесна форма, щоб спілкуватися невербально, — вони використовують для цього механізм візуальної сенсорної модальності). В інший недавній статті описаний експеримент, в якому два бота винайшли власні комунікаційні протоколи, обговорюючи кольору і форми. За їх словами, вони спостерігали “автоматичне поява ґрунтового мови і… без нагляду людей”.
Від таких експериментів голова йде обертом. Адже вони не тільки демонструють, як AI створює свої мови, але і проливають світло на те, як синтаксис і композиційна структура могли з’явитися серед людей.
Проте чи дійсно те, що виникло між ботами, можна назвати мовою? Як стверджує професор лінгвістики з Університету Пенсільванії Марк Ліберман, “в цьому випадку не лінгвістам вирішувати, як можна використовувати слово “мова”, хоча лінгвісти і мають свою думку і аргументи про природу і межі людських мов”.
Тому питання про те, чи дійсно боти з Facebook створили свою мову, залежить від того, що ми розуміємо під словом “язик”. Наприклад, лінгвісти одностайні в думці, що знакова мова — це окремий тип мови, а не тільки наближення розмовної мови, а комп’ютерні мови, такі як Ruby і JavaScript, насправді не є мовами, хоча ми їх так називаємо.
Зате Ліберман поставив питання по-іншому: чи може спілкування ботів Facebook (або “Facebotlish”, як він її називає) сигналізувати поява нового типу мови?
“Мабуть, що ні, хоча ще не вистачає інформації, щоб сказати напевно, — говорить він. — Насамперед ця мова повністю базується на текстах, тоді як людські мови є власне розмовними або жестикулируемыми, а текст — це штучна надбудова”.
Але дуже важливо і те, що ці боти не такі розумні, щоб проводити паралелі між ними і людським інтелектом (саме тому і термін “штучний інтелект” може вводити в оману).
“Стиль “експертних систем” штучного інтелекту 1970-х сьогодні нагадує історичний курйоз, так само як і механічні автомати XVII століття. Ми можемо бути впевнені, що сьогоднішній штучний інтелект, що використовує машинне навчання, також подібне порівнянні з тим, що з’явиться через кілька десятиліть”, — вважає Ліберман.
“Сьогодні вже реально створити штучні світи, населені містичними алгоритмічними істотами з комунікаційними процедурами, які розвиваються через комбінацію випадкових збігів, соціальних рушіїв і оптимального відбору. Це так само просто, як створити заводну фігурку, що грає на фортепіано”.