У Массачусетському технологічному інституті навчили штучний інтелект на основі хворобливих підписів на Reddit, і він став психопатом

Наукова фантастика подарувала нам багато культових зловмисних персонажів зі штучним інтелектом. Однак, часто це фігури на кшталт Термінатора Т-800 або Чужого Еша, які здійснюють беземоційні вбивства заради досягнення кінцевої мети. Ті, що демонструють більш ненормальну параноїдальну поведінку, як, наприклад, HAL 9000 з фільму “2001: Космічна одіссея”, часто роблять це через помилки в їхньому програмуванні, а не через дизайн.

Саме це робить проект MIT “Норман” таким інтригуючим. Названий на честь Нормана Бейтса з фільму “Психо”, це нещодавно створений штучний інтелект, який називають “першим у світі штучним інтелектом-психопатом”. Показані випадково згенеровані тести з чорнильними плямами, він пропонує тривожні інтерпретації на кшталт “чоловіка застрелили на очах у його дружини, яка кричала” або “чоловіка затягли в тістомісильну машину”. Що спричинило такий жахливий погляд на світ? Звичайно ж, доступ до Reddit.

Норман навчався на підписах до зображень на сумнозвісному субредіті r/watchpeopledie, присвяченому документуванню реальних випадків смерті. З етичних і технічних міркувань, а також з огляду на графічний зміст відеороликів, що містяться на ньому, ШІ давали лише підписи з описом зображень. Однак, оскільки вона спостерігала тільки жахливі підписи до зображень, вона бачить смерть на будь-якому наступному зображенні, на яке вона дивиться. Подумайте про це як про те, що для людини з молотком кожна проблема виглядає як цвях. За винятком того, що замість цвяхів він бачить людей, забитих до смерті молотками.

• Ось що я дізнався після використання Quest Pro протягом одного місяця
• 10 найкращих ШІ-генераторів зображень для створення мистецтва з тексту
• Міні-комп’ютер Nvidia Jetson Orin Nano вартістю 200 доларів у 80 разів швидший за попередню версію

Якщо вам цікаво, чому це може бути гарною ідеєю, то це тому, що вона покликана проілюструвати проблему, пов’язану з упередженими наборами даних. По суті, ідея полягає в тому, що машинне навчання працює, аналізуючи величезні масиви даних. Якщо ви даєте йому упереджені дані, ви отримуєте алгоритми, які випльовують неправильні відповіді – чи то систематично расистські результати, чи, ну, подібні речі.

“Наша група в даний час випускає новий проект по боротьбі з упередженістю і дискримінацією на основі машинного навчання”, – розповіли дослідники в інтерв’ю Digital Trends.

В іншому можливому майбутньому напрямку досліджень вони зацікавлені в розширенні аспекту чорнильних плям проекту, щоб використовувати інтелектуальний аналіз даних, щоб побачити, чи є пояснення тому, чому люди бачать різні речі в тестах чорнильних плям. Наразі вони зібрали понад 200 000 відповідей користувачів. “Ми сподіваємося проаналізувати ці дані, щоб

Source: digitaltrends.com