Новий фонд на $27 млн покликаний врятувати людство від руйнівного ШІ

Група підприємців і некомерційних організацій щойно пообіцяла виділити 27 мільйонів доларів на захист людства від руйнівного штучного інтелекту. За підтримки таких осіб, як засновник LinkedIn Рід Хоффман, засновник eBay П’єр Омідаяр та Фонд Найта, Фонд етики та управління штучним інтелектом має на меті об’єднати експертів з різних дисциплін, щоб звернути аналітичний погляд на розвиток штучного інтелекту.

“Стрімкий розвиток штучного інтелекту породжує безліч складних проблем, – зазначив у прес-релізі директор Медіа-лабораторії Массачусетського технологічного інституту Джої Іто. Наприклад, одна з найважливіших проблем полягає в тому, як зробити так, щоб машини, яких ми “тренуємо”, не увічнювали і не посилювали ті ж людські упередження, які страждають від суспільства? Як ми можемо найкраще ініціювати ширшу, поглиблену дискусію про те, як суспільство буде еволюціонувати разом з цією технологією, і об’єднати комп’ютерні і соціальні науки для розробки інтелектуальних машин, які будуть не лише “розумними”, а й соціально відповідальними?”.

Як зазначає Іто, не всі побоювання щодо ШІ є апокаліптичними. Навпаки, в міру того, як ці системи стають все більш поширеними в нашому повсякденному житті – від водіння наших автомобілів до інформування наших новинних стрічок – їх негативні наслідки можуть бути більш підступними.

Упередженість ШІ – одна з таких проблем, яка виникла за останні кілька років. В одному дослідженні було показано, що алгоритм помилково маркує чорношкірих підсудних як таких, що мають вищий ризик повторного злочину, ніж їхні білі колеги. В іншому – алгоритм пропонував жінкам більш низькооплачувану роботу, ніж чоловікам. Саме на вирішення цих тонких, але важливих проблем і буде спрямований фонд.

“Агенти штучного інтелекту впливатимуть на наше життя в кожному суспільстві на Землі. Технології і комерція подбають про це”, – сказав Альберто Ібаргуен, президент Фонду Найта. “Оскільки навіть алгоритми мають батьків, а ті батьки мають цінності, які вони прищеплюють своїм алгоритмічним нащадкам, ми хочемо вплинути на результат, забезпечуючи етичну поведінку і управління, яке враховує інтереси різноманітних спільнот, які будуть зачеплені”.

Трохи більше року тому такі підприємці, як Ілон Маск і Сем Альтман, заснували OpenAI, організацію, покликану просувати ШІ на благо людства. У минулому році Білий дім також долучився до цього процесу, провівши серію семінарів і доповідей про майбутнє ШІ, суспільство і нашу економіку.

Рекомендації редакції

• 10 найкращих АІ-генераторів зображень для створення мистецтва з тексту
• Мета зробила DALL-E для відео, і це одночасно моторошно і приголомшливо
• Я подав свою безглузду ідею стартапу роботові-інвестору
• Нові дослідження Meta в галузі штучного інтелекту можуть збільшити кількість перекладів у Facebook, Instagram та інших соціальних мережах
• Як ми дізнаємося, коли штучний інтелект стане розумним?

Source: digitaltrends.com