10 законів для АІ (і людей теж) від гендиректора Microsoft

Дехто може не сприймати концепцію штучного інтелекту, але, можливо, вже занадто пізно повертати час назад. Ми використовуємо сирі версії штучного інтелекту протягом десятиліть, від круїз-контролю в наших автомобілях до автоматичних циклів сушіння в наших пральнях.

Але інтерес до ШІ і його поширення зростає разом із занепокоєнням щодо його наслідків. У нещодавньому есе, опублікованому на сайті Slate, генеральний директор Microsoft Сатья Наделла виклав свою концепцію відповідальності ШІ для машин і для людини, яку Geekwire назвав “10 законів ШІ Наделли”.

Наделла процитував “Три правила робототехніки” Айзека Азімова з 1940-х років: “По-перше, роботи ніколи не повинні завдавати шкоди людині через дію або бездіяльність. По-друге, вони повинні підкорятися людським наказам. По-третє, вони повинні захищати себе”. Ці правила працюють для фантастики, але, можливо, занадто грубі для моральних рішень і більш складних обов’язків.

Генеральний директор Microsoft також процитував комп’ютерного піонера Алана Кея, який сказав: “Найкращий спосіб передбачити майбутнє – це винайти його”. У перекладі Наделли для нашої нинішньої позиції це звучить так: “Припиніть передбачати, яким буде майбутнє, і створіть його принципово”.

10 законів штучного інтелекту Наделли – це фактично принципи і цілі, які, за його словами, вимагають обговорення і дебатів, оскільки ми сміливо крокуємо в суспільство, яке все більше використовує і залежить від штучного інтелекту. Існує шість принципів, що стосуються самого ШІ:

“ШІ повинен бути розроблений для допомоги людству”. Він не повинен захоплювати владу або існувати заради неї самої.

“ШІ має бути прозорим”. Люди повинні знати про правила роботи ШІ.

“ШІ повинен максимізувати ефективність, не принижуючи гідність людей”. Всі групи населення повинні бути залучені до розробки та правил для ШІ, щоб уникнути надмірного впливу. Подібну думку нещодавно висловила Мелінда Гейтс, коли розкритикувала гендерний дисбаланс серед програмістів, який інший спостерігач описав як “море чуваків”.

“ШІ повинен бути розроблений для розумної приватності”. Особисте життя та інформація повинні бути захищені.

“ШІ повинен мати алгоритмічну відповідальність, щоб люди могли виправити ненавмисну шкоду”. Ми не можемо передбачити все, що може статися з системами, тому повинні існувати способи перезавантаження або перепрограмування на основі непередбаченого.

“ШІ повинен захищати від упередженості, забезпечуючи належне і репрезентативне дослідження, щоб неправильні евристики не могли бути використані для дискримінації”. Людський нагляд необхідний для того, щоб бути впевненим, що ШІ дотримується цього правила.

Наделла також перерахувала чотири принципи, або “musts” для людей, підкресливши навички, які знадобляться дітям і працівникам у майбутньому, а також можливості, які штучний інтелект, як відомо, не може відтворити в тій же мірі і якості, що і людина. Це емпатія, освіта, творчість і креативність

Source: digitaltrends.com