Не дайте себе обдурити – ця автоматизована система підступно маніпулює відеоконтентом

Команда дослідників з Університету Карнегі-Меллона розробила систему штучного інтелекту, яка автоматично переводить контент з одного фільму в стилістику іншого. У руслі “глибоких фейків”, відеороликів, доповнених штучним інтелектом, сумнозвісних тим, що накладають обличчя однієї людини на тіло іншої, система CMU є ще одним прикладом того, наскільки складно буде відрізнити вигадку від реальності в майбутньому.

Дослідники CMU назвали свою систему Recycle-GAN, на честь класу алгоритмів, які допомагають робити глибокі підробки можливими шляхом застосування стилю одного зображення або відео до іншого.

У відео, опублікованому на початку цього місяця, дослідники продемонстрували, як можна обробити вихідне відео, на якому виступає Барак Обама, щоб створити враження, ніби це слово вимовляє Дональд Трамп. Або монолог Джона Олівера можна перетворити на монолог Стівена Колберта. Recycle-GAN не обмежується лише людськими обличчями. Дослідники також показують, як система може змусити цвісти нарцис за допомогою тієї ж механіки, що і гібіскус.

• Чому штучний інтелект ніколи не буде правити світом
• Ця гра дозволяє хакерам атакувати ваш комп’ютер, і вам навіть не потрібно в неї грати
• Як ми дізнаємося, коли ШІ насправді стане розумним?

Кінцевий результат не ідеальний – безліч цифрових артефактів по краях відредагованих облич дають зрозуміти, що все не зовсім так, як здається. І все ж, це досить вражаюче.

“Recycle-GAN кодує як просторову, так і часову інформацію, – розповів Digital Trends Ааюш Бансал, аспірант КМУ, який працював над проектом. “Просторові обмеження дозволяють йому вивчати трансформацію з однієї області в іншу, а часова інформація допомагає краще вивчати стилістичну інформацію та покращувати просторову трансформацію”.

За словами Бансала, до розробки Recycle-GAN його спонукало бажання, в певному сенсі, воскресити мертвих. “Одна з моїх життєвих цілей – повернути … Чарлі Чапліна в наші фільми”, – сказав він. Таким чином, Бансал бачить систему як інструмент для митців, таких як кінематографісти, і дослідників, які потребують даних.

Бансал визнав, що погані актори можуть використовувати такий інструмент, як Recycle-GAN, для виконання тривожних маніпуляцій, подібних до тих, які ми бачили з глибокими підробками, включаючи фальшиві новини та фальшиве порно. Однак він сподівається, що підхід його команди може стати рішенням для виявлення глибоких фейків, а не підливати масла у вогонь.

“Наш підхід дозволяє генерувати дані, які можуть бути використані для навчання простої моделі машинного навчання, яка може розрізняти реальні та фейкові дані”, – сказав він. “Генерування цих фейкових даних

Source: digitaltrends.com