Бот чи ні? Це розширення для браузера визначить текст, написаний штучним інтелектом.

З’ясувати, чи правдиві речі, які ви читаєте в Інтернеті, може бути складно. Завдяки новому веб-плагіну визначати, чи були історії написані людиною або штучним інтелектом, тепер набагато простіше. GPTrue or False – це розширення для браузерів Chrome і Firefox, яке дозволяє користувачам вибирати текст на сайті (від 50 слів) і оцінювати його, щоб визначити ймовірність того, що він був написаний не людиною, а моделлю штучного інтелекту GPT-2 від OpenAI.

GPT-2 – це алгоритм генерації тексту, який дозволяє користувачам завантажити в нього початок фрагмента тексту, наприклад, статті з газети, а потім додумати решту в жахливо переконливій манері. У той час як деякі використовують його в творчих цілях, наприклад, для створення постійно мінливих текстових пригодницьких ігор, інші справедливо занепокоєні тим, що це може означати для поширення фейкових новин.

GPTrue or False пропускає вибраний текст через модель OpenAI GPT-2 Detector, а потім обчислює ймовірність того, що текст був створений людиною, а не машиною.

“Я б сказав, що проблема досить актуальна в сучасному світі, – сказав Джуліо Стараче, творець GPTrue or False, в інтерв’ю Digital Trends. “У міру того, як генерація синтетичних даних стає все більш витонченою, ми стаємо все більш вразливими до того, що на нас так чи інакше можуть вплинути. Фейкові новини, згенеровані машинами, є одним із прикладів, але візьміть до уваги також фейкові відгуки. У світі, де рецензування здійснюється з відкритих джерел, цією системою можна зловживати і довільно схиляти споживачів до певного бізнесу”.

Старас розповів, що на створення плагіна його надихнув твіт директора з питань штучного інтелекту компанії Tesla Андрея Карпаті. 6 листопада Карпатій опублікував твіт з проханням створити розширення для браузера Chrome, яке допоможе виявляти текст у форматі GPT-2 в Інтернеті. “Я побачив твіт і подумав: “Гей, я, напевно, можу це зробити”, – сказав Старас. Розширення можна завантажити тут.

І останнє застереження: Хоча цей детектор вражаюче точний, коли справа доходить до виявлення каракулів штучного інтелекту, ви все одно захочете використовувати трохи здорового глузду. Подібно до того, як детектор спаму виявляє сміттєві електронні листи, може бути кілька фрагментів, написаних людиною, які прослизають крізь тріщини – або навпаки.

“Може статися так, що текст, згенерований за допомогою GPT-2, і текст, згенерований людиною, іноді мають характеристики, що перетинаються, що призводить до того, що детектор може випадково подумати, що частина тексту, згенерована людиною, насправді згенерована машиною”, – сказав Старасе. “У моєму Твіттері є кілька кумедних прикладів цього, коли люди показують, що детектор помилково класифікує промову Трампа як комп’ютерну, і так само з уривком Джеймса Джойса. Отже, або Трамп і Джеймс Джойс – роботи, або детектор недосконалий”.

Рекомендації редакції

• Цей критичний недолік macOS може залишити ваш Mac беззахисним
• ChatGPT: як користуватися вірусним чат-ботом зі штучним інтелектом, який підкорив світ
• Оновлення шифрування iCloud від Apple порадувало не всіх
• Google тепер підтримує мої жахливі звички в браузері, і мені це подобається
• Як користуватися новою функцією спільнот у Microsoft Teams

Source: digitaltrends.com