Facebook бореться з терористичним контентом на своєму сайті за допомогою ШІ та людського досвіду

У зв’язку з тим, що кількість терористичних атак у світі продовжує зростати, компанія Facebook намагається бути повністю прозорою щодо своїх планів по боротьбі з терористичним контентом на своєму сайті. Для підвищення ефективності зусиль компанія залучила як штучний інтелект, так і людську експертизу.

На початку ініціативи Facebook запровадив тему “Складні питання”, яка стала безпечним простором для обговорення складних тем. Перший пост в рамках теми має назву “Як ми протистоїмо тероризму” і написаний Монікою Бікерт, директором з управління глобальною політикою Facebook, та Брайаном Фішманом, менеджером з контртерористичної політики, які детально пояснюють, як Facebook прагне зробити платформу ворожим середовищем для терористів.

У дописі перелічено низку поточних тактик, які використовують ШІ, в тому числі зіставлення зображень – коли системи шукають, чи відповідає завантажене зображення будь-якому терористичному контенту, раніше видаленому Facebook, – щоб запобігти розміщенню інших акаунтів тих самих фотографій чи відеороликів. Ще один експеримент, який наразі проводить Facebook, передбачає аналіз тексту, раніше видаленого за підтримку терористичних організацій, з метою створення текстових сигналів. Це допоможе посилити наявний алгоритм, щоб він швидше відловлював подібні пости.

• Оновлення шифрування iCloud від Apple порадувало не всіх
• Я використовував додаток для створення 3D-моделей на своєму iPhone, і це шокуюче круто
• Нове шкідливе програмне забезпечення може вкрасти дані вашої кредитної картки – і воно швидко поширюється

Для того, щоб ШІ не позначив фотографію, пов’язану з тероризмом, в пості, наприклад, в новинах, все ще необхідна людська оцінка. Щоб забезпечити постійний моніторинг, команда з роботи з громадськістю працює 24 години на добу, а її члени також володіють десятками мов. Компанія також додала більше людей до своєї команди спеціалістів з питань тероризму та безпеки – від колишніх прокурорів до інженерів – які мають зосередитися виключно на протидії тероризму.

Компанія Facebook продовжить розширювати штат співробітників після того, як генеральний директор Марк Цукерберг оголосив про плани розширити команду з питань роботи з громадськістю, додавши ще 3 000 співробітників по всьому світу – це рішення було прийнято після низки насильницьких смертей та інцидентів, які транслювалися на Facebook Live. Цукерберг зазначив, що завдяки більшій команді оглядачів неприйнятний контент може бути видалений швидше, а рівень реагування на небезпеку для тих, хто перебуває в небезпеці, потенційно може бути вищим.

Компанія продовжує розвивати різні партнерські відносини з дослідниками, урядами та іншими компаніями, включаючи Microsoft, YouTube і Twitter. Ці компанії постійно вносять свій внесок у базу даних, яка спеціально призначена для збору терористичного контенту.

Рекомендації редакції

• Забудьте про TikTok – настав час заборонити Twitter
• Що насправді означає оновлення шифрування в iCloud від Apple – і чому вас це має хвилювати
• Мета знайшла понад 400 мобільних додатків, “призначених для крадіжки” логінів Facebook
• Злом Uber – обурлива історія про хакерство підлітка заради розваги
• Супутниковий зв’язок в iPhone 14 – це чудово, але його майбутнє набагато цікавіше

• Новини
• Соціальні мережі
• Facebook
• HBO Max
• Що буде далі: Як технології допомагають суспільству відкритися після коронавірусу

Source: digitaltrends.com