Шкільні стрільці залишають підказки. Чи зможе штучний інтелект виявити наступного, поки не стане надто пізно?

У світлі нещодавніх смертоносних шкільних стрілянин у США, освітяни, батьки та експерти з безпеки шукають технології, які допоможуть вирішити цю проблему. На передньому плані – використання штучного інтелекту.

• Використання ШІ для пошуку доказів
• Чи означає підвищення безпеки менше приватності?
• ШІ – це інструмент, а не рішення

“Наша мета – зробити так, щоб дитина ніколи не захотіла принести зброю до школи”, – сказала Сьюзі Лафлін, співзасновник і голова ради Firestorm, фірми з управління кризовими ситуаціями. З цією метою, у партнерстві зі Школою безперервної освіти Університету Алабами, компанія розробила профілактичну програму, яка спрямована на виявлення ранніх попереджувальних ознак у дітей, які можуть бути схильні до ризику вчинення насильницьких дій у майбутньому.

Ідея програми, яка отримала назву BERTHA (Behavioral Risk Threat Assessment Program), виникла після масової стрілянини в Технологічному інституті Вірджинії в 2007 році, коли було вбито 32 людини – однієї з найсмертоносніших в історії США. Лютнева стрілянина в середній школі Марджорі Стоунмен Дуглас в Паркленді, штат Флорида, яка забрала життя 17 людей, привернула додаткову увагу до цієї проблеми, яка була знову підкреслена в травні стріляниною в середній школі Санта-Фе в Техасі, де загинули 10 учнів і вчителів.

• Чому навчання роботів грі в хованки може стати ключем до ШІ наступного покоління
• ШІ може допомогти виявити ознаки коронавірусу на рентгенівських знімках легенів
• Як завуч у небі, цей ШІ помічає бійки ще до того, як вони відбудуться

Жертви стрілянини в школах з 1989 року , Джерело: Mother Jones

Інцидент	Загиблих	Поранені	Всього жертв	Рік
Стрілянина в середній школі Санта-Фе (Санта-Фе, Техас)	10	13	23	2018
Стрілянина в середній школі Марджорі Стоунмен Дуглас (Паркленд, Флорида)	17	14	31	2018
Стрілянина в громадському коледжі Умпква (Роузбург, штат Орегон)	9	9	18	2015
Стрілянина в середній школі Мерісвілл-Пілчак (Мерісвілл, штат Вашингтон)	5	1	6	2014
масове вбивство на острові Віста (Санта-Барбара, Каліфорнія)	6	13	19	2014
масове вбивство в початковій школі Сенді Хук (Ньютаун, штат Коннектикут)	27	2	29	2012
Вбивства в університеті Ойкос (Окленд, Каліфорнія)	7	3	10	2012
Стрілянина в університеті Північного Іллінойсу (ДеКалб, штат Іллінойс)	5	21	26	2008
Різанина у Вірджинському технічному університеті (Блексбург, штат Вірджинія)	32	23	55	2007
Стрілянина в школі амішів (округ Ланкастер, штат Пенсильванія)	6	5	11	2006
різанина в Ред-Лейк (Ред-Лейк, штат Міннесота)	10	5	15	2005
різанина в середній школі Колумбайн (Літтлтон, штат Колорадо)	13	24	37	1999
Стрілянина в середній школі Турстона (Спрінгфілд, штат Орегон)	4	25	29	1998
Вбивства в середній школі Вестсайд (Джонсборо, Арканзас)	5	10	15	1998
Стрілянина в середній школі Ліндхерст (Оліверст, Каліфорнія)	4	10	14	1992
Стрілянина в Університеті штату Айова (м. Айова-Сіті, штат Айова)	6	1	7	1991
стрілянина на шкільному подвір’ї у Стоктоні (Стоктон, Каліфорнія)	6	29	35	1989

Програма оцінки ризиків задумана як запобіжний захід для виявлення дітей, які можуть потребувати допомоги та втручання, до того, як вони стануть схильними до суїциду або насильства. Як показує практика, після кожного попереднього інциденту адміністрація, батьки та учні дивуються, чому ознаки раннього попередження – такі як кібербулінг, натяки на зброю та згадки про стрілянину в школі Колумбайн в Колорадо в 1999 році – не були помічені раніше.

Використання ШІ для пошуку доказів

Виклик полягав у складності просіювання гір даних, що генеруються на форумах та в акаунтах соціальних мереж, щоб знайти ті кілька голок, які могли б попередити шкільного консультанта або психолога про те, що дитина в біді. Тож, щоб відфільтрувати такі підказки в Інтернеті, адміністратори залучають інструменти штучного інтелекту.

“Наша мета – зробити так, щоб дитина ніколи не захотіла принести зброю до школи”.

“Ми – це компонент штучного інтелекту”, – пояснила Міна Лакс, засновниця та генеральний директор нью-йоркської компанії Meelo Logic. Її компанія працює над програмою BERTHA разом з Firestorm, щоб виконати початкову важку роботу з сортування того, що стало відомим як великі дані. “Ми зосереджені на автоматизації знань для розуміння контексту”.

Програмне забезпечення Meelo може відстежувати коментарі і публікації до їх першоджерела. Компанія називає цей процес причинно-наслідковим зв’язком, але це більше схоже на пошук нульового пацієнта, первинної особи, про яку хтось інший міг висловити занепокоєння.

“Зазвичай, початковий сплеск відбувається в Інтернеті, і вони навмисно роблять це публічним – це може бути заклик про допомогу”, – пояснив Харт Браун, головний операційний директор Firestorm. “У 80 відсотках випадків про це знає принаймні ще одна людина, тож навіть якщо перше повідомлення було приватним, хтось інший, швидше за все, зробить його публічним”.

Програма штучного інтелекту здійснює первинну перевірку на основі використовуваних сленгових термінів, контексту, місця розташування і пов’язаних посилань. Потім на інформаційній панелі BERTHA Firestorm позначає активність для можливого втручання. Саме тут люди – консультанти, вчителі, психологи – втручаються, щоб оцінити, чи існує реальна загроза, чи потребує дитина додаткової уваги через прояв гніву або суїцидальних нахилів, або ж активність є доброякісною.

Виклик полягав у складності просіювання через гори даних, що генеруються на форумах та у соціальних мережах.

“Але жодна людина не несе відповідальності за прийняття рішення”, – сказала Бренда Трулав, адміністратор програми в Університеті Алабами, яка працювала з Firestorm над програмою і пов’язаною з нею програмою електронного навчання для освітян по всій країні. “Одна людина може щось пропустити, тому команда людей вирішує, що робити”.

Трулав зазначив, що програма базується на досвіді вчителів, судових психологів та інших експертів для створення формули для вирішення потенційних кризових ситуацій.

Чи означає підвищення безпеки менше приватності?

Хоча потенціал ШІ в запобіганні майбутнім шкільним стрілянинам може бути багатообіцяючим, таке відстеження і аналіз даних викликають неминучі занепокоєння щодо приватності і точності, а також щодо того, чи переважає безпека над будь-якими побоюваннями.

Брайс Альберт, учень дев’ятого класу середньої школи Марджорі Стоунмен Дуглас, перебував у коридорі третього поверху, коли стрілець почав стріляти в учнів. Коли Альберт побачив, що вбивця спускається коридором, вчителька впустила його до класу, і він вижив. Після цього досвіду він змінив своє ставлення до приватного життя.

“Раніше я думав: “Не лізьте в мої речі”, – сказав Альберт в інтерв’ю Digital Trends, розповідаючи про те, що влада відстежувала його соціальні мережі.

Meelo’s Lux підкреслила, що ШІ-програми не мають доступу до жодних приватних акаунтів, вся інформація є публічною. Лафлін з Firestorm підкреслив, що вони самі не збирають і не зберігають дані. Це роблять окремі школи, які вже мають досвід ведення обліку учнів. (Firestorm стягує ліцензійний збір у розмірі 2500 доларів США з кожної школи, в той час як Університет Алабами пропонує безкоштовний навчальний онлайн-курс для вчителів К-12 штату Алабама. Школи також можуть безкоштовно працювати над власними проектами раннього попередження, використовуючи базову дев’ятикрокову формулу Firestorm для створення таких програм).

Лакс визнає, що тонкощі мови, такі як сарказм, можуть виявитися складними для будь-якого дослідження ШІ. Meelo зосереджується на текстовому аналізі, а не на аналізі зображень, яким займаються інші ШІ-компанії, такі як Cortica. Проте, навіть для людей, які беруть участь у дослідженні, є місце для помилкової інтерпретації.

“Важко передати емоції через текст”, – визнав Альберт.

З іншого боку, безпристрасна програма не обирає фаворитів і не ігнорує емоційні або поведінкові зміни, які можуть свідчити про те, що попереду неприємності.

ШІ все ще є лише початковим фільтром або інструментом для запобігання майбутнім стрілянинам у школах.

“Зрештою, він може бути більш точним, якщо усунути якомога більше упереджень”, – сказав Браун з Firestorm. Працівник відділу кадрів або консультант може звести до мінімуму емоційні спалахи людини, наприклад, кажучи, що це трапляється постійно. Немиготливий комп’ютер не робить таких виправдань.

“Але це все одно вимагає людського дотику, щоб довести справу до кінця, щоб провести співбесіду з цією людиною”, – сказав Браун. “Комп’ютер не визначить, чи потрібно цю людину виключити, чи їй потрібна консультація”.

ШІ – це інструмент, а не рішення

Всі експерти, з якими Digital Trends поспілкувався для цієї статті, підкреслили той факт, що ШІ все ще є лише початковим фільтром або інструментом для запобігання майбутнім стрілянині в школах. Він може генерувати сповіщення про дітей, які перебувають у зоні ризику, але не може підказати педагогам, як, коли і навіть чи варто їм втручатися. Школи все ще потребують власної команди експертів – від вчителів, які знають учнів, до психологів – і, ймовірно, потребуватимуть їх і надалі.

“Статистика показує, що з кожною стріляниною в школі, яка сталася, зростає ймовірність того, що станеться ще одна стрілянина в школі”, – сказала Лакс.

Зрештою, людський фактор є найважливішим. “Говоріть з людьми і просіть про допомогу”, – сказав Альберт. “Не бійтеся просити про допомогу”.

Рекомендації редакторів

• Штучний інтелект, що відчуває емоції, вже тут, і він може бути на вашій наступній співбесіді
• Асистенти вчителів зі штучним інтелектом можуть допомогти заповнити прогалини, створені віртуальними класами
• Камери зі штучним інтелектом можуть допомогти загасити лісові пожежі до того, як вони стануть катастрофічними

Source: digitaltrends.com