Cum AI poate colecta indicii pentru a preveni viitoarele împușcături școlare

În lumina recentelor împușcături școlare mortale din Statele Unite, educatorii, părinții și experții în securitate caută tehnologie pentru a ajuta la rezolvarea problemei. În prim-plan se află utilizarea inteligenței artificiale.

„Scopul nostru este să ne asigurăm că un copil nu vrea niciodată să aducă o armă la școală”, a spus Suzy Loughlin, cofondator și consiliul șef al Firestorm, o firmă de gestionare a crizelor. În acest scop, în parteneriat cu Școala de Educație Continuă a Universității din Alabama, compania a dezvoltat un program de prevenire care caută semne de avertizare timpurie la copiii care ar putea risca să comită acte violente viitoare.

Supranumită BERTHA, pentru Programul de evaluare a amenințării riscului comportamental, ideea a luat naștere din împușcăturile în masă din 2007 la Virginia Tech când au fost ucise 32 de persoane - una dintre cele mai letale din istoria SUA. Atacul din februarie la liceul Marjory Stoneman Douglas din Parkland, Florida, care a ucis 17 persoane, a adus mai multă atenție asupra problemei, subliniată din nou în luna mai, prin împușcătura liceului Santa Fe din Texas, unde au fost uciși 10 elevi și profesori.

Victime de împușcături școlare din 1989, Sursa: Mama Jones

Programul de evaluare a riscurilor este conceput ca o plasă de siguranță pentru a prinde copii care ar putea avea nevoie de ajutor și intervenție înainte de a deveni suicid sau violenți. După cum s-a demonstrat după fiecare incident anterior, administratorii, părinții și elevii se întreabă de ce semnele de avertizare timpurie - cum ar fi hărțuirea cibernetică, aluziile la arme și referințele la împușcăturile Columbine High School din Colorado, în 1999 - nu au fost observate anterior.

Folosirea AI pentru a căuta indicii

Provocarea a fost dificultatea de a trece prin munții de date generate în forumuri și conturi de socializare pentru a găsi puținele ace care ar putea alerta un consilier școlar sau un psiholog că un copil are probleme. Deci, pentru a filtra astfel de indicii online, administratorii solicită instrumente de inteligență artificială.

„Scopul nostru este să ne asigurăm că un copil nu vrea niciodată să aducă o armă la școală”.

„Suntem componenta AI”, a explicat Mina Lux, fondatorul și CEO-ul Meelo Logic din New York. Compania sa lucrează la programul BERTHA împreună cu Firestorm pentru a efectua ridicarea grea inițială a sortării prin ceea ce a devenit cunoscut sub numele de big data. „Accentul nostru este automatizarea cunoștințelor pentru a înțelege contextul.”

Software-ul Meelo poate urmări comentariile și postările înapoi la sursa lor originală. Compania se referă la proces ca la un raționament cauzal, dar este mai asemănător cu găsirea pacientului zero, individul inițial despre care altcineva și-a exprimat îngrijorarea.

„De obicei, există o explozie inițială online și fac acest lucru în mod intenționat public - poate fi o cerere de ajutor”, a explicat Hart Brown, COO Firestorm. „Și în 80 la sută din cazuri, cel puțin o altă persoană știe, așa că, chiar dacă primul post este privat, altcineva este probabil să îl facă public”.

Programul AI oferă screening-ul inițial, pe baza termenilor de argou folosiți, context, locație și linkuri conexe. Apoi, tabloul de bord BERTHA al Firestorm semnalizează activitatea pentru o posibilă intervenție. Aici intervin oamenii - consilieri, profesori, psihologi - pentru a evalua dacă există o amenințare reală, dacă un copil are nevoie de o atenție suplimentară, deoarece manifestă furie sau tendințe de sinucidere sau dacă activitatea este benignă.

Provocarea a fost dificultatea de a trece prin munții de date generate pe forumuri și social media.

„Dar nici o persoană nu este responsabilă pentru luarea deciziei”, a spus Brenda Truelove, administrator de program la Universitatea din Alabama, care a lucrat cu Firestorm la program și un program de e-learning asociat pentru educatori la nivel național. „O persoană ar putea rata ceva, deci este o echipă de oameni care decid ce să facă.”

Truelove a menționat că programul se bazează pe experiența profesorilor, a psihologilor medico-legali și a altor experți pentru a crea o formulă de gestionare a potențialelor crize.

Siguranța sporită înseamnă mai puțină intimitate?

Deși potențialul IA în prevenirea viitoarelor împușcături școlare poate fi promițător, o astfel de urmărire și analiză a datelor ridică îngrijorări inevitabile cu privire la confidențialitate și acuratețe și dacă siguranța prevalează asupra oricăror probleme.

Bryce Albert, un elev din clasa a IX-a la liceul Marjory Stoneman Douglas, se afla pe holul de la etajul trei, când trăgătorul a început să tragă asupra elevilor. Când Albert l-a văzut pe ucigaș venind pe hol, un profesor l-a lăsat pe Albert să intre într-o sală de clasă și a supraviețuit. De la această experiență, el a avut o schimbare de gândire cu privire la confidențialitate.

„Înainte, îmi dădeam seama că nu intrați în lucrurile mele”, a spus Albert pentru Digital Trends, despre autoritățile care îi urmăreau utilizarea rețelelor sociale. „Dar acum, m-am răzgândit total”.

Meelo’s Lux a subliniat că programele AI nu accesează niciun cont privat; toate informațiile sunt publice. Firestorm’s Loughlin a subliniat faptul că nu colectează sau stochează singuri datele. Este întreținut de școlile individuale, care au deja experiență în păstrarea evidenței elevilor. (Firestorm percepe o taxă de licență de 2.500 USD pe școală, în timp ce Universitatea din Alabama oferă un curs de formare online gratuit pentru educatorii din Alabama K-12. Școlile pot lucra gratuit la propriile proiecte de avertizare timpurie folosind formula de bază în nouă etape a Firestorm pentru stabilirea unor astfel de programe.)

Lux recunoaște că subtilitățile limbajului, cum ar fi sarcasmul, se pot dovedi provocatoare pentru orice cercetare AI. Meelo se concentrează pe analiza textuală, mai degrabă decât pe tipul de analiză a imaginii pe care îl studiază alte companii AI, cum ar fi Cortica. Totuși, există loc pentru interpretări greșite chiar și pentru participanții umani.

„Este greu să obții emoție prin mesaje text”, a recunoscut Albert.

Pe de altă parte, un program lipsit de pasiune nu redă favorite sau ignoră tipurile de schimbări emoționale sau comportamentale care ar putea indica faptul că problemele sunt în față.

AI este încă doar un filtru sau un instrument inițial pentru a opri viitoarele împușcături școlare.

„În cele din urmă, poate fi mai precis eliminând cât mai multă prejudecată posibilă”, a spus Firestorm’s Brown. O persoană HR sau un consilier ar putea minimiza izbucnirile emoționale ale unei persoane, de exemplu, spunând că se întâmplă tot timpul. Computerul care nu clipeste nu aduce astfel de scuze.

"Dar este încă nevoie de o atingere umană pentru a urma, pentru a intervieva acea persoană", a spus Brown. „Computerul nu va stabili dacă acea persoană trebuie expulzată sau dacă are nevoie de consiliere”.

AI este un instrument, nu o soluție

Toți experții Digital Trends au vorbit pentru această poveste au subliniat faptul că AI este încă doar un filtru sau un instrument inițial pentru a opri filmările școlare viitoare. Poate genera alerte cu privire la copiii cu risc, dar nu le poate spune educatorilor cum, când sau chiar dacă ar trebui să intervină. Școlile au încă nevoie de propria lor echipă de experți - de la profesori care îi cunosc pe studenți până la psihologi - și este probabil să aibă nevoie de ei în continuare.

„Statisticile arată că, la fiecare împușcare școlară care are loc, există o probabilitate mai mare ca o altă împușcare școlară să aibă loc”, a spus Lux.

În cele din urmă, elementul uman este cel mai important factor. „Vorbește cu oamenii și cere ajutor”, a spus Albert. „Nu vă fie teamă să cereți ajutor”.