Unutar bijele zgrade od štukature u južnoj Kaliforniji, video-kamere upoređuju lica prolaznika sa bazom podataka za prepoznavanje lica. Vještačka inteligencija za analizu ponašanja pregleda snimke u potrazi za znakovima nasilnog ponašanja. Iza vrata toaleta, uređaj nalik detektoru dima snima zvuk, osluškujući znake uznemirenosti. Napolju, dronovi stoje spremni za aktiviranje i prikupljanje informacija iz vazduha, dok čitači registarskih tablica kompanije Flock Safety, giganta u oblasti nadzora vrijednog 8,5 milijardi dolara, obezbjeđuju da automobili koji ulaze i izlaze sa parkinga nisu u vlasništvu kriminalaca.
Ovo nije visoko obezbijeđen državni objekat. Ovo je srednja škola Beverli Hils.
Nadzornik školskog okruga Aleks Černis (Alex Cherniss) kaže da je ovakav impresivan arsenal nadzornih alata nužan. I da garantuje bezbjednost njegovih učenika. „Nalazimo se u središtu urbanog okruženja Los Anđelesa, u jednom od najprepoznatljivijih gradova na planeti. Zato smo uvijek meta, što znači da su naša djeca meta, kao i naše osoblje“, rekao je on. U fiskalnoj 2024–2025. godini, okrug je potrošio 4,8 miliona dolara na bezbjednost, uključujući i osoblje. Nadzorni sistem svakodnevno uoči više prijetnji, navodi okrug.
Sve više škola u priči
Aparatura u Beverli Hilsu možda djeluje ekstremno, ali nije izuzetak. Širom SAD škole uvode slične nadzorne sisteme. U nadi da će ih zaštititi od užasnog i neprekidnog talasa masovnih pucnjava. Ove godine zabilježeno je 49 smrtnih slučajeva od vatrenog oružja na prostorima škola. U 2024. bilo ih je 59, a u 2023. godini 45, prema podacima organizacije Everytown for Gun Safety. Između 2000. i 2022. godine, u američkim školama ubijena je 131 osoba, a 197 je ranjeno, većinom djece. Imajući u vidu te zastrašujuće brojke, izdvajanje dijela budžeta za najsavremenije bezbjednosne i nadzorne alate zasnovane na vještačkoj inteligenciji relativno je laka odluka.„Ova zajednica želi… sve što možemo da uradimo kako bismo naše škole učinili bezbjednijim“, rekao je Černis. „Ako to znači naoružano obezbjeđenje, dronove, AI i čitače registarskih tablica – samo naprijed“.
Da li novi nadzor zaista pomaže
Skeptici, međutim, tvrde da ima malo dokaza da će tehnologije vještačke inteligencije značajno smanjiti te brojke. Kažu i da narušavaju povjerenje učenika. Izvještaj Američke unije za građanske slobode (ACLU) iz 2023. pokazao je da se osam od 10 najvećih školskih pucnjava u Americi od Kolumbajna dogodilo u kampusima sa nadzornim sistemima. Čed Marlo (Chad Marlow), viši savjetnik za javne politike u ACLU-u i autor izvještaja, rekao je da čak i sa pojavom alata zasnovanih na vještačkoj inteligenciji postoji ozbiljan manjak nezavisnih istraživanja koja bi potvrdila da su oni zaista bolji u sprečavanju tragedija. „Vrlo je neobično tvrditi da će ovo čuvati vašu djecu“, rekao je on.
Izvještaj je takođe pokazao da nadzor stvara atmosferu nepovjerenja: 32% ispitanih učenika uzrasta od 14 do 18 godina reklo je da se osjećaju kao da su stalno pod prismotrom. U fokus-grupama koje je organizovao ACLU, učenici su rekli da se osjećaju manje prijatno da obavijeste nastavnike o problemima mentalnog zdravlja i fizičkom zlostavljanju. Marlo smatra da je to loš kompromis „zato što djeca ne veruju ljudima koje doživljavaju kao špijune, povjerenje se narušava i to zapravo čini stvari manje bezbjednim“, rekao je on.
Školski okrug Beverli Hilsa to ne vidi tako. „Ne postoji iznos novca koji bismo mogli da uložimo u bezbjednost i sigurnost u Jedinstvenom školskom okrugu Beverli Hils, a da se roditelji i zajednica s tim ne slože“, rekao je Černis.
Zadovoljni
Nikol Gorbačeva (Nicole Gorbacheva), koja je ranije ove godine stekla diplomu srednje škole Beverli Hils, rekla je da podržava povećane mjere bezbjednosti u okrugu koji je ranije dobijao prijetnje bombama, imao provale i, u skorije vrijeme, antisemitske prijetnje. Ranije ove godine, neko je nacrtao svastiku na trotoaru ispred jedne osnovne škole u okrugu. „Tokom godina gledala sam kako se BHHS mijenja iz opuštenog, otvorenog kampusa u zatvorenije i mnogo zaštićenije okruženje“, rekla je ona. Uvođenje nadzorne tehnologije zasnovane na vještačkoj inteligenciji „ne djeluje distopijski. Djeluje preventivno. Stvara osjećaj da neko stalno pazi na učenike“, dodala je Gorbačeva.
I druge škole govore slično. Kristofer Hajlig (Christopher Heilig) je nadzornik u Regionalnoj srednjoj školi Rancokas Veli u Nju Džerziju. Ima i do 50 kamera sa softverom za detekciju oružja kompanije ZeroEyes. Tokom vježbi aktivnog napadača u toj školi, vrijeme potrebno da se napadač uhvati prepolovljeno je korišćenjem ZeroEyes-a, tvrdi on. „Ne možete da se raspravljate o rezultatima kada spašavate živote“.
Greške u prepoznavanju oružja
Prošle godine, ZeroEyes je saopštio da je dobio SAFETY Act priznanje Ministarstva za unutrašnju bezbjednost SAD (DHS), za koje je evaluator tog ministarstva rekao da je „svedočanstvo pouzdanosti i efikasnosti platforme, mjerene kroz rigorozno testiranje, evaluaciju i stvarne događaje“. ZeroEyes navodi da je njihova tehnologija od 2023. detektovala više od 1.000 komada vatrenog oružja.
Jedan od tih slučajeva dogodio se ranije ove godine u jednoj školi u Teksasu. Tada je maloljetnik nosio pušku i pokušavao da uđe u školu. Policija ga je uhapsila prije nego što je pucao na bilo koga. Generalni direktor, suosnivač i bivši mornarički specijalac Majk Lahif (Mike Lahiff) rekao je da drugi incidenti nisu bili tako ozbiljni. „Viđali smo ljude sa oružjem u školama, ali mislim da nisu bili tamo da pucaju na učenike“, rekao je on za Forbes. Priznao je da ZeroEyes vještačka inteligencija često pogrešno označi bezazlene predmete kao oružje, ali i da je njihov tim veterana, bivših pripadnika hitnih službi i policije tu da provjeri upozorenja i po potrebi pošalje policiju.
To nije savršen sistem. ZeroEyes je bio odgovoran za lažne uzbune. Uključujući pogrešnu detekciju oružja u jednoj školi u Teksasu 2023. godine. Škola je tada stavljena u blokadu, što je prestravilo učenike, prema lokalnim izvještajima. „Priznate grešku i to vam pomaže da ubuduće budete bolji“, rekao je Lahif. Kompanija nije upoznata ni sa jednim slučajem školske pucnjave u kojoj je njihova tehnologija bila primijenjena.
Reakcija regulatora
Tačnost je čest problem ove tehnologije. Evolv, rješenje za detekciju oružja koje koristi više od 800 škola širom SAD, uključujući srednju školu Beverli Hils, označavalo je bezazlene lične predmete poput laptopova i flaša za vodu kao oružje. Savezna trgovinska komisija (FTC) je 2024. ukorila kompaniju zbog obmanjivanja škola tvrdnjama da njihova vještačka inteligencija može da detektuje sve vrste oružja. Regulator je naveo da je u više navrata u tome zakazala, uključujući incident iz 2022. kada nije označila nož dužine veće od 20 centimetara koji je korišćen za ubadanje učenika. Portparol Evolva Aleks Ozerkis (Alex Ozerkis) rekao je da je kritika FTC-a bila usmjerena na „istorijske marketinške tvrdnje“, koje je Evolv sada ispravio. Ali, nije osporio „suštinsku efikasnost“ proizvoda.
Ozerkis je rekao da Evolvova tehnologija u prosjeku pomaže korisnicima da svakodnevno detektuju i evidentiraju 500 komada vatrenog oružja i da svakog dana provjeri više od 850.000 posjetilaca škola. Evolv takođe ima istu DHS akreditaciju kao ZeroEyes i ranije se pozivao na istraživanje treće strane koje je sproveo Nacionalni centar za bezbjednost i sigurnost sportskih događaja. Pokazalo je da je sistem veoma efikasan u otkrivanju oružja na jednom stvarnom sportskom događaju.
Kontroverze zbog grešaka
Ranije ove godine, još jedan rival u oblasti detekcije oružja, kompanija Omnilert, označila je kao moguću prijetnju vatrenim oružjem šesnaestogodišnjeg učenika u okrugu Baltimor, u saveznoj državi Merilend. On je posegao u džep da uzme praznu kesicu Doritosa. Tinejdžer, koji pohađa srednju školu Kenvud u Eseksu, rekao je da ga je policija zbog toga držala na nišanu, prema lokalnim medijima i da se nakon tog incidenta više nije osjećao bezbjedno u školi. Omnilert je Forbes uputio na izvještaj Kancelarije glavnog inspektora za obrazovanje savezne države Merilend. U njemu je zaključeno da je do umiješanosti policije došlo zbog nesporazuma između obezbjeđenja i direktora škole. Portparol Omnilerta Blejk Mičel (Blake Mitchell) rekao je da se kompanija nije susretala sa sličnim slučajevima.
Kontroverzni su i proizvodi za analizu ponašanja zasnovani na vještačkoj inteligenciji. Oni tvrde da mogu da detektuju znake agresije ili druge zabrinjavajuće radnje, poput preskakanja ograda. Proizvodi koji tvrde da mogu da utvrde emocije osobe na osnovu vizuelnih i audio podataka često su kritikovani kao neefikasni ili pristrasni. Ranija istraživanja ukazivala su da takvi sistemi češće pripisuju negativna emocionalna stanja Afroamerikancima.
Testiranja
To, međutim, nije spriječilo obrazovne institucije da ih kupuju. Bret Fjuks (Brett Fuchs), direktor bezbjednosti na Univerzitetu Tenesi u Čatanugi, uveo je VoltAI na postojeće kamere u kampusu. Tehnologija, koju VoltAI naplaćuje 365 dolara po video-strimu godišnje, tvrdi da može da detektuje oružje, vršnjačko nasilje, osobe koje su pale i zadržavanje na jednom mjestu. Kako bi je testirao, Fjuks je zamolio kolege da se „naizgled“ potuku ispred kamere. Vještačka inteligencija je to uspješno označila, što ga je uvjerilo da alat uvede početkom ove godine.
VoltAI je takođe pomogao da se detektuje beskućnik koji je pao na univerzitetskom imanju i koji je kasnije upućen u prihvatilište, rekao je Fjuks. Kada su pristizali lažni pozivi o pucnjavi, VoltAI je pomogao da se policajci uvjere da se ništa opasno ne dešava. „Znamo da bismo dobili upozorenja mnogo prije nego što bi taj telefonski poziv uopšte stigao“, rekao je on. Ipak, napominje da sistem još nije testiran u nekom ozbiljnom incidentu.
Nadzirani nisu uvek upoznati
Kako se sve više kamera sa vještačkom inteligencijom pojavljuje po školskim kampusima, oni koji su najviše pod nadzorom- učenici, roditelji i nastavnici – nisu uvijek uključeni u donošenje odluka. Ketrin Voren (Katherine Warren), predsjednica Udruženja prosvjetnih radnika Beverli Hilsa, nastavnica u lokalnoj osnovnoj školi i majka djeteta u tom okrugu, rekla je da je sindikat nastavnika ove jeseni podnio prigovor zbog postavljanja kamera u prostorima poput biblioteke i fiskulturne sale. Iako kamere nisu dozvoljene u učionicama, dozvoljene su u drugim djelovima kampusa. „Ukazali smo na zabrinutost da su to nastavni prostori. I da bi trebalo da imaju ista prava na privatnost kao i tradicionalne učionice“, rekla je Voren.
Portparol Beverli Hilsa Kolbi Gilardian (Colby Gilardian) rekao je da se okrug saglasio da sindikat obavesti o tome gde se kamere nalaze. I da ih neće postavljati na mestima gde postoji „razumno očekivanje privatnosti“. To, međutim, ne uključuje biblioteku i fiskulturnu salu.
Voren je takođe rekla da nije bila obaviještena o nedavnom uvođenju prepoznavanja lica od strane AI dobavljača Vaidio iz Konektikata tokom ceremonije dodjele diploma 2025. godine. Niti o tome da li je njena slika unijeta u biometrijsku bazu podataka. Slično tome, bivša učenica Gorbačeva nije znala da je prepoznavanje lica testirano tokom mature. Gilardian je rekao da okrug planira „detaljnije razgovore“ o toj tehnologiji ako i kada dođe do šire primjene. Trenutno je ona ograničena na 15 kamera u cijelom okrugu, koji obuhvata srednju školu, jednu osnovnu školu i dvije niže škole. Gilardian je rekao da se koristi samo „mala interna demo-lista“.
Kompanije tvrde da ne narušavaju privatnost
Škola nije zakonski obavezna da obavijesti roditelje, učenike ili nastavnike o tome da su uključeni u sistem za prepoznavanje lica. Kalifornijski zakon o zaštiti potrošača zahtijeva da preduzeća obavijeste pojedince da se njihovi biometrijski podaci prikupljaju, ali su javne škole izuzete. Šon O’Konor (Sean O’Connor) direktor bezbjednosti i sigurnosti u Školskom okrugu Beverli Hilsa, rekao je da, iako kamere „neprestano prikupljaju podatke… procjenjuju ljude i govor tijela“, okrug „veliku pažnju posvećuje privatnosti“. „Ne dijelimo ove informacije, a čak i kada smo zakonski obavezni da dostavimo određene snimke [kao odgovor na policijski sudski nalog ili zahtjev], zamućujemo lica svih koji nisu bili uključeni u incident“, rekao je O’Konor.
I VoltAI i ZeroEyes tvrde da njihove tehnologije ne prepoznaju identitete, već samo objekte i ponašanja i da stoga ne predstavljaju pretnju po privatnost.
Čak i tamo gdje postoji zaštita privatnosti, postoji mogućnost da se tehnologije pretvore u zlonamjernije sisteme za špijuniranje. Motorola, kompanija koja proizvodi Halo uređaje za „slušanje“ u toaletima, saopštila je da ne čuva podatke snimljene u toaletima. Uređaji u realnom vremenu samo detektuju zabrinjavajuće zvuke, poput pucnjeva ili vikanja „upomoć“, i podižu uzbunu. Međutim, ranije ove godine, jedan tinejdžer iz Portlanda hakovao je Halo uređaje u svojoj školi. Mogli su neprimijetno da se pretvore u stalne prislušne uređaje koji snimaju sve što se dešava u toaletu. Tinejdžer je rekao da je hakovanje bilo moguće jer je mogao neograničeno da pogađa administratorsku lozinku uređaja. Motorola je bezbjednosni propust otklonila ažuriranjem sistema.
Portparol Motorole rekao je da kompanija „kontinuirano unapređuje i testira svoja rješenja kako bi ojačala bezbjednost“. Takođe su naveli i druge nedavne uspješne primere, uključujući jedan medicinski hitan slučaj u školskom toaletu. Tada je nastavnik dobio terapiju koja mu je spasila život nakon što je Halo detektovao ključne reči „upomoć“ i „hitno“ i alarmirao direktora.
Višestruka korist
Preporučeno
Škole navode da nadzorne tehnologije imaju i druge koristi, osim bezbjednosti. Prepoznavanje lica može se koristiti kada roditelj dođe po dijete, a ono ne može odmah da se pronađe, rekao je O’Konor iz Beverli Hilsa. Kamere mogu osoblju da pokažu da li je dijete u školi, pored kojih kamera je prošlo i šta je nosilo, kako bi se brzo pronašlo. Halo uređaji u toaletima, kojih je 25 u upotrebi širom okruga Beverli Hils, služe i kao detektori dima i elektronskih cigareta. Kompanija za prepoznavanje registarskih tablica Flock Safety i njen partner Raptor Tech promovišu uslugu pod nazivom DismissalSafe. Ona prati dolaske i odlaske tokom preuzimanja djece, šaljući obavještenja kada vozilo koje dolazi po učenika stigne na parking. I potvrđuje da je dijete bezbjedno preuzeto.
Ipak, ne prihvata svaka škola ovakve prodajne argumente. Krajem 2023. godine, prema mejlovima dobijenim putem zahtjeva za pristup informacijama od javnog značaja, Amazonov rukovodilac za saradnju sa policijom i školsku bezbjednost promovisao je ZeroEyes policiji i školama u saveznoj državi Vašington. U tim prezentacijama, ZeroEyes je potencijalne klijente upućivao na pilot-projekat koji je uspješno sproveo sa školama Hajlajn u Burijenu. Međutim, ranije ove godine, školski okrug je raskinuo godišnji ugovor sa ZeroEyes-om vrijedan 33.000 dolara, iako su preostale još dvije godine. Naveli su da on nije finansijski održiv. Touv Taper (Tove Tupper), direktorka za komunikacije tog školskog okruga, rekla je za Forbes da su utvrdili da je taj novac bolje iskoristiti za defibrilatore i Ford SUV vozila za bezbjednosni tim.
Video