Sve dok se u Luvru nije oglasio alarm, posjetioci su nastavili da razgledaju. Obezbjeđenje nije reagovalo, a lopovi su nestali u gradskom saobraćaju prije nego što je iko shvatio šta se dogodilo.

Istražitelji su kasnije otkrili da su lopovi nosili svjetlosne prsluke, prerušeni u građevinske radnike. Stigli su kamionom sa dizalicom, što je uobičajen prizor u uskim pariskim ulicama, i pomoću nje se uspeli do balkona sa pogledom na Senu. Obučeni kao radnici, izgledali su kao da tu pripadaju.

Ova strategija je funkcionisala zato što svijet ne vidimo objektivno. Vidimo ga kroz kategorije – kroz ono što očekujemo da vidimo.

Lopovi su razumjeli društvene kategorije koje mi doživljavamo kao „normalne“ i iskoristili su ih da bi izbjegli sumnju.

Mnogi sistemi vještačke inteligencije (VI) rade na isti način i kao rezultat toga su podložni istim vrstama grešaka.

Povezani članci

Tehnologija

Etičko pitanje – da li vještačka inteligencija može da pati?

Tehnologija

“Kum” vještačke inteligencije smatra da se samo na jedan način može spriječiti njena dominacija nad čovjekom

Društvo

Vještačka inteligencija ne može zamijeniti suštinsku ulogu novinara

Sociolog Erving Gofman bi opisao ovo što se dogodilo u Luvru koristeći svoj koncept prezentacije sebe: ljudi „obavljaju“ društvene uloge usvajajući znakove koje drugi očekuju.

Ovdje je performans normalnosti postao savršena kamuflaža, objašnjavaju Vinsent Čarls, predavač na Univerzitetu u Belfastu, i Tatjana German, profesorka na Univerzitetu Nortampton, u članku objavljenom na portalu Konverzejšn.

Sociologija percepcije

Ljudi stalno sprovode mentalnu kategorizaciju kako bi razumjeli svijet oko sebe. Kada nešto odgovara kategoriji „običnog“, ne privlači našu pažnju.

Sistemi vještačke inteligencije koji se koriste za zadatke kao što su prepoznavanje lica i otkrivanje sumnjivih aktivnosti u javnom prostoru funkcionišu na sličan način. Za ljude je kategorizacija kulturološki uslovljena; za vještačku inteligenciju, ona je matematička.

Ali oba sistema se oslanjaju na naučene obrasce, a ne na objektivnu stvarnost. Pošto vještačka inteligencija uči iz podataka o tome ko izgleda „normalno“, a ko „sumnjivo“, ona apsorbuje kategorije ugrađene u svoje podatke za obuku. A to je čini podložnom pristrasnosti.

Pljačkaši Luvra nisu smatrani opasnim jer su se uklapali u pouzdanu kategoriju. U vještačkoj inteligenciji, isti proces može imati suprotan efekat: ljudi koji se ne uklapaju u statističku normu postaju vidljiviji i previše ispitivani.

To može značiti da sistem za prepoznavanje lica nesrazmjerno označava određene rasne ili rodne grupe kao potencijalne prijetnje, dok drugima dozvoljava da prođu nezapaženo.

VI uči od nas

Sociološka perspektiva nam pomaže da vidimo da ovo nisu odvojena pitanja. Vještačka inteligencija ne izmišlja svoje kategorije; ona uči naše.

Kada se sistem računarskog posmatranja obučava na snimcima bezbjednosnih kamera gdje je „normalno“ definisano određenim tijelima, odjećom ili ponašanjem, on reprodukuje te pretpostavke.

Baš kao što su čuvari muzeja nezainteresovano prošli pored lopova jer su im izgledali kao da tu pripadaju, vještačka inteligencija može da gleda pored određenih obrazaca dok pretjerano reaguje na druge.

Vještačka inteligencija usvaja naše društvene kategorije i hijerarhije.

Kategorizacija, bilo ljudska ili algoritamska, mač je sa dvije oštrice. Pomaže nam da brzo obradimo informacije, ali takođe kodira naše kulturne pretpostavke.

I ljudi i mašine se oslanjaju na prepoznavanje obrazaca, što je efikasna, ali nesavršena strategija.
Sociološki pogled na vještačku inteligenciju tretira algoritme kao ogledala: oni odražavaju naše društvene kategorije i hijerarhije. U slučaju Luvra, ogledalo je okrenuto ka nama.

Pljačkaši su uspjeli ne zato što su bili nevidljivi, već zato što su viđeni kroz sočivo normalnosti. U terminima vještačke inteligencije, prošli su test klasifikacije.

Od muzejskih sala do mašinskog učenja

Ova veza između percepcije i kategorizacije otkriva nešto važno o našem sve više algoritamskom svijetu. Bilo da je u pitanju čuvar koji odlučuje ko izgleda sumnjivo ili vještačka inteligencija koja odlučuje ko izgleda kao „lopov u prodavnici“, osnovni proces je isti: raspoređivanje ljudi u kategorije na osnovu znakova koji djeluju objektivno, ali su kulturno naučeni.

Kada se sistem vještačke inteligencije opiše kao „pristrasan“, to često znači da previše vjerno odražava te društvene kategorije. Pljačka Luvra podsjeća nas da ove kategorije ne samo da oblikuju naše stavove, već oblikuju i ono što se uopšte primjećuje.

Nakon krađe, francuski ministar kulture obećao je nove kamere i jaču bezbjednost. Ali bez obzira na to koliko ti sistemi postanu napredni, oni će se i dalje oslanjati na kategorizaciju.

Neko, ili nešto, mora da odluči šta se smatra „sumnjivim ponašanjem“. Ako ta odluka počiva na pretpostavkama, iste slijepe tačke će ostati.

Pljačka Luvra pamtiće se kao jedna od najspektakularnijih muzejskih krađa u Evropi. Lopovi su uspjeli jer su savladali sociologiju izgleda: razumjeli su kategorije normalnosti i koristili ih kao alate.

I time su pokazali kako i ljudi i mašine mogu pogrešno da usvoje konformizam kao bezbjednost. Njihov uspjeh usred bijela dana nije bio samo trijumf planiranja. Bio je to trijumf kategoričkog razmišljanja, iste logike koja je u osnovi i ljudske percepcije i vještačke inteligencije.

Lekcija je jasna: prije nego što naučimo mašine da bolje vide, prvo moramo naučiti da preispitujemo kako vidimo.